هوش مصنوعی چقدر انرژی مصرف می‌کند؟

پاسخ: هوش مصنوعی می‌تواند برای یک کار متنی ساده برق بسیار کمی مصرف کند، اما وقتی دستورات طولانی باشند، خروجی‌ها چندوجهی باشند یا سیستم‌ها در مقیاس وسیع کار کنند، برق بسیار بیشتری مصرف می‌کند. آموزش معمولاً بیشترین مصرف انرژی اولیه را دارد، در حالی که استنتاج روزانه با افزایش درخواست‌ها اهمیت پیدا می‌کند.

نکات کلیدی:

زمینه : قبل از ارائه هرگونه تخمین انرژی، وظیفه، مدل، سخت‌افزار و مقیاس را تعریف کنید.

آموزش : هنگام برنامه‌ریزی بودجه، آموزش مدل را به عنوان رویداد اصلی و اولیه انرژی در نظر بگیرید.

استنتاج : استنتاج‌های مکرر را با دقت زیر نظر داشته باشید، زیرا هزینه‌های کوچک به ازای هر درخواست به سرعت در مقیاس بزرگ افزایش می‌یابد.

زیرساخت : در هر تخمین واقع‌بینانه، خنک‌کننده، فضای ذخیره‌سازی، شبکه‌ها و ظرفیت بلااستفاده را در نظر بگیرید.

بهره‌وری : برای کاهش مصرف انرژی از مدل‌های کوچک‌تر، دستورات کوتاه‌تر، ذخیره‌سازی در حافظه پنهان و دسته‌بندی استفاده کنید.

مقالاتی که شاید بعد از این مطلب دوست داشته باشید بخوانید:

🔗 چگونه هوش مصنوعی بر محیط زیست تأثیر می‌گذارد
ردپای کربن، مصرف انرژی و بده‌بستان‌های پایداری هوش مصنوعی را توضیح می‌دهد.

🔗 آیا هوش مصنوعی برای محیط زیست مضر است؟
هزینه‌های پنهان زیست‌محیطی مدل‌های هوش مصنوعی و مراکز داده را آشکار می‌کند.

🔗 آیا هوش مصنوعی خوب است یا بد؟ مزایا و معایب
نگاهی متوازن به مزایا، خطرات، اخلاق و تأثیرات واقعی هوش مصنوعی.

🔗 هوش مصنوعی چیست؟ یک راهنمای ساده
اصول اولیه هوش مصنوعی، اصطلاحات کلیدی و مثال‌های روزمره را در عرض چند دقیقه بیاموزید.

چرا این سوال بیشتر از آنچه مردم فکر می‌کنند اهمیت دارد 🔍

مصرف انرژی هوش مصنوعی فقط یک بحث زیست‌محیطی نیست، بلکه چند نکته‌ی بسیار واقعی را در بر می‌گیرد:

• هزینه برق - به خصوص برای کسب و کارهایی که درخواست‌های هوش مصنوعی زیادی دارند

• تأثیر کربن - بسته به منبع تغذیه پشت سرورها

• فشار سخت‌افزاری - تراشه‌های قدرتمند، مصرف برق زیادی دارند

• تصمیمات مقیاس‌پذیر - یک پیشنهاد ارزان می‌تواند به میلیون‌ها پیشنهاد گران تبدیل شود

• طراحی محصول - بهره‌وری اغلب از آنچه مردم تصور می‌کنند، ویژگی بهتری است ( گوگل کلود ، گرین هوش مصنوعی )

بسیاری از مردم می‌پرسند «هوش مصنوعی چقدر انرژی مصرف می‌کند؟» چون یک عدد چشمگیر می‌خواهند. چیزی عظیم. چیزی که تیتر خبرها را جذاب کند. اما سوال بهتر این است: ما در مورد کدام نوع استفاده از هوش مصنوعی صحبت می‌کنیم؟ چون این همه چیز را تغییر می‌دهد. ( IEA )

یک پیشنهاد تکمیل خودکار؟ خیلی کوچک.
آموزش یک مدل مرزی در خوشه‌های عظیم؟ خیلی خیلی بزرگتر.
یک گردش کار هوش مصنوعی سازمانی که همیشه در دسترس است و میلیون‌ها کاربر را تحت تأثیر قرار می‌دهد؟ بله، این به سرعت افزایش می‌یابد... مثل تبدیل شدن سکه‌ها به اجاره بها. ( وزارت انرژی ، گوگل کلود )

هوش مصنوعی چقدر انرژی مصرف می‌کند؟ پاسخ کوتاه ⚡

در اینجا نسخه عملی آن آمده است.

هوش مصنوعی می‌تواند از کسر کوچکی از وات ساعت برای یک کار سبک تا مقادیر عظیمی از برق برای آموزش و استقرار در مقیاس بزرگ استفاده کند. این محدوده به طرز خنده‌داری وسیع به نظر می‌رسد زیرا واقعاً وسیع است. ( گوگل کلود ، استروبل و همکاران )

به عبارت ساده:

• وظایف استنتاج ساده - اغلب بر اساس هر بار استفاده نسبتاً کم است

• مکالمات طولانی، خروجی‌های بزرگ، تولید تصویر، تولید ویدیو - به طور قابل توجهی انرژی بیشتری مصرف می‌کنند

• آموزش مدل‌های بزرگ - قهرمان سنگین‌وزن مصرف برق

• اجرای هوش مصنوعی در مقیاس بزرگ در تمام طول روز - جایی که "درخواست کوچک به ازای هر درخواست" به "هزینه کل بزرگ" تبدیل می‌شود ( Google Cloud ، DOE )

یک قانون کلی خوب این است:

• آموزش، رویداد عظیم و پیشاپیشِ انرژی است 🏭

• استنتاج، قبض آب و برق جاری است 💡 ( استروبل و همکاران ، تحقیقات گوگل )

بنابراین وقتی کسی می‌پرسد، هوش مصنوعی چقدر انرژی مصرف می‌کند؟، پاسخ مستقیم این است: «نه یک مقدار - بلکه به اندازه‌ای که بهره‌وری اهمیت داشته باشد، و به اندازه‌ای که مقیاس کل داستان را تغییر دهد.» ( IEA ، Green AI )

می‌دانم که آنطور که مردم می‌خواهند جذاب نیست، اما حقیقت دارد.

چه چیزی یک نسخه خوب از تخمین انرژی با هوش مصنوعی را می‌سازد؟ 🧠

یک تخمین خوب فقط یک عدد نمایشی روی نمودار نیست. یک تخمین عملی شامل زمینه هم می‌شود. در غیر این صورت مثل وزن کردن مه با ترازوی حمام است. آنقدر نزدیک که چشمگیر به نظر برسد، اما آنقدر نزدیک که قابل اعتماد نباشد. ( IEA ، Google Cloud )

یک تخمین انرژی مناسب هوش مصنوعی باید شامل موارد زیر باشد:

• نوع وظیفه - متن، تصویر، صدا، ویدئو، آموزش، تنظیم دقیق

• اندازه مدل - مدل‌های بزرگتر معمولاً به محاسبات بیشتری نیاز دارند

• سخت‌افزار مورد استفاده - همه تراشه‌ها به یک اندازه کارآمد نیستند

• طول جلسه - دستورالعمل‌های کوتاه و گردش‌های کاری چند مرحله‌ای طولانی بسیار متفاوت هستند

• میزان استفاده - سیستم‌های غیرفعال هنوز برق مصرف می‌کنند

• خنک‌سازی و زیرساخت - سرور تمام هزینه نیست

• مکان و ترکیب انرژی - برق در همه جا به طور یکسان پاک نیست ( Google Cloud ، IEA )

به همین دلیل است که دو نفر می‌توانند در مورد استفاده از برق توسط هوش مصنوعی بحث کنند و هر دو در حالی که در مورد چیزهای کاملاً متفاوتی صحبت می‌کنند، با اعتماد به نفس به نظر برسند. منظور یکی از آنها یک پاسخ واحد از طریق چت‌بات است. دیگری منظورش یک دوره آموزشی عظیم است. هر دو می‌گویند «هوش مصنوعی» و ناگهان مکالمه از مسیر اصلی خود خارج می‌شود 😅

جدول مقایسه - بهترین روش‌ها برای تخمین مصرف انرژی هوش مصنوعی 📊

در اینجا یک جدول کاربردی برای هر کسی که سعی دارد به این سوال پاسخ دهد بدون اینکه آن را به هنر اجرا تبدیل کند، آورده شده است.

ابزار یا روش	بهترین مخاطب	قیمت	چرا کار می‌کند؟
تخمین ساده و سرانگشتی	خوانندگان کنجکاو، دانشجویان	رایگان	سریع، آسان، کمی مبهم - اما برای مقایسه‌های تقریبی به اندازه کافی خوب است
وات متر سمت دستگاه	سازندگان انفرادی، علاقه‌مندان	کم	میزان کشش واقعی دستگاه را اندازه‌گیری می‌کند، که به طرز شگفت‌انگیزی ملموس است
داشبورد تله‌متری GPU	مهندسان، تیم‌های یادگیری ماشین	متوسط	جزئیات بهتر در مورد وظایف سنگین محاسباتی، اگرچه ممکن است سربار بزرگتر تأسیسات را از دست بدهد
صورتحساب ابری + گزارش‌های استفاده	استارتاپ‌ها، تیم‌های عملیاتی	متوسط ​​رو به بالا	استفاده از هوش مصنوعی را به هزینه‌های واقعی مرتبط می‌کند - کامل نیست، اما هنوز هم بسیار ارزشمند است
گزارش انرژی مرکز داده	تیم‌های سازمانی	بالا	دید عملیاتی وسیع‌تری می‌دهد، خنک‌سازی و زیرساخت‌ها از اینجا شروع به خودنمایی می‌کنند
ارزیابی کامل چرخه حیات	تیم‌های پایداری، سازمان‌های بزرگ	خیلی خاص، گاهی دردناک	برای تحلیل‌های جدی بهترین گزینه است زیرا فراتر از خود تراشه عمل می‌کند... اما کند و کمی عجیب است

هیچ روش بی‌نقصی وجود ندارد. این بخش کمی ناامیدکننده است. اما سطوحی از ارزش وجود دارد. و معمولاً، چیزی که قابل استفاده باشد، از بی‌نقص بودن بهتر است. ( گوگل کلود )

بزرگترین عامل جادو نیست - محاسبات و سخت‌افزار است 🖥️🔥

وقتی مردم مصرف انرژی هوش مصنوعی را تصور می‌کنند، اغلب خود مدل را به عنوان چیزی که برق مصرف می‌کند تصور می‌کنند. اما این مدل، منطق نرم‌افزاری است که روی سخت‌افزار اجرا می‌شود. سخت‌افزار جایی است که قبض برق در آن نمایش داده می‌شود. ( استروبل و همکاران ، گوگل کلود )

بزرگترین متغیرها معمولاً شامل موارد زیر هستند:

• نوع پردازنده گرافیکی یا شتاب‌دهنده

• چند تراشه استفاده شده است

• چه مدت فعال می‌مانند

• بار حافظه

• اندازه دسته و توان عملیاتی

• اینکه آیا سیستم به خوبی بهینه شده است یا فقط همه چیز را به زور و با روش جستجوی فراگیر ( Google Cloud ، Quantization، batching و Serving Strategies in LLM Energy Use )

یک سیستم بسیار بهینه می‌تواند با انرژی کمتر کار بیشتری انجام دهد. یک سیستم نامرتب می‌تواند برق را با اطمینان نفس‌گیری هدر دهد. می‌دانید که چطور است - بعضی از سیستم‌ها مثل ماشین‌های مسابقه‌ای هستند، بعضی دیگر مثل چرخ دستی‌های خریدی که موشک‌ها با چسب نواری به آنها چسبانده شده‌اند 🚀🛒

و بله، اندازه مدل مهم است. مدل‌های بزرگتر معمولاً به حافظه و محاسبات بیشتری نیاز دارند، به خصوص هنگام تولید خروجی‌های طولانی یا مدیریت استدلال‌های پیچیده. اما ترفندهای بهره‌وری می‌توانند تصویر را تغییر دهند: ( هوش مصنوعی سبز ، کوانتیزاسیون، دسته بندی و استراتژی‌های خدمت در استفاده از انرژی LLM )

• کوانتیزاسیون

• مسیریابی بهتر

• مدل‌های تخصصی کوچک‌تر

• ذخیره سازی

• بچینگ

• برنامه‌ریزی سخت‌افزاری هوشمندانه‌تر ( استراتژی‌های کوانتیزاسیون، بچینگ و سرویس‌دهی در LLM Energy Use )

بنابراین سوال فقط این نیست که «مدل چقدر بزرگ است؟»، بلکه این است که «چقدر هوشمندانه اجرا می‌شود؟»

آموزش در مقابل استنتاج - اینها موجودات متفاوتی هستند 🐘🐇

این همان شکافی است که تقریباً همه را گیج می‌کند.

آموزش

آموزش زمانی است که یک مدل الگوها را از مجموعه داده‌های عظیم یاد می‌گیرد. این می‌تواند شامل تراشه‌های زیادی باشد که برای مدت طولانی کار می‌کنند و حجم عظیمی از داده‌ها را می‌جوند. این مرحله تشنه انرژی است. گاهی اوقات بسیار زیاد. ( استروبل و همکاران )

انرژی تمرین به موارد زیر بستگی دارد:

• اندازه مدل

• اندازه مجموعه داده

• تعداد دوره‌های آموزشی

• آزمایش‌های ناموفق

• پاس‌های تنظیم دقیق

• کارایی سخت‌افزار

• سرمایش سربار ( استروبل و همکاران ، تحقیقات گوگل )

و این بخشی است که مردم اغلب از دست می‌دهند - عموم مردم اغلب تصور می‌کنند که یک دوره آموزشی بزرگ، که یک بار انجام می‌شود، پایان داستان است. در عمل، توسعه می‌تواند شامل دوره‌های مکرر، تنظیم، آموزش مجدد، ارزیابی و تمام تکرارهای کسل‌کننده اما پرهزینه در اطراف رویداد اصلی باشد. ( استروبل و همکاران ، هوش مصنوعی سبز )

استنتاج

استنتاج، مدلی است که به درخواست‌های واقعی کاربر پاسخ می‌دهد. یک درخواست ممکن است زیاد به نظر نرسد. اما استنتاج بارها و بارها اتفاق می‌افتد. میلیون‌ها بار. گاهی میلیاردها بار. ( تحقیقات گوگل ، وزارت انرژی )

انرژی استنتاج با موارد زیر افزایش می‌یابد:

• طول سریع

• طول خروجی

• تعداد کاربران

• الزامات تأخیر

• ویژگی‌های چندوجهی

• انتظارات از زمان آماده به کار

• مراحل ایمنی و پس‌پردازش ( گوگل کلود ، کوانتیزاسیون، بچینگ و استراتژی‌های سرویس‌دهی در LLM Energy Use )

بنابراین آموزش مانند زلزله است. استنتاج مانند جزر و مد. یکی چشمگیر است، یکی پایدار، و هر دو می‌توانند ساحل را کمی تغییر شکل دهند. شاید این یک استعاره غیرمعمول باشد، اما کم و بیش به هم می‌چسبند.

هزینه‌های انرژی پنهانی که مردم فراموش می‌کنند 😬

وقتی کسی مصرف برق هوش مصنوعی را فقط با نگاه کردن به تراشه تخمین می‌زند، معمولاً کمتر از مقدار واقعی محاسبه می‌کند. البته نه همیشه فاجعه‌بار، اما به اندازه‌ای که اهمیت داشته باشد. ( گوگل کلود ، آژانس بین‌المللی انرژی )

این هم تکه‌های پنهان:

خنک کننده ❄️

سرورها گرما تولید می‌کنند. سخت‌افزارهای قدرتمند هوش مصنوعی مقدار زیادی از آن را تولید می‌کنند. خنک‌سازی اختیاری نیست. هر وات مصرفی توسط محاسبات، منجر به مصرف انرژی بیشتر می‌شود تا دما در حد متعادل نگه داشته شود. ( IEA ، Google Cloud )

جابجایی داده‌ها 🌐

جابجایی داده‌ها در فضای ذخیره‌سازی، حافظه و شبکه‌ها نیز انرژی می‌برد. هوش مصنوعی فقط «فکر کردن» نیست. بلکه دائماً اطلاعات را جابه‌جا می‌کند. ( IEA )

ظرفیت بلااستفاده 💤

سیستم‌هایی که برای اوج تقاضا ساخته شده‌اند، همیشه در اوج تقاضا کار نمی‌کنند. زیرساخت‌های غیرفعال یا کم‌استفاده همچنان برق مصرف می‌کنند. ( گوگل کلود )

افزونگی و قابلیت اطمینان 🧱

پشتیبان‌گیری‌ها، سیستم‌های بازیابی اطلاعات، مناطق تکراری، لایه‌های ایمنی - همه ارزشمند هستند، همه بخشی از تصویر بزرگتر انرژی هستند. ( IEA )

انبار 📦

داده‌های آموزشی، جاسازی‌ها، لاگ‌ها، نقاط کنترل، خروجی‌های تولید شده - همه اینها جایی ذخیره می‌شوند. ذخیره‌سازی مطمئناً ارزان‌تر از محاسبات است، اما از نظر انرژی رایگان نیست. ( IEA )

به همین دلیل است که «هوش مصنوعی چقدر انرژی مصرف می‌کند؟» به خوبی پاسخ داد. کل مجموعه اهمیت دارد. ( Google Cloud ، IEA )

چرا یک دستور هوش مصنوعی می‌تواند کوچک باشد - و دستور بعدی می‌تواند یک هیولا باشد 📝➡️🎬

همه درخواست‌ها یکسان نیستند. یک درخواست کوتاه برای بازنویسی جمله با درخواست یک تحلیل طولانی، جلسه کدنویسی چند مرحله‌ای یا تولید تصویر با وضوح بالا قابل مقایسه نیست. ( گوگل کلود )

مواردی که باعث افزایش مصرف انرژی در هر تعامل می‌شوند:

• پنجره‌های زمینه طولانی‌تر

• پاسخ‌های طولانی‌تر

• مراحل استفاده و بازیابی ابزار

• چندین مرحله برای استدلال یا اعتبارسنجی

• تولید تصویر، صدا یا ویدیو

• همزمانی بالاتر

• اهداف تأخیر کمتر ( گوگل کلود ، کوانتیزاسیون، دسته بندی و استراتژی‌های سرویس‌دهی در استفاده از انرژی LLM )

یک پاسخ متنی سبک ممکن است نسبتاً ارزان باشد. اما یک گردش کار چندوجهی عظیم می‌تواند ارزان نباشد. کمی شبیه سفارش قهوه در مقابل پذیرایی از یک عروسی است. از نظر فنی، هر دو به عنوان "خدمات غذا" محسوب می‌شوند. یکی با دیگری فرق دارد ☕🎉

این موضوع به ویژه برای تیم‌های محصول اهمیت دارد. ویژگی‌ای که در استفاده کم بی‌ضرر به نظر می‌رسد، اگر هر جلسه کاربری طولانی‌تر، غنی‌تر و از نظر محاسباتی سنگین‌تر شود، می‌تواند در مقیاس بزرگ، پرهزینه شود. ( DOE ، Google Cloud )

هوش مصنوعی مصرفی و هوش مصنوعی سازمانی یکسان نیستند 🏢📱

یک فرد عادی که به طور اتفاقی از هوش مصنوعی استفاده می‌کند، ممکن است تصور کند که درخواست‌های گاه به گاه او مشکل بزرگی است. معمولاً، داستان اصلی انرژی در اینجا مطرح نیست. ( گوگل کلود )

استفاده سازمانی، محاسبات را تغییر می‌دهد:

• هزاران کارمند

• کمک‌خلبان‌های همیشه آماده

• پردازش خودکار اسناد

• خلاصه‌سازی تماس

• تحلیل تصویر

• ابزارهای بررسی کد

• عوامل پس‌زمینه که دائماً در حال اجرا هستند

اینجاست که مصرف کل انرژی اهمیت زیادی پیدا می‌کند. نه به این دلیل که هر عملی آخرالزمانی است، بلکه به این دلیل که تکرار، ضریب فزاینده‌ای دارد. ( DOE ، IEA )

در بررسی‌های خودم در مورد آزمایش‌ها و گردش کار، مردم از همین جا تعجب می‌کنند. آن‌ها روی نام مدل یا نسخه نمایشی پر زرق و برق تمرکز می‌کنند و حجم صدا را نادیده می‌گیرند. حجم صدا اغلب عامل اصلی یا عامل صرفه‌جویی است، بسته به اینکه آیا از مشتری صورتحساب می‌گیرید یا قبض آب و برق را پرداخت می‌کنید 😅

برای مصرف‌کنندگان، این تأثیر می‌تواند انتزاعی به نظر برسد. برای کسب‌وکارها، خیلی سریع ملموس می‌شود:

• هزینه‌های زیرساختی بیشتر

• فشار بیشتر برای بهینه‌سازی

• نیاز بیشتر به مدل‌های کوچک‌تر در صورت امکان

• گزارش پایداری داخلی

• توجه بیشتر به ذخیره‌سازی و مسیریابی ( گوگل کلود ، گرین هوش مصنوعی )

چگونه مصرف انرژی هوش مصنوعی را بدون کنار گذاشتن آن کاهش دهیم 🌱

این بخش مهم است زیرا هدف «توقف استفاده از هوش مصنوعی» نیست. معمولاً این واقع‌بینانه نیست و حتی ضروری هم نیست. استفاده بهتر، مسیر هوشمندانه‌تری است.

در اینجا بزرگترین اهرم ها آمده است:

۱. از کوچکترین مدلی که کار را انجام می‌دهد استفاده کنید

هر کاری به گزینه سنگین‌وزن نیاز ندارد. یک مدل سبک‌تر برای طبقه‌بندی یا خلاصه‌سازی می‌تواند به سرعت اتلاف را کاهش دهد. ( هوش مصنوعی سبز ، گوگل کلود )

۲. خلاصه کردن پیام‌ها و خروجی‌ها

طولانی کردن، طولانی کردن. توکن‌های اضافی به معنای محاسبات اضافی است. گاهی اوقات کوتاه کردن اعلان، آسان‌ترین راه حل است. ( کوانتیزاسیون، دسته بندی و ارائه استراتژی‌ها در LLM Energy Use ، Google Cloud )

۳. نتایج تکراری را در حافظه پنهان ذخیره کنید

اگر همان عبارت جستجو مدام ظاهر می‌شود، هر بار آن را دوباره تولید نکنید. این تقریباً به طرز توهین‌آمیزی واضح است، اما نادیده گرفته می‌شود. ( Google Cloud )

۴. در صورت امکان، کارها را دسته‌ای کنید

اجرای وظایف به صورت دسته‌ای می‌تواند باعث بهبود بهره‌وری و کاهش ضایعات شود. ( استراتژی‌های کمی‌سازی، دسته‌ای‌سازی و ارائه در استفاده از انرژی LLM )

۵. وظایف را هوشمندانه مسیریابی کنید

فقط زمانی از مدل‌های بزرگ استفاده کنید که اطمینان کاهش یابد یا پیچیدگی وظیفه افزایش یابد. ( هوش مصنوعی سبز ، گوگل کلود )

۶. بهینه‌سازی زیرساخت‌ها

زمان‌بندی بهتر، سخت‌افزار بهتر، استراتژی خنک‌سازی بهتر - چیزهای پیش‌پاافتاده، بازدهی عظیم. ( گوگل کلود ، وزارت انرژی )

۷. قبل از فرض کردن، اندازه‌گیری کنید

بسیاری از تیم‌ها فکر می‌کنند می‌دانند برق کجا می‌رود. سپس اندازه‌گیری می‌کنند و می‌بینند که بخش گران‌قیمت جای دیگری است. ( گوگل کلود )

کارِ افزایش بهره‌وری جذاب نیست. به ندرت مورد تشویق قرار می‌گیرد. اما یکی از بهترین راه‌ها برای مقرون‌به‌صرفه‌تر و قابل دفاع‌تر کردن هوش مصنوعی در مقیاس بزرگ است 👍

افسانه‌های رایج در مورد مصرف برق توسط هوش مصنوعی 🚫

بیایید چند افسانه را کنار بگذاریم، چون این موضوع خیلی زود پیچیده می‌شود.

افسانه ۱ - هر پرس‌وجوی هوش مصنوعی به‌شدت بی‌فایده است

نه لزوماً. بعضی‌ها متوسط ​​هستند. مقیاس و نوع وظیفه خیلی مهم است. ( گوگل کلود )

افسانه ۲ - تمرین تنها چیزی است که اهمیت دارد

خیر. وقتی استفاده زیاد باشد، استنتاج می‌تواند به مرور زمان غالب شود. ( تحقیقات گوگل ، وزارت انرژی )

افسانه ۳ - مدل بزرگتر همیشه به معنای نتیجه بهتر است

بعضی وقت‌ها بله، بعضی وقت‌ها مطلقاً نه. خیلی از کارها با سیستم‌های کوچک‌تر به خوبی انجام می‌شوند. ( هوش مصنوعی سبز )

افسانه ۴ - مصرف انرژی به طور خودکار برابر با تأثیر کربن است

نه دقیقاً. کربن به منبع انرژی نیز بستگی دارد. ( IEA ، Strubell و همکاران )

افسانه ۵ - شما می‌توانید یک عدد جهانی برای مصرف انرژی هوش مصنوعی داشته باشید

شما نمی‌توانید، حداقل نه به شکلی که معنادار باقی بماند. یا می‌توانید، اما آنقدر میانگین‌گیری می‌شود که دیگر ارزشمند نخواهد بود. ( IEA )

به همین دلیل است که پرسیدن این سوال که هوش مصنوعی چقدر انرژی مصرف می‌کند، هوشمندانه است - اما تنها در صورتی که به جای شعار، آماده‌ی پاسخی چندلایه باشید.

خب... واقعاً هوش مصنوعی چقدر انرژی مصرف می‌کند؟ 🤔

نتیجه گیری اساسی اینجاست.

کاربردهای هوش مصنوعی:

• کمی ، برای برخی کارهای ساده

• خیلی بیشتر ، برای تولید چندوجهی سنگین

• مقدار بسیار زیادی ، برای آموزش مدل در مقیاس بزرگ

• ، وقتی میلیون‌ها درخواست به مرور زمان روی هم انباشته می‌شوند، مقدار بسیار زیادی است Google Cloud ، DOE )

شکلش همینه.

نکته کلیدی این است که کل مسئله را به یک عدد ترسناک یا یک شانه خالی کردن بی‌اهمیت محدود نکنیم. مصرف انرژی هوش مصنوعی واقعی است. مهم است. می‌توان آن را بهبود بخشید. و بهترین راه برای صحبت در مورد آن، با توجه به زمینه است، نه نمایش. ( IEA ، هوش مصنوعی سبز )

بسیاری از مکالمات عمومی بین دو قطب مخالف در نوسان است - از یک طرف «هوش مصنوعی اساساً رایگان است» و از طرف دیگر «هوش مصنوعی یک آخرالزمان الکتریکی است». واقعیت معمولی‌تر است، که آن را آموزنده‌تر می‌کند. این یک مشکل سیستمی است. سخت‌افزار، نرم‌افزار، کاربرد، مقیاس، خنک‌کننده، انتخاب‌های طراحی. کسل‌کننده؟ کمی. مهم؟ خیلی. ( IEA ، Google Cloud )

نکات کلیدی ⚡🧾

اگر به اینجا آمده‌اید و می‌پرسید که هوش مصنوعی چقدر انرژی مصرف می‌کند ، نکته‌ی اصلی این است:

• هیچ عدد ثابتی برای همه وجود ندارد

• تمرین معمولاً بیشترین انرژی را از قبل مصرف می‌کند

• استنتاج به یک عامل اصلی در مقیاس بزرگ تبدیل می‌شود

• اندازه مدل، سخت‌افزار، حجم کار و خنک‌کننده، همگی مهم هستند

• بهینه‌سازی‌های کوچک می‌توانند تفاوت‌های شگفت‌انگیز بزرگی ایجاد کنند

• هوشمندانه‌ترین سوال فقط «چه مقدار» نیست، بلکه «برای کدام کار، روی چه سیستمی، در چه مقیاسی؟» ( IEA ، Google Cloud )

بنابراین بله، هوش مصنوعی از انرژی واقعی استفاده می‌کند. به اندازه کافی برای جلب توجه. به اندازه کافی برای توجیه مهندسی بهتر. اما نه به صورت کارتونی و تک رقمی.

سوالات متداول

هوش مصنوعی برای یک درخواست چقدر انرژی مصرف می‌کند؟

هیچ عدد جهانی برای یک سوال واحد وجود ندارد، زیرا میزان مصرف انرژی به مدل، سخت‌افزار، طول سوال، طول خروجی و هرگونه ابزار اضافی مورد استفاده بستگی دارد. یک پاسخ متنی کوتاه می‌تواند نسبتاً کم مصرف باشد، در حالی که یک کار چندوجهی طولانی می‌تواند به طور قابل توجهی بیشتر مصرف کند. معنادارترین پاسخ، یک شکل تیتر واحد نیست، بلکه زمینه‌ای است که کار را احاطه کرده است.

چرا تخمین‌ها در مورد مصرف انرژی هوش مصنوعی تا این حد متفاوت است؟

تخمین‌ها متفاوت هستند زیرا افراد اغلب چیزهای بسیار متفاوتی را تحت عنوان واحد هوش مصنوعی مقایسه می‌کنند. یک تخمین ممکن است یک پاسخ سبک چت‌بات را توصیف کند، در حالی که دیگری ممکن است تولید تصویر، ویدیو یا آموزش مدل در مقیاس بزرگ را پوشش دهد. برای اینکه یک تخمین معنادار باشد، به زمینه‌هایی مانند نوع وظیفه، اندازه مدل، سخت‌افزار، میزان استفاده، خنک‌کننده و مکان نیاز دارد.

آیا آموزش هوش مصنوعی هزینه انرژی بیشتری دارد یا اجرای روزانه هوش مصنوعی؟

آموزش معمولاً رویداد انرژی اولیه بزرگی است، زیرا می‌تواند شامل تراشه‌های زیادی باشد که برای مدت طولانی در مجموعه داده‌های عظیم اجرا می‌شوند. استنتاج هزینه مداومی است که هر بار که کاربران درخواست ارسال می‌کنند، ظاهر می‌شود و در مقیاس بزرگ نیز می‌تواند بسیار بزرگ شود. در عمل، هر دو مهم هستند، هرچند به طرق مختلف اهمیت دارند.

چه چیزی باعث می‌شود یک درخواست هوش مصنوعی نسبت به دیگری انرژی بیشتری مصرف کند؟

پنجره‌های زمینه طولانی‌تر، خروجی‌های طولانی‌تر، مراحل استدلال مکرر، فراخوانی ابزارها، مراحل بازیابی و تولید چندوجهی، همگی تمایل به افزایش مصرف انرژی در هر تعامل دارند. اهداف تأخیر نیز مهم هستند، زیرا الزامات پاسخ سریع‌تر می‌تواند کارایی را کاهش دهد. یک درخواست بازنویسی کوچک و یک گردش کار طولانی کدنویسی یا تصویر به سادگی قابل مقایسه نیستند.

مردم هنگام پرسیدن اینکه هوش مصنوعی چقدر انرژی مصرف می‌کند، چه هزینه‌های پنهانی را در انرژی از قلم می‌اندازند؟

بسیاری از افراد فقط روی تراشه تمرکز می‌کنند، اما این موضوع، خنک‌سازی، انتقال داده‌ها، ذخیره‌سازی، ظرفیت بلااستفاده و سیستم‌های قابلیت اطمینان مانند پشتیبان‌گیری یا مناطق failover را نادیده می‌گیرد. این لایه‌های پشتیبان می‌توانند به طور قابل توجهی کل ردپا را تغییر دهند. به همین دلیل است که یک معیار به تنهایی به ندرت تصویر کامل انرژی را به تصویر می‌کشد.

آیا یک مدل هوش مصنوعی بزرگتر همیشه انرژی بیشتری مصرف می‌کند؟

مدل‌های بزرگ‌تر معمولاً به محاسبات و حافظه بیشتری نیاز دارند، به خصوص برای خروجی‌های طولانی یا پیچیده، بنابراین اغلب انرژی بیشتری مصرف می‌کنند. اما بزرگ‌تر بودن به طور خودکار به معنای بهتر بودن برای هر کار نیست و بهینه‌سازی می‌تواند تصویر را به میزان قابل توجهی تغییر دهد. مدل‌های تخصصی کوچک‌تر، کوانتیزاسیون، دسته‌بندی، ذخیره‌سازی و مسیریابی هوشمندتر، همگی می‌توانند کارایی را بهبود بخشند.

آیا هوش مصنوعی مصرفی مشکل اصلی انرژی است یا هوش مصنوعی سازمانی مسئله بزرگتری است؟

استفاده‌ی گاه‌به‌گاه مصرف‌کننده می‌تواند افزایش یابد، اما داستان بزرگ‌تر انرژی اغلب در استقرارهای سازمانی ظاهر می‌شود. دستیاران همیشه در دسترس، پردازش اسناد، خلاصه‌سازی تماس‌ها، بررسی کد و عوامل پس‌زمینه، تقاضای مکرری را در پایگاه‌های بزرگ کاربران ایجاد می‌کنند. مسئله معمولاً کمتر در مورد یک اقدام چشمگیر و بیشتر در مورد حجم پایدار در طول زمان است.

با احتساب مراکز داده و سیستم‌های خنک‌کننده، هوش مصنوعی چقدر انرژی مصرف می‌کند؟

وقتی سیستم گسترده‌تر را در نظر بگیریم، پاسخ واقع‌بینانه‌تر می‌شود و معمولاً بزرگتر از آن چیزی است که تخمین‌های صرفاً مبتنی بر تراشه نشان می‌دهند. مراکز داده نه تنها برای محاسبات، بلکه برای خنک‌سازی، شبکه‌سازی، ذخیره‌سازی و حفظ ظرفیت اضافی نیز به برق نیاز دارند. به همین دلیل است که طراحی زیرساخت و بهره‌وری تأسیسات تقریباً به اندازه طراحی مدل اهمیت دارد.

عملی‌ترین روش برای اندازه‌گیری مصرف انرژی هوش مصنوعی در یک گردش کار واقعی چیست؟

بهترین روش بستگی به این دارد که چه کسی و برای چه هدفی اندازه‌گیری می‌کند. یک قاعده سرانگشتی تقریبی می‌تواند به مقایسه‌های سریع کمک کند، در حالی که وات مترها، تله‌متری GPU، گزارش‌های صورتحساب ابری و گزارش‌های مرکز داده، بینش عملیاتی به تدریج قوی‌تری را ارائه می‌دهند. برای کارهای جدی در زمینه پایداری، یک دیدگاه چرخه عمر کامل‌تر هنوز هم قوی‌تر است، اگرچه کندتر و دشوارتر است.

تیم‌ها چگونه می‌توانند مصرف انرژی هوش مصنوعی را بدون از دست دادن ویژگی‌های مفید هوش مصنوعی کاهش دهند؟

بزرگترین دستاوردها معمولاً از استفاده از کوچکترین مدلی که هنوز کار را انجام می‌دهد، کوتاه کردن اعلان‌ها و خروجی‌ها، ذخیره نتایج تکراری، دسته‌بندی کارها و هدایت وظایف سخت‌تر به مدل‌های بزرگتر حاصل می‌شود. بهینه‌سازی زیرساخت نیز مهم است، به خصوص زمان‌بندی و کارایی سخت‌افزار. در بسیاری از خطوط تولید، اندازه‌گیری اولیه به جلوگیری از بهینه‌سازی اشتباه تیم‌ها کمک می‌کند.

منابع

1. آژانس بین‌المللی انرژی (IEA) - تقاضای انرژی از هوش مصنوعی - iea.org

2. وزارت انرژی ایالات متحده (DOE) - DOE گزارش جدیدی را منتشر می‌کند که افزایش تقاضای برق مراکز داده را ارزیابی می‌کند - energy.gov

3. گوگل کلود - اندازه‌گیری تأثیر محیطی استنتاج هوش مصنوعی - cloud.google.com

4. تحقیقات گوگل - خبر خوب در مورد ردپای کربن آموزش یادگیری ماشین - research.google

5. تحقیقات گوگل - ردپای کربن آموزش یادگیری ماشین ثابت خواهد ماند و سپس کاهش خواهد یافت - research.google

6. arXiv - هوش مصنوعی سبز - arxiv.org

7. arXiv - استروبل و همکاران. - arxiv.org

8. arXiv - استراتژی‌های کمی‌سازی، دسته‌بندی و ارائه در استفاده از انرژی LLM - arxiv.org

جدیدترین هوش مصنوعی را در فروشگاه رسمی دستیار هوش مصنوعی پیدا کنید

درباره ما