هوش مصنوعی قبلاً روی سرورهای بزرگ و پردازندههای گرافیکی ابری زندگی میکرد. اکنون در حال کوچک شدن و قرار گرفتن در کنار حسگرها است. هوش مصنوعی برای سیستمهای تعبیهشده، وعدهای دور از دسترس نیست - در حال حاضر در یخچالها، پهپادها، پوشیدنیها و حتی دستگاههایی که اصلاً «هوشمند» به نظر نمیرسند، در حال فعالیت است.
در اینجا به این موضوع میپردازیم که چرا این تغییر مهم است، چه چیزی آن را دشوار میکند و کدام گزینهها ارزش وقت گذاشتن را دارند.
مقالاتی که شاید بعد از این مطلب دوست داشته باشید بخوانید:
🔗 بهترین ابزارهای مدیریت هوش مصنوعی که سیستمهای هوش مصنوعی شفاف و مطابق با اصول اخلاقی را تضمین میکنند
راهنمای ابزارهایی که به حفظ هوش مصنوعی اخلاقی، سازگار و شفاف کمک میکنند.
🔗 ذخیرهسازی شیء برای هوش مصنوعی: انتخابها، انتخابها، انتخابها
مقایسه گزینههای ذخیرهسازی شیءگرا متناسب با حجم کار هوش مصنوعی.
🔗 الزامات ذخیرهسازی دادهها برای هوش مصنوعی: آنچه واقعاً باید بدانید
عوامل کلیدی که باید هنگام برنامهریزی ذخیرهسازی دادههای هوش مصنوعی در نظر گرفته شوند.
هوش مصنوعی برای سیستمهای تعبیهشده🌱
دستگاههای تعبیهشده کوچک، اغلب با باتری و با منابع محدود هستند. با این حال، هوش مصنوعی پیروزیهای بزرگی را رقم میزند:
-
تصمیمات بلادرنگ بدون نیاز به رفت و برگشت به فضای ابری.
-
حریم خصوصی از طریق طراحی - دادههای خام میتوانند روی دستگاه باقی بمانند.
-
وقتی میلیثانیهها مهم هستند، تأخیر را کاهش دهید
-
استنتاج آگاه از انرژی از طریق انتخابهای دقیق مدل + سختافزار
اینها مزایای دم دستی نیستند: سوق دادن محاسبات به لبه، وابستگی به شبکه را کاهش داده و حریم خصوصی را برای بسیاری از موارد استفاده تقویت میکند [1].
ترفند، زورگویی نیست - بلکه هوشمندانه عمل کردن با منابع محدود است. به دویدن در یک ماراتن با یک کوله پشتی فکر کنید... و مهندسان مدام آجرها را برمیدارند.
جدول مقایسه سریع هوش مصنوعی برای سیستمهای تعبیهشده 📝
| ابزار / چارچوب | مخاطب ایدهآل | قیمت (تقریبی) | چرا کار میکند (یادداشتهای عجیب و غریب) |
|---|---|---|---|
| تنسورفلو لایت | توسعهدهندگان، علاقهمندان | رایگان | پوشش موبایل، باریک، قابل حمل، MCU عالی |
| ضربه لبه | مبتدیان و استارتاپها | سطوح فریمیوم | گردش کار کشیدن و رها کردن - مانند "AI LEGO" |
| پلتفرم انویدیا جتسون | مهندسانی که به برق نیاز دارند | $$$ (ارزان نیست) | شتابدهندههای GPU + برای بینایی/حجم کاری سنگین |
| TinyML (از طریق آردوینو) | مربیان، نمونهسازان | هزینه کم | قابل دسترس؛ جامعهمحور ❤️ |
| موتور هوش مصنوعی کوالکام | تولیدکنندگان اصلی تجهیزات (OEM)، سازندگان موبایل | متفاوت است | شتابدهی NPU روی اسنپدراگون - فوقالعاده سریع |
| اکسِکوتورچ (پایتورچ) | توسعهدهندگان موبایل و لبه | رایگان | زمان اجرای PyTorch روی دستگاه برای تلفنها/پوشیدنیها/سیستمهای تعبیهشده [5] |
(بله، ناهموار. واقعیت هم همینطور.)
چرا هوش مصنوعی در دستگاههای تعبیهشده برای صنعت اهمیت دارد؟
نه فقط تبلیغات: در خطوط تولید کارخانهها، مدلهای جمعوجور عیوب را تشخیص میدهند؛ در کشاورزی، گرههای کممصرف خاک را در مزرعه تجزیه و تحلیل میکنند؛ در وسایل نقلیه، ویژگیهای ایمنی نمیتوانند قبل از ترمز گرفتن «با خانه تماس بگیرند». وقتی تأخیر و حریم خصوصی غیرقابل مذاکره هستند ، انتقال محاسبات به لبه یک اهرم استراتژیک است [1].
TinyML: قهرمان خاموش هوش مصنوعی تعبیهشده 🐜
TinyML مدلها را روی میکروکنترلرهایی با کیلوبایت تا چند مگابایت رم اجرا میکند - با این حال همچنان تشخیص کلمات کلیدی، تشخیص ژست، تشخیص ناهنجاری و موارد دیگر را به خوبی انجام میدهد. مثل این است که به یک ماوس در حال بلند کردن آجر نگاه کنید. به طرز عجیبی رضایتبخش است.
یک مدل ذهنی سریع:
-
ردپای داده : ورودیهای حسگر کوچک و جریانی.
-
مدلها : CNN/RNN های فشرده، یادگیری ماشین کلاسیک، یا شبکههای پراکنده/کوانتیزه.
-
بودجهها : میلیوات، نه وات؛ کیلوبایت-مگابایت، نه گیگابایت.
انتخابهای سختافزاری: هزینه در مقابل عملکرد ⚔️
انتخاب سختافزار جایی است که بسیاری از پروژهها در آن دچار مشکل میشوند:
-
کلاس رزبری پای : پردازندهی همهکاره و کاربرپسند؛ مناسب برای نمونههای اولیه.
-
انویدیا جتسون : ماژولهای هوش مصنوعی لبهای (مثلاً اورین) که ، دهها تا صدها TOPS - عالی، اما گرانتر و پرمصرفتر [4].
-
Google Coral (Edge TPU) : یک شتابدهنده ASIC که حدود 4 TOPS را با حدود 2W (~2 TOPS/W) - عملکرد/توان فوقالعادهای وقتی مدل شما با محدودیتها مطابقت دارد [3].
-
تراشههای روی تراشه (SoC) گوشیهای هوشمند (اسنپدراگون) : به همراه NPU و SDK عرضه میشوند تا مدلها را به طور کارآمد روی دستگاه اجرا کنند.
قاعده کلی: بین هزینه، دما و محاسبات تعادل برقرار کنید. «به اندازه کافی خوب، همه جا» اغلب بر «پیشرفته، هیچ جا» غلبه میکند.
چالشهای رایج در هوش مصنوعی برای سیستمهای تعبیهشده 🤯
مهندسان مرتباً با موارد زیر دست و پنجه نرم میکنند:
-
حافظه محدود : دستگاههای کوچک نمیتوانند مدلهای غولپیکر را میزبانی کنند.
-
بودجه باتری : هر میلیآمپر مهم است.
-
بهینهسازی مدل:
-
کوانتیزاسیون → وزنها/فعالسازیهای int8/float16 کوچکتر و سریعتر.
-
هرس کردن → حذف وزنهای بیاهمیت به دلیل کمبود.
-
خوشهبندی/اشتراکگذاری وزن → فشردهسازی بیشتر.
اینها تکنیکهای استاندارد برای کارایی روی دستگاه هستند [2].
-
-
گسترش مقیاس : یک نسخه آزمایشی آردوینو در کلاس درس ≠ یک سیستم تولید خودرو با ایمنی، امنیت و محدودیتهای چرخه عمر.
اشکالزدایی؟ تصور کنید که از طریق سوراخ کلید کتابی را میخوانید... در حالی که دستکش به دست دارید.
کاربردهای عملی که به زودی بیشتر خواهید دید 🚀
-
پوشیدنیهای هوشمند که بینشهای سلامت را روی دستگاه ارائه میدهند.
-
دوربینهای اینترنت اشیا رویدادها را بدون پخش فیلم خام علامتگذاری میکنند.
-
دستیارهای صوتی آفلاین برای کنترل بدون دخالت دست - بدون وابستگی به فضای ابری.
-
پهپادهای خودران برای بازرسی، تحویل و کشاورزی دقیق
خلاصه اینکه: هوش مصنوعی به معنای واقعی کلمه به ما نزدیکتر میشود - روی مچ دستهایمان، در آشپزخانههایمان و در سراسر زیرساختهایمان.
چگونه توسعهدهندگان میتوانند شروع کنند 🛠️
-
برای ابزارهای گسترده و پوشش MCU→mobile، با TensorFlow Lite
-
اگر در سرزمین پایتورچ زندگی میکنید و به یک زمان اجرای ساده روی دستگاه در موبایل و سیستمهای تعبیهشده نیاز دارید، ExecuTorch را بررسی کنید
-
، کیتهای Arduino + TinyML را امتحان کنید .
-
آیا خطوط لوله بصری را ترجیح میدهید؟ Edge Impulse با جمعآوری، آموزش و استقرار دادهها، موانع را کاهش میدهد.
-
با سختافزار مانند یک شهروند درجه یک رفتار کنید - نمونه اولیه را روی CPUها بسازید، سپس روی شتابدهنده هدف خود (Edge TPU، Jetson، NPU) اعتبارسنجی کنید تا تأخیر، دما و اختلاف دقت را تأیید کنید.
خلاصه داستان: یک تیم یک آشکارساز ارتعاش-ناهنجاری را روی یک حسگر سلول سکهای عرضه میکند. مدل float32 بودجه توان را از دست میدهد؛ کوانتیزاسیون int8 انرژی را به ازای هر استنتاج کاهش میدهد، هرس حافظه را مرتب میکند و چرخه وظایف MCU کار را تمام میکند - هیچ شبکهای مورد نیاز نیست [2،3].
انقلاب آرام هوش مصنوعی برای سیستمهای تعبیهشده 🌍
پردازندههای کوچک و ارزان در حال یادگیری حس کردن، فکر کردن و عمل کردن به صورت محلی هستند. عمر باتری همیشه ما را آزار خواهد داد، اما مسیر مشخص است: مدلهای فشردهتر، کامپایلرهای بهتر، شتابدهندههای هوشمندتر. نتیجه؟ فناوریای که شخصیتر و پاسخگوتر به نظر میرسد زیرا فقط متصل نیست - بلکه توجه میکند.
منابع
[1] ETSI (محاسبات لبهای با دسترسی چندگانه) - مزایای تأخیر/حریم خصوصی و زمینه صنعت.
ETSI MEC: مروری بر گزارش جدید
[2] جعبه ابزار بهینهسازی مدل TensorFlow گوگل - کوانتیزاسیون، هرس کردن، خوشهبندی برای کارایی روی دستگاه.
راهنمای بهینهسازی مدل TensorFlow
[3] Google Coral Edge TPU - معیارهای عملکرد/کارایی برای شتاب لبه.
معیارهای Edge TPU
[4] NVIDIA Jetson Orin (رسمی) - ماژولهای هوش مصنوعی لبهای و پوششهای عملکردی.
بررسی اجمالی ماژولهای Jetson Orin
[5] PyTorch ExecuTorch (اسناد رسمی) - محیط اجرای PyTorch روی دستگاه برای موبایل و اج.
بررسی اجمالی ExecuTorch