نقش شرکت‌های بزرگ فناوری در هوش مصنوعی چیست؟ [ویدئو و آزمون]

پاسخ کوتاه: شرکت‌های بزرگ فناوری در هوش مصنوعی اهمیت دارند زیرا موارد ضروری و نه چندان جذاب - محاسبات، پلتفرم‌های ابری، دستگاه‌ها، فروشگاه‌های اپلیکیشن و ابزارهای سازمانی - را کنترل می‌کنند. این کنترل به آنها اجازه می‌دهد تا مدل‌های پیشرو را پشتیبانی مالی کنند و ویژگی‌ها را به سرعت به میلیاردها نفر ارائه دهند. اگر حاکمیت، کنترل حریم خصوصی و قابلیت همکاری ضعیف باشند، همین اهرم به قفل شدن و تمرکز قدرت تبدیل می‌شود.

نکات کلیدی:

زیرساخت: کنترل فضای ابری، تراشه‌ها و MLOps را به عنوان نقطه‌ی حساس اصلی هوش مصنوعی در نظر بگیرید.

توزیع: انتظار می‌رود به‌روزرسانی‌های پلتفرم، معنای «هوش مصنوعی» را برای اکثر کاربران تعریف کنند.

دروازه‌بانی: قوانین اپ استور و شرایط API بی‌سروصدا تعیین می‌کنند که کدام ویژگی‌های هوش مصنوعی ارائه شوند.

کنترل کاربر: درخواست لغو اشتراک واضح، تنظیمات پایدار و کنترل‌های مدیریتی کارآمد.

پاسخگویی: گزارش‌های حسابرسی، شفافیت و مسیرهای تجدیدنظر برای پیامدهای مضر را الزامی کنید.

🔗 آینده هوش مصنوعی: روندها و گام‌های بعدی
نوآوری‌ها، ریسک‌ها و صنایع کلیدی در دهه آینده تغییر شکل دادند.

🔗 مدل‌های بنیادی در هوش مصنوعی مولد: یک راهنمای ساده
درک کنید که چگونه مدل‌های بنیادی، برنامه‌های کاربردی هوش مصنوعی مولد مدرن را قدرتمند می‌کنند.

🔗 یک شرکت هوش مصنوعی چیست و چگونه کار می‌کند؟
ویژگی‌ها، تیم‌ها و محصولاتی را که کسب‌وکارهای مبتنی بر هوش مصنوعی را تعریف می‌کنند، بیاموزید.

🔗 کد هوش مصنوعی در پروژه‌های واقعی چگونه به نظر می‌رسد؟
نمونه‌هایی از الگوها، ابزارها و گردش‌های کاری مبتنی بر هوش مصنوعی را ببینید.

بیایید برای لحظه‌ای با آن روبرو شویم - بیشتر «گفتگوهای هوش مصنوعی» از بخش‌های بی‌روحی مانند محاسبات، توزیع، تدارکات، انطباق و این واقعیت ناخوشایند که کسی باید برای پردازنده‌های گرافیکی و برق هزینه بپردازد، می‌گذرند. شرکت‌های بزرگ فناوری در آن بخش‌های بی‌روح زندگی می‌کنند. و دقیقاً به همین دلیل است که این بخش‌ها بسیار مهم هستند. 😅 (IEA - انرژی و هوش مصنوعی، NVIDIA - مروری بر پلتفرم‌های استنتاج هوش مصنوعی)

نقش هوش مصنوعی در شرکت‌های بزرگ فناوری، به زبان ساده 🧩

وقتی مردم می‌گویند «شرکت‌های بزرگ فناوری»، معمولاً منظورشان شرکت‌های غول‌پیکر پلتفرمی است که لایه‌های اصلی محاسبات مدرن را کنترل می‌کنند:

• زیرساخت ابری (جایی که هوش مصنوعی اجرا می‌شود) ☁️ (اسناد هوش مصنوعی آمازون SageMaker، اسناد یادگیری ماشین Azure، اسناد هوش مصنوعی Vertex)

• دستگاه‌ها و سیستم‌عامل‌های مصرفی (جایی که هوش مصنوعی قرار می‌گیرد) 📱💻 (Apple Core ML، Google ML Kit)

• اکوسیستم‌ها و بازارهای اپلیکیشن (جایی که هوش مصنوعی گسترش می‌یابد) 🛒 (دستورالعمل‌های بررسی اپلیکیشن اپل، ایمنی داده‌های گوگل پلی)

• خطوط لوله داده و مخازن تحلیلی (جایی که هوش مصنوعی تغذیه می‌شود) 🍽️

• نرم‌افزارهای سازمانی (جایی که هوش مصنوعی درآمدزا می‌شود) 🧾

• همکاری‌های تراشه‌ها و سخت‌افزار (جایی که هوش مصنوعی شتاب می‌گیرد) 🧠🔩 (بررسی اجمالی پلتفرم‌های استنتاج هوش مصنوعی انویدیا)

بنابراین نقش آنها فقط «ساخت هوش مصنوعی» نیست. بیشتر شبیه این است که بزرگراه‌ها را می‌سازند، ماشین‌ها را می‌فروشند، عوارضی‌ها را اداره می‌کنند و همچنین تصمیم می‌گیرند که خروجی‌ها به کجا بروند. کمی اغراق... اما نه خیلی زیاد.

نقش شرکت‌های بزرگ فناوری در هوش مصنوعی: پنج شغل بزرگ 🏗️

اگر یک مدل ذهنی شفاف می‌خواهید، شرکت‌های بزرگ فناوری تمایل دارند پنج کار همپوشانی را در دنیای هوش مصنوعی انجام دهند:

1. ارائه دهنده زیرساخت
   ، مراکز داده، فضای ابری، شبکه، امنیت، ابزارهای MLOps. مواردی که هوش مصنوعی را در مقیاس بزرگ امکان‌پذیر می‌کند. (اسناد هوش مصنوعی آمازون SageMaker، آژانس بین‌المللی انرژی و هوش مصنوعی)

2. سازنده مدل و موتور تحقیق
   نه همیشه، اما اغلب - آزمایشگاه‌ها، تحقیق و توسعه داخلی، تحقیقات کاربردی و «علم تولیدی». (قوانین مقیاس‌بندی برای مدل‌های زبانی عصبی (arXiv)، آموزش مدل‌های زبانی بزرگ محاسباتی بهینه (Chinchilla) (arXiv))

3. توزیع‌کننده:
   آن‌ها می‌توانند هوش مصنوعی را به جعبه‌های جستجو، تلفن‌ها، کلاینت‌های ایمیل، سیستم‌های تبلیغاتی و ابزارهای محل کار وارد کنند. توزیع یک ابرقدرت است.

4. و مقررات
   فروشگاه اپلیکیشن، قوانین پلتفرم، شرایط API، نظارت بر محتوا، دروازه‌های ایمنی، کنترل‌های سازمانی (دستورالعمل‌های بررسی اپلیکیشن اپل، ایمنی داده‌های گوگل پلی)

5. تخصیص‌دهنده سرمایه
   آنها تأمین مالی می‌کنند، کسب می‌کنند، شریک می‌شوند، و به رشد و توسعه می‌پردازند. آنها آنچه را که باقی می‌ماند شکل می‌دهند.

این نقش شرکت‌های بزرگ فناوری در هوش مصنوعی از نظر عملکردی است: آنها شرایط را برای وجود هوش مصنوعی ایجاد می‌کنند - و سپس تصمیم می‌گیرند که چگونه به شما برسد.

چه چیزی یک نسخه خوب از نقش هوش مصنوعی شرکت‌های بزرگ فناوری را می‌سازد ✅😬

«نسخه خوب» شرکت‌های بزرگ فناوری در حوزه هوش مصنوعی به معنای کمال نیست. بلکه به معنای بده‌بستان‌هایی است که مسئولانه انجام شوند و فرصت‌های غافلگیرکننده کمتری برای دیگران ایجاد شود.

در اینجا چیزی که حس «غول مفید» را از حس «اوه اوه انحصارطلب» متمایز می‌کند، آورده شده است:

• شفافیت بدون استفاده از اصطلاحات تخصصی،
  برچسب‌گذاری واضح ویژگی‌ها، محدودیت‌ها و داده‌های مورد استفاده در هوش مصنوعی. نه یک هزارتوی ۴۰ صفحه‌ای در مورد سیاست‌ها. (NIST AI RMF 1.0، ISO/IEC 42001:2023)

• کنترل واقعی کاربر
  ، گزینه‌های انصراف که کار می‌کنند، تنظیمات حریم خصوصی که به طور مرموزی ریست نمی‌شوند، و کنترل‌های مدیریتی که دردسرساز نیستند. (مقررات GDPR (EU) 2016/679)

• قابلیت همکاری و باز بودن - گاهی اوقات
  همه چیز نباید متن‌باز باشد، اما محدود کردن همه به یک فروشنده برای همیشه ... یک انتخاب است.

• ایمنی با قدرت
  نظارت بر سوءاستفاده، تیم قرمز، کنترل محتوا و تمایل به مسدود کردن موارد استفاده آشکارا پرخطر. (NIST AI RMF 1.0، پروفایل NIST GenAI (همراه AI RMF))

• اکوسیستم‌های سالم
  پشتیبانی از استارت‌آپ‌ها، شرکا، محققان و استانداردهای باز تا نوآوری به «اجاره یک پلتفرم یا ناپدید شدن» تبدیل نشود. (اصول هوش مصنوعی OECD)

خیلی ساده می‌گویم: «نسخه‌ی خوب» حس یک شرکت خدمات عمومی قوی با طعم و مزه‌ی قوی محصول را می‌دهد. نسخه‌ی بد حس یک کازینو را دارد که در آن، صاحبان کازینو قوانین را هم می‌نویسند. 🎰

جدول مقایسه: برترین «مسیرهای هوش مصنوعی» شرکت‌های بزرگ فناوری و دلیل کارایی آنها 📊

اعتراف عجیب و غریب کوچک سر میز: «رایگان» بودن یعنی کلی کار کردن اونجا. رایگان تا وقتی که دیگه نباشه... می‌دونید چطوریه.

نمای نزدیک: نقطه انسداد زیرساخت (محاسبات، فضای ابری، تراشه‌ها) 🧱⚙️

این بخشی است که اکثر مردم نمی‌خواهند در مورد آن صحبت کنند زیرا جذاب نیست. اما ستون فقرات هوش مصنوعی است.

شرکت‌های بزرگ فناوری با کنترل موارد زیر بر هوش مصنوعی تأثیر می‌گذارند:

• تامین محاسبات (دسترسی به پردازنده گرافیکی، خوشه‌ها، زمان‌بندی) (IEA - تقاضای انرژی از هوش مصنوعی)

• شبکه‌سازی (اتصالات با پهنای باند بالا، پارچه‌های با تأخیر کم)

• ذخیره‌سازی (دریاچه‌های داده، سیستم‌های بازیابی، پشتیبان‌گیری)

• خطوط لوله MLOps (آموزش، استقرار، نظارت، مدیریت) (MLOps روی Vertex AI، معماری‌های Azure MLOps)

• امنیت (هویت، گزارش‌های حسابرسی، رمزگذاری، اجرای سیاست) (NIST AI RMF 1.0، ISO/IEC 42001:2023)

اگر تا به حال سعی کرده‌اید یک سیستم هوش مصنوعی را در یک شرکت واقعی مستقر کنید، می‌دانید که «مدل» بخش آسان کار است. بخش سخت شامل موارد زیر است: مجوزها، ثبت وقایع، دسترسی به داده‌ها، کنترل هزینه‌ها، زمان روشن بودن سیستم، پاسخ به حوادث... چیزهای مربوط به بزرگسالان. 😵💫

از آنجا که شرکت‌های بزرگ فناوری بخش زیادی از این [اطلاعات] را در اختیار دارند، می‌توانند الگوهای پیش‌فرض را تنظیم کنند:

• کدام ابزارها استاندارد می‌شوند؟

• کدام فریم‌ورک‌ها پشتیبانی درجه یک دریافت می‌کنند؟

• کدام سخت‌افزار در اولویت قرار می‌گیرد؟

• کدام مدل‌های قیمت‌گذاری «عادی» می‌شوند؟

این به خودی خود شر نیست. اما قدرت است.

نمای نزدیک: تحقیق مدل در مقابل واقعیت محصول 🧪➡️🛠️

تنش اینجاست: شرکت‌های بزرگ فناوری می‌توانند تحقیقات عمیقی را تأمین مالی کنند و همچنین به موفقیت‌های فصلی در محصولات نیاز دارند. این ترکیب باعث پیشرفت‌های شگفت‌انگیز و همچنین… راه‌اندازی ویژگی‌های مشکوک می‌شود.

شرکت‌های بزرگ فناوری معمولاً پیشرفت هوش مصنوعی را از طریق موارد زیر هدایت می‌کنند:

• دوره‌های آموزشی گسترده (اهمیت مقیاس) (قوانین مقیاس‌بندی برای مدل‌های زبان عصبی (arXiv))

• خطوط ارزیابی داخلی (معیاریابی، آزمایش‌های ایمنی، بررسی‌های رگرسیون) (پروفایل NIST GenAI (همراه AI RMF))

• تحقیقات کاربردی (تبدیل مقالات به رفتارهای محصول)

• بهبود ابزارآلات (تقطیر، فشرده‌سازی، افزایش راندمان سرو)

اما فشار محصول اوضاع را تغییر می‌دهد:

• سرعت بر ظرافت غلبه می‌کند

• حمل و نقل از توضیح دادن بهتر است

• «به اندازه کافی خوب» از «کاملاً درک شده» بهتر است

گاهی اوقات اشکالی ندارد. اکثر کاربران به خلوص نظری نیاز ندارند، آنها به یک دستیار مفید در جریان کاری خود نیاز دارند. اما خطر این است که «به اندازه کافی خوب» در زمینه‌های حساس (بهداشت، استخدام، امور مالی، آموزش) به کار گرفته شود، جایی که «به اندازه کافی خوب»... به اندازه کافی خوب نیست. (قانون هوش مصنوعی اتحادیه اروپا - مقررات (EU) 2024/1689)

این بخشی از نقش شرکت‌های بزرگ فناوری در هوش مصنوعی است - تبدیل قابلیت‌های پیشرفته به ویژگی‌های قابل عرضه در بازار انبوه، حتی زمانی که لبه‌های تیز هنوز مشخص نیستند. 🔪

نمای نزدیک: توزیع، ابرقدرت واقعی است 🚀📣

اگر بتوانید هوش مصنوعی را در مکان‌هایی که مردم از قبل به صورت دیجیتالی زندگی می‌کنند قرار دهید، لازم نیست کاربران را «متقاعد» کنید. شما فقط به پیش‌فرض تبدیل می‌شوید.

کانال‌های توزیع شرکت‌های بزرگ فناوری شامل موارد زیر است:

• نوارهای جستجو و مرورگرها 🔎

• دستیارهای سیستم عامل موبایل 📱

• مجموعه‌های کاری (اسناد، ایمیل، چت، جلسات) 🧑💼

• فیدهای اجتماعی و سیستم‌های توصیه 📺

• فروشگاه‌های اپلیکیشن و بازارهای پلتفرم 🛍️ (دستورالعمل‌های بررسی اپلیکیشن اپل، ایمنی داده‌های گوگل پلی)

به همین دلیل است که شرکت‌های کوچک‌تر هوش مصنوعی اغلب با شرکت‌های بزرگ فناوری همکاری می‌کنند، حتی اگر در مورد آن نگران باشند. توزیع مثل اکسیژن است. بدون آن، می‌توانید بهترین مدل دنیا را داشته باشید و همچنان در خلاء فریاد بزنید.

یک عارضه جانبی ظریف نیز وجود دارد: توزیع، معنای «هوش مصنوعی» را برای عموم شکل می‌دهد. اگر هوش مصنوعی عمدتاً به عنوان یک دستیار نوشتاری ظاهر شود، مردم تصور می‌کنند که هوش مصنوعی در مورد نوشتن است. اگر به عنوان ویرایش عکس ظاهر شود، مردم تصور می‌کنند که هوش مصنوعی در مورد تصاویر است. پلتفرم، حال و هوا را تعیین می‌کند.

نمای نزدیک: داده‌ها، حریم خصوصی و معامله اعتماد 🔐🧠

سیستم‌های هوش مصنوعی اغلب وقتی شخصی‌سازی می‌شوند، مؤثرتر می‌شوند. شخصی‌سازی اغلب به داده نیاز دارد. و داده باعث ایجاد ریسک می‌شود. این مثلث هرگز از بین نمی‌رود.

شرکت‌های بزرگ فناوری روی موارد زیر تکیه دارند:

• داده‌های رفتاری مصرف‌کننده (جستجوها، کلیک‌ها، ترجیحات)

• داده‌های سازمانی (ایمیل‌ها، اسناد، چت‌ها، تیکت‌ها، گردش‌های کاری)

• داده‌های پلتفرم (اپلیکیشن‌ها، پرداخت‌ها، سیگنال‌های هویتی)

• داده‌های دستگاه (مکان، حسگرها، عکس‌ها، ورودی‌های صوتی)

حتی زمانی که «داده‌های خام» مستقیماً مورد استفاده قرار نمی‌گیرند، اکوسیستم اطراف، آموزش، تنظیم دقیق، ارزیابی و جهت‌گیری محصول را شکل می‌دهد.

معامله اعتماد معمولاً به این شکل است:

• کاربران جمع‌آوری داده‌ها را می‌پذیرند زیرا محصول راحت است 🧃

• وقتی اوضاع ترسناک می‌شود، نهادهای نظارتی واکنش نشان می‌دهند 👀 (GDPR - Regulation (EU) 2016/679))

• شرکت‌ها با کنترل‌ها، سیاست‌ها و پیام‌های «اولویت با حریم خصوصی» پاسخ می‌دهند

• همه در مورد معنای «حریم خصوصی» بحث می‌کنند

یک قانون کلی که من دیده‌ام و عمل کرده این است: اگر شرکتی بتواند رویه‌های داده‌های هوش مصنوعی خود را در یک مکالمه و بدون پنهان شدن پشت اصطلاحات حقوقی توضیح دهد، معمولاً عملکرد بهتری نسبت به میانگین دارد. نه کاملاً بی‌نقص - فقط بهتر.

نمای نزدیک: حکومتداری، ایمنی، و بازی نفوذ آرام 🧯📜

این نقش کمتر دیده می‌شود: شرکت‌های بزرگ فناوری اغلب به تعریف قوانینی که دیگران از آنها پیروی می‌کنند، کمک می‌کنند.

آنها از طریق موارد زیر، حکمرانی را شکل می‌دهند:

• سیاست‌های ایمنی داخلی (آنچه مدل رد می‌کند) (NIST AI RMF 1.0)

• سیاست‌های پلتفرم (چه کارهایی از برنامه‌ها برمی‌آید) (دستورالعمل‌های بررسی برنامه‌های اپل، ایمنی داده‌های گوگل پلی)

• ویژگی‌های انطباق سازمانی (ردیابی‌های ممیزی، نگهداری، مرزهای داده‌ها) (ISO/IEC 42001:2023، قانون هوش مصنوعی اتحادیه اروپا - مقررات (EU) 2024/1689)

• مشارکت در استانداردهای صنعت (چارچوب‌های فنی، بهترین شیوه‌ها) (اصول هوش مصنوعی OECD، ISO/IEC 42001:2023)

• لابی‌گری و مشارکت در سیاست‌گذاری (بله، آن بخش هم)

گاهی اوقات این واقعاً مفید است. شرکت‌های بزرگ فناوری می‌توانند روی تیم‌های ایمنی، ابزارهای اعتمادسازی، تشخیص سوءاستفاده و زیرساخت‌های انطباق سرمایه‌گذاری کنند که شرکت‌های کوچک‌تر از عهده‌ی آن برنمی‌آیند.

گاهی اوقات این کار به نفع خود افراد است. ایمنی می‌تواند به خندقی تبدیل شود که فقط بزرگترین بازیگران می‌توانند از پسِ آن برآیند. این یک معمای پیچیده است: ایمنی ضروری است، اما ایمنی گران می‌تواند به طور تصادفی رقابت را متوقف کند. (قانون هوش مصنوعی اتحادیه اروپا - مقررات (EU) 2024/1689)

اینجاست که نکات ظریف اهمیت پیدا می‌کنند. البته نه نکات ظریفِ بامزه - از نوع آزاردهنده‌اش. 😬

نمای نزدیک: رقابت، اکوسیستم‌های باز و جاذبه استارتاپی 🧲🌱

نقش شرکت‌های بزرگ فناوری در هوش مصنوعی همچنین شامل شکل‌دهی به بازار می‌شود:

• جذب (استعداد، فناوری، توزیع)

• مشارکت‌ها (مدل‌های میزبانی‌شده روی ابرها، معاملات مشترک سازمانی)

• تأمین مالی اکوسیستم (اعتبارات، مراکز رشد، بازارها)

• ابزارهای متن‌باز (فریم‌ورک‌ها، کتابخانه‌ها، نسخه‌های «تقریباً متن‌باز»)

الگویی هست که بارها و بارها تکرار شده:

1. استارتاپ‌ها به سرعت نوآوری می‌کنند

2. شرکت‌های بزرگ فناوری، الگوی موفق را ادغام یا کپی می‌کنند

3. استارتاپ‌ها به سمت بازارهای خاص حرکت می‌کنند یا به اهداف خرید تبدیل می‌شوند

4. «لایه پلتفرم» ضخیم‌تر می‌شود

این به خودی خود بد نیست. پلتفرم‌ها می‌توانند اصطکاک را کاهش دهند و هوش مصنوعی را در دسترس قرار دهند. اما می‌تواند تنوع را نیز کاهش دهد. اگر هر محصول به «پوششی پیرامون چند API مشابه» تبدیل شود، نوآوری مانند تغییر چیدمان مبلمان در همان آپارتمان به نظر می‌رسد.

کمی رقابت نامرتب مفید است. مثل خمیر ترش. اگر همه چیز را استریل کنید، دیگر پف نمی‌کند. این استعاره کمی ناقص است، اما من به آن پایبندم. 🍞

زندگی با هیجان و احتیاط همزمان 😄😟

هر دو احساس مناسب هستند. هیجان و احتیاط می‌توانند در یک فضا باشند.

دلایل هیجان‌زده بودن:

• استقرار سریع‌تر ابزارهای مفید

• زیرساخت بهتر و قابلیت اطمینان

• موانع کمتر برای کسب و کارها جهت پذیرش هوش مصنوعی

• سرمایه‌گذاری بیشتر در زمینه ایمنی و استانداردسازی (NIST AI RMF 1.0، اصول هوش مصنوعی OECD)

دلایل احتیاط:

• تجمیع محاسبات و توزیع (IEA - تقاضای انرژی از هوش مصنوعی)

• تثبیت از طریق قیمت‌گذاری، APIها و اکوسیستم‌ها

• خطرات حریم خصوصی و پیامدهای نظارتی مرتبط (GDPR - مقررات (EU) 2016/679)

• «سیاست یک شرکت» به واقعیتی برای همه تبدیل می‌شود

یک موضع واقع‌بینانه این است: شرکت‌های بزرگ فناوری می‌توانند هوش مصنوعی را برای جهان تسریع کنند، در عین حال قدرت را متمرکز کنند. این دو می‌توانند همزمان درست باشند. مردم از این پاسخ خوششان نمی‌آید زیرا فاقد چاشنی است، اما با شواهد مطابقت دارد.

نکات کاربردی برای خوانندگان مختلف 🎯

اگر خریدار تجاری هستید 🧾

• بپرسید داده‌هایتان کجا می‌روند، چگونه ایزوله می‌شوند و مدیران چه چیزهایی را می‌توانند کنترل کنند (مقررات GDPR (EU) 2016/679، قانون هوش مصنوعی اتحادیه اروپا - مقررات (EU) 2024/1689)

• اولویت‌بندی گزارش‌های حسابرسی، کنترل‌های دسترسی و سیاست‌های نگهداری شفاف (ISO/IEC 42001:2023)

• مراقب منحنی‌های هزینه پنهان باشید (قیمت‌گذاری مصرف به سرعت افزایش می‌یابد)

اگر توسعه‌دهنده هستید 🧑💻

• با در نظر گرفتن قابلیت حمل بسازید (لایه‌های انتزاعی کمک می‌کنند)

• همه چیز را روی یک ویژگی فروشنده که می‌تواند ناپدید شود، شرط‌بندی نکنید

• محدودیت‌های نرخ، تغییرات قیمت‌گذاری و به‌روزرسانی‌های سیاست‌ها را طوری پیگیری کنید که انگار بخشی از کار شماست (چون واقعاً هم هست) (دستورالعمل‌های بررسی برنامه‌های اپل، ایمنی داده‌های گوگل پلی)

اگر سیاست‌گذار یا مسئول انطباق با قوانین هستید 🏛️

• تلاش برای ایجاد استانداردهای تعامل‌پذیر و هنجارهای شفافیت (اصول هوش مصنوعی OECD)

• از قوانینی که فقط غول‌ها می‌توانند از آنها پیروی کنند، اجتناب کنید (قانون هوش مصنوعی اتحادیه اروپا - مقررات (EU) 2024/1689)

• «کنترل توزیع» را به عنوان یک مسئله اصلی در نظر بگیرید، نه یک موضوع فرعی

اگر کاربر معمولی هستید 🙋

• بیاموزید که ویژگی‌های هوش مصنوعی در برنامه‌های شما کجا قرار دارند

• از کنترل‌های حریم خصوصی استفاده کنید، حتی اگر آزاردهنده باشند (GDPR - Regulation (EU) 2016/679)

• نسبت به نتایج «جادویی» شک داشته باشید - هوش مصنوعی به خودش مطمئن است، اما همیشه درست نمی‌گوید 😵

خلاصه پایانی: نقش شرکت‌های بزرگ فناوری در هوش مصنوعی 🧠✨

نقش شرکت‌های بزرگ فناوری در هوش مصنوعی یک چیز واحد نیست. مجموعه‌ای از نقش‌ها است: مالک زیرساخت، سازنده مدل، توزیع‌کننده، دروازه‌بان و شکل‌دهنده بازار. آن‌ها فقط در هوش مصنوعی مشارکت نمی‌کنند - آن‌ها زمینه‌ای را که هوش مصنوعی در آن رشد می‌کند، تعریف می‌کنند.

اگر فقط یک خط را به خاطر دارید، آن را به این صورت بنویسید:

نقش شرکت‌های بزرگ فناوری در هوش مصنوعی
این شرکت‌ها هستند که کانال‌ها را می‌سازند، پیش‌فرض‌ها را تنظیم می‌کنند و نحوه‌ی رسیدن هوش مصنوعی به انسان‌ها را - در مقیاس وسیع و با پیامدهای عظیم - هدایت می‌کنند. (NIST AI RMF 1.0، قانون هوش مصنوعی اتحادیه اروپا - مقررات (EU) 2024/1689)

و بله، «عواقب» دراماتیک به نظر می‌رسد. اما هوش مصنوعی یکی از آن موضوعاتی است که دراماتیک بودن آن گاهی اوقات دقیقاً... دقیق است. 

مثال دنیای واقعی: آزمایش یک طرح هوش مصنوعی در شرکت‌های بزرگ فناوری قبل از اینکه فراگیر شود 🧪🔐

سناریو

یک خرده‌فروش آنلاین ۱۲۰ نفره را تصور کنید که می‌خواهد یک دستیار هوش مصنوعی را به گردش کار پشتیبانی مشتری خود اضافه کند. این تیم در حال حاضر از یک ارائه‌دهنده بزرگ فضای ابری برای میزبانی وب، یک مجموعه بهره‌وری Big Tech برای ایمیل و اسناد و یک پلتفرم میز کمک متصل از طریق APIها استفاده می‌کند.

مسیر وسوسه‌انگیز ساده است: ویژگی‌های هوش مصنوعی داخلی را فعال کنید، به مرکز راهنمایی متصل شوید و اجازه دهید کارشناسان از پاسخ‌های تولید شده استفاده کنند. آسان. شاید خیلی آسان. 😅

مسیر هوشمندانه‌تر این است که با این موضوع به عنوان یک آزمون کوچک حاکمیت شرکتی برخورد کنیم: آیا کسب‌وکار می‌تواند بدون واگذاری کنترل بیش از حد بر داده‌ها، اعلان‌ها، گردش‌های کاری و هزینه‌های آینده به یک پلتفرم، از پشتیبانی مؤثر هوش مصنوعی بهره‌مند شود؟

آنچه دستیار نیاز دارد

هوش مصنوعی پشتیبانی فقط باید به موارد زیر دسترسی داشته باشد:

• مقالات مرکز کمک‌های عمومی

• سیاست بازگشت وجه

• سیاست تحویل

• فهرستی از قوانین بازپرداخت تأیید شده

• ۲۰ نمونه از پاسخ‌های پشتیبانی خوب گذشته

• یک قانون واضح برای تشدید اختلاف در مورد مشتریان عصبانی، تهدیدهای قانونی، مشکلات پرداخت و شکایات پزشکی/ایمنی

• گزارش‌های مدیریتی که نشان می‌دهد کدام عامل از هوش مصنوعی استفاده کرده، چه چیزی پیشنهاد داده و چه چیزی ارسال شده است

نباید به داده‌های خصوصی مشتریان، اسناد مالی داخلی، پیام‌های کارکنان یا تاریخچه کامل سفارشات دسترسی آزاد داشته باشد، مگر اینکه دلیل خاصی برای اجازه دادن وجود داشته باشد.

دستورالعمل مثال

از این دستیار برای پیش‌نویس پاسخ‌های پشتیبانی مشتری استفاده کنید، نه برای ارسال خودکار آنها.

فقط از طریق مرکز پشتیبانی، سیاست بازگشت کالا، سیاست تحویل و قوانین بازپرداخت مورد تأیید، پاسخ دهید. اگر پاسخ به وضوح توسط این منابع پشتیبانی نمی‌شود، بگویید که نماینده باید آن را به صورت دستی بررسی کند.

پاسخ‌ها را زیر ۱۴۰ کلمه نگه دارید. از لحنی آرام و کاربردی استفاده کنید. وعده بازپرداخت، تاریخ تحویل، تخفیف یا عواقب قانونی را ندهید، مگر اینکه سیاست به وضوح اجازه آن را بدهد.

همیشه سیاست منبع مورد استفاده را ذکر کنید. وقتی مشتری از کلاهبرداری، اقدام قانونی، آسیب، برگشت وجه، تحویل‌های ناموفق مکرر یا بازپرداخت بیش از ۲۵۰ پوند صحبت می‌کند، موضوع را به یک مدیر انسانی ارجاع دهید.

چگونه آن را آزمایش کنیم

قبل از انتشار عمومی، خرده‌فروش می‌توانست ۳۰ تیکت پشتیبانی قدیمی را از طریق سه تنظیم زیر ارسال کند:

• گردش کار دستی فعلی

• دستیار هوش مصنوعی مجموعه‌ی بهره‌وری بیگ تک

• یک تنظیمات قابل حمل‌تر با استفاده از یک API مدل جداگانه در پشت یک لایه اعلان داخلی و ثبت وقایع

سوالات آزمون باید شامل موارد آسان، پیچیده و پرخطر باشد:

• «سفارش من کجاست؟»

• «می‌خواهم پولم را پس بگیرم، اما محصول را باز کرده‌ام.»

• «پیک شما به کالای من آسیب رساند و من شما را گزارش می‌دهم.»

• «به من غرامت بدهید وگرنه این را همه جا می‌چسبانم.»

• «می‌توانید این مبلغ را به کارت بانکی دیگری بازپرداخت کنید؟»

• «فرزند من با استفاده از این محصول آسیب دید.»

یک بررسی‌کننده انسانی باید هر پیش‌نویس را از نظر دقت، لحن، انطباق با سیاست‌ها، رفتار ارجاع و اینکه آیا پاسخ شامل شواهد کافی است یا خیر، امتیازدهی کند.

نتیجه

نتیجه‌ی تشریحی: بر اساس زمان‌بندی ۳۰ نمونه تیکت قبل و بعد از استفاده از گردش کار، تیم ممکن است دریابد که میانگین زمان پیش‌نویس اول از ۶ دقیقه به ۲ دقیقه برای هر تیکت کاهش می‌یابد.

برای ۳۰۰ بلیط در هفته، این به معنی:

• زمان تهیه پیش‌نویس دستی: ۱۸۰۰ دقیقه در هفته

• زمان نگارش با کمک هوش مصنوعی: ۶۰۰ دقیقه در هفته

• زمان تخمینی صرفه‌جویی‌شده: ۱۲۰۰ دقیقه در هفته یا ۲۰ ساعت

اندازه‌گیری دقیق‌تر فقط «صرفه‌جویی در زمان» نیست. تیم باید خطاها را نیز ردیابی کند. در این آزمون نمونه، یک هدف خوب می‌تواند این باشد:

• 0 ارسال خودکار بدون تایید انسانی

• 0 مورد از افزایش جریمه‌های مربوط به بلیط‌های آزمایشی پرخطر از دست رفته است

• کمتر از ۲ خطای سیاستی در ۳۰ پیش‌نویس بررسی‌شده

• ۱۰۰٪ پاسخ‌های مبتنی بر هوش مصنوعی به یک منبع تأیید شده لینک شده‌اند

این به خریدار یک مقایسه عملی می‌دهد: نه اینکه «کدام هوش مصنوعی جالب‌تر به نظر می‌رسد؟»، بلکه «کدام تنظیمات در عین حفظ کنترل، شواهد و قابلیت حسابرسی، در زمان صرفه‌جویی می‌کند؟»

چه چیزی می‌تواند اشتباه پیش برود؟

بزرگترین اشتباه این است که دکمه هوش مصنوعی داخلی را به عنوان یک گردش کار کامل در نظر بگیرید. اما اینطور نیست.

مشکلات رایج عبارتند از:

• اجازه دادن به دستیار برای پاسخ دادن از حافظه مبهم به جای سیاست‌های تایید شده

• ارائه اطلاعات بیش از حد از مشتری در مراحل اولیه

• عدم ثبت درخواست‌ها، پیش‌نویس‌ها، ویرایش‌ها و پاسخ‌های نهایی

• فراموش کردن آزمایش موارد حاشیه‌ای قبل از انتشار عمومی

• تکیه‌ی بیش از حد به ویژگی‌های خصوصی یک فروشنده، به طوری که بعداً تعویض آن دردناک شود

• فقط سرعت را اندازه‌گیری می‌کند، نه دقت یا کیفیت تشدید را

دستیار پشتیبانی که سریع متن را می‌نویسد اما وعده‌های بازپرداخت می‌دهد، یک مزیت بهره‌وری نیست. این فقط راهی سریع‌تر برای طرح شکایت است. 😬

نکته کاربردی

هوش مصنوعی در شرکت‌های بزرگ فناوری می‌تواند واقعاً ارزشمند باشد وقتی که در جریان‌های کاری زنده مانند پشتیبانی، فروش، امنیت و مدیریت قرار گیرد. اما کسب‌وکار ابتدا باید اصول اولیه‌ی نه چندان جذاب آن را آزمایش کند: مجوزها، گزارش‌ها، کنترل منبع، لغو اشتراک، قیمت‌گذاری و قابلیت حمل.

این نسخه‌ی عملیِ کلِ بحثِ هوش مصنوعیِ شرکت‌های بزرگ فناوری است: از قدرت استفاده کنید، اما خواب‌آلود به سمتِ قفل شدن نروید.

سوالات متداول

نقش شرکت‌های بزرگ فناوری در هوش مصنوعی، از نظر عملی چیست؟

نقش شرکت‌های بزرگ فناوری در هوش مصنوعی کمتر «مدل‌سازی» و بیشتر «کار با ماشین‌آلاتی است که باعث می‌شود هوش مصنوعی در مقیاس بزرگ کار کند». آن‌ها زیرساخت ابری را فراهم می‌کنند، هوش مصنوعی را از طریق دستگاه‌ها و برنامه‌ها ارائه می‌دهند و قوانین پلتفرمی را تعیین می‌کنند که آنچه ساخته می‌شود را شکل می‌دهد. آن‌ها همچنین تحقیقات، مشارکت‌ها و خریدهایی را تأمین مالی می‌کنند که بر بقای رویکردها تأثیر می‌گذارد. در بسیاری از بازارها، آن‌ها به طور مؤثر تجربه پیش‌فرض هوش مصنوعی را تعریف می‌کنند.

چرا دسترسی به محاسبات برای کسانی که می‌توانند هوش مصنوعی را در مقیاس بزرگ بسازند، بسیار مهم است؟

هوش مصنوعی مدرن به خوشه‌های بزرگ پردازنده گرافیکی (GPU)، شبکه‌سازی سریع، ذخیره‌سازی و خطوط لوله MLOps قابل اعتماد وابسته است - نه فقط الگوریتم‌های هوشمندانه. اگر نتوانید ظرفیت قابل پیش‌بینی داشته باشید، آموزش، ارزیابی و استقرار شکننده و پرهزینه می‌شوند. شرکت‌های بزرگ فناوری اغلب لایه «ستون فقرات» (ابر، مشارکت‌های تراشه‌ها، برنامه‌ریزی، امنیت) را کنترل می‌کنند، که می‌تواند آنچه را که برای تیم‌های کوچک‌تر امکان‌پذیر است، تعیین کند. این قدرت می‌تواند مفید باشد، اما همچنان قدرت است.

چگونه توزیع شرکت‌های بزرگ فناوری، معنای «هوش مصنوعی» را برای کاربران روزمره شکل می‌دهد؟

توزیع یک ابرقدرت است زیرا هوش مصنوعی را به یک ویژگی پیش‌فرض تبدیل می‌کند، نه یک محصول جداگانه که باید انتخاب کنید. وقتی هوش مصنوعی در نوارهای جستجو، تلفن‌ها، ایمیل، اسناد، جلسات و فروشگاه‌های اپلیکیشن ظاهر می‌شود، برای اکثر مردم به «آنچه هوش مصنوعی است» تبدیل می‌شود. این امر همچنین انتظارات عمومی را محدود می‌کند: اگر هوش مصنوعی عمدتاً یک ابزار نوشتن در برنامه‌های شما باشد، کاربران فرض می‌کنند که هوش مصنوعی معادل نوشتن است. پلتفرم‌ها بی‌سروصدا لحن را تعیین می‌کنند.

قوانین پلتفرم‌ها و اپ‌استورها از چه راه‌های اصلی به عنوان دروازه‌بانان هوش مصنوعی عمل می‌کنند؟

سیاست‌های بررسی برنامه‌ها، شرایط بازار، قوانین محتوا و محدودیت‌های API می‌توانند تعیین کنند که کدام ویژگی‌های هوش مصنوعی مجاز هستند و چگونه باید رفتار کنند. حتی زمانی که قوانین به عنوان حفاظت از ایمنی یا حریم خصوصی تنظیم می‌شوند، با افزایش هزینه‌های انطباق و اجرا، رقابت را نیز شکل می‌دهند. برای توسعه‌دهندگان، این بدان معناست که به‌روزرسانی‌های سیاست می‌توانند به اندازه به‌روزرسانی‌های مدل مهم باشند. در عمل، «آنچه ارسال می‌شود» اغلب «آنچه از دروازه عبور می‌کند» است

پلتفرم‌های هوش مصنوعی ابری مانند SageMaker، Azure ML و Vertex AI چگونه در نقش شرکت‌های بزرگ فناوری در هوش مصنوعی قرار می‌گیرند؟

پلتفرم‌های هوش مصنوعی ابری، آموزش، استقرار، نظارت، مدیریت و امنیت را در یک مکان گردآوری می‌کنند که این امر باعث کاهش اصطکاک برای استارت‌آپ‌ها و شرکت‌ها می‌شود. ابزارهایی مانند Amazon SageMaker، Azure Machine Learning و Vertex AI، مقیاس‌پذیری و مدیریت هزینه‌ها را از طریق یک رابطه با فروشنده واحد آسان‌تر می‌کنند. نکته منفی این است که راحتی می‌تواند باعث افزایش وابستگی شود، زیرا گردش‌های کاری، مجوزها و نظارت عمیقاً در آن اکوسیستم ادغام شده‌اند.

یک خریدار تجاری قبل از اتخاذ ابزارهای هوش مصنوعی شرکت‌های بزرگ فناوری، چه سوالاتی باید بپرسد؟

با داده‌ها شروع کنید: به کجا می‌رود، چگونه ایزوله می‌شود و چه کنترل‌های نگهداری و ممیزی وجود دارد. در مورد کنترل‌های مدیریتی، ثبت وقایع، مرزهای دسترسی و نحوه ارزیابی ریسک مدل‌ها در دامنه خود سوال کنید. همچنین قیمت‌گذاری مبتنی بر تست فشار را بررسی کنید، زیرا هزینه‌های مبتنی بر استفاده می‌توانند با افزایش پذیرش افزایش یابند. در محیط‌های تنظیم‌شده، انتظارات را با چارچوب‌ها و الزامات انطباقی که سازمان شما از قبل استفاده می‌کند، همسو کنید.

توسعه‌دهندگان چگونه می‌توانند هنگام ساخت APIهای هوش مصنوعی شرکت‌های بزرگ فناوری، از وابستگی به فروشنده اجتناب کنند؟

یک رویکرد رایج، طراحی برای قابلیت حمل است: فراخوانی‌های مدل را پشت یک لایه انتزاعی قرار دهید و اعلان‌ها، سیاست‌ها و منطق ارزیابی را نسخه‌بندی شده و قابل آزمایش نگه دارید. از تکیه بر یک ویژگی «ویژه» فروشنده که می‌تواند تغییر کند یا ناپدید شود، خودداری کنید. محدودیت‌های نرخ، به‌روزرسانی‌های قیمت‌گذاری و تغییرات سیاست را به عنوان بخشی از نگهداری مداوم پیگیری کنید. قابلیت حمل رایگان نیست، اما معمولاً هزینه کمتری نسبت به مهاجرت اجباری دارد.

چگونه حریم خصوصی و شخصی‌سازی با ویژگی‌های هوش مصنوعی، «معامله‌ی اعتماد» ایجاد می‌کنند؟

شخصی‌سازی اغلب کاربرد هوش مصنوعی را بهبود می‌بخشد، اما معمولاً باعث افزایش افشای داده‌ها و احساس ترس می‌شود. شرکت‌های بزرگ فناوری به داده‌های رفتاری، سازمانی، پلتفرم و دستگاه‌ها نزدیک هستند، بنابراین کاربران و تنظیم‌کنندگان، چگونگی تأثیر این داده‌ها بر آموزش، تنظیم دقیق و تصمیمات مربوط به محصول را بررسی می‌کنند. یک معیار عملی این است که آیا یک شرکت می‌تواند شیوه‌های داده‌های هوش مصنوعی خود را به وضوح و بدون پنهان شدن در پشت زبان قانونی توضیح دهد یا خیر. کنترل‌های خوب و انصراف‌های واقعی مهم هستند.

چه استانداردها و مقرراتی بیشترین ارتباط را با حاکمیت و ایمنی هوش مصنوعی شرکت‌های بزرگ فناوری دارند؟

در بسیاری از خطوط لوله، حاکمیت، سیاست‌های ایمنی داخلی را با چارچوب‌ها و قوانین خارجی ترکیب می‌کند. سازمان‌ها اغلب برای موارد استفاده خاص، به راهنمایی‌های مدیریت ریسک مانند AI RMF موسسه ملی استاندارد و فناوری (NIST)، استانداردهای مدیریتی مانند ISO/IEC 42001 و قوانین منطقه‌ای مانند GDPR و قانون هوش مصنوعی اتحادیه اروپا مراجعه می‌کنند. این موارد بر ثبت وقایع، ممیزی‌ها، مرزهای داده‌ها و آنچه مسدود یا مجاز می‌شود، تأثیر می‌گذارند. چالش این است که رعایت این قوانین می‌تواند پرهزینه شود، که می‌تواند به نفع بازیگران بزرگتر باشد.

آیا نفوذ شرکت‌های بزرگ فناوری بر رقابت و اکوسیستم‌ها همیشه چیز بدی است؟

نه به طور خودکار. پلتفرم‌ها می‌توانند موانع را کاهش دهند، ابزارها را استاندارد کنند و امنیت و زیرساخت‌هایی را که تیم‌های کوچک‌تر نمی‌توانند از عهده آن برآیند، تأمین مالی کنند. اما همین پویایی می‌تواند تنوع را کاهش دهد اگر همه به یک پوشش نازک در اطراف چند API، فضای ابری و بازار غالب تبدیل شوند. مراقب الگوهایی مانند ادغام محاسبات و توزیع، به علاوه قیمت‌گذاری و تغییرات سیاستی باشید که فرار از آنها دشوار است. سالم‌ترین اکوسیستم‌ها معمولاً جایی برای قابلیت همکاری و ورود تازه‌واردان نگه می‌دارند.

منابع

1. آژانس بین‌المللی انرژی - انرژی و هوش مصنوعی - iea.org

2. آژانس بین‌المللی انرژی - تقاضای انرژی از هوش مصنوعی - iea.org

3. انویدیا - مروری بر پلتفرم‌های استنتاج هوش مصنوعی - nvidia.com

4. خدمات وب آمازون - مستندات هوش مصنوعی آمازون SageMaker (SageMaker چیست؟) - aws.amazon.com

5. مایکروسافت - مستندات یادگیری ماشینی آژور - learn.microsoft.com

6. گوگل کلود - مستندات هوش مصنوعی ورتکس - cloud.google.com

7. گوگل کلود - MLOps روی هوش مصنوعی ورتکس - cloud.google.com

8. راهنمای معماری عملیات یادگیری ماشین (MLops) نسخه ۲ مایکروسافت - learn.microsoft.com

9. توسعه‌دهنده اپل - Core ML - developer.apple.com

10. توسعه‌دهندگان گوگل - کیت یادگیری ماشین - developers.google.com

11. توسعه‌دهنده اپل - دستورالعمل‌های بررسی برنامه - developer.apple.com

12. راهنمای کنسول گوگل پلی - ایمنی داده‌ها - support.google.com

13. arXiv - قوانین مقیاس‌بندی برای مدل‌های زبان عصبی - arxiv.org

14. arXiv - آموزش مدل‌های زبان بزرگ محاسباتی-بهینه (چینچیلا) - arxiv.org

15. موسسه ملی استاندارد و فناوری - چارچوب مدیریت ریسک هوش مصنوعی (AI RMF 1.0) - nist.gov

16. موسسه ملی استاندارد و فناوری - پروفایل هوش مصنوعی مولد NIST (همراه RMF هوش مصنوعی) - nist.gov

17. سازمان بین‌المللی استانداردسازی - ISO/IEC 42001:2023 - iso.org

18. یورو-لکس - مقررات (اتحادیه اروپا) 2016/679 (GDPR) - eur-lex.europa.eu

19. EUR-Lex - مقررات (EU) 2024/1689 (EU AI Act) - eur-lex.europa.eu

20. OECD - OECD AI Principles - oecd.ai

جدیدترین هوش مصنوعی را در فروشگاه رسمی دستیار هوش مصنوعی پیدا کنید

درباره ما