«آییننامه اخلاقی» جدید هوش مصنوعی مایکروسافت به مدلها میگوید که سیستمها را هک نکنند یا انسانها را فریب ندهند
خب، مایکروسافت کل قانون اساسی مدلهایش را کنار گذاشت - مثلاً خطوط قرمز واقعی. بدون حمله سایبری. بدون مسائل هستهای. بدون کارخانههای دیپفیک. و نکتهی مهم: مدل اجازه ندارد از تعطیلی فرار کند.
آنها آن را یک کد جامع مینامند که هر چیزی را که در چت تایپ میکنید، لغو میکند. که... نوعی بهروزرسانی است. یا کنترلکننده. شاید هر دو.
نادلا هم اینجا در کنار جمعیت «با سرعت به جلو حرکت کنید» سر تکان میدهد. احتیاط در ایستادن و آگاهی از اتاقهای تاریک از بیرون هم میتواند یکسان به نظر برسد؛ مایکروسافت تصمیم گرفته آزمایشگاهی نباشد که شانه بالا میاندازد.
در هر صورت، این سند طوری نوشته شده که انگار بالاخره کسی با نثر اداری نوشته است: «لطفاً تبدیل به شخصیت منفی فیلمهای ترسناک نشوید».
گزارشها حاکی از آن است که OpenAI شرکت Glass Imaging، تولیدکننده دوربین گوشیهای هوشمند، را به قیمت ۳۰۰ میلیون دلار خریداری میکند
در همین حال، OpenAI بیسروصدا یک استارتاپ دوربین را با بیش از ۳۰۰ میلیون دلار خریداری کرد. Glass Imaging. توسط افراد سابق بخش حالت پرتره اپل تأسیس شده است. بنابراین، این یک خرید تصادفی نیست - این افراد لنزهایی را عرضه کردهاند که مردم میشناسند.
موضوع این نیست که «هوش مصنوعی سلفی شما را در مرحلهی پس از ثبت اصلاح میکند.» بلکه شبکههای عصبی هستند که دوربینهای خاص یک گوشی را یاد میگیرند و با فشردن شاتر، عکسهای بهتری میگیرند. حسگرهای کوچک، جاهطلبی بزرگ.
OpenAI نظری نداد. البته. و بله - این در کنار تمام شایعات سختافزاری، تلفنها و هدفونها و گجتهای همراه قرار میگیرد. تقریباً میتوانید بشنوید که کسی در یک جلسه میگوید «vision stack» و همه با شدت سر تکان میدهند.
یک شرکت دوربین به عنوان قطعه گمشده یک دستگاه، همچنان یک شرطبندی باز است - یا فقط یک شرطبندی بسیار گرانقیمت است که پیکسلها هنوز هم اهمیت دارند، زمانی که چتباتها دنیا را میبلعند.
سهام جهانی هوش مصنوعی سقوط کرد، چرا که روسای این صنعت خواستار کاهش سرعت توسعه شدند
بازارها از موعظههای ایمنی خوششان نیامد. نام تراشهها آسیب دید. سافتبانک در آسیا کاملاً آسیب دید. بورس فناوری اروپا در هم کشید. بورس ساکس صبح سختی را پشت سر گذاشت.
عامل محرک، آن لحظه نادر توافق مدیران عامل بر سر چیزی بود - «کم کردن سرعت» آمودی، آلتمن و ماسک گفتند بله، اساساً. آلتمن همچنین اظهار داشت که OpenAI امسال به دلیل نگرانیهای ایمنی، عرضه اولیه سهام (IPO) انجام نمیدهد... در حالی که آنتروپیک هنوز به سمت آن میدود. آرام کردن این تنش دشوار است.
ترامپ آن را به عنوان یک «توطئه بیمارگونه» علیه هوش مصنوعی و مراکز داده رد کرد. مایکل بری هشدارها را به عنوان سر و صدای اغراقآمیز رد کرد. بنابراین حال و هوا این است: ترس وجودی از یک سو، بدبینی ناشی از میمهای ساختگی از سوی دیگر.
همچنین - نامهای امنیت سایبری به میدان آمدند. چون مسلماً راه مقابله با «هوش مصنوعی ممکن است سرکش شود»، «خرید نرمافزار امنیتی بیشتر» است. سرمایهداری راهی پیدا میکند..
شرکتهای برتر هوش مصنوعی در مورد ایجاد نهاد استاندارد خود بحث کردهاند
سیانان میگوید آنتروپیک، گوگل و اوپنایآی در مورد ایجاد نهاد استاندارد خودشان - مانند یک FINRA برای مدلهای پیشرو - صحبت کردهاند. هاسابیس ماهها پیش این ایده را مطرح کرد. اکنون ظاهراً این گروههای کاری واقعی هستند.
با بودجهی صنعتی. متخصصان مستقل. مدلهای پیشرفته را قبل از ارسال آزمایش میکنند. گفتگوها در مورد اینکه آیا واشنگتن میخواهد بازی کند یا نه، ادامه دارد.
خودتنظیمی همیشه باشکوه به نظر میرسد تا زمانی که به یاد بیاورید آزمایشگاههای یکسانی با هم مسابقه میدهند. بعد مثل یک باشگاه با قوانین پوشش به نظر میرسد. بعد حرفتان را پس میگیرید: باشه، شاید ارزیابهای خارجی با دسترسیهایی شبیه به کارمندان کمک کنند.
همه متقاعد نشدهاند. طبق گزارشها، زاکربرگ به ترامپ گفته است که از ایده FINRA برای هوش مصنوعی صرف نظر کند. بنابراین ائتلاف «ما خودمان را کنترل خواهیم کرد» از قبل یک مخالف معروف دارد.
آنتروپیک با ابزار جدید Claude مشاوران مالی را هدف قرار میدهد
در حالی که نیمی از بحثهای این صنعت متوقف شده بود، شرکت آنتروپیک، کلود را برای مشاوران مالی فرستاد. رابطهایی به بلکراک، شواب، آدپار - به علاوهی انبوهی از نامهای ثروتمند مانند انوستنت و اوریون - .
آمادهسازی جلسه. بررسی نمونه کارها. کارهای پرمشغله بعدی. چیزهای بیاهمیتی که به نوعی هنوز سهشنبهی یک انسان را میخورند.
هرچند زمانبندی قابل توجه است - چند روز پس از تلاش OpenAI برای جذب بانکداران و محققان در حوزه مالی. بنابراین بله، آنها در حال پیشروی هستند... و همچنین برای سهم کیف پول RIA رقابت میکنند. تناقضی خفیف. بسیار ملایم. بسیار واضح.
اگر مشاور شما شروع به صحبتهای مشکوک و بیپروا در مورد داراییهای شما کرد، خب، حالا میدانید چرا.
رهبران هوش مصنوعی خواستار کاهش سرعت هستند. تیم ترامپ میگوید که این به آنها بستگی دارد
وایرد (WIRED) این شوخی سیاسی را به خوبی به تصویر میکشد: روسای آزمایشگاهها میخواهند به آنها کمک شود تا سرعتشان را کم کنند؛ حال و هوای کاخ سفید این است که «عالیه، خودتون انجامش بدید»
دیوید سَکس اساساً میگفت اگر مدلهای عرضه نشدهتان شما را میترساند، مسئولیتپذیر باشید - اما تظاهر به نیاز به معافیت ضدانحصار برای تشکیل یک کارتل ایمنی را کنار بگذارید. حرف تندی است. اگر پنج دقیقه این شرکتها را زیر نظر داشته باشید، بحث کردن با این حرف هم کمی سخت است.
حرف ترامپ سادهتر است: آمریکا در هوش مصنوعی از چین پیشی میگیرد و او میخواهد این وضعیت به همین منوال ادامه پیدا کند - «هر کسی که در هوش مصنوعی برنده شود، برنده است.» جانسون، رئیس مجلس نمایندگان، هشدار میدهد که یک قانونگذاری اضطراری میتواند رقابت را از دست بدهد.
بنابراین، تعهد آلتمن مبنی بر «ارزیابان مستقل با دسترسی شبیه به کارمندان» در این شکاف ناآرام - اعتمادسازی داوطلبانه در حالی که دولت بیتفاوت است - جای میگیرد. پیشرفت و تئاتر دوباره با هم سفر میکنند.
سوالات متداول
آییننامه جدید هوش مصنوعی مایکروسافت چه مواردی را ممنوع میکند؟
مایکروسافت یک آییننامهی رفتاری جامع با خطوط قرمز برای مدلهای خود منتشر کرد، از جمله عدم حملهی سایبری، عدم کار هستهای و عدم وجود کارخانههای دیپفیک. یک قانون کلیدی این است که مدل اجازه ندارد از تعطیلی فرار کند. این آییننامه قرار است هر چیزی را که کاربر در چت تایپ میکند، لغو کند. ساتیا نادلا نیز با جمعیت طرفداران سرعت در مرز، با احتیاط بیشتر آزمایشگاهها در مورد عموم، موافقت کرده است.
چرا OpenAI شرکت Glass Imaging را با قیمت حدود ۳۰۰ میلیون دلار خریداری کرد؟
طبق گزارشها، OpenAI شرکت Glass Imaging، تولیدکننده دوربین گوشیهای هوشمند، را با قیمتی بیش از ۳۰۰ میلیون دلار خریداری کرده است. این استارتاپ توسط مهندسان سابق حالت پرتره اپل تأسیس شده است که ویژگیهای دوربینی را ارائه دادهاند که مردم از قبل با آنها آشنا هستند. هدف آنها شبکههای عصبی است که دوربینهای خاص تلفن را یاد میگیرند و عکسها را با کلیک شاتر بهبود میبخشند، نه فقط اصلاحات هوش مصنوعی در مرحله پس از عکاسی. این معامله در کنار شایعات سختافزاری در مورد تلفنها، هدفونها و گجتهای همراه قرار میگیرد، اگرچه OpenAI در این مورد اظهار نظری نکرده است.
چرا سهام جهانی هوش مصنوعی پس از آنکه مدیران عامل آزمایشگاهها خواستار کاهش سرعت فعالیتها شدند، سقوط کرد؟
بازارها به لحظه نادر توافق مدیران عامل واکنش بدی نشان دادند، زمانی که آمودی خواستار کاهش سرعت توسعه شد و آلتمن و ماسک به طور کلی با آن موافق بودند. نام تراشهها آسیب دید، سافتبانک در آسیا آسیب دید، کتاب فناوری اروپا منقبض شد و بورس ساکس صبح سختی را پشت سر گذاشت. آلتمن همچنین اظهار داشت که OpenAI به دلیل نگرانیهای ایمنی امسال عرضه اولیه سهام انجام نمیدهد، در حالی که آنتروپیک هنوز به سمت آن میتازد. نامهای امنیت سایبری به عنوان مانعی در برابر ترس از هوش مصنوعی سرکش افزایش یافتند.
آیا آنتروپیک، گوگل و اوپنایآی در حال ایجاد نهاد استاندارد هوش مصنوعی مخصوص به خود هستند؟
سیانان گزارش میدهد که شرکتهای آنتروپیک، گوگل و OpenAI در مورد ایجاد یک نهاد استانداردهای صنعتی - مانند FINRA برای مدلهای پیشرو - با بودجه صنعتی، کارشناسان مستقل و آزمایش قبل از عرضه مدلهای پیشرفته بحث کردهاند. دمیس هاسابیس ماهها پیش این ایده را مطرح کرد و طبق گزارشها، گروههای کاری اکنون واقعی هستند. گفتگوها در مورد اینکه آیا واشنگتن میخواهد در این امر مشارکت کند یا خیر، ادامه دارد. همه متقاعد نشدهاند: طبق گزارشها، زاکربرگ به ترامپ گفته است که از ایده FINRA برای هوش مصنوعی صرف نظر کند.
کلود آنتروپیک برای مشاوران مالی چیست؟
شرکت آنتروپیک، ابزار Claude for Financial Advisors را به همراه رابطهایی به شرکتهای BlackRock، Schwab، Addepar و نامهای شناختهشده در حوزه ثروت مانند Envestnet و Orion عرضه کرد. این ابزار، کارهای مشاورهای نه چندان جذاب مانند آمادهسازی جلسات، بررسی نمونه کارها و پیگیری کارهای پرمشغله را هدف قرار میدهد. این رونمایی چند روز پس از تلاش OpenAI برای جذب بانکداران و محققان در حوزه مالی انجام شد. این بدان معناست که آزمایشگاهها در حالی که همچنان برای سهم کیف پول RIA رقابت میکنند، در عرصه عمومی نیز در حال پیشرفت هستند.
تیم ترامپ چگونه به درخواست رهبران هوش مصنوعی برای کاهش سرعت این روند واکنش نشان داد؟
وایرد گزارش میدهد که روسای آزمایشگاهها برای کاهش سرعت به کمک نیاز دارند، در حالی که نظر کاخ سفید این است که خودشان باید این کار را انجام دهند. دیوید ساکس گفت اگر مدلهای منتشر نشده شما را میترساند، مسئولیتپذیر باشید - اما از تظاهر به نیاز به معافیت ضد انحصار برای تشکیل یک کارتل ایمنی دست بردارید. حرف سادهتر ترامپ این است که آمریکا چین را در زمینه هوش مصنوعی رهبری میکند و هر کسی که در هوش مصنوعی پیروز شود، برنده است. جانسون، رئیس مجلس نمایندگان، هشدار میدهد که یک قانونگذاری اضطراری میتواند رقابت را واگذار کند و تعهد ارزیابی مستقل آلتمن را در یک شکاف داوطلبانه قرار دهد.