🛡️ به گزارش فایننشال تایمز، نهادهای نظارتی بریتانیا برای ارزیابی خطرات جدیدترین مدل هوش مصنوعی انسانمحور عجله دارند ↗
بنا به گزارشها، ناظران مالی بریتانیا پس از نگرانیهایی مبنی بر احتمال افشای نقاط ضعف جدی در سیستمهای حیاتی توسط مدل جدید Mythos شرکت Anthropic، به سرعت در حال پیشرفت هستند. این مذاکرات شامل بانک انگلستان، FCA، خزانهداری و مرکز ملی امنیت سایبری میشود - که برای پیشنمایش یک مدل، ترکیب قدرتمندی است.
نگرانی این است که Mythos به طور غیرمعمولی در یافتن آسیبپذیریهای نرمافزاری ماهر است، اگرچه Anthropic میگوید که این انتشار کاملاً محدود است و هدف آن کارهای امنیتی دفاعی است. انتظار میرود بانکها، بیمهگران و صرافیها در جریان این موضوع قرار گیرند، بنابراین اکنون این موضوع کمتر شبیه شایعات آزمایشگاهی و بیشتر شبیه سیاستهای زیرساختی به نظر میرسد.
🤖 در کنفرانس HumanX، همه در مورد کلود صحبت میکردند ↗
به نظر میرسید که آنتروپیک لحن HumanX را تعیین میکرد - داستان از این قرار بود. در سراسر پنلها، گفتگوهای فروشندگان و گپ و گفتهای داخل راهرو، کلود مدام به عنوان الگویی که افراد برای گردشهای کاری تجاری و کدنویسی بیشتر به دنبالش بودند، ظاهر میشد.
چیزی که جلب توجه میکرد، سکوت نسبی پیرامون ChatGPT بود. این مقاله نشان میدهد که OpenAI هنوز مقیاس و پول دارد، اما حال و هوای کنفرانس به سمت Claude به عنوان ابزاری با جذابیت سازمانی بیشتر در حال حاضر متمایل بود - یا حداقل اینطور به نظر میرسد.
📄 کلود برای ورد از شرکت آنتروپیک، چالش دیگری برای امپراتوری نرمافزاری مایکروسافت است ↗
شرکت آنتروپیک (Anthropic) نسخه بتای Claude for Word را منتشر کرد و به جای اینکه صرفاً به عنوان یک ابزار توسعهدهنده باقی بماند، بیشتر به نرمافزارهای اداری روزمره نفوذ کرد. این نرمافزار میتواند به سؤالات مربوط به یک سند با استناد به بخشهای قابل کلیک پاسخ دهد، متن انتخاب شده را بدون خراب کردن قالببندی ویرایش کند و تغییرات ردیابی شده را مدیریت کند.
مخاطب هدف کاملاً مشخص است: تیمهای سنگین اسناد، به ویژه تیمهای حقوقی و مالی. این باعث میشود که این قابلیت چیزی بیش از یک ویژگی اضافه باشد - این یک اشاره مستقیم به قلمرو مایکروسافت و حرکتی نسبتاً جسورانه است.
🌐 رباتهای هوش مصنوعی در حال استخراج اطلاعات از وب هستند و آنتروپیک پیشتاز این عرصه است ↗
نگاهی جدید به دادههای Cloudflare نشان میدهد که شرکتهای هوش مصنوعی بسیار بیشتر از آنچه که برمیگردانند، از وب استخراج میکنند. آمار کلیدی، نسبت خزش به ارجاع است - اینکه رباتها چند وقت یکبار صفحات را میخراشند در مقابل اینکه چند وقت یکبار کاربران را به صفحات برمیگردانند - و Anthropic به طور خاص در این زمینه عملکرد بدی دارد.
نسبت آنتروپیک ۸۸۰۰ به ۱ گزارش شده است، و OpenAI نیز این نسبت را بالا اما بسیار پایینتر میداند. نکتهی کلیتر کاملاً درست از آب در میآید: روش قدیمی وب این بود که ما را بخزد، سپس برای ما ترافیک ارسال کند. موتورهای پاسخ هوش مصنوعی بخش اول را نگه میدارند و اجازه میدهند بخش دوم به صورت مه رقیق شود.
⚔️ نگاهی به تشدید مسابقه تسلیحاتی جهانی هوش مصنوعی، همزمان با هجوم ایالات متحده، چین، روسیه و دیگران برای ساخت سلاحها و سیستمهای دفاعی خودکار مبتنی بر هوش مصنوعی ↗
آخرین پوشش خبری هوش مصنوعی نظامی کمتر درباره نمایشهای پر زرق و برق و بیشتر درباره شتاب استراتژیک است. قدرتهای بزرگ همزمان در حال پیشبرد سیستمهای دفاعی خودکار و مجهز به هوش مصنوعی هستند، که باعث میشود کل ماجرا مانند یک مسابقه دو امدادی به نظر برسد که همه چوب را گرفته و ترمز را فراموش کردهاند.
این موضوع سوالات همیشگی - کنترل، تشدید، پاسخگویی - را مطرح میکند، اما اکنون با فوریت بیشتری. زمانی که هوش مصنوعی عمیقتر در هدفگیری، نظارت و تصمیمگیری در میدان نبرد گنجانده شود، کلمه «آزمایشی» مانند یک برچسب کاغذی روی چیزی که از قبل در حال حرکت است، به نظر میرسد.
🏭 سافتبانک ژاپن واحدی را برای توسعه هوش مصنوعی بومی راهاندازی میکند ↗
سافتبانک با سونی، هوندا و دیگر شرکتهای ژاپنی همکاری کرده است تا یک سرمایهگذاری جدید هوش مصنوعی با تمرکز بر «هوش مصنوعی فیزیکی» - مدلهایی که برای کنترل ماشینها و رباتها طراحی شدهاند، نه فقط پاسخ دادن از طریق متن - تشکیل دهند. این مسیری متفاوت از مسابقه معمول چتباتها و شاید جالبتر از آن است.
این جاهطلبی بسیار بزرگ است و طبق گزارشها، این تلاش با هدف ایجاد یک مدل بنیادی بسیار بزرگ و مسیری طولانی به سمت استفاده صنعتی انجام میشود. این بخشی از استراتژی فناوری ملی، بخشی از پروژه بلندپروازانه و بخشی از انیمه مکانیک با جلسات هیئت مدیره است.
سوالات متداول
چرا نهادهای نظارتی بریتانیا مدل Mythos شرکت Anthropic را از نزدیک بررسی میکنند؟
گزارشها حاکی از آن است که مقامات بریتانیا Mythos را به عنوان یک خطر بالقوه میبینند زیرا ممکن است به طور غیرمعمولی در یافتن آسیبپذیریهای نرمافزاری ماهر باشد. طبق گزارشها، این بحثها شامل بانک انگلستان، FCA، خزانهداری و مرکز ملی امنیت سایبری میشود. این ترکیب از نهادها، نگرانیهایی را در مورد اثرات احتمالی بر سیستمهای حیاتی، به ویژه در امور مالی و زیرساختها، نشان میدهد.
چه چیزی مدل Anthropic Mythos را از یک نسخه معمولی هوش مصنوعی متفاوت میکند؟
نگرانی صرفاً این نیست که این یک مدل جدید است، بلکه این است که به نظر میرسد به ویژه در کارهای امنیتی دفاعی مربوط به کشف نقاط ضعف نرمافزاری توانمند است. طبق گزارشها، شرکت آنتروپیک میگوید دسترسی به شدت محدود شده است، که نشان میدهد این عرضه با احتیاط بیشتری نسبت به عرضه گسترده برای مصرفکنندگان انجام میشود. در عمل، این باعث میشود که این بهروزرسانی بیشتر شبیه یک قابلیت امنیتی کنترلشده به نظر برسد تا یک بهروزرسانی استاندارد چتبات.
چرا کلود در کنفرانس HumanX اینقدر مورد توجه قرار گرفت؟
طبق این مقاله، کلود بارها در پنلها، گفتگوهای فروشندگان و بحثهای غیررسمی به عنوان گزینهای قوی برای گردشهای کاری تجاری و کدنویسی ظاهر شد. این مقاله، آنتروپیک را به عنوان گزینهای معرفی میکند که در آن رویداد، با استقبال قابل توجهی از سوی کاربران سازمانی مواجه شده است. همچنین نشان میدهد که فضای پیرامون HumanX در ChatGPT آرامتر بوده است، اگرچه OpenAI هنوز مقیاس و منابع قابل توجهی دارد.
کلود فور ورد واقعاً برای تیمهای پر از سند چه کاری انجام میدهد؟
نسخه بتای شرح داده شده در اینجا به گونهای طراحی شده است که به جای تولید متن مستقل، درون اسناد کار کند. این نسخه میتواند به سوالات مربوط به یک سند با استناد به بخشها پاسخ دهد، بخشهای انتخاب شده را بدون ایجاد اختلال در قالببندی ویرایش کند و تغییرات ردیابی شده را مدیریت کند. این امر آن را به ویژه برای تیمهای حقوقی، مالی و سایر تیمهایی که به بررسی دقیق به جای پیشنویس اولیه نیاز دارند، مرتبط میکند.
نسبت خزش به ارجاع چه چیزی در مورد رباتهای هوش مصنوعی و وب میگوید؟
این مقاله این نسبت را به عنوان راهی برای مقایسه میزان خزش وبسایتها توسط شرکتهای هوش مصنوعی در مقابل تعداد دفعاتی که کاربران را به سایتهای دیگر بازمیگردانند، ارائه میدهد. در این چارچوب، نسبت بسیار بالا نشاندهنده استخراج با ترافیک بازگشتی کم است. آنتروپیک با این معیار عملکرد بسیار ضعیفی دارد، که انتقاد گستردهتر مبنی بر اینکه موتورهای پاسخ هوش مصنوعی ممکن است تبادل قدیمیتر فهرستبندی در ازای ارجاعات را تضعیف کنند، تشدید میکند.
چرا مردم پیشرفت هوش مصنوعی را هم به سلاحهای خودکار و هم به هوش مصنوعی فیزیکی مرتبط میدانند؟
این مقاله به دو روند مرتبط اشاره میکند: دولتها سیستمهای دفاعی مبتنی بر هوش مصنوعی را تسریع میکنند و شرکتهایی مانند SoftBank از مدلهایی که برای کنترل ماشینها و رباتها طراحی شدهاند، پشتیبانی میکنند. این دو در کنار هم نشان میدهند که هوش مصنوعی از چت و جستجو فراتر رفته و به سیستمهای فیزیکی که میتوانند حس کنند، تصمیم بگیرند و عمل کنند، وارد میشود. این امر سوالات بزرگتری را در مورد کنترل، پاسخگویی، استفاده صنعتی و سرعت حرکت این سیستمها از حالت آزمایشی به عملیاتی مطرح میکند.