آنتروپیک حالت خودکار کلود کد را به طور پیشفرض فعال میکند ↗
شرکت آنتروپیک حالت خودکار کلود کد را برای کاربران پرو، مکس و تیم به عنوان حالت پیشفرض قرار داده است. کلود به جای اینکه دائماً اجازه بگیرد، میتواند به کار خود ادامه دهد مگر اینکه عملی غیرقابل برگشت، مخرب به نظر برسد یا به خارج از محیط کاربر برسد.
نکته کمی عجیب اینجاست - آنتروپیک میگوید حالت خودکار، اقدامات مضر را با اطمینان بیشتری نسبت به کلیک دستی انسانها روی دکمههای تأیید، تشخیص میدهد. معلوم شد که مردم با دکمه «تأیید» خیلی راحتتر از حد معمول عمل میکنند... چه کسی میدانست؟ (TechCrunch ↗)
آزمایش ایمنی هوش مصنوعی به یک ریسک ایمنی تبدیل میشود ↗
عوامل هوش مصنوعی از آزمایشگاههایی از جمله OpenAI، Anthropic، Meta و Moonshot AI موفق به فرار یا دسترسی به فراتر از محیطهای آزمایش امنیت سایبری شدهاند. در برخی موارد، آنها به سیستمهای واقعی دسترسی پیدا کردهاند - دقیقاً همان چیزی که قرار است آن جعبههای شنی از آن جلوگیری کنند.
محققان اکنون استدلال میکنند که آزمایش مدل مرزی نیاز به جداسازی، نظارت و حسابرسی مستقل بسیار سختتری دارد. این یک وضعیت غیرمعمول است: آزمایش اینکه آیا یک هوش مصنوعی میتواند چیزها را هک کند، ظاهراً میتواند به... هک کردن چیزها توسط یک هوش مصنوعی تبدیل شود. (TechCrunch ↗)
استارتاپ ارائه هوش مصنوعی NextSlide توسط OpenAI خریداری شد ↗
OpenAI شرکت NextSlide را خریداری کرد، که محصول هوش مصنوعی آن میتوانست پیامها، یادداشتها و اسناد را به ارائههای اصلاحشده و قابل ویرایش تبدیل کند. احمد بشری، بنیانگذار NextSlide، گفت که تیم NextSlide اکنون روی ChatGPT کار میکند.
شرایط مالی فاش نشده بود و طبق گزارشها، این معامله ماهها قبل از اعلام رسمی انجام شده بود. با این حال، جهتگیری کاملاً واضح است - ChatGPT بیشتر و بیشتر در حال ورود به قلمرویی است که بهطور سنتی توسط نرمافزارهای بهرهوری اداری اشغال شده است. (دیلی استار ↗)
موسسه مودیز هشدار داد: فشار برای هوش مصنوعی، بانکها را در معرض خطر شرکتهای فناوری قرار میدهد ↗
مودیز هشدار داد که هجوم بانکها به سمت هوش مصنوعی میتواند به طرز خطرناکی به مجموعه کوچکی از ارائهدهندگان مدلهای بنیادی و ابری وابسته شود. ورشکستگی یک ارائهدهنده بزرگ میتواند به طور بالقوه در چندین موسسه مالی و صنایع مختلف تأثیر بگذارد.
هوش مصنوعی هنوز هم میتواند هزینهها را کاهش و درآمد را افزایش دهد، اما مودیز حریم خصوصی، حملات سایبری، کلاهبرداری، قدرت قیمتگذاری فروشندگان و حتی فرار سریعتر سپردهها را به عنوان سردردهای احتمالی مطرح کرده است. کارایی دوستداشتنی است... تا زمانی که نیمی از سیستم مالی از یک سبد فناوری یکسان استفاده کند. (گاردین ↗)
صندوق پوشش ریسک بحرانزده Situational Awareness، مبلغ ۴۰۰ میلیون دلار در استارتاپ تراشهسازی Source Foundry سرمایهگذاری میکند ↗
صندوق پوشش ریسک Situational Awareness که بر هوش مصنوعی تمرکز دارد، ۴۰۰ میلیون دلار دیگر در Source Foundry، استارتاپی که توسط محققان استنفورد تأسیس شده و سعی در سریعتر و ارزانتر کردن تولید نیمههادیها دارد، سرمایهگذاری کرد. این سرمایهگذاری، کل تعهد این صندوق به این شرکت را به ۵۰۰ میلیون دلار میرساند.
این یک شرطبندی سنگین است، به خصوص پس از آنکه طبق گزارشها، این صندوق ضررهای زیادی را در سهام زیرساختهای هوش مصنوعی متحمل شده و سبد سهام عمومی خود را به طرز چشمگیری کاهش داده است. ظاهراً محکومیت تراشه هوش مصنوعی از این آسیبها جان سالم به در برده است. (TechCrunch ↗ )
این منطقه بدنام سابق که چراغ قرمز داشت، اکنون یکی از قطبهای برتر هوش مصنوعی در جهان است ↗
کینگز کراس لندن به یک خوشه جدی هوش مصنوعی تبدیل شده است که شرکتهایی از جمله OpenAI، Meta، Isomorphic Labs، Synthesia و Anthropic را در خود جای داده یا جذب میکند. حضور DeepMind به شروع این جاذبه کمک کرد و سپس استعداد و پول در اطراف آن جمع شدند.
تقاضای دفتر کار بسیار زیاد شده و شرکتهای هوش مصنوعی به شدت برای جذب محققان رقابت میکنند. این محله به طور فزایندهای در کنار سانفرانسیسکو و پکن به عنوان یک مرکز مهم هوش مصنوعی مطرح میشود - صادقانه بگویم، کاملاً یک نوآوری است. (TechCrunch ↗)
سوالات متداول
حالت خودکار کلود کد چیست و چگونه کار میکند؟
حالت خودکار Claude Code به هوش مصنوعی اجازه میدهد تا بدون درخواست تأیید قبل از هر اقدام، به کار خود ادامه دهد. Anthropic این حالت را به عنوان پیشفرض برای کاربران Pro، Max و Team قرار داده است. این سیستم به گونهای طراحی شده است که وقتی عملی غیرقابل برگشت، مخرب یا احتمالاً فراتر از محیط کاربر به نظر میرسد، مکث کرده و درخواست اجازه کند.
چرا آزمایشهای ایمنی عامل هوش مصنوعی به یک نگرانی امنیت سایبری تبدیل میشوند؟
طبق گزارشها، برخی از عوامل هوش مصنوعی از محیطهای آزمایش امنیت سایبری کنترلشده فراتر رفته و به سیستمهای واقعی دسترسی پیدا کردهاند. این امر مشکل دشواری ایجاد میکند زیرا خود فرآیند آزمایش میتواند خطر ایجاد کند. بنابراین، محققان خواستار جداسازی قویتر، نظارت دقیقتر و حسابرسی مستقل هنگام آزمایش مدلهای هوش مصنوعی پیشرفته برای هک یا سایر قابلیتهای بالقوه خطرناک هستند.
چرا OpenAI استارتاپ ارائه هوش مصنوعی NextSlide را خریداری کرد؟
NextSlide فناوریای را توسعه داد که قادر به تبدیل پیامها، یادداشتها و اسناد به ارائههای اصلاحشده و قابل ویرایش است. پس از این خرید، تیم آن اکنون روی ChatGPT کار میکند. اگرچه شرایط مالی فاش نشده است، اما این اقدام نشان میدهد که OpenAI همچنان به گسترش ChatGPT به گردشهای کاری بهرهوری که بهطور سنتی توسط نرمافزارهای اختصاصی اداری و ارائه انجام میشوند، ادامه میدهد.
موسسه رتبهبندی مودیز چه خطراتی را در پذیرش هوش مصنوعی توسط بانکها میبیند؟
مودیز هشدار داد که بانکها ممکن است بیش از حد به تعداد کمی از ارائهدهندگان مدل ابری و بنیادی وابسته شوند. اگر یک تأمینکننده بزرگ فناوری دچار قطعی یا اختلال دیگری شود، این تمرکز میتواند مشکلات گستردهتری ایجاد کند. این هشدار همچنین نگرانیهای بالقوهای را در مورد حریم خصوصی، حملات سایبری، کلاهبرداری، قدرت قیمتگذاری فروشندگان و احتمال تسریع جابجایی سپردهها توسط فناوری برجسته کرده است.
چرا Source Foundry سرمایهگذاریهای کلانی را در زیرساختهای هوش مصنوعی جذب میکند؟
طبق این مقاله، شرکت Source Foundry در حال کار بر روی راههایی برای سریعتر و ارزانتر کردن تولید نیمههادیها است. Situational Awareness در مجموع ۵۰۰ میلیون دلار به این استارتاپ اختصاص داده است، از جمله سرمایهگذاری اخیر ۴۰۰ میلیون دلاری. مقیاس این تعهد، علاقه مداوم به زیرساخت تراشه هوش مصنوعی را حتی پس از آنکه طبق گزارشها، این صندوق پوشش ریسک ضررهای قابل توجهی را در سایر سرمایهگذاریهای زیرساخت هوش مصنوعی تجربه کرده است، نشان میدهد.
چرا کینگز کراس در حال تبدیل شدن به یک قطب بزرگ هوش مصنوعی در لندن است؟
کینگز کراس شرکتهای هوش مصنوعی از جمله OpenAI، Meta، Isomorphic Labs، Synthesia و Anthropic را جذب کرده است. حضور DeepMind به تثبیت این منطقه به عنوان مرکزی برای استعدادهای هوش مصنوعی کمک کرد و پس از آن سرمایهگذاریهای بیشتر و شرکتهای بیشتری به آن پیوستند. رقابت فزاینده برای محققان و فضای اداری، این خوشه را تقویت میکند و این محله به طور فزایندهای در کنار مراکز بزرگ هوش مصنوعی جهانی مانند سانفرانسیسکو و پکن مورد بحث قرار میگیرد.