شرکت OpenAI به دلیل نگرانیهای امنیتی، بخشی از کار روی مدل هوش مصنوعی Astra را متوقف میکند ↗
شرکت OpenAI پس از ارزیابیهایی که نشان داد تواناییهای سایبری آسترا ممکن است از آستانه «بحرانی» عبور کرده باشد، کار داخلی روی آن را متوقف میکند، چرا که این سیستم عامل میتواند بدون دخالت انسان، آسیبپذیریها را پیدا و از آنها سوءاستفاده کند یا حملاتی را از یک هدف سطح بالا انجام دهد. بله... این یک خط قرمز نسبتاً جدی برای عبور است.
این شرکت در حال تشدید آزمایشهای ایزوله، دسترسی به شبکه و ابزار، محافظت از وزن مدل، رمزگذاری و نظارت است. آسترا در حادثه قبلی Hugging Face شرکت OpenAI دخیل نبود، اما الگوی گستردهتر عوامل خودمختار، مهار را به نگرانی بسیار بزرگتری تبدیل میکند. (منبع: گاردین)
اپل میگوید کاربران مک در چین میتوانند به سرویس هوش مصنوعی Qwen علیبابا متصل شوند ↗
کاربران واجد شرایط مک در سرزمین اصلی چین اکنون میتوانند Qwen علیبابا را به سیری و ابزارهای نوشتاری اپل متصل کنند. این به معنای پاسخهای دقیقتر به همراه تجزیه و تحلیل اسناد و تصاویر، در کنار تولید متن و تصویر از توضیحات است.
راستش را بخواهید، این یک پیوند جالب است - اپل مسیری منطبق با قوانین محلی برای ویژگیهای قویتر هوش مصنوعی در بازار بهشدت رقابتی کامپیوترهای شخصی به دست میآورد، در حالی که علیبابا Qwen را بسیار عمیقتر در اکوسیستم شخص دیگری جای میدهد. اپل میگوید اطلاعاتی که از طریق این افزونه ارسال میشوند، نمیتوانند توسط علیبابا برای آموزش مدلهایش استفاده شوند. (منبع: رویترز)
گوگل دیپمایند با تغییر نقش هوش مصنوعی دمیس هاسابیس، یکی از بنیانگذاران، وارد دوران جدیدی میشود ↗
دمیس هاسابیس رهبری روزمرهی دیپمایند را رها میکند و ضمن اینکه سمت دانشمند ارشد در آلفابت را نیز بر عهده میگیرد، رئیس هیئت مدیره نیز میشود. کورای کاووکچوغلو، همکار قدیمیاش، به جای مدیرعامل، کنترل عملیاتی را به عنوان معاون ارشد رئیس بر عهده میگیرد - تغییر عنوانی ظریف که حرفهای زیادی برای گفتن دارد.
این تغییر و تحولات در کنار سایر خروجهای عمدهی محققان و سوالاتی در مورد اینکه آیا DeepMind در حال کاهش استقلال و جذب بیشتر در ماشین هوش مصنوعی تجاری گوگل است، مطرح میشود. گوگل این موضوع را که این تغییر به عملکرد رقابتی Gemini مرتبط است، رد میکند. (منبع: گاردین)
تعداد فزایندهای از کودکان بریتانیایی گزارش میدهند که ویدیوهای جعلی عمیقی از خودشان دیدهاند ↗
گزارشهای کودکان بریتانیایی در مورد تصاویر جعلی یا دستکاریشده از خودشان به شدت افزایش یافته است. «ریپورت ریمو» تنها در شش ماه ۴۲۰ گزارش دریافت کرده است که از مجموع کل گزارشهای سالانه قبلی خود که ۳۹۷ گزارش بود، فراتر رفته است. ابزارهای «برهنهسازی» مبتنی بر هوش مصنوعی، مقیاسبندی این مشکل را به طرز وحشتناکی آسانتر میکنند.
بنیاد دیدهبان اینترنت میگوید بسیاری از تصاویر دستکاریشدهی گزارششده به اندازهای جدی بودهاند که از مرز سوءاستفادهی جنسی از کودکان عبور کردهاند. برخی از قربانیان نیز هدف اخاذی جنسی قرار گرفتهاند که یک تصویر تولیدشده توسط هوش مصنوعی را به سلاحی بسیار ملموس تبدیل میکند. (منبع: گاردین)
نظرسنجیها نشان میدهد که ویژگیهای هوش مصنوعی از ارزش تجاری پیشی گرفتهاند ↗
شرکتهای نرمافزاری سازمانی در حال ارائه ویژگیهای هوش مصنوعی هستند، اما مشتریان لزوماً از آنها استفاده نمیکنند. در یک نظرسنجی از بیش از ۲۶۰ کسبوکار نرمافزاری عمودی، ۵۱٪ گفتند که کمتر از یک چهارم مشتریانشان از قابلیتهای هوش مصنوعی ساخته شده توسط آنها استفاده میکنند. کمی عجیب است بعد از آن همه عرضه...
این گلوگاه کمتر شبیه قابلیتهای هوش مصنوعی و بیشتر شبیه یکپارچهسازی، امنیت، حریم خصوصی، تغییرات گردش کار و اثبات ارزش تجاری ملموس به نظر میرسد. یکی از پدیدههای عجیب و غریب «tokenmaxxing» است - مصرف زیاد هوش مصنوعی که در داشبورد چشمگیر به نظر میرسد، بدون اینکه شواهد روشنی وجود داشته باشد که نتایج بهتری ایجاد میکند. (منبع: فوربس)
هوش مصنوعی سریعتر از آنکه دادهها بتوانند با آن همگام شوند، در حال تغییر دادن کار است ↗
بحث هوش مصنوعی و مشاغل، نه تنها شفافتر نشده، بلکه پیچیدهتر هم شده است. مطالعهای که بیش از ۲۱۰۰۰ شرکت آمریکایی را پوشش میدهد، نشان میدهد که تعداد کل کارکنان شرکتهایی که بیشترین استفاده را از هوش مصنوعی کردهاند، ۱۰ درصد و استخدامهای سطح پایین آنها ۱۲ درصد افزایش یافته است، در حالی که شرکتهایی که کمتر از هوش مصنوعی استفاده کردهاند، هیچ رشدی در تعداد کارکنان خود نشان ندادهاند.
اما تحقیقات دیگر، فشار اشتغال را در میان کارگران جوانتر در نقشهای مرتبط با هوش مصنوعی نشان داده است و اقتصاددانان هشدار میدهند که شرکتهای در حال رشد هنوز میتوانند استخدام کنند، در حالی که هوش مصنوعی مشاغل را در سراسر اقتصاد تغییر میدهد. بنابراین، هوش مصنوعی در حال از بین بردن مشاغل و ایجاد آنها است... یا حداقل مجموعه دادههای متناقض میخواهند شما را باور کنند. (منبع: Fortune)
سوالات متداول
بزرگترین اخبار هوش مصنوعی در حال حاضر چیست؟
اخبار اخیر هوش مصنوعی به چندین موضوع مشترک اشاره دارد: قابلیتهای خودمختار قویتر، کنترلهای امنیتی سختگیرانهتر، ادغام عمیقتر پلتفرمها، تغییرات رهبری، خطرات ایمنی آنلاین و ارزش تجاری نامشخص. OpenAI در حال تشدید تدابیر حفاظتی پیرامون Astra است، اپل در حال اتصال Qwen به مکها در چین است و DeepMind در حال تغییر رهبری است. در عین حال، نگرانیها در مورد دیپفیک، پذیرش سازمانی و تأثیر هوش مصنوعی بر اشتغال رو به افزایش است.
چرا OpenAI بخشی از کار روی Astra را متوقف کرد؟
طبق گزارشها، OpenAI پس از ارزیابیهایی که نشان میداد قابلیتهای سایبری مدل ممکن است به سطح بحرانی رسیده باشد، کار داخلی Astra را که الزامات امنیتی سختگیرانهتری را برآورده نمیکرد، متوقف کرد. نگرانی این است که یک عامل پیشرفته میتواند بهطور بالقوه آسیبپذیریها را با دخالت محدود یا بدون دخالت انسان کشف و بهرهبرداری کند. در پاسخ، OpenAI در حال تقویت آزمایشهای جداگانه، کنترلهای دسترسی، رمزگذاری، نظارت و محافظت در اطراف وزنهای مدل است.
علیبابا کویین چگونه با مکهای اپل در چین همکاری خواهد کرد؟
کاربران واجد شرایط مک در سرزمین اصلی چین میتوانند سرویس Qwen علیبابا را به سیری و ابزارهای نوشتاری اپل متصل کنند. این ادغام میتواند از پاسخهای دقیقتر، تجزیه و تحلیل اسناد و تصاویر و تولید متن یا تصاویر از توضیحات پشتیبانی کند. برای اپل، این توافق مسیری منطبق با قوانین محلی را برای عملکرد قویتر هوش مصنوعی فراهم میکند، در حالی که علیبابا دسترسی عمیقتری به اکوسیستم اپل پیدا میکند. اپل میگوید از مطالب ارسالی نمیتوان برای آموزش مدلهای علیبابا استفاده کرد.
تغییر رهبری دیپمایند برای هوش مصنوعی گوگل چه معنایی دارد؟
دمیس هاسابیس از رهبری روزمره دیپمایند کنارهگیری میکند و در عوض به عنوان رئیس هیئت مدیره و دانشمند ارشد در آلفابت منصوب میشود. کورای کاووکچوغلو به عنوان معاون ارشد، کنترل عملیاتی را بر عهده خواهد گرفت. این تغییر، سوالاتی را در مورد اینکه آیا دیپمایند در حال ادغام نزدیکتر با عملیات گستردهتر هوش مصنوعی تجاری گوگل است، مطرح کرده است، اگرچه گوگل این گمانهزنیها را که این تغییر ساختار با عملکرد رقابتی جمینی مرتبط است، رد میکند.
چرا دیپفیکهای هوش مصنوعی به نگرانی بزرگتری در مورد ایمنی کودکان تبدیل میشوند؟
ابزارهای دستکاری تصویر مبتنی بر هوش مصنوعی میتوانند ایجاد تصاویر جعلی واقعگرایانه و صریح را در مقیاس وسیع آسانتر کنند. کودکان بریتانیایی به طور فزایندهای تصاویر دستکاری شده یا ساختگی از خود را گزارش میدهند و برخی موارد به اندازهای جدی بودهاند که به آستانه سوءاستفاده جنسی از کودکان رسیدهاند. این تصاویر همچنین میتوانند برای اخاذی جنسی استفاده شوند، به این معنی که یک تصویر ساختگی همچنان میتواند آسیبهای قابل توجهی به اعتبار، احساسات و امور مالی وارد کند.
آیا کسبوکارها و کارگران هنوز از هوش مصنوعی بهرهمند میشوند؟
آخرین اخبار هوش مصنوعی نشان میدهد که پاسخ این سوال متفاوت است. بسیاری از شرکتهای نرمافزاری، ویژگیهای هوش مصنوعی را سریعتر از پذیرش مشتریان، اضافه میکنند و ادغام، حریم خصوصی، امنیت و ارزش تجاری قابل اندازهگیری، همچنان موانع اصلی هستند. دادههای اشتغال نیز به همین ترتیب پیچیده است: برخی از شرکتهایی که پذیرش زیادی از هوش مصنوعی دارند، استخدام را گسترش میدهند، در حالی که تحقیقات دیگر به فشار بر کارگران جوانتر در نقشهای مرتبط با هوش مصنوعی اشاره دارد. تأثیر کلی به شدت به صنعت، گردش کار و نحوه پیادهسازی هوش مصنوعی بستگی دارد.