🏛️ چگونه شرکتهای بزرگ فناوری از دستور اجرایی هوش مصنوعی ترامپ سر در آوردند؟ ↗
ترامپ از دستور اجرایی برنامهریزیشدهی هوش مصنوعی که بررسیهای ایمنی مدلهای جدید را الزامی میکرد، عقبنشینی کرد. دلیل اصلی این کار، در اصل این است: آمریکا را در رقابت با چین کند نکنید.
نکته قابل توجه این است که طبق گزارشها، این دستور از قبل نسبتاً ملایم بود - داوطلبانه، نه یک چکش نظارتی فراگیر. با این حال، رهبران فناوری به شدت علیه آن فشار آوردند و به آنچه میخواستند رسیدند. (گاردین)
🛡️ شرکت هوش مصنوعی Claude Mythos، ده هزار آسیبپذیری با شدت بالا را در نرمافزارهای پرکاربرد پیدا کرد ↗
شرکت آنتروپیک اعلام کرد که در پروژه Glasswing خود، با استفاده از Claude Mythos Preview، بیش از ۱۰،۰۰۰ آسیبپذیری با شدت بالا یا بحرانی پیدا کرده است. این آمار چشمگیر است، اما در عین حال مانند یک آژیر آتشنشانی است که شنل به تن دارد.
این شرکت میگوید ۱۷۲۶ مورد به عنوان یافتههای مثبت واقعی تأیید شدهاند که ۹۷ مورد در مراحل اولیه اصلاح و ۸۸ مورد مشاوره صادر شده است. بخش سخت ماجرا اکنون پیدا کردن اشکالات نیست - بلکه رفع آنها قبل از اینکه مهاجمان به همان ابزارها دست یابند، است. (اخبار هکرها)
🛰️ کاخ سفید ۹ میلیارد دلار برای سازمانهای جاسوسی جهت ارتقای سطح هوش مصنوعی تصویب کرد ↗
کاخ سفید درخواست محرمانه ۹ میلیارد دلاری برای خرید تراشههای پیشرفته برای سازمانهای اطلاعاتی ایالات متحده را با هدف اجرای مدلهای هوش مصنوعی پیشرفته برای کارهای طبقهبندیشده تصویب کرد.
کنگره هنوز باید بودجه بزرگتر را تصویب کند، اما ۸۰۰ میلیون دلار برای دسترسی سریعتر به محاسبات در حال برنامهریزی مجدد است. به سختی میتوان از معنای ضمنی آن گذشت: حتی سازمانهای جاسوسی اکنون در صف تراشههای هوش مصنوعی گیر افتادهاند، که هم پوچ و هم قابل پیشبینی است. (Inquirer.com)
🪞 «شما نمیتوانید همه چیز را کنترل کنید»: افزایش درخواست از جراحان پلاستیک برای ایجاد «چهره هوش مصنوعی» ↗
جراحان پلاستیک میگویند بیماران بیشتری سلفیهای ویرایششده با هوش مصنوعی را به عنوان اهداف جراحی ارائه میدهند - گونههای تیزتر، تقارن کامل، پوست بدون منافذ، و کل لیست خرید عجیب و غریب.
جراحان هشدار میدهند که هوش مصنوعی میتواند پیکسلها را تغییر دهد، نه آناتومی را. یکی از آنها عملهای جراحی توصیهشده توسط هوش مصنوعی را بررسی کرد که میتوانستند از ۱۰۰۰۰۰ پوند فراتر بروند و هنوز چهره فانتزی را ارائه ندهند. این یکی، هزارتوی کوچک آینهای ترسناک. (گاردین)
💰 قرار است شرکت آنتروپیک تا هفته آینده بیش از 30 میلیارد دلار سرمایه جذب کند ↗
طبق گزارشها، آنتروپیک (Anthropic) با ارزشگذاری حدود ۹۰۰ میلیارد دلار، در آستانهی جذب سرمایهای بالغ بر ۳۰ میلیارد دلار است. بله، این رقم سرسامآور است.
این دور جذب سرمایه به دلیل تقاضای زیاد برای کلود در حوزههای کدنویسی، گردشهای کاری تجاری و امنیت سایبری انجام میشود. این شرکت همچنین در تلاش است تا محاسبات بیشتری را در اختیار بگیرد، زیرا در حال حاضر در هوش مصنوعی، پول بیشتر سوخت پوشیدن کت و شلوار است. (بیزینس استاندارد)
🖼️ تصاویر ChatGPT نشانگرهای نامرئی هوش مصنوعی را حمل میکنند که هر کسی میتواند آنها را تشخیص دهد: آنچه کاربرانی که نمیتوانند هوش مصنوعی نسل بعد را فاش کنند، باید بدانند ↗
خروجیهای تصویر OpenAI اکنون دو سیگنال منشأ را حمل میکنند: فراداده C2PA و واترمارک SynthID گوگل دیپمایند. یکی زمینه فایل غنیتری را ارائه میدهد، در حالی که دیگری برای زنده ماندن در برابر اسکرینشاتها و فشردهسازی در نظر گرفته شده است.
همچنین یک ابزار تأیید عمومی در پیشنمایش وجود دارد. نه کاملاً بینقص - محققان حملات واترمارک را نشان دادهاند - اما این باعث میشود که «من کاملاً از هوش مصنوعی استفاده نکردم» یک دروغ کوچک بسیار خطرناکتر باشد. (تک تایمز)
سوالات متداول
چرا ترامپ از دستور اجرایی هوش مصنوعی عقبنشینی کرد؟
در این مقاله آمده است که طبق گزارشها، دستور اجرایی هوش مصنوعی برنامهریزیشده پس از فشار رهبران بزرگ فناوری، تعدیل شده است. این دستور پیش از این نسبتاً ملایم و داوطلبانه توصیف شده بود و بر بررسیهای ایمنی مدلهای جدید هوش مصنوعی تمرکز داشت. استدلال اصلی مخالف آن این بود که فرآیندهای بررسی اضافی میتواند رقابت ایالات متحده با چین در حوزه هوش مصنوعی را کند کند.
کلود میتوسِ آنتروپیک چه چیزی در نرمافزار پیدا کرد؟
شرکت آنتروپیک اعلام کرد که در پروژه Glasswing خود از Claude Mythos Preview برای شناسایی بیش از 10،000 آسیبپذیری با شدت بالا یا بحرانی در نرمافزارهای پرکاربرد استفاده کرده است. در این مقاله اشاره شده است که 1726 یافته به عنوان نقاط مثبت واقعی تأیید شدهاند و برخی از وصلهها و توصیهها قبلاً منتشر شدهاند. نگرانی گستردهتر این است که آیا مدافعان میتوانند این نقاط ضعف را قبل از اینکه مهاجمان از ابزارهای هوش مصنوعی مشابه سوءاستفاده کنند، برطرف کنند.
چرا سازمانهای جاسوسی آمریکا درخواست تراشههای هوش مصنوعی بیشتری دارند؟
در این مقاله آمده است که کاخ سفید درخواست محرمانه ۹ میلیارد دلاری برای کمک به سازمانهای اطلاعاتی ایالات متحده در خرید تراشههای پیشرفته برای مدلهای هوش مصنوعی پیشرو را تأیید کرده است. هدف، پشتیبانی از کارهای طبقهبندیشده هوش مصنوعی است که به حجم زیادی از محاسبات نیاز دارند. همچنین اشاره میشود که کنگره هنوز باید بودجه گستردهتری را تصویب کند، در حالی که مقداری پول برای دسترسی سریعتر برنامهریزی مجدد میشود.
«چهره هوش مصنوعی» در جراحی زیبایی به چه معناست؟
«چهره هوش مصنوعی» به بیمارانی اشاره دارد که سلفیهای ویرایششده با هوش مصنوعی را به عنوان نمونههایی از ظاهر دلخواه خود نزد جراحان پلاستیک میآورند. این تصاویر ممکن است ویژگیهای واضحتر، تقارن کامل یا پوستی غیرواقعی را نشان دهند. جراحانی که در این مقاله از آنها نقل قول شده است، هشدار میدهند که هوش مصنوعی میتواند پیکسلها را به راحتی تغییر دهد، اما آناتومی واقعی محدودیتهایی دارد که جراحی همیشه نمیتواند بر آنها غلبه کند.
نشانگرهای نامرئی روی تصاویر ChatGPT چه تاثیری بر کاربران دارند؟
در این مقاله آمده است که خروجیهای تصویر ChatGPT اکنون شامل سیگنالهای منشأ مانند فراداده C2PA و واترمارک SynthID هستند. این نشانگرها میتوانند به شناسایی تصاویر تولید شده توسط هوش مصنوعی کمک کنند، از جمله در مواردی که ممکن است کسی نخواهد استفاده از هوش مصنوعی را فاش کند. در این مقاله همچنین اشاره شده است که واترمارک بیعیب و نقص نیست، اما تشخیص استفاده از تصویر هوش مصنوعی فاش نشده را آسانتر میکند.