OpenAI از لوایح کنگره ایالات متحده در مورد هوش مصنوعی و تهدیدات سلاحهای بیولوژیکی حمایت میکند
OpenAI اینجا از مجموعهای از لوایح دو حزبی در مورد دادههای زیستی حمایت میکند - قانون وب دادههای زیستی، قانون استانداردهای دادههای زیستی آماده برای هوش مصنوعی، قانون زیستشناسی مقیاس. هدف: متوقف کردن مدلها از تقویت بیش از حد سلاحهای زیستی و ویروسهای مصنوعی. مطالب سنگینی برای یک بیانیه مطبوعاتی سهشنبه.
و صبر کنید - آنها همچنین از بخش قانون FRONTIER که آزمایشگاههای برتر را مجبور به استخدام ارزیابهای ایمنی مستقل میکند، حمایت میکنند. طبق گزارش هیل، این اولین بار است که آنها چنین دستور فدرال خاصی را امضا کردهاند.
بنابراین... شرکتی که سالها میگفت «به ما اعتماد کنید» ناگهان از کنگره میخواهد که کاری کند دیگران هم به او نگاه کنند. پیشرفت و لابیگری میتوانند با هم پیش بروند.
در هر صورت، پیام رسا است: خطر بیولوژیکی دیگر یک پاورقی روی کاغذ سفید نیست.
بنیاد گیتس میگوید که یک میلیارد دلار برای گسترش دسترسی به هوش مصنوعی هزینه میکند.
در حالی که آزمایشگاهها در مورد توقف این روند بحث میکنند، بنیاد گیتس به تازگی متعهد شده است که حداقل یک میلیارد دلار طی دو سال آینده صرف کند تا هوش مصنوعی را به سمت افرادی که معمولاً از آن محروم هستند، سوق دهد.
تقسیم تقریبی از طرح دروازهبانها: حدود ۴۰٪ آموزش، ۴۰٪ مراقبتهای بهداشتی، ۱۰٪ کشاورزی، ۱۰٪ زبانها و لولهکشی دیجیتال. به معلمان ریاضی، ابزارهای کلینیک روستایی، کمک به خاک/محصولات کشاورزی فکر کنید - به علاوه مجموعه دادهها تا مدلها برای همیشه فقط انگلیسی نباشند.
حرف گیتس رک و صریح است - بدون مداخله، بازار ابتدا هوش مصنوعی را برای ثروتمندترینها میسازد. کمکهای خیریه میتواند مانند یک راه حل یا پانسمان برای یک مشکل ساختاری به نظر برسد. با این حال، یک میلیارد دلار بیخیالی نیست.
همچنین - سونوگرافی هوش مصنوعی مبتنی بر تلفن که هدف آن خوانشهایی در سطح بیمارستان است. اگر در مقیاس وسیع عرضه شود، چشمگیر خواهد بود.
مدل استدلال جدید Salesforce و Nvidia تمام چیزی است که آزمایشگاههای هوش مصنوعی باید از آن بترسند
افت دریمفورس: کوآ. اولین مدل استدلال CRM شرکت Salesforce، پس از آموزش روی Nemotron با وزن باز انویدیا - با هدف فروش، پشتیبانی، امور پیچیده و چند مرحلهای سازمانی که Claude و ChatGPT معمولاً برای آنها مسیریابی میشوند.
هیچ داده واقعی از مشتری در آموزش وجود ندارد - در عوض از شخصیتهای مصنوعی، از جمله "تماسگیرندگان خشمگین"، استفاده میشود که تقریباً بیش از حد واضح است. Salesforce وزنها را در محدوده اعتماد خود نگه میدارد. بخش CRM آنها ادعا میکند که با توکنهای کمتر، خطاهای کمتری دارد. Tokenomics. شعار صنعتی مورد علاقه همه.
البته آنها آنتروپیک را کنار نمیگذارند. کلودفورس هنوز وجود دارد. پس بله - موتور استدلال خودتان را بسازید و به اجاره آزمایشگاههای پیشرو ادامه دهید. تناقض. ملایم. به شدت سیلزفورس.
خلبانان همین الان هم در حال کار هستند - فرمول یک، بیمارستانها، اتحادیههای اعتباری. آزمایشگاههای پیشرو شاید باید کمی بیشتر تلاش کنند.
متا اکنون به عوامل هوش مصنوعی اجازه میدهد تا بخشهای خستهکنندهی راهاندازی واتساپ بیزینس را مدیریت کنند
حرکت متا کمتر نمایشی-وجودی است، بیشتر «لطفاً توسعهدهندگان را مجبور نکنید روی دوازده کنسول کلیک کنند.» ابزارهای جدید واتساپ تجاری MCP به Claude، Cursor، Codex، ChatGPT - نماینده خود را انتخاب کنید - اجازه میدهد پیامرسانی تجاری را با گپ زدن در مورد آن تنظیم کنید.
حساب کاربری ایجاد کنید. شماره را تأیید کنید. برای Cloud API ثبت نام کنید. قالبها را پیشنویس کنید. وبهوکها را تماشا کنید. حتی وقتی شرایط خدمات یا پرداخت بیسروصدا با شکست مواجه میشود، به شما غر بزنند. کار چسبی کسلکنندهای که هیچکس نمیخواهد آن را داشته باشد.
آشنایی سازمانی از طریق چت و MCP در همه جا تا زمانی که چیزی به طرز خنده داری خراب شود، هر دو می توانند درست باشند.
به هر حال - اگر ناگهان در تنظیمات واتساپ بیزینس خود احساس کردید که باید با یک کارآموز کمی مشتاق صحبت کنید، حالا میدانید چرا.
اختلاف نظر هوانگ از انویدیا با مدیران عامل Anthropic و OpenAI در مورد ایمنی هوش مصنوعی در Dreamforce
همان صحنهی ماسکون، با صداهای مخالف. آمودی به بنیوف میگوید که سرعت، شیوهی رهبری توست - الگو باش، بهتر باش. هوانگ ادامه میدهد و سرعت در مقابل ایمنی را «انتخابی نادرست» مینامد. نیروهای بازار. نیازی به قانون جدیدی نیست. سریع بدو... مگر اینکه قرار باشد چیزی ناامن را ارسال کنی، در آن صورت مکث کن.
آلتمن بعداً گفت: ایمنی و نظارت بر قابلیتها مقدم است. «نباید هیچ قید و شرطی در این مورد وجود داشته باشد.» بنابراین این سه مدیرعامل با هم همسو نیستند. شاید در کنار هم باشند.
جمعیت در یک روز سخنرانی، تمام طیفها را دریافت کرد - موعظههای مربوط به کاهش سرعت، خوشبینی در مورد تراشههای قدرتمند، و تأکید OpenAI بر مسئولیتپذیری بدون هیچ راه فراری «مگر اینکه رقبا تقلب کنند».
اینکه کدام استدلال در عمل پیروز میشود، هنوز مشخص نیست. منتظر باشید که در سهماههی بعدی چه چیزی عرضه خواهد شد. حرف مفت است، اما پردازندههای گرافیکی نه.
سازمان نظارت بر دادههای اسپانیا اولین گزارش نقض دادههای مرتبط با عامل هوش مصنوعی را منتشر کرد
اداره AEPD اسپانیا میگوید اولین اخطار خود را در مورد نقض اطلاعات شخصی که گفته میشود توسط یک عامل هوش مصنوعی انجام شده است، دریافت کرده است - با استفاده از یک LLM شناخته شده برای یافتن حفرهها، نفوذ، دستکاری دادههای شخصی و بررسی فاکتورها.
دخالت محدود انسان در مراحل مختلف حمله. این بخش ترسناک ماجراست. نه علمی تخیلی. یک حادثهی اداری با محوریت خودمختاری.
این آژانس محتاط است: نام مدل یا قربانی را ذکر نمیکند؛ میگوید زیرساخت ارائهدهنده صرفاً به این دلیل که کسی یک مأمور را هدایت کرده، به خطر نیفتاده است. هنوز در دست بررسی است. هنوز نگرانکننده است.
یک مورد خاص دیگر مد نیست. اما دیگر در حد فرضیه هم نیست. کنترلکنندهها، کرونومترهایتان را آماده کنید - حملات سریعتر شدهاند.
سوالات متداول
OpenAI در کنگره از کدام لوایح هوش مصنوعی و سلاحهای زیستی حمایت میکند؟
OpenAI مجموعهای از لوایح دو حزبی در مورد دادههای زیستی از جمله قانون وب دادههای زیستی، قانون استانداردهای دادههای زیستی آماده برای هوش مصنوعی و قانون مقیاس زیستشناسی را تأیید کرد. هدف این است که مدلها از تقویت بیش از حد سلاحهای زیستی و ویروسهای مصنوعی جلوگیری کنند. OpenAI همچنین از مفاد قانون FRONTIER حمایت میکند که آزمایشگاههای برتر را مجبور به استخدام ارزیابان ایمنی مستقل میکند - طبق گزارشها، این اولین باری است که چنین حکم فدرال خاصی را امضا میکند. ریسک زیستی دیگر به عنوان یک پاورقی در کاغذ سفید تلقی نمیشود.
بنیاد گیتس چگونه یک میلیارد دلار برای دسترسی به هوش مصنوعی هزینه میکند؟
بنیاد گیتس متعهد شد که حداقل یک میلیارد دلار طی دو سال برای گسترش دسترسی هوش مصنوعی به افرادی که معمولاً پسانداز میکنند، اختصاص دهد. طرح دروازهبانان تقریباً حدود ۴۰٪ آموزش، ۴۰٪ مراقبتهای بهداشتی، ۱۰٪ کشاورزی و ۱۰٪ زبانها و لولهکشی دیجیتال را شامل میشود و شامل معلمان ریاضی، ابزارهای کلینیک روستایی، کمک به خاک و محصولات کشاورزی و مجموعه دادهها میشود تا مدلها برای همیشه فقط انگلیسی نباشند. گیتس استدلال میکند که بدون مداخله، بازار ابتدا هوش مصنوعی را برای ثروتمندترین افراد میسازد. سونوگرافی هوش مصنوعی مبتنی بر تلفن که با هدف خوانشهای در سطح بیمارستان انجام میشود، اگر در مقیاس وسیع عرضه شود، یک نمونه بلندپروازانه است.
مدل استدلال کوآ در Salesforce و Nvidia چیست؟
کوآ اولین مدل استدلال CRM شرکت Salesforce است که پس از آموزش بر روی نرمافزار Nemotron انویدیا، برای فروش، پشتیبانی و کارهای پیچیده چند مرحلهای سازمانی طراحی شده است. در این آموزش از شخصیتهای مصنوعی - از جمله تماسگیرندگان خشمگین - به جای دادههای واقعی مشتری استفاده شده است و Salesforce وزنها را در محدوده اعتماد خود نگه میدارد. میزهای CRM با توکنهای کمتر، خطاهای کمتری را گزارش میدهند. Salesforce در حال کنار گذاشتن Anthropic نیست: ClaudeForce باقی میماند، بنابراین در حال ساخت موتور استدلال خود است و در عین حال آزمایشگاههای پیشرو را اجاره میکند، و در حال حاضر نمونههای آزمایشی آن در فرمول ۱، بیمارستانها و اتحادیههای اعتباری اجرا میشود.
چگونه MCP واتساپ بیزینس متا به عوامل هوش مصنوعی کمک میکند؟
ابزارهای جدید واتساپ بیزینس متا (Meta) برای مدیریت پیامهای تجاری (WhatsApp Business Tools MCP) به نمایندگانی مانند Claude، Cursor، Codex و ChatGPT اجازه میدهد تا با چت کردن در مورد پیامهای تجاری، آنها را تنظیم کنند. نمایندگان میتوانند حساب کاربری ایجاد کنند، شماره را تأیید کنند، برای Cloud API ثبتنام کنند، قالبها را پیشنویس کنند، وبهوکها را تماشا کنند و وقتی شرایط خدمات یا پرداخت بیسروصدا با شکست مواجه میشود، غر بزنند. هدف این است که جایگزین کار خستهکنندهی چند کنسولی شود که هیچکس نمیخواهد آن را داشته باشد. آشنایی سازمانی بیشتر شبیه صحبت با یک کارآموز مشتاق میشود تا کلیک کردن روی دوازده صفحهی مدیریتی.
چگونه هوانگ از انویدیا در مورد ایمنی هوش مصنوعی از آنتروپیک و OpenAI فاصله گرفت؟
در دریمفورس، آمودی به بنیوف گفت که سرعت عمل، شیوهی رهبری شماست - الگو باشید و بهتر باشید - در حالی که جنسن هوانگ سرعت در مقابل ایمنی را انتخابی نادرست ناشی از نیروهای بازار خواند و گفت که هیچ قانون جدیدی لازم نیست، مگر اینکه در شرف ارسال چیزی ناامن باشید. آلتمن بعداً بر ایمنی و نظارت قبل از قابلیتها بدون هیچ قید و شرطی تأکید کرد. این سه مدیرعامل با هم همسو نبودند: در یک صحنه، موعظههای مربوط به کاهش سرعت، خوشبینی در مورد چیپهای برتر و مسئولیتپذیری OpenAI برگزار شد. آنچه در سهماههی بعدی ارسال میشود، مهمتر از جملات کلیدی خواهد بود.
نهاد ناظر بر دادههای اسپانیا در مورد نقض امنیتی یک عامل هوش مصنوعی چه گزارشی ارائه داد؟
سازمان AEPD اسپانیا اولین اطلاعیه خود را در مورد نقض اطلاعات شخصی که گفته میشود توسط یک عامل هوش مصنوعی با استفاده از یک LLM شناخته شده برای یافتن حفرهها، ورود، دستکاری دادههای شخصی و بررسی فاکتورها انجام شده است، منتشر کرد. مداخله محدود انسان در مراحل مختلف حمله، بخش ترسناک ماجرا است - یک حادثه اداری با استقلال ذاتی. این آژانس نام مدل یا قربانی را ذکر نکرد و گفت که زیرساخت ارائه دهنده فقط به دلیل اینکه کسی یک عامل را هدایت کرده است، به خطر نیفتاده است. این پرونده هنوز در دست بررسی است، اما دیگر فقط یک نظریه نیست.