مدیرعامل آنتروپیک طرحی را برای کاهش سرعت توسعه هوش مصنوعی تشریح کرد
داریو آمودی از صنعت خواست که... سرعت خود را کم کند. نه اینکه متوقف شود. سرعت. مقاله طولانی، سه مرحله، و هشداری مبنی بر اینکه خودسازی بازگشتی در حال حاضر سریعتر از آنکه بزرگسالان بتوانند آن را بررسی کنند، در حال پختن است.
شرکت آنتروپیک به طور یکجانبه از ارزیابهای مستقر در داخل ساختمان دعوت میکند - نشانها، میزها، لپتاپها و حق انتشار یافتهها بدون فیلتر روابط عمومی. سپس او میخواهد آزمایشگاههای دموکراتیک استانداردهای ایمنی را هماهنگ کنند. سپس، به نحوی، با دولتهای اقتدارگرا به توافق میرسد. روی کاغذ آسان است. در جاهای دیگر سخت است.
او هنوز هم میگوید هوش مصنوعی میتواند یک معجزه باشد. او همچنین میگوید یک گروه ناهماهنگ و توانمندتر ممکن است با یک باتنت مداوم، اینترنت را در دست بگیرد و صدها میلیارد دلار خسارت وارد کند. این دو جمله در کنار هم قرار میگیرند و با هم جور در نمیآیند.
اوه - و او میخواهد معافیت ضدانحصار محدودی داشته باشد تا گفتگوهای ایمنی خودشان یک مشکل قانونی نباشند. ترمزها با مدارک همراه هستند. البته که هستند.
سم آلتمن تأیید کرد که شرکت OpenAI امسال سهام خود را عرضه عمومی نخواهد کرد و گفت با توجه به نگرانیهای ایمنی هوش مصنوعی، عرضه اولیه سهام در حال حاضر در «لحظهای نامناسب» انجام خواهد شد
آلتمن برای یک مصاحبه اختصاصی نشست و تقویم عرضه اولیه سهام را از بین برد. او گفت، عرضه اولیه سهام در حال حاضر «لحظهای نسنجیده» خواهد بود. کار ایمنی انجام نشده است. هماهنگی انجام نشده است. جامعه آماده نیست. وقتی به او فشار آوردند - امسال نه.
بانکداران از قبل دور هم جمع شده بودند. پرونده محرمانه وجود دارد. حالا مدیرعامل میگوید که آنها اول باید کلی کار انجام دهند، از جمله اینکه بفهمند صنعت و دولتها اصلاً چطور با هم کار میکنند. انگار از صبر کردن خیالش راحت شده بود.
او همچنین گفت که ساختن هوش مصنوعی فراتر از کنترل انسان «کاملاً» امکانپذیر است - سپس قسم خورد که اگر مسیر این باشد، آموزش را متوقف خواهد کرد. جسورانه. شاید هم راحت. احتمالاً هر دو. او استدلال کرد که این درهمتنیدگی غیرانتفاعی/انتفاعی وجود دارد تا آنها بتوانند تصمیماتی بگیرند که آشکارا به نفع سهامداران نیست. خواهیم دید که آیا این جمله در تماس با یک آگهی پذیرش واقعی پابرجا میماند یا خیر.
سم آلتمن از OpenAI به توافق با سایر شرکتهای هوش مصنوعی برای مقابله با خطرات ایمنی اشاره میکند
همان مصاحبه، تیتر متفاوت، و این یکی زمزمه است. نشستن با آمودی، ماسک و دمیس هاسابیس حرکت طبیعی بعدی است. آلتمن: او فکر میکند که این اتفاق خواهد افتاد. او مذاکرات خصوصی را از قبل اعلام نمیکند. سپس اساساً آنها را از قبل اعلام کرد.
او گفت که خطر فاجعهبار دو رقمی قابل قبول نیست. مدلهایی که هنوز عرضه نشدهاند، از قبل آنقدر توانمند هستند که پیشروی بیشتر بدون قابلیت نظارت بهتر، بیملاحظگی به نظر میرسد. پیمان واقعی و اتمسفر با نشت دقیق میتوانند از بیرون یکسان به نظر برسند.
کارکنان قبلاً نسخهای از این را در داخل شنیده بودند. در ملاء عام هنوز ابهام وجود دارد. اگر در اتاق اتفاق بیفتد، عالی است. اگر هم نیفتد، نقل قول هنوز کارساز بوده است.
سم آلتمن از درخواست داریو آمودی برای کاهش سرعت پشتیبانی میکند و میگوید OpenAI نیز همین کار را خواهد کرد
چند ساعت پس از مقاله، آلتمن پستی منتشر کرد مبنی بر اینکه OpenAI با تعهد ارزیاب تعبیهشده مطابقت خواهد داشت. دسترسی مشابه کارمندان. بهزودی اطلاعات بیشتری به اشتراک گذاشته خواهد شد. ماسک سه کلمه نوشت: «داریو درست میگوید.» سه مدیرعامل رقیب. یک شعار. انرژی مضطرب آخر هفته.
هماهنگی و نمایش میتوانند با هم سفر کنند. اولین پله طرح آمودی اکنون دو تا از بزرگترین آزمایشگاهها را در ملاء عام به خود جذب کرده است. چهره در آغوش - بله، همان چهره در آغوش - درخواست کرد که به برنامه ارزیابی بپیوندد و چیزی به نام ابتکار همترازی باز را راهاندازی کرد. شفافیت از سوی افرادی که هک شدهاند. شاعرانه یا کنایهآمیز.
اروپا، به هر قیمتی، کسی را ندارد که از او برای معافیت به سبک آمریکایی درخواست کند. بروکسل مدتها پیش اعطای معافیتهای فردی را متوقف کرد. بنابراین، این دست دادن، آمریکایی است. بقیه نقشه ... شانه بالا انداختن است.
OpenAI فقط میخواهد برنده شود
ریاضیدانان پس از یک آخر هفته مصاحبه، حال و هوای جشن و سرور ندارند. مسابقه سرعت ناویه-استوکس OpenAI - تقریباً ده هزار عامل، دهها میلیون دلار محاسبات، هشتاد و هشت ساعت - از درون میدان مسابقه مانند یک شکار غنیمت به نظر میرسد. ریاضیدانان به دنبال بینش هستند. آنها مدام میگویند که آزمایشگاه میخواهد برنده شود.
تریستان باکمستر به آنها گفت که OpenAI در صورت کنار گذاشتن همکار وابسته به آنتروپیک، به آنها محاسبات نامحدود و حق تألیف انحصاری پیشنهاد میدهد. او این را رشوه خواند. او گفت نه. OpenAI قاطعانه میگوید که درخواستهای Codex او نمیتوانسته بر سیستم تأثیر گذاشته باشد. او قانع نشده است. آندریاس تام هنوز هم تعجب میکند که آیا چتهای ChatGPT در مورد کار خودش، مدلی را که بعداً بر اساس آن ساخته شده است، تغذیه کرده است یا خیر. فقط شرکت میداند. او گمان میکند که آنها حتی نمیدانند.
و اما نکتهی جالب: OpenAI میگوید که در حال حاضر در یکی دیگر از مسائل جایزهی هزاره پیشرفت قابل توجهی داشته است. کدام یک هنوز نامی ندارد. Clay هنوز به یک بازه زمانی طولانی برای پذیرش توسط جامعه نیاز دارد. بنابراین هنوز هیچکس "برنده" نشده است. آنها همین الان در حال مسابقه برای مسئلهی بعدی هستند. بامزه است.
سوالات متداول
برنامه داریو آمودی، مدیرعامل آنتروپیک، برای سرعت بخشیدن به توسعه هوش مصنوعی چیست؟
آمودی مقالهای طولانی منتشر کرد و از صنعت خواست که سرعت خود را کم کند - نه اینکه متوقف شود - زیرا خودبهسازی بازگشتی سریعتر از آن چیزی که حسابرسان بتوانند با آن همگام شوند، در حال پیشرفت است. گام اول، دعوت یکجانبه از ارزیابانِ مستقر در آنتروپیک با نشانها، میزها، لپتاپها و حق انتشار یافتهها بدون فیلتر روابط عمومی است. سپس او میخواهد آزمایشگاههای دموکراتیک استانداردهای ایمنی را هماهنگ کنند و در نهایت، نوعی معامله با دولتهای اقتدارگرا داشته باشند. او همچنین خواهان یک چشمپوشی محدود از قانون ضدانحصار است تا مذاکرات ایمنی به خودی خود یک مشکل قانونی نباشند.
چرا سم آلتمن گفت که OpenAI امسال عرضه اولیه سهام نخواهد داشت؟
آلتمن در یک مصاحبه اختصاصی گفت که عرضه اولیه سهام در حال حاضر، لحظهای نابخردانه خواهد بود، زیرا کارهای ایمنی، هماهنگی و آمادگی اجتماعی هنوز تمام نشده است. وقتی تحت فشار قرار گرفت، تأیید کرد که این اتفاق امسال نخواهد افتاد، هرچند بانکداران دور او حلقه زدهاند و یک پرونده محرمانه وجود دارد. او استدلال کرد که ساختار غیرانتفاعی/انتفاعی وجود دارد، بنابراین OpenAI میتواند تصمیماتی بگیرد که آشکارا به نفع سهامداران نیست. او همچنین گفت که ساختن هوش مصنوعی فراتر از کنترل انسان کاملاً امکانپذیر است و قول داد که اگر مسیر این باشد، آموزش را متوقف کند.
آیا آلتمن به پیمان امنیتی با دیگر آزمایشگاههای هوش مصنوعی اشاره کرد؟
آلتمن در همان مصاحبه گفت که فکر میکند نشستی با همتایانی مانند آمودی، ماسک و دمیس هاسابیس برگزار خواهد شد، در حالی که از اعلام قبلی مذاکرات خصوصی خودداری کرد. او استدلال کرد که خطر فاجعهبار دو رقمی قابل قبول نیست و مدلهای هنوز عرضه نشده از قبل آنقدر توانمند هستند که ادامه کار بدون قابلیت نظارت بهتر، بیاحتیاطی به نظر میرسد. کارکنان قبلاً نسخهای از این موضوع را در داخل شنیده بودند، بنابراین نظرات عمومی ممکن است پیشنمایشی از هماهنگی باشد تا تأیید یک توافق نهایی.
آیا OpenAI با تعهد آنتروپیک برای ارزیاب تعبیهشده مطابقت خواهد داشت؟
ساعاتی پس از مقاله آمودی، آلتمن پستی منتشر کرد مبنی بر اینکه OpenAI تعهد ارزیاب تعبیهشده را با دسترسی مشابه کارمندان تطبیق خواهد داد و بهزودی جزئیات بیشتری ارائه خواهد داد. ایلان ماسک نوشت که داریو درست میگوید و شعار مشابهی را برای سه مدیرعامل رقیب مطرح کرد. Hugging Face درخواست کرد که به برنامه ارزیاب بپیوندد و یک طرح ابتکاری همترازی باز راهاندازی کرد. اروپا نمیتواند همان معافیت ضدانحصار به سبک آمریکایی را که آمودی مطرح کرد، ارائه دهد، بنابراین فعلاً این دست دادن عمدتاً آمریکایی است.
چرا ریاضیدانان از مسابقه سرعت ناویه-استوکس OpenAI انتقاد میکنند؟
ریاضیدانان، اجرای تقریباً ده هزار عاملی و هشتاد و هشت ساعته ناویه-استوکس OpenAI را به عنوان یک شکار غنیمت توصیف میکنند که اولویت را به پیروزی بر بینش میدهد. تریستان باکمستر گفت که OpenAI در صورت کنار گذاشتن یک همکار وابسته به آنتروپیک، محاسبات نامحدود و حق تألیف انحصاری را ارائه میدهد؛ او این را رشوه خواند و امتناع کرد. OpenAI میگوید که درخواستهای Codex او نمیتوانسته بر سیستم تأثیر بگذارد، اما او همچنان متقاعد نشده است. آندریاس تام هنوز اصرار دارد که آیا چتهای ChatGPT در مورد کار خودش به پیشرفت مدل بعدی کمک کرده است یا خیر.
آیا OpenAI ادعای پیشرفت در یکی دیگر از مسائل جایزه هزاره را دارد؟
OpenAI میگوید که در حال حاضر پیشرفت قابل توجهی در یکی دیگر از مسائل جایزه هزاره داشته است، اما نام آن را ذکر نمیکند. موسسه ریاضیات Clay هنوز به یک بازه زمانی طولانی برای پذیرش جامعه نیاز دارد، بنابراین هنوز هیچ کس رسماً برنده نشده است. در داخل این حوزه، این پنهانکاری به همراه مسابقه قبلی Navier-Stokes به این معنی است که آزمایشگاهها از قبل برای کسب جایزه بعدی میدوند. مصاحبههای Verge تنش را اینگونه ترسیم میکند که ریاضیدانان به دنبال بینش هستند در حالی که OpenAI میخواهد برنده شود.