🧒 OpenAI پیشبینی سن را در ChatGPT راهاندازی میکند ↗
OpenAI شروع به اضافه کردن یک لایه «پیشبینی سن» به ChatGPT کرده است - یک سیستم بیسروصدا که سعی میکند حدس بزند چه زمانی یک حساب کاربری احتمالاً متعلق به یک فرد زیر سن قانونی است، سپس روی ریلهای ایمنی اضافی قرار میگیرد. اگر فکر کند شما زیر ۱۸ سال هستید، به طور خودکار دسترسی به محتوای حساستر را محدود میکند.
وقتی حدسش اشتباه باشد (که... گاهی اوقات هم اشتباه میکند)، چارهاش تأیید هویت از طریق پرسونا، با استفاده از یک جریان مبتنی بر سلفی است. همچنین به تغییرات گستردهتر پلتفرم مانند آزمایشهای «حالت بزرگسال» و حرکات کسب درآمد میپردازد که صادقانه بگویم، مثل چرخاندن همزمان چند بشقاب است.
🏦 قانونگذاران میگویند بریتانیا برای خدمات مالی به «آزمونهای استرس هوش مصنوعی» نیاز دارد ↗
قانونگذاران بریتانیا اساساً میگویند: دیگر در مورد هوش مصنوعی در امور مالی بیتفاوت نباشید. استدلال آنها این است که نهادهای نظارتی و دولت باید سیستمهای هوش مصنوعی را بیشتر مانند بانکها که تحت آزمایش استرس قرار میگیرند، تحت فشار قرار دهند - زیرا «اوه» در دنیای پول تمایل به انتشار سریع دارد.
نگرانی، نوعی مشکل است که فقط در مقیاس بزرگ خود را نشان میدهد: سوگیری، آبشار خطا، الگوهای کلاهبرداری، حلقههای بازخورد. مثل این است که به یک کودک نوپا اجازه دهید اتوبوس را براند چون جاده مستقیم است... تا اینکه ناگهان دیگر مستقیم نباشد.
🏛️ قهرمانان هوش مصنوعی برای کمک به سیتی در بهرهبرداری ایمن از فرصتهای هوش مصنوعی منصوب شدند ↗
دولت بریتانیا دو «قهرمان هوش مصنوعی» را منصوب کرد تا به تسریع پذیرش هوش مصنوعی در خدمات مالی کمک کنند - با وعدههای معمول رشد، بهرهوری، سرمایهگذاری، و همه آن ماشینآلات خوشصدا.
نکته قابل توجه، عمل متعادلسازی است: انرژی «سریع حرکت کن»، در حالی که روی آن مهر «ایمن» خورده است. بسته به حال و هوای آن روز، اطمینانبخش... یا کمی طنزآمیز.
💰 Humans&، یک استارتاپ هوش مصنوعی «انسانمحور» که توسط فارغالتحصیلان Anthropic، xAI و گوگل تأسیس شده است، در دور اول جذب سرمایه ۴۸۰ میلیون دلار جذب کرد ↗
شرکت Humans& با یک دور سرمایهگذاری اولیهی عظیم و تیمی که شبیه «بستهی آغازین آزمایشگاه هوش مصنوعی» است، از راه رسید - افرادی از فروشگاههای بزرگ مدلسازی و شرکتهای بزرگ فناوری. هدف اعلامشده کمتر مبتنی بر چتبات و بیشتر «کمک به هماهنگی و همکاری انسانها» با سیستمهایی است که میتوانند بین افراد و عوامل هوش مصنوعی فعالیت کنند.
این پول زیادی برای چیزی است که هنوز زود است، که یا نشانهای از اطمینان بازار است... یا اینکه همه ما به طور جمعی در حال خریدن ترقه هستیم چون صدای آن را دوست داریم. راستش را بخواهید، میتواند هر دو باشد.
⚖️ استارتاپ هوش مصنوعی حقوقی Ivo در آخرین دور تامین مالی خود ۵۵ میلیون دلار جذب کرد ↗
استارتاپ حقوقی هوش مصنوعی Ivo بودجه جدیدی را برای توسعه پلتفرم خود و افزایش فروش جذب کرد و با بهرهگیری از موج شرکتهای حقوقی و تیمهای حقوقی داخلی که گردشهای کاری سنگین و پر از کاغذبازی را خودکار میکنند، به موفقیت رسید.
این دسته همچنان برنده است زیرا ارزش آن صریح و ساده است: ساعات کمتری صرف کارهای تکراری اسناد میشود، چیزهای کمتری از قلم میافتند. فریبنده نیست، اما بسیار بسیار قابل پرداخت است.
🧠 شرکت تایوانی Inventec میگوید تصمیم در مورد تراشه H200 انویدیا «به نظر میرسد» به نفع چین متوقف شده است ↗
یک سازنده سرور تایوانی گفت که مسئله فروش تراشه هوش مصنوعی H200 انویدیا به چین «به بنبست رسیده» به نظر میرسد - به این معنی که این تنگنا نه تنها قوانین خارجی، بلکه مجوزهای طرف چینی یا پویایی داخلی نیز هست.
این واقعیت ناخوشایند سختافزار هوش مصنوعی است: همه از مدلها و عوامل صحبت میکنند، اما کل آینده میتواند به چند نقطه انسداد، مجوزها و سیاستهای زنجیره تأمین وابسته باشد. مثل برنامهریزی برای پرتاب موشک است... و بعد متوجه میشوید که کلید سوپاپ سوخت را فراموش کردهاید.
سوالات متداول
پیشبینی سن OpenAI در ChatGPT چیست و اگر شما به عنوان زیر ۱۸ سال علامتگذاری شوید، چه چیزی تغییر میکند؟
OpenAI یک لایه «پیشبینی سن» کماهمیت معرفی کرده است که تلاش میکند حدس بزند آیا یک حساب کاربری احتمالاً متعلق به یک فرد زیر سن قانونی است یا خیر. اگر سیستم نتیجه بگیرد که شما زیر ۱۸ سال سن دارید، ChatGPT بهطور خودکار اقدامات ایمنی بیشتری اعمال میکند. در عمل، این معمولاً به معنای محدودیتهای شدیدتر بر محتوایی است که حساستر تلقی میشوند. هدف، کاهش ریسک بدون مجبور کردن هر کاربر به اعلام سن خود از قبل است.
اگر پیشبینی سن ChatGPT اشتباه باشد، چه اتفاقی میافتد؟
اگر پیشبینی سن در ChatGPT اشتباه عمل کند و یک بزرگسال را زیر ۱۸ سال نشان دهد، راهحل اعلامشده، تأیید هویت است. در این بهروزرسانی، این تأیید از طریق Persona با استفاده از یک جریان مبتنی بر سلفی انجام میشود. پس از تأیید، حساب میتواند به جای قفل شدن پشت نردههای محافظ سختگیرانهتر، به دسترسی عادی بازگردد. این یک بدهبستان است: موارد حاشیهای پرخطر کمتر، و اصطکاک بیشتر در صورت حدس نادرست سیستم.
چگونه تأیید هویت سلفی پرسونا با رویکرد ایمنی OpenAI مطابقت دارد؟
پرسونا به عنوان مکانیزمی برای حل عدم قطعیت مربوط به سن عمل میکند، زمانی که استنتاج سیستم غیرقابل اعتماد تلقی میشود. جریان تأیید هویت مبتنی بر سلفی به عنوان یک گام اصلاحی پس از پیشبینی نادرست سن قرار میگیرد. در بسیاری از پلتفرمها، از این نوع گام برای ایجاد تعادل بین ایمنی و دسترسی بدون مسدود کردن دائمی کاربران قانونی استفاده میشود. همچنین به اجرای بیشتر در سطح حساب، نه فقط فیلترینگ در سطح فوری، اشاره دارد.
چرا OpenAI اکنون محدودیت سنی را اضافه میکند و چه ارتباطی با «حالت بزرگسال» دارد؟
این بهروزرسانی در کنار تغییرات گستردهتر پلتفرم، از جمله آزمایشهای «حالت بزرگسال» و اقدامات کسب درآمد که در همان بحث ذکر شد، ارائه میشود. پیشبینی سن در ChatGPT عملاً به عاملی تبدیل میشود که تعیین میکند چه کسی پیشفرضهای سختگیرانهتری را در مقابل دسترسی گستردهتر دریافت کند. این برای پلتفرمی که تجربیات مختلف را در بین مخاطبان مختلف آزمایش میکند، مفید است. همچنین میتواند مواجهه با محتوای پرخطرتر را محدود کند و در عین حال امکان گسترش در جاهای دیگر را فراهم کند.
«آزمونهای استرس هوش مصنوعی» برای خدمات مالی بریتانیا چیست و چرا قانونگذاران آنها را میخواهند؟
قانونگذاران بریتانیا خواستار «آزمونهای استرس هوش مصنوعی» هستند که سیستمهای هوش مصنوعی را بیشتر شبیه بانکها در نظر میگیرند: قبل از گسترش مشکلات، آنها را تحت فشار قرار دهید. نگرانی این است که سوگیری، آبشارهای خطا، الگوهای کلاهبرداری و حلقههای بازخورد ممکن است فقط در مقیاس بزرگ قابل مشاهده باشند. در امور مالی، شکستهای کوچک میتوانند به سرعت از طریق سیستمهای به هم پیوسته پخش شوند. آزمون استرس برای آشکار کردن نقاط ضعف زودتر، قبل از اینکه پول واقعی و مشتریان واقعی تحت تأثیر قرار گیرند، در نظر گرفته شده است.
«قهرمانان هوش مصنوعی» شهر بریتانیا چه کسانی هستند و قرار است چه کاری انجام دهند؟
دولت بریتانیا دو «قهرمان هوش مصنوعی» را برای کمک به تسریع پذیرش هوش مصنوعی در خدمات مالی منصوب کرده است. نقش آنها به گونهای تعریف شده است که به شهر کمک میکند تا از فرصتهای هوش مصنوعی به طور «ایمن» استفاده کند. در عمل، این به عنوان هماهنگی و حمایت تعبیر میشود: تشویق به پذیرش، حمایت از بهترین شیوهها و هماهنگ کردن ذینفعان. این نشان میدهد که دولت خواهان استقرار سریعتر با یک پوشش ایمنی قابل مشاهده در اطراف آن است.