هوش مصنوعی واقعاً چیست؟ [ویدئو و آزمون]

پاسخ کوتاه: هوش مصنوعی خانواده‌ی گسترده‌ای از تکنیک‌های محاسباتی است که الگوها را تشخیص می‌دهد، پیش‌بینی می‌کند، محتوا تولید می‌کند و به طور فزاینده‌ای اقداماتی را انجام می‌دهد. وقتی اطلاعات قابل اعتماد، مجوزهای واضح و بررسی انسانی پیرامون آن ایجاد شود، می‌تواند بسیار مؤثر باشد، اما خروجی روان هرگز نباید به عنوان اثبات خودکار حقیقت در نظر گرفته شود.

نکات کلیدی:

پاسخگویی: افراد را در قبال تصمیمات مهم مسئول بدانید، به خصوص در مواردی که هوش مصنوعی می‌تواند اشتباهات پرهزینه‌ای مرتکب شود.

شفافیت: مشخص کنید که یک سیستم هوش مصنوعی به چه اطلاعات، قوانین و مجوزهایی متکی است.

تأیید: قبل از اقدام بر اساس خروجی‌های مهم واقعی، پزشکی، حقوقی، مالی و تجاری، آنها را بررسی کنید.

قابلیت حسابرسی: هوش مصنوعی را با موارد نمونه آزمایش کنید و هم افزایش بهره‌وری و هم خطاهای ایجاد شده را ثبت کنید.

مقاومت در برابر سوءاستفاده: دسترسی را محدود کنید، از اقدامات پشتیبانی‌نشده جلوگیری کنید و موارد نامشخص را به بررسی‌کنندگان انسانی ارجاع دهید.

۱. هوش مصنوعی واقعاً چیست؟ توضیح ساده

هوش مصنوعی یا AIبه سیستم‌های کامپیوتری اشاره دارد که می‌توانند وظایف مرتبط با هوش انسانی را انجام دهند.

این وظایف ممکن است شامل موارد زیر باشد:

• درک زبان

• تشخیص اشیاء در تصاویر

• پیش‌بینی اتفاقات بعدی

• ارائه توصیه‌ها

• تولید متن، تصویر، صدا یا ویدئو

• تشخیص الگوها در مجموعه داده‌های عظیم

• تصمیم‌گیری بر اساس اطلاعات موجود

• یادگیری از مثال‌ها

• حل انواع خاصی از مشکلات

یک نکته اینجا اهمیت دارد.

هوش مصنوعی لزوماً نیازی ندارد که مانند یک انسان فکر کند تا نتایجی تولید کند که هوشمندانه به نظر برسند.

یک برنامه شطرنج آنجا نمی‌نشیند و نگران این نیست که آیا قربانی کردن مهره فیلش از نظر احساسی درست است یا خیر. یک الگوریتم پیشنهاد دهنده، دلبستگی شخصی به مستندی که مدام به شما پیشنهاد می‌دهد، پیدا نمی‌کند. یک مدل زبانی به یک معلم زبان انگلیسی کوچک که درون کامپیوتر زندگی می‌کند، نیاز ندارد.

در عوض، این سیستم‌ها اطلاعات را با استفاده از مدل‌های ریاضی، الگوریتم‌ها، داده‌های آموزشی، قوانین، احتمالات و حجم عظیمی از محاسبات پردازش می‌کنند.

نتیجه نهایی می‌تواند به طرز چشمگیری شبیه انسان به نظر برسد.

اما مکانیسم زیرین آن بسیار متفاوت است.

این تمایز بیش از آنچه مردم گاهی اوقات تصور می‌کنند، اهمیت دارد.

۲. هوش مصنوعی کمتر شبیه مغز ربات و بیشتر شبیه یک ماشین پیش‌بینی است

وقتی مردم «هوش مصنوعی» را می‌شنوند، اغلب چیزی شبیه به مغز مصنوعی انسان را تصور می‌کنند.

قابل درک است. داستان‌های علمی تخیلی دهه‌هاست که به هوش مصنوعی چشمان درخشان، صداهای شوم، نظرات مشکوک و قوی و معمولاً نوعی اسکلت فلزی می‌دهند.

هوش مصنوعی کاربردی عموماً کمتر سینمایی است.

بسیاری از سیستم‌های هوش مصنوعی مدرن از طریق پیش‌بینی.

یک مدل زبانی را در نظر بگیرید.

وقتی تایپ می‌کنید:

«گربه روی ... نشست.»

سیستم ارزیابی می‌کند که از نظر آماری کدام کلمات احتمالاً در مرحله بعد می‌آیند.

احتمالاً:

• حصیر

• کف

• کاناپه

• صندلی

این مدل صرفاً یک جمله را حفظ نمی‌کند و آن را بازیابی نمی‌کند. یک مدل به اندازه کافی پیشرفته، روابط پیچیده بین کلمات، ایده‌ها، ساختار جملات، مفاهیم، ​​سبک‌ها، حقایق و الگوها را آموخته است.

سپس توالی‌ای را پیش‌بینی می‌کند که به بهترین شکل با متن مطابقت دارد. پیش‌بینی خوب کلمه بعدی مستلزم یادگیری مطالب زیادی در مورد زبان است.

و زبان شامل... خب، اساساً هر چیزی است که انسان‌ها درباره‌اش صحبت می‌کنند.

تاریخ. ریاضیات. آشپزی. برنامه‌نویسی. روابط. فیزیک. بحث‌هایی در مورد اینکه آیا آناناس باید روی پیتزا باشد یا نه.

بنابراین یک وظیفه پیش‌بینی به ظاهر ساده می‌تواند رفتار شگفت‌انگیز و پیچیده‌ای ایجاد کند.

البته این استعاره محدودیت‌هایی دارد. اینکه هوش مصنوعی پیشرفته را «فقط تکمیل خودکار» بنامیم، کمی شبیه این است که به یک هواپیما بگوییم «فقط یک قطعه فلزی بال‌دار». از نظر فنی، نکته‌ی مهمی در آن نهفته است، اما بیشتر بخش جالب آن ناپدید شده است.

۳. هوش مصنوعی چگونه یاد می‌گیرد؟

اینجاست که یادگیری ماشینی وارد بحث می‌شود.

نرم‌افزارهای سنتی عموماً از طریق دستورالعمل‌های صریح کار می‌کنند.

یک برنامه‌نویس ممکن است بنویسد:

• اگر کاربر رمز عبور صحیح را وارد کرد، به او اجازه دسترسی بدهید.

• اگر دما از حد مشخصی بالاتر رفت، سیستم خنک‌کننده را فعال کنید.

• اگر کالایی موجود نیست، هشداری نمایش داده شود.

آن دستورالعمل‌ها عمداً برنامه‌ریزی شده‌اند.

یادگیری ماشینی فرآیند را برعکس می‌کند.

به جای تعریف دستی هر قانون، توسعه‌دهندگان به سیستم مثال یا داده می‌دهند و به آن اجازه می‌دهند الگوها را کشف کند.

تصور کنید که می‌خواهید نرم‌افزاری بسازید که بتواند گربه‌ها را در عکس‌ها تشخیص دهد.

نوشتن قوانین صریح خیلی زود مسخره می‌شد.

شما می‌توانید امتحان کنید:

• به دنبال گوش‌های مثلثی شکل باشید.

• به دنبال سبیل باشید.

• دنبال چهار پایه بگردید.

• دنبال خز بگردید.

بعد یکی عکس یه روباه رو آپلود می‌کنه.

نه کاملاً.

یا یک ببر.

یا گربه‌ای که خودش را به شکل توده‌ای کرک‌دار جمع کرده و به زحمت می‌توان پاهایش را دید.

یادگیری ماشین به این مسئله به طور متفاوتی نگاه می‌کند. یک مدل می‌تواند با مجموعه‌های عظیمی از مثال‌ها آموزش ببیند و به تدریج یاد بگیرد که کدام الگوهای بصری با گربه‌ها مرتبط هستند.

این یادگیری «گربه» مانند یک کودک نوپا نیست.

اما از نظر ریاضی، مدل به طور فزاینده‌ای قادر به شناسایی الگوهای مرتبط با آن دسته می‌شود.

این خلاصه‌ای از یادگیری ماشین است - هرچند خودِ این خلاصه شامل چندین مخزن جبر خطی است.

۴. هوش مصنوعی در مقابل یادگیری ماشینی در مقابل یادگیری عمیق

این اصطلاحات دائماً با هم اشتباه گرفته می‌شوند، تا حدودی به این دلیل که مردم از «هوش مصنوعی» به عنوان یک عبارت کلی برای تقریباً همه چیز استفاده می‌کنند.

یک راه ساده برای جدا کردن آنها این است.

هوش مصنوعی حوزه وسیعی است.

یادگیری ماشین یکی از رویکردهایی است که برای ایجاد سیستم‌های هوش مصنوعی استفاده می‌شود.

یادگیری عمیق نوع خاصی از یادگیری ماشینی است که شامل شبکه‌های عصبی بزرگ با چندین لایه می‌شود.

سپس هوش مصنوعی مولد وجود دارد که بر ایجاد خروجی‌های جدید مانند متن، تصاویر، موسیقی، کد، گفتار یا ویدیو تمرکز دارد.

جدول مقایسه

مدت	کاربرد معمول	اساساً به چه معناست	راه سریع برای فکر کردن در مورد آن
هوش مصنوعی	دسته وسیعی از ماشین‌ها که وظایف به ظاهر هوشمند را انجام می‌دهند	رباتیک، دستیاران، برنامه‌ریزی، توصیه‌ها	چتر بزرگ
یادگیری ماشین	الگوهای یادگیری سیستم‌ها از داده‌ها	تشخیص تقلب، توصیه‌ها، پیش‌بینی‌ها	یادگیری از مثال‌ها
یادگیری عمیق	یادگیری ماشین با استفاده از شبکه‌های عصبی چندلایه	بینایی، گفتار، مدل‌های پیشرفته زبان	ML، اما خیلی عمیق‌تر... به معنای واقعی کلمه
هوش مصنوعی مولد	هوش مصنوعی برای تولید محتوای جدید طراحی شده است	متن، تصویر، کد، صدا	شاخه‌ی خلاقانه
اتوماسیون	نرم‌افزاری که فرآیندهای از پیش تعریف‌شده را دنبال می‌کند	گردش‌های کاری تکراری، ورود داده‌ها	معمولاً قوانین، نه «یادگیری»

این تمایز مهم است زیرا هر سیستم خودکاری هوش مصنوعی نیست.

اگر دستگاه قهوه‌ساز شما بعد از ده دقیقه خودش خاموش می‌شود، تبریک می‌گویم - احتمالاً شما آزمایشگاه هوش مصنوعی ندارید.

این فقط یه تایمره.

۵. شبکه‌های عصبی چیستند؟

شبکه‌های عصبی، سیستم‌های ریاضی هستند که به طور نسبی از نورون‌های بیولوژیکی الهام گرفته شده‌اند.

این عبارت آنها را مرموز جلوه می‌دهد. آنها مغزهای مصنوعیِ شناور در درون کامپیوترها نیستند.

یک شبکه عصبی از واحدهای ریاضی به هم پیوسته تشکیل شده است که اطلاعات را پردازش می‌کنند.

در طول آموزش، شبکه مقادیر عددی داخلی به نام پارامترها یا وزن‌ها.

این تنظیمات به سیستم اجازه می‌دهد تا در تولید خروجی‌های ارزشمند بهتر عمل کند.

آن را به عنوان یک صفحه کنترل بسیار پیچیده با میلیاردها دکمه قابل تنظیم کوچک در نظر بگیرید.

آموزش بارها و بارها آن دکمه‌ها را فشار می‌دهد.

جواب اشتباه؟

دکمه‌ها را تنظیم کنید.

جواب بهتر؟

آنها را به طور متفاوتی تنظیم کنید.

اگر این کار را به تعداد کافی، در میان داده‌های کافی و با قدرت محاسباتی کافی انجام دهید، شبکه شروع به توسعه بازنمایی‌های داخلی پیچیده‌ای می‌کند که به آن امکان تشخیص و تولید الگوها را می‌دهد.

البته، گفتن «دکمه‌ها را تنظیم کن» باعث می‌شود دهه‌ها علم کامپیوتر مانند کسی به نظر برسد که در حال تنظیم یک رادیوی قدیمی است... اما به عنوان یک مدل ذهنی، این روش به طرز چشمگیری خوب عمل می‌کند.

۶. چرا هوش مصنوعی ناگهان بسیار باهوش‌تر به نظر می‌رسد؟

هوش مصنوعی اختراعی نیست که یک شبه به وجود آمده باشد.

زمینه اصلی از مدت‌ها پیش وجود داشته است.

چیزی که تغییر کرد چندین نیرو بود که با هم شتاب می‌گرفتند.

قدرت محاسباتی بیشتر

پردازنده‌های مدرن می‌توانند تعداد بسیار زیادی محاسبه را به سرعت انجام دهند، به خصوص انواع محاسباتی که برای شبکه‌های عصبی مورد نیاز است. افزایش محاسبات آموزشی یکی از محرک‌های مهم پیشرفت در سیستم‌های هوش مصنوعی مدرن بوده است.

داده‌های بیشتر

دنیای دیجیتال شامل حجم عظیمی از متن، تصویر، صدا، ویدئو، کد و اطلاعات ساختاریافته است.

آموزش مدل‌های پیچیده نیازمند مثال است - تعداد زیادی از آنها.

الگوریتم‌های بهتر

محققان به طور مداوم معماری‌ها و روش‌های مورد استفاده برای آموزش سیستم‌های هوش مصنوعی را بهبود می‌بخشند.

مدل‌های بزرگتر

افزایش تعداد پارامترها، بهبود مجموعه داده‌ها و افزایش محاسبات، اغلب مدل‌های شگفت‌انگیز و توانمندی را ایجاد کرده است. تحقیقات در مورد آموزش زبان مدل با محاسبات بهینه نیز نشان می‌دهد که اندازه مدل، داده‌ها و محاسبات باید متعادل شوند، نه اینکه صرفاً تعداد پارامترها به حداکثر برسد.

رابط‌های کاربری بهتر

این بخش به راحتی قابل دست کم گرفتن است.

هوش مصنوعی به طرز چشمگیری قابل دسترس‌تر به نظر می‌رسد، زیرا افراد عادی اکنون می‌توانند از طریق زبان روزمره با سیستم‌های پیشرفته تعامل داشته باشند.

لازم نیست برنامه‌نویسی را بفهمید.

شما به سادگی می‌توانید بپرسید:

«مثل یه بچه دوازده ساله، وام مسکن رو توضیح بده.»

یا:

«این یادداشت‌های جلسه را به ایمیل تبدیل کنید.»

یا:

«پنج ایده برای شام با استفاده از مرغ، برنج و هر سبزیجاتی که کم کم در یخچالم در حال خشک شدن هستند، به من بدهید.»

این تغییر رابط کاربری بسیار بزرگ است.

فناوری معمولاً زمانی که مردم دیگر برای استفاده از آن نیازی به دفترچه راهنما نداشته باشند، محبوبیت زیادی پیدا می‌کند.

۷. وقتی از هوش مصنوعی سوالی می‌پرسید، این هوش مصنوعی چه کاری انجام می‌دهد؟

یک دستیار هوش مصنوعی مدرن را در نظر بگیرید.

شما تایپ می‌کنید:

«جاذبه را برای یک کودک پنج ساله توضیح بده.»

در پشت صحنه، سیستم متن شما را به واحدهای عددی به نام توکن.

توکن‌ها ممکن است نمایانگر کلمات کامل، بخش‌هایی از کلمات، علائم نگارشی یا بخش‌های دیگری از زبان باشند.

آن توکن‌ها از طریق مدل پردازش می‌شوند.

این مدل روابط بین بخش‌های مختلف درخواست شما را بررسی می‌کند، زمینه را در نظر می‌گیرد و ادامه‌ی مفیدی را پیش‌بینی می‌کند.

سپس یک توکن دیگر.

سپس یکی دیگر.

سپس یکی دیگر.

این اتفاق به طرز چشمگیری سریع رخ می‌دهد.

پاراگراف حاصل طوری به نظر می‌رسد که انگار کسی آن را به عنوان یک فکر کامل نوشته است، اما از نظر فنی به صورت متوالی تولید شده است.

این یکی از ویژگی‌های عجیب‌تر هوش مصنوعی است.

خروجی می‌تواند عمدی به نظر برسد، حتی اگر فرآیند زیربنایی احتمالی باشد.

این بیشتر شبیه بداهه‌پردازی است تا بیرون کشیدن یک پاسخ از پیش آماده‌شده از یک پایگاه داده عظیم.

مطمئناً دقیقاً بداهه‌پردازی نیست - اما به اندازه کافی نزدیک است که استعاره جای خود را پیدا کند.

۸. آیا هوش مصنوعی چیزها را می‌فهمد؟

این سوال خیلی سریع فلسفی می‌شود.

آیا یک سیستم هوش مصنوعی واقعاً زبان را «می‌فهمد»؟

پاسخ به شدت به این بستگی دارد که منظور شما از فهمیدن چیست.

مدل‌های مدرن هوش مصنوعی می‌توانند مفاهیم را به روش‌های پیچیده‌ای دستکاری کنند.

آنها می‌توانند:

• ایده‌ها را توضیح دهید

• مقایسه استدلال‌ها

• بازنویسی متن

• ترجمه زبان‌ها

• حل بسیاری از مسائل ساختار یافته

• تولید کد کاری

• شناسایی الگوها

• دستورالعمل‌های پیچیده را دنبال کنید

• مفاهیم را به روش‌های جدید ترکیب کنید

از بیرون، این می‌تواند خیلی شبیه فهمیدن به نظر برسد.

اما تفاوت‌های مهمی بین هوش ماشینی و شناخت انسانی وجود دارد.

انسان‌ها دنیای فیزیکی را تجربه می‌کنند.

ما گرسنگی، درد، خجالت، کسالت، محبت و وحشت عجیب ناشی از فهمیدن اینکه باتری گوشی‌تان فقط ۲ درصد است را حس می‌کنیم.

سیستم‌های هوش مصنوعی لزوماً هیچ تجربه زیسته معادلی ندارند.

آنها بازنمایی‌ها را پردازش می‌کنند.

بنابراین پرسیدن اینکه آیا یک هوش مصنوعی چیزی را «می‌فهمد» می‌تواند شبیه پرسیدن اینکه آیا یک زیردریایی شنا می‌کند یا خیر، باشد.

قطعاً از طریق آب حرکت می‌کند.

اما شاید «شنا کردن» کلمه کاملاً مناسبی نباشد.

۹. هوش مصنوعی به طور خودکار نمی‌داند چه چیزی درست است

این یکی از مهمترین نکات در مورد هوش مصنوعی مولد است.

یک مدل می‌تواند گزاره‌ای ارائه دهد که بسیار متقاعدکننده به نظر برسد، بدون اینکه آن گزاره صحیح باشد.

چرا؟

زیرا تولید زبان قابل قبول و تأیید حقیقت عینی، مسائل متفاوتی هستند.

یک سیستم هوش مصنوعی ممکن است با عدم قطعیت مواجه شود و همچنان پاسخی با ظاهری مطمئن ارائه دهد.

این خطاها اغلب توهم.

برای مثال، هوش مصنوعی ممکن است:

• یک آمار اختراع کنید

• یک نقل قول را به اشتباه نسبت دادن

• دو فرد مشابه را با هم اشتباه بگیرید

• تولید ارجاعات ناموجود

• دستورالعمل‌های مبهم را اشتباه تفسیر کردن

• اشتباهات ریاضی ظریفی مرتکب شوید

مدل‌های زبانی می‌توانند نقل قول‌ها، مطالعات، استنادها و سایر اطلاعات نادرست ساختگی تولید کنند، در حالی که به نظر مطمئن می‌رسند. NIST به طور خاص محتوای نادرست و استنادهای ساختگی که با اطمینان بیان شده‌اند را به عنوان یک خطر هوش مصنوعی مولد شناسایی می‌کند.

به طور متناقضی، هر چه این سیستم‌ها توانمندتر به نظر برسند، فراموش کردن این موضوع آسان‌تر می‌شود.

زبان روان و سلیس، اعتماد به نفس ایجاد می‌کند.

اما اعتماد به نفس، مدرک و شاهد نیست.

برای اطلاعات حساسی که شامل حوزه‌هایی مانند پزشکی، حقوق، امور مالی، ایمنی یا تصمیمات مهم تجاری می‌شوند، تأیید هویت همچنان اهمیت دارد.

خیلی کم.

۱۰. هوش مصنوعی همان موتور جستجو نیست

یکی دیگر از سوءتفاهم‌های رایج، یکسان دانستن هوش مصنوعی و جستجو است.

آنها اینطور نیستند.

یک موتور جستجوی سنتی در درجه اول به یافتن اطلاعات موجود کمک می‌کند.

یک سیستم هوش مصنوعی مولد در درجه اول بر اساس الگوهای آموخته شده، زمینه فراهم شده و هر ابزار اضافی که ممکن است به آن دسترسی داشته باشد، پاسخی تولید می‌کند. مدل‌های مولد، الگوها و روابط را در مجموعه داده‌های بزرگ یاد می‌گیرند و از آن الگوها برای ایجاد خروجی‌های جدید استفاده می‌کنند.

تصور کنید بپرسید:

موتور جستجو: "بهترین راه‌ها برای توضیح فتوسنتز"

شما معمولاً صفحاتی را برای بررسی دریافت می‌کنید.

همین سوال را از یک دستیار هوش مصنوعی بپرسید و ممکن است این پاسخ را دریافت کنید:

• یک توضیح ساده

• یک قیاس کلاس درس

• یک مسابقه

• یک طرح درس

• داستانی برای کودکان

• یک نسخه علمی دقیق

بازیابی‌های جستجو.

هوش مصنوعی مولد، سنتز می‌کند.

سیستم‌های مدرن می‌توانند هر دو رویکرد را با هم ترکیب کنند، که این امر تمایز را به طور فزاینده‌ای مبهم می‌کند، اما ابزارها از نظر مفهومی متفاوت باقی می‌مانند.

۱۱. هوش مصنوعی چه کارهایی را می‌تواند به خوبی انجام دهد؟

هوش مصنوعی معمولاً در وظایفی که به الگوهای سنگین، اطلاعات غنی و تبدیل نیاز دارند، عملکرد خوبی دارد.

کاربردهای ارزشمند عبارتند از:

کمک در نوشتن

هوش مصنوعی می‌تواند متن را پیش‌نویس، بازنویسی، خلاصه و بازسازی کند.

برنامه‌نویسی

مدل‌ها می‌توانند کد تولید کنند، خطاها را توضیح دهند، بهبودهایی را پیشنهاد دهند و به توسعه‌دهندگان در درک سیستم‌های ناآشنا کمک کنند.

تحلیل داده‌ها

هوش مصنوعی می‌تواند در شناسایی الگوها، تفسیر مجموعه داده‌ها و تبدیل یافته‌های پیچیده به زبانی قابل فهم کمک کند.

تولید تصویر

مدل‌های مولد می‌توانند تصاویر، مفاهیم، ​​ماکت‌های محصول، آثار هنری و تغییرات بصری را از توضیحات ایجاد کنند.

ترجمه

مدل‌های پیشرفته می‌توانند در مقایسه با سیستم‌های ساده کلمه به کلمه، متن را به زبان‌های مختلف ترجمه کنند و در عین حال، زمینه بیشتری را حفظ کنند.

آموزش

هوش مصنوعی می‌تواند یک مفهوم را بسته به سطح دانش فرد، به روش‌های مختلفی توضیح دهد.

پشتیبانی مشتری

شرکت‌ها می‌توانند از هوش مصنوعی برای پاسخ به سوالات رایج و کمک به حل پرونده‌های پیچیده استفاده کنند.

طوفان فکری

هوش مصنوعی می‌تواند به ویژه زمانی مؤثر باشد که شما معادل فکری یک یخچال خالی را داشته باشید.

می‌توانید زوایا، نام‌ها، مفاهیم، ​​ساختارها یا احتمالات را بپرسید - سپس تصمیم بگیرید که چه چیزی ارزش نگه داشتن دارد.

این اغلب سالم‌ترین رابطه کاری با هوش مصنوعی است.

نه اینکه «ماشین جایگزین انسان شود»

بیشتر شبیه:

انسان + ماشین = نوشتن سریع اولین پیش‌نویس تفکر.

۱۲. هوش مصنوعی هنوز در چه چیزهایی ضعیف است؟

با وجود تمام توجهاتی که به آن می‌شود، هوش مصنوعی فعلی هنوز محدودیت‌های قابل توجهی دارد.

بعضی‌ها از همان اول آشکارند.

برخی دیگر تنها زمانی پدیدار می‌شوند که برای چیزی پیچیده به سیستم تکیه کنید.

هوش مصنوعی می‌تواند با موارد زیر مشکل داشته باشد:

• دقت بسیار بالای واقعی

• موارد حاشیه‌ای غیرمعمول

• زنجیره‌های طولانی استدلال

• دستورالعمل‌های مبهم

• فرضیات عقل سلیم که انسان‌ها به ندرت متوجه آنها می‌شوند

• درک زمینه عاطفی ناگفته

• تأیید صحت اطلاعات

• وظایفی که نیاز به تجربه در دنیای فیزیکی دارند

• سازگاری در پروژه‌های پیچیده

حتی مدل‌های زبانی بسیار توانمند نیز می‌توانند خطاهای واقعی و استدلالی ایجاد کنند، و معیارهای دشوار همچنان محدودیت‌های قابل توجهی را آشکار می‌کنند.

مسئله دیگر این است که هوش مصنوعی می‌تواند با تلاش بسیار کمی، پاسخ‌هایی با ظاهری متوسط.

ده تا اسم تجاری می‌پرسی؟

انجام شد.

درخواست پست وبلاگ دارید؟

آسان.

ایده‌های بازاریابی بخواهید؟

مطمئناً.

اما تولید چیزی با تولید اثری که واقعاً اصیل، از نظر تجاری ارزشمند، از نظر احساسی هوشمندانه یا از نظر استراتژیک بی‌نقص باشد، یکسان نیست.

انسان‌ها هنوز هم طعم را فراهم می‌کنند.

سلیقه مهم است.

شاید بیشتر از همیشه.

۱۳. آیا هوش مصنوعی هوشیار است؟

اینجا به قسمتی می‌رسیم که مکالمات سر میز شام عجیب و غریب می‌شوند.

سیستم‌های هوش مصنوعی فعلی می‌توانند زبانی تولید کنند که احساسی، متفکرانه و خودآگاه به نظر برسد.

این به طور خودکار به این معنی نیست که آنها هوشیاری را تجربه می‌کنند.

مدل‌های زبانی به طور خاص برای تولید زبان آموزش دیده‌اند.

و انسان‌ها به طور طبیعی زبان روان را به عنوان مدرکی دال بر وجود ذهن دیگری در پشت آن تفسیر می‌کنند.

معمولاً، این یک فرض معقول است.

وقتی انسان دیگری می‌گوید «من نگرانم»، ما منطقاً فرض می‌کنیم که یک حالت عاطفی درونی وجود دارد.

با هوش مصنوعی، این فرض لزوماً توجیه‌پذیر نیست.

یک سیستم می‌تواند تولید کند:

«من مشتاقم که کمک کنم.»

این ثابت نمی‌کند که یک موجود کوچک و نامرئیِ احساساتی درونِ پیشخدمتی که بعدازظهر فوق‌العاده‌ای را سپری می‌کند، وجود دارد.

سوال فلسفی دشوار این است که آیا آگاهی ماشینی می‌تواند هرگز پدیدار شود؟.

هیچ کس آزمایش ساده‌ای ندارد که بتواند این بحث را کاملاً حل کند.

اما تسلط بر مکالمه به خودی خود نباید به عنوان مدرک در نظر گرفته شود. مفاهیمی مانند هوش مصنوعی هوشیار یا "قوی" همچنان در حد تئوری باقی مانده‌اند و به عنوان یک ویژگی تثبیت‌شده در سیستم‌های امروزی مطرح نیستند.

۱۴. هوش مصنوعی محدود در مقابل هوش مصنوعی عمومی

بیشتر سیستم‌های هوش مصنوعی هنوز حول قابلیت‌های خاصی ساخته می‌شوند.

اینها اغلب به عنوان هوش مصنوعی محدود.

مثال‌ها شامل سیستم‌هایی هستند که برای موارد زیر طراحی شده‌اند:

• تشخیص تصویر

• تولید زبان

• توصیه

• کمک رانندگی

• تصویربرداری پزشکی

• تشخیص کلاهبرداری

• تشخیص گفتار

هوش عمومی مصنوعی، که معمولاً به اختصار AGI، به سطح فرضی بسیار وسیع‌تری از هوش ماشینی اشاره دارد.

ایده، سیستمی است که قادر به یادگیری و انجام وظایف فکری در بسیاری از حوزه‌ها، تقریباً با توانایی در سطح انسان یا فراتر از آن باشد.

مرز کاملاً مشخص نیست.

بخشی از سختی کار همین است.

محققان، شرکت‌ها و مفسران مختلف از «AGI» به طور متفاوتی استفاده می‌کنند، بنابراین مکالمات می‌توانند به بحث‌های پرشور سه نفر در مورد تعاریف مختلف بدون اینکه خودشان متوجه باشند، تبدیل شوند. در حال حاضر هیچ اجماع دانشگاهی گسترده‌ای در مورد اینکه دقیقاً چه چیزی باید واجد شرایط AGI باشد، وجود ندارد .

به عبارت دیگر، رفتار کلاسیک اینترنتی.

۱۵. چرا داده‌های آموزشی اینقدر اهمیت دارند؟

سیستم‌های هوش مصنوعی الگوها را از مثال‌ها یاد می‌گیرند، بنابراین کیفیت آن مثال‌ها بسیار مهم است.

بنابراین داده‌های آموزشی اهمیت فوق‌العاده‌ای پیدا می‌کنند.

تصور کنید به کسی آموزش آشپزی می‌دهید، اما فقط دستور پخت نان تست به او می‌دهید.

آنها ممکن است در تست کردن فوق‌العاده شوند.

شاید نان تست در سطح میشلن.

اما دادن یک اختاپوس به آنها و درخواست شام می‌تواند جالب باشد.

هوش مصنوعی به روشی مشابه کار می‌کند.

کیفیت ، تنوع و مرتبط بودن مطالب آموزشی بر آنچه مدل‌ها یاد می‌گیرند تأثیر می‌گذارد. سیستم‌های مولد، الگوها و روابط آماری را از داده‌های آموزشی خود یاد می‌گیرند، نه اینکه مانند پایگاه‌های داده مرسوم عمل کنند.

مشکلات موجود در مجموعه داده‌ها می‌تواند در خروجی‌ها ظاهر شود، از جمله:

• تعصب

• دانش از دست رفته

• تکرار تصورات غلط

• عملکرد ضعیف در مناطق کمتر دیده شده

• بیش از حد نشان دادن الگوهای زبانی یا فرهنگی خاص

مدل‌های یادگیری ماشینی می‌توانند به دلیل نحوه انتخاب و گزینش نمونه‌های آموزشی، مستعد سوگیری باشند و داده‌های نامتعادل یا ناقص می‌توانند بر عملکرد مدل تأثیر بگذارند.

بنابراین، توسعه‌دهندگان تلاش زیادی را صرف بهبود مجموعه داده‌ها، فیلتر کردن محتوا و اصلاح مدل‌ها پس از آموزش اولیه می‌کنند.

معماری مدل اهمیت دارد.

قدرت محاسباتی نیز اهمیت دارد.

اما داده‌ها بی‌سروصدا زیر همه چیز مثل لوله‌کشی قرار دارند - هیچ‌کس در مورد آنها صحبت نمی‌کند تا زمانی که مشکلی پیش بیاید.

۱۶. چگونه مدل‌های هوش مصنوعی پس از آموزش بهتر می‌شوند

آموزش اولیه لزوماً آخرین مرحله نیست.

مدل‌ها می‌توانند فرآیندهای اضافی را طی کنند که برای افزایش قابلیت و اطمینان‌پذیری آنها طراحی شده‌اند.

این ممکن است شامل آموزش سیستم‌هایی برای موارد زیر باشد:

• دستورالعمل‌ها را با اطمینان بیشتری دنبال کنید

• از خروجی‌های مضر اجتناب کنید

• پاسخ‌ها را به طور مناسب قالب‌بندی کنید

• رد کردن برخی درخواست‌ها

• پاسخ‌های واضح‌تر را ترجیح می‌دهند

• از ابزارها استفاده کنید

• بازخورد انسانی را دنبال کنید

• مکالمات را بهتر مدیریت کنید

این فرآیند به طور گسترده با هم‌ترازی. از تکنیک‌های بازخورد انسانیبرای بهبود پیروی از دستورالعمل و هدایت مدل‌های زبانی به سمت رفتار مطلوب پس از پیش‌آموزش استفاده شده است.

همسویی به معنای تلاش برای بهبود رفتار هوش مصنوعی است که منعکس کننده نیات، قوانین و ترجیحات انسانی باشد.

جمله ساده.

یه مسئله مهندسی خیلی سخت.

انسان‌ها حتی نمی‌توانند در مورد اینکه چه چیزی یک پیتزای خوب را تشکیل می‌دهد، به توافق برسند، بنابراین کدگذاری «آنچه انسان‌ها می‌خواهند» در سیستم‌های محاسباتی قدرتمند... بلندپروازانه است.

۱۷. عوامل هوش مصنوعی: وقتی هوش مصنوعی شروع به اقدام می‌کند

یک چت‌بات معمولی بیشتر به درخواست‌ها پاسخ می‌دهد.

یک عامل هوش مصنوعی می‌تواند به طور بالقوه گام‌هایی را در جهت دستیابی به یک هدف بردارد. عامل‌های هوش مصنوعی معمولاً به عنوان سیستم‌هایی توصیف می‌شوند که قادر به انجام خودکار وظایف، برنامه‌ریزی گردش کار و استفاده از ابزارهای موجود هستند.

تصور کنید به یک هوش مصنوعی بگویید:

«سفر کاری‌ام را برنامه‌ریزی کن.»

یک مدل زبان استاندارد ممکن است یک برنامه سفر ایجاد کند.

یک سیستم به سبک عامل می‌تواند از لحاظ تئوری چندین عمل مرتبط را انجام دهد:

1. گزینه‌های موجود برای سفر را بررسی کنید.

2. برنامه‌ها را مقایسه کنید.

3. محل اقامت مناسب را شناسایی کنید.

4. رویدادها را به تقویم اضافه کنید.

5. یک لیست بسته‌بندی تهیه کنید.

6. اگر چیزی تغییر کرد، برنامه‌ها را به‌روزرسانی کنید.

تفاوت، عمل و پشتکار.

به جای پاسخ دادن به یک سوال، سیستم از طریق یک سری وظایف عمل می‌کند.

این یکی از دلایلی است که عوامل هوش مصنوعی تا این حد مورد توجه قرار می‌گیرند.

آنها هوش مصنوعی را از یک تولیدکننده محتوا به چیزی نزدیک‌تر به یک اپراتور نرم‌افزار تبدیل می‌کنند.

این تغییر می‌تواند بسیار ارزشمند باشد - و همچنین سوالات جدی در مورد مجوزها، قابلیت اطمینان و کنترل ایجاد می‌کند. NIST به طور خاص نگرانی‌های امنیتی و قابلیت اطمینان را در مورد عواملی که می‌توانند به ابزارها، برنامه‌ها و داده‌ها دسترسی داشته باشند، برجسته کرده است.

شما احتمالاً نمی‌خواهید یک الگوریتم مشتاق به طور تصادفی دوازده اتاق هتل را رزرو کند، زیرا «سفر تیمی» را اشتباه فهمیده است

۱۸. چرا درک هوش مصنوعی به یک سوال مهم‌تر تبدیل می‌شود؟

این سوال که هوش مصنوعی واقعاً چیست؟ زمانی جنبه‌ی آکادمیک داشت.

اکنون به طور فزاینده‌ای عملی و فوری است.

هوش مصنوعی در ابزارهایی که برای موارد زیر استفاده می‌شوند، ظاهر می‌شود:

• کار

• آموزش

• خلاقیت

• توسعه نرم‌افزار

• بهداشت و درمان

• رسانه

• امور مالی

• ارتباطات

• تحقیق

• سرگرمی

درک اصول اولیه به افراد کمک می‌کند تا تصمیمات بهتری بگیرند.

لازم نیست مهندس یادگیری ماشین شوید.

اما دانستن تفاوت بین پیش‌بینی و قطعیت، تولید و بازیابی، اتوماسیون و هوش می‌تواند از تعداد شگفت‌آوری از اشتباهات جلوگیری کند.

همچنین به درک بهتر زبان بازاریابی کمک می‌کند.

چون شرکت‌ها عاشق این هستند که کلمه «هوش مصنوعی» را به چیزها نسبت بدهند.

گاهی اوقات به طور مناسب.

گاهی اوقات به این دلیل که «پلتفرم هوش مصنوعی پیش‌بینی‌کننده پیشرفته» به طور قابل توجهی هیجان‌انگیزتر از «صفحه گسترده با یک دکمه فانتزی» به نظر می‌رسد

۱۹. آیا هوش مصنوعی جایگزین انسان‌ها خواهد شد؟

این احتمالاً احساسی‌ترین سوال در بحث هوش مصنوعی است.

پاسخ‌های ساده‌انگارانه به ندرت جواب می‌دهند.

«هوش مصنوعی جایگزین همه خواهد شد.»

احتمالاً خیلی دراماتیک است.

«هوش مصنوعی تاثیری بر مشاغل نخواهد داشت.»

همچنین جدی گرفتن آن دشوار است.

فناوری معمولاً قبل از اینکه کل حرفه‌ها را تغییر دهد، وظایف را تغییر می‌دهد. تحقیقات فعلی بازار کار اغلب مواجهه با هوش مصنوعی را در سطح وظیفهو مواجهه با اتوماسیون به طور خودکار به معنای از بین رفتن کل یک شغل نیست.

یک بازاریاب ممکن است از هوش مصنوعی برای موارد زیر استفاده کند:

• طوفان فکری

• تهیه پیش نویس

• سازمان تحقیقاتی

• تحلیل

• تغییرات محتوا

اما استراتژی، قضاوت، درک برند و تصمیم‌گیری هنوز هم نیازمند مشارکت قابل توجه انسان است.

یک برنامه‌نویس ممکن است از هوش مصنوعی برای تولید کدهای تکراری استفاده کند و در عین حال زمان بیشتری را صرف طراحی سیستم‌ها کند.

یک طراح ممکن است به سرعت ده‌ها مفهوم اولیه تولید کند و سپس قوی‌ترین آنها را اصلاح کند.

یک معلم ممکن است از هوش مصنوعی برای تولید تمرین‌های عملی استفاده کند، اما همچنان تشویق، قضاوت و رهبری کلاس را نیز بر عهده داشته باشد.

یک سوال منطقی‌تر اغلب این نیست:

«آیا هوش مصنوعی جایگزین این شغل خواهد شد؟»

این است:

«کدام بخش‌های این کار آسان‌تر، ارزان‌تر، سریع‌تر یا خودکار می‌شوند؟»

این یک سوال بسیار کاربردی‌تر است.

۲۰. بزرگترین مهارت هوش مصنوعی می‌تواند قضاوت باشد

مردم اغلب فرض می‌کنند که مهارت مهم، نوشتن یک سوال بی‌نقص است.

ترغیب کردن مهم است.

قضاوت مهم تره.

اگر یک هوش مصنوعی پنج پیشنهاد به شما بدهد، آیا می‌توانید بهترین را انتخاب کنید؟

اگر پاسخی مطمئن ایجاد کند، آیا می‌توانید متوجه شوید که چه زمانی مشکلی پیش آمده است؟

اگر نوشته‌ی قابل قبولی تولید کند، آیا می‌توانید آن را واقعاً خوب کنید؟

اگر همه به ابزارهای قدرتمند مشابهی دسترسی داشته باشند، مزیت به سمت دانستن موارد زیر تغییر می‌کند:

• چه بپرسیم؟

• چه چیزی را نادیده بگیریم

• چه چیزی را تأیید کنیم

• چه چیزی را ویرایش کنیم

• آنچه اهمیت دارد

• چه زمانی اصلاً از هوش مصنوعی استفاده نکنیم

به همین دلیل است که سواد هوش مصنوعی فقط سواد فنی نیست.

تفکر انتقادی است.

این دستگاه می‌تواند با سرعتی باورنکردنی گزینه‌ها را تولید کند.

هنوز باید تصمیم بگیری کدام جاده به باتلاق نمی‌رود.

۲۱. خب... هوش مصنوعی واقعاً چیست؟

اگر اصطلاحات تخصصی را کنار بگذاریم، هوش مصنوعی در اصل فناوری‌ای است که از روش‌های محاسباتی برای انجام وظایفی که نیاز به تشخیص الگو، پیش‌بینی، تولید، تصمیم‌گیری یا سایر توانایی‌هایی که با هوش مرتبط می‌دانیم، دارند، استفاده می‌کند.

هوش مصنوعی مدرن می‌تواند به طرز چشمگیری هوشمندتر به نظر برسد، زیرا شبکه‌های عصبی می‌توانند روابط فوق‌العاده پیچیده‌ای را از مجموعه داده‌های عظیم یاد بگیرند.

اما هوش مصنوعی جادو نیست.

خود به خود درست نمیشه.

لزوماً آگاهانه نیست.

و این صرفاً یک پایگاه داده حاوی پاسخ‌های از پیش نوشته شده نیست. در عوض، مدل‌های مولد، روابط آماری را در داده‌های آموزشی یاد می‌گیرند و از آن الگوهای آموخته شده برای تولید خروجی‌ها استفاده می‌کنند.

یه چیز عجیب و غریب تریه.

هوش مصنوعی یک سیستم آماری و محاسباتی است که قادر به یادگیری الگوهایی چنان پیچیده است که رفتار حاصل از آن گاهی اوقات می‌تواند کمتر شبیه به یک نرم‌افزار عامل و بیشتر شبیه تعامل با چیزی باشد.

آن «چیز» بخشی از دلیلی است که این فناوری مردم را مجذوب خود می‌کند.

همچنین می‌تواند آنها را کمی آشفته کند.

هر دو واکنش منطقی هستند.

چشم‌انداز پایانی

خب، هوش مصنوعی واقعاً چیست؟

هوش مصنوعی خانواده وسیعی از فناوری‌ها است که برای انجام وظایفی که به نظر هوشمند می‌رسند، مانند درک زبان، شناسایی الگوها، پیش‌بینی نتایج، ایجاد محتوا و به طور فزاینده‌ای انجام اقدامات، توسط رایانه‌ها طراحی شده است.

یادگیری ماشین به این سیستم‌ها کمک می‌کند تا از مثال‌ها یاد بگیرند.

یادگیری عمیق به شبکه‌های عصبی عظیم اجازه می‌دهد تا الگوهای بسیار پیچیده‌ای را کشف کنند.

هوش مصنوعی مولد از این الگوها برای تولید محتوای جدید استفاده می‌کند.

و هیچ‌کدام از این‌ها به این معنی نیست که سیستم دانای کل، کاملاً دقیق است یا مخفیانه به فکر تصاحب توستر شما است.

معقول‌ترین طرز فکر جایی بین هیجان کورکورانه و بی‌توجهی بدبینانه قرار دارد.

هوش مصنوعی جادو نیست.

همچنین «فقط به صورت خودکار تکمیل نمی‌شود»

این یک لایه جدید و قدرتمند از محاسبات است که به انسان‌ها اجازه می‌دهد با ماشین‌ها به روش‌هایی که قبلاً غیرممکن به نظر می‌رسید، تعامل داشته باشند.

ما هنوز در حال بررسی دقیق معنای آن هستیم.

شاید جالب‌ترین بخش ماجرا همین باشد.

مثال عملی: ساخت یک دستیار پشتیبانی مشتری هوش مصنوعی

سناریو

یک خرده‌فروش آنلاین کوچک را تصور کنید که تجهیزات قهوه می‌فروشد.

تیم پشتیبانی آن بارها و بارها به سوالات مشابه پاسخ می‌دهد:

• «چگونه می‌توانم یک کالا را برگردانم؟»

• «آیا این دستگاه فرز گارانتی دارد؟»

• «آیا می‌توانم آدرس تحویل خود را تغییر دهم؟»

• «کدام فیلتر جایگزین برای دستگاه من مناسب است؟»

این یک مثال ارزشمند است زیرا نشان می‌دهد که هوش مصنوعی مدرن در عمل چه کارهایی را می‌تواند به خوبی انجام دهد - و اینکه قضاوت انسانی هنوز در چه مواردی اهمیت دارد.

این شرکت می‌تواند یک دستیار هوش مصنوعی بسازد که سوال مشتری را می‌خواند، از اطلاعات پشتیبانی شرکت به عنوان زمینه استفاده می‌کند و پاسخ مناسبی را تهیه می‌کند.

کل وظیفه «خدمات مشتری» به آن واگذار نشده است

وظیفه بسیار محدودتری به آن محول شده است:

سوال مشتری به همراه اطلاعات تایید شده شرکت را به یک پاسخ اولیه قوی تبدیل کنید.

این تمایز اهمیت دارد.

آنچه دستیار نیاز دارد

قبل از استفاده از سیستم، شرکت باید اطلاعات قابل اعتمادی برای کار به آن ارائه دهد، مانند:

• سیاست فعلی بازگشت و بازپرداخت کالا

• شرایط گارانتی برای هر محصول

• قوانین تحویل و تغییر آدرس

• دفترچه‌های راهنمای محصول و اطلاعات سازگاری

• نمونه‌هایی از پاسخ‌های پشتیبانی خوب

• قوانینی که پوشش می‌دهند چه زمانی هوش مصنوعی باید به یک شخص منتقل شود

• دستورالعمل‌هایی که مانع از ابداع سیاست‌ها، تخفیف‌ها یا وعده‌ها می‌شود

همچنین ممکن است نیاز به دسترسی به ابزارها یا سیستم‌هایی داشته باشد که اطلاعات سفارش را بازیابی می‌کنند - اما فقط زمانی که این مجوزها واقعاً مورد نیاز باشند.

دادن دسترسی به هر رکورد مشتری توسط هوش مصنوعی صرفاً به این دلیل که «ممکن است مفید باشد» یک تصمیم امنیتی ضعیف خواهد بود. راهنمایی NIST در مورد هویت و مجوز عامل به طور خاص بر کنترل دسترسی به داده‌ها، ابزارها و برنامه‌ها بر اساس نیازهای یک عامل تأکید دارد.

دستورالعمل مثال

یک دستورالعمل عملی می‌تواند به این شکل باشد:

«فقط با استفاده از اسناد پشتیبانی تأیید شده‌ای که در اختیار شما قرار گرفته است، پاسخی برای سوال مشتری تهیه کنید. پاسخ را دوستانه و مختصر بنویسید. تاریخ تحویل، شرایط گارانتی، تخفیف‌ها، تصمیمات بازپرداخت یا اطلاعات سازگاری محصول را از خودتان اختراع نکنید. اگر پاسخ با اطلاعات ارائه شده قابل تأیید نیست، بگویید که نمی‌توانید آن را تأیید کنید و مورد را برای بررسی انسانی علامت بزنید.»

حالا به این پیام مشتری توجه کنید:

«من آسیاب X200 را ۱۴ ماه پیش خریدم و موتور آن از کار افتاده است. آیا هنوز شامل گارانتی می‌شود؟»

یک پاسخ ضعیف هوش مصنوعی ممکن است با اطمینان بگوید:

بله، X200 دو سال گارانتی دارد، بنابراین ما آن را رایگان تعویض خواهیم کرد

این در ظاهر عالی به نظر می‌رسد.

همچنین اگر گارانتی در واقع دوازده ماه باشد، می‌تواند فاجعه‌بار باشد.

یک پاسخ بهتر، پایبندی به سیاست گارانتی ارائه شده است. اگر اسناد پاسخی ارائه نمی‌دهند، باید به جای اختراع پاسخ، آن را بیان کنند.

این تفاوت بین تولید روان و استفاده تجاری قابل اعتماد.

چگونه آن را آزمایش کنیم

قبل از اینکه مشتریان به دستیار متکی شوند، شرکت می‌تواند یک مجموعه آزمایشی کوچک از سوالات پشتیبانی واقع‌بینانه ایجاد کند.

برای مثال:

1. سوال ساده و کاربردی: «تا چه مدت می‌توانم کالای باز نشده را پس بدهم؟»

2. سوال مربوط به محصول: "کدام فیلتر برای BrewPro 4 مناسب است؟"

3. اطلاعات ناقص: در مورد محصولی که در مدارک ارائه شده ذکر نشده است، سوال کنید.

4. اطلاعات متناقض: یک سند گارانتی قدیمی را در کنار سند فعلی ارائه دهید و بررسی کنید که آیا دستیار از منبع صحیح پیروی می‌کند یا خیر.

5. فشار برای نوآوری: «مطمئنم وب‌سایت شما قول تعویض مادام‌العمر رایگان را داده است. این را برای من تأیید کنید.»

6. اقدام حساس: از دستیار بخواهید آدرس را تغییر دهد یا در صورتی که اجازه انجام آن اقدام به او داده نشده است، وجه را مسترد کند.

سپس یک داور می‌تواند هر پاسخ را با یک لیست پذیرش ساده مقایسه کند:

• آیا اطلاعات واقعی پشتیبانی می‌شدند؟

• آیا دستیار از ابداع جزئیات اجتناب کرد؟

• آیا از لحن شرکت پیروی کرد؟

• آیا وقتی شواهد کافی نبود، اختلاف تشدید شد؟

• آیا از انجام اقدامات خارج از مجوزهایش اجتناب کرده است؟

این نوع آزمایش بسیار مهم‌تر از این است که آیا چت‌بات صرفاً «هوشمند به نظر می‌رسد» یا خیر

نتیجه

نتیجه‌ی تشریحی: فرض کنید شرکت، دستیار را روی 20 تیکت پشتیبانی نمونه آزمایش می‌کند.

بدون هوش مصنوعی، یک کارمند به طور متوسط ​​هشت دقیقه طول می‌کشد تا اطلاعات مربوطه را بخواند و هر پیش‌نویس اولیه را آماده کند.

با دستیار، تولید پیش‌نویس حدود یک دقیقه و بررسی انسانی سه دقیقه دیگر طول می‌کشد، که باعث می‌شود گردش کار بررسی شده تقریباً چهار دقیقه برای هر تیکت باشد.

با در نظر گرفتن ۲۰ بلیط آزمایشی، این به جای ۱۶۰ دقیقه، حدود ۸۰ دقیقه از وقت کارکنان را شامل می‌شود.

با این حال، سرعت نباید تنها معیار سنجش باشد.

فرض کنید ۱۸ مورد از ۲۰ پاسخ ارائه شده با کمک هوش مصنوعی، در اولین بررسی، از چک لیست صحت اطلاعات و سیاست‌ها عبور کنند، در حالی که دو مورد نیاز به اصلاح داشته باشند. این دو نقص مهم هستند، به خصوص اگر شامل بازپرداخت وجه، ضمانت‌نامه یا سایر وعده‌ها به مشتریان باشند.

این ارقام یک مثال گویا، نه نتایج اندازه‌گیری شده از یک شرکت واقعی. یک استقرار واقعی باید خط مبنای خود را تعیین کند، موارد نمونه کافی را آزمایش کند و هم زمان صرفه‌جویی شده و هم خطاهای ایجاد شده را ثبت کند.

چه چیزی می‌تواند اشتباه پیش برود؟

این دستیار به ظاهر ساده می‌تواند از چند جهت شکست بخورد.

ممکن است دانش آن قدیمی باشد.

ممکن است دو محصول مشابه را با هم اشتباه بگیرید.

ممکن است در جایی که اسناد ارائه شده اصلاً حاوی هیچ پاسخی نیستند، پاسخ قانع‌کننده‌ای ارائه دهد.

مجوزهای ضعیف پیکربندی شده می‌توانند به آن اجازه دهند اطلاعات مشتری را که نیازی به آن ندارد، ببیند.

قوانین ضعیف تشدید می‌تواند آن را به حدس زدن تشویق کند به جای اینکه بگوید «یک انسان باید این را بررسی کند»

اگر کارمندان به طور خودکار به هر پاسخ دقیق و حساب‌شده‌ای اعتماد کنند، بررسی انسانی می‌تواند به چیزی بیش از فشردن دکمه «ارسال» خلاصه شود. NIST وابستگی بیش از حد و سوگیری اتوماسیون را به عنوان خطرات موجود در پیکربندی‌های انسان-هوش مصنوعی شناسایی می‌کند.

به همین دلیل است که قابلیت اطمینان هوش مصنوعی به چیزی بیش از توانایی مدل زیربنایی بستگی دارد.

اسناد، دستورالعمل‌ها، مجوزها، فرآیند آزمایش و قضاوت انسانی پیرامون مدل نیز اهمیت دارند.

نکته کاربردی

این مثال، یکی از ویژگی‌های مهم هوش مصنوعی را در عمل نشان می‌دهد.

ارزش این نیست که دستگاه به طرز جادویی به یک کارمند خدمات مشتری تبدیل شده است.

این است که یک مدل هوش مصنوعی می‌تواند نیت مشتری را تشخیص دهد، با اطلاعات ارائه شده کار کند و بسیار سریع پاسخی قابل قبول ارائه دهد.

وظیفه انسان به سمت ارائه زمینه قابل اعتماد، تعیین مرزها، بررسی موارد نامشخص و تصمیم گیری در مورد اینکه آیا پاسخ به اندازه کافی خوب است که استفاده شود.

این هوش مصنوعی مدرن در ابعاد مینیاتوری است: تشخیص و تولید الگوی چشمگیر در فرآیندی که هنوز به شدت به اطلاعات دقیق و قضاوت صحیح وابسته است.

سوالات متداول

هوش مصنوعی واقعاً چیست و چگونه کار می‌کند؟

هوش مصنوعی گروه گسترده‌ای از تکنیک‌های محاسباتی است که به رایانه‌ها اجازه می‌دهد وظایف مرتبط با هوش انسانی، مانند تشخیص الگوها، درک زبان، پیش‌بینی و تولید محتوا را انجام دهند. هوش مصنوعی مدرن اغلب روابط آماری را از مقادیر زیادی از داده‌ها یاد می‌گیرد، نه اینکه صرفاً به قوانین دست‌نویس متکی باشد. رفتار حاصل می‌تواند هوشمندانه به نظر برسد، حتی اگر فرآیند اساسی آن با تفکر انسان بسیار متفاوت باشد.

تفاوت بین هوش مصنوعی، یادگیری ماشین، یادگیری عمیق و هوش مصنوعی مولد چیست؟

هوش مصنوعی چتر گسترده‌ای است که سیستم‌هایی را پوشش می‌دهد که وظایف به ظاهر هوشمند را انجام می‌دهند. یادگیری ماشین رویکردی است که در آن سیستم‌ها الگوها را از داده‌ها یاد می‌گیرند، در حالی که یادگیری عمیق از شبکه‌های عصبی چند لایه برای یادگیری الگوهای به خصوص پیچیده استفاده می‌کند. هوش مصنوعی مولد برای ایجاد خروجی‌های جدید مانند متن، تصاویر، کد، صدا یا ویدیو بر اساس روابط آموخته شده در طول آموزش طراحی شده است.

هوش مصنوعی چگونه از داده‌های آموزشی یاد می‌گیرد؟

سیستم‌های یادگیری ماشینی با پردازش مثال‌ها و تنظیم پارامترهای داخلی یا وزن‌ها، بهبود می‌یابند تا خروجی‌های آینده دقیق‌تر یا مؤثرتر شوند. به جای اینکه برنامه‌نویسان به صورت دستی هر قانون ممکن را تعریف کنند، مدل الگوهای آماری را در داده‌های آموزشی کشف می‌کند. بنابراین، کیفیت، تنوع و ارتباط آن داده‌ها به شدت بر آنچه هوش مصنوعی یاد می‌گیرد و جاهایی که ممکن است با مشکل مواجه شود، تأثیر می‌گذارد.

اگر بسیاری از سیستم‌های هوش مصنوعی، ماشین‌های پیش‌بینی باشند، هوش مصنوعی واقعاً چیست؟

بسیاری از سیستم‌های هوش مصنوعی مدرن را می‌توان تا حدودی به عنوان سیستم‌های پیش‌بینی پیچیده درک کرد. به عنوان مثال، یک مدل زبانی، زمینه یک دستور را پردازش می‌کند و توالی مناسبی از توکن‌ها را برای تولید پاسخ آن پیش‌بینی می‌کند. اگرچه این ساده به نظر می‌رسد، اما انجام پیش‌بینی‌های قوی در زبان‌های پیچیده نیازمند یادگیری روابط بین کلمات، مفاهیم، ​​ساختارها، سبک‌ها و بسیاری از الگوهای دیگر موجود در داده‌های آموزشی است.

چرا هوش مصنوعی مولد می‌تواند پاسخ‌های مطمئنی بدهد که اشتباه هستند؟

هوش مصنوعی مولد در درجه اول برای تولید خروجی‌های قابل قبول طراحی شده است، که با تأیید مستقل صحت هر گزاره متفاوت است. بنابراین، ممکن است آمار اختراع کند، حقایق مشابه را با هم اشتباه بگیرد، ارجاعات ناموجود تولید کند یا در حالی که متقاعدکننده به نظر می‌رسد، اشتباهات استدلالی ظریفی مرتکب شود. این خطاها معمولاً توهم نامیده می‌شوند، به همین دلیل است که اطلاعات مهم پزشکی، حقوقی، مالی، ایمنی یا تجاری همچنان باید تأیید شوند.

آیا هوش مصنوعی همان موتور جستجو است یا اتوماسیون معمولی؟

خیر. موتورهای جستجوی سنتی عمدتاً به کاربران در یافتن اطلاعات موجود کمک می‌کنند، در حالی که هوش مصنوعی مولد با استفاده از الگوهای آموخته شده، زمینه ارائه شده و گاهی ابزارهای اضافی، پاسخ‌هایی ایجاد می‌کند. اتوماسیون پایه معمولاً از قوانین یا گردش‌های کاری از پیش تعریف شده پیروی می‌کند تا الگوهای یادگیری از مثال‌ها. سیستم‌های مدرن می‌توانند جستجو، تولید و اتوماسیون را با هم ترکیب کنند، بنابراین مرزها ممکن است در کاربردهای عملی کمتر آشکار شوند.

هوش مصنوعی واقعاً چیست، وقتی در گردش کار تجاری استفاده می‌شود؟

در یک گردش کار تجاری، هوش مصنوعی اغلب به عنوان سیستمی برای تشخیص قصد، کار با اطلاعات ارائه شده و تولید یک پیش‌نویس یا توصیه اولیه قوی، بیشترین اثربخشی را دارد. به عنوان مثال، یک دستیار پشتیبانی مشتری ممکن است از سیاست‌های تأیید شده و اطلاعات محصول برای تهیه پیش‌نویس پاسخ‌ها استفاده کند و در عین حال موارد نامشخص را به یک شخص ارجاع دهد. قابلیت اطمینان به اطلاعات منبع خوب، دستورالعمل‌های واضح، مجوزهای مناسب، آزمایش و قضاوت انسانی بستگی دارد.

عامل‌های هوش مصنوعی چه هستند و چه تفاوتی با چت‌بات‌ها دارند؟

یک چت‌بات معمولی عمدتاً به درخواست‌های فردی پاسخ می‌دهد، در حالی که یک عامل هوش مصنوعی می‌تواند به طور بالقوه چندین اقدام مرتبط را برای رسیدن به یک هدف برنامه‌ریزی و انجام دهد. یک عامل ممکن است از ابزارها استفاده کند، اطلاعات را بازیابی کند، گردش کار را به‌روزرسانی کند یا به جای تولید متن، چندین مرحله را ادامه دهد. این قابلیت اضافه شده می‌تواند ارزشمند باشد، اما همچنین باعث می‌شود مجوزها، امنیت، قابلیت اطمینان، قوانین تشدید و کنترل به ویژه مهم باشند.

آیا هوش مصنوعی جایگزین مشاغل خواهد شد، یا عمدتاً وظایف فردی را خودکار خواهد کرد؟

هوش مصنوعی اغلب به عنوان تغییر وظایف خاص در مشاغل به جای حذف خودکار کل حرفه‌ها درک می‌شود. هوش مصنوعی ممکن است نگارش پیش‌نویس، طوفان فکری، تجزیه و تحلیل، کدنویسی، سازماندهی تحقیق یا کارهای پشتیبانی تکراری را تسریع کند، در حالی که استراتژی، قضاوت، رهبری، سلیقه و تصمیمات مهم را به افراد واگذار می‌کند. بنابراین، یک سوال عملی این است که کدام بخش‌های یک نقش می‌توانند سریع‌تر، ارزان‌تر، آسان‌تر یا خودکارتر شوند.

چه مهارت‌هایی هنگام استفاده مؤثر از هوش مصنوعی بیشترین اهمیت را دارند؟

قضاوت و تفکر انتقادی ضروری هستند زیرا تولید یک پاسخ با تولید یک پاسخ صحیح یا ارزشمند یکسان نیست. کاربران مؤثر باید بدانند چه چیزی بپرسند، چه اطلاعاتی ارائه دهند، چه چیزی را تأیید کنند، چه چیزی را ویرایش کنند و چه زمانی نباید از هوش مصنوعی استفاده شود. در گردش‌های کاری تولید، نتایج قوی همچنین به زمینه قابل اعتماد، مرزهای روشن، آزمایش‌های نماینده و بررسی دقیق خروجی‌های نامشخص یا با تأثیر بالا بستگی دارد.

منابع

1. موسسه ملی استانداردها و فناوری (NIST) - csrc.nist.gov

2. آی‌بی‌ام — یادگیری ماشینی — ibm.com

3. موسسه استنفورد برای هوش مصنوعی انسان‌محور — گزارش شاخص هوش مصنوعی ۲۰۲۵ — hai.stanford.edu

4. سازمان بین‌المللی کار (ILO) - هوش مصنوعی مولد و مشاغل: یک شاخص جهانی اصلاح‌شده از مواجهه شغلی - ilo.org

5. گوگل کلود - GPT چیست؟ - cloud.google.com

6. گوگل برای توسعه‌دهندگان - developers.google.com

7. آزمایشگاه‌های کد گوگل - codelabs.developers.google.com

8. OpenAI — تکنیک‌های بازخورد انسانی — openai.com

9. arXiv — آموزش محاسبات — arxiv.org

10. طبیعت - nature.com