سوگیری هوش مصنوعی چیست؟

هوش مصنوعی همه جا حضور دارد - بی‌سروصدا مرتب‌سازی، امتیازدهی و پیشنهاد می‌دهد. این مفید است... تا زمانی که برخی گروه‌ها را جلو بیندازد و برخی دیگر را عقب نگه دارد. اگر برایتان سوال بوده که سوگیری هوش مصنوعی چیست ، چرا حتی در مدل‌های بی‌نقص هم ظاهر می‌شود و چگونه می‌توان آن را بدون افت عملکرد کاهش داد، این راهنما برای شماست.

مقالاتی که شاید بعد از این مطلب دوست داشته باشید بخوانید:

🔗 GPT مخفف چیست؟
توضیحی ساده به انگلیسی از نام و ریشه‌های GPT.

🔗 هوش مصنوعی پیش‌بین چیست؟
چگونه مدل‌های پیش‌بینی، نتایج را از داده‌های تاریخی و زنده پیش‌بینی می‌کنند.

🔗 هوش مصنوعی متن‌باز چیست؟
تعریف، مزایای کلیدی، چالش‌ها، مجوزها و نمونه‌های پروژه.

🔗 چگونه هوش مصنوعی را در کسب و کار خود بگنجانید
نقشه راه گام به گام، ابزارها، گردش‌های کاری و ملزومات مدیریت تغییر.

تعریف سریع: سوگیری هوش مصنوعی چیست؟

سوگیری هوش مصنوعی زمانی است که خروجی‌های یک سیستم هوش مصنوعی به طور سیستماتیک به نفع یا به ضرر افراد یا گروه‌های خاصی باشد. این اغلب ناشی از داده‌های نامتوازن، انتخاب‌های محدود اندازه‌گیری یا زمینه وسیع‌تری است که سیستم در آن ساخته و استفاده می‌شود. سوگیری همیشه مخرب نیست، اما در صورت عدم کنترل، می‌تواند به سرعت آسیب‌ها را افزایش دهد. [1]

یک تمایز مفید: تعصب، انحراف در تصمیم‌گیری است، در حالی که تبعیض ، اثر مضری است که انحراف می‌تواند در جهان ایجاد کند. شما همیشه نمی‌توانید تمام تعصبات را حذف کنید، اما باید آن را مدیریت کنید تا نتایج ناعادلانه‌ای ایجاد نکند. [2]

چرا درک تعصب در واقع شما را بهتر می‌کند 💡

عجیبه، نه؟ اما دونستن اینکه هوش مصنوعی چه نوع سوگیری‌ای داره، باعث می‌شه:

• در طراحی بهتر هستید - فرضیات شکننده را زودتر تشخیص خواهید داد.

• در مدیریت بهتر - به جای اینکه بده بستان‌ها را با دست نشان دهید، آنها را مستند خواهید کرد.

• در گفتگوها - با رهبران، قانون‌گذاران و افراد تحت تأثیر - بهتر عمل می‌کنند.

همچنین، یادگیری زبان معیارها و سیاست‌های انصاف، در آینده در زمان صرفه‌جویی می‌کند. راستش را بخواهید، مثل خریدن نقشه قبل از سفر جاده‌ای است - هرچند ناقص، اما بسیار بهتر از حس و حال [2] است.

انواع سوگیری‌های هوش مصنوعی که در واقعیت خواهید دید 🧭

سوگیری در سراسر چرخه حیات هوش مصنوعی خود را نشان می‌دهد. الگوهای رایجی که تیم‌ها با آنها مواجه می‌شوند:

• سوگیری نمونه‌گیری داده‌ها - برخی از گروه‌ها کمتر از حد واقعی نشان داده شده‌اند یا از قلم افتاده‌اند.

• سوگیری برچسب - برچسب‌های تاریخی، تعصب یا قضاوت‌های پر سر و صدای انسانی را رمزگذاری می‌کنند.

• سوگیری اندازه‌گیری - شاخص‌هایی که آنچه را که واقعاً برای شما ارزشمند است، نشان نمی‌دهند.

• سوگیری ارزیابی - مجموعه‌های آزمون، جمعیت‌ها یا زمینه‌های خاصی را از قلم می‌اندازند.

• سوگیری استقرار - یک مدل آزمایشگاهی خوب که در شرایط نامناسب استفاده می‌شود.

• سوگیری‌های سیستمی و انسانی - الگوهای اجتماعی گسترده‌تر و انتخاب‌های تیمی که به فناوری سرایت می‌کنند.

یک مدل ذهنی مفید از گروه‌های نهادهای استاندارد، به انسانی، فنی و سیستمی و اجتماعی-فنی ، نه فقط اصلاحات مدل. [1]

جایی که تعصب مخفیانه وارد عمل می‌شود 🔍

1. چارچوب‌بندی مشکل - هدف را خیلی محدود تعریف کنید و افرادی را که محصول باید به آنها خدمت کند، حذف کنید.

2. منبع داده‌ها - داده‌های تاریخی اغلب نابرابری‌های گذشته را رمزگذاری می‌کنند.

3. انتخاب ویژگی‌ها - پروکسی‌ها برای ویژگی‌های حساس می‌توانند ویژگی‌های حساس را بازسازی کنند.

4. آموزش - اهداف، دقت متوسط ​​را بهینه می‌کنند، نه عدالت را.

5. آزمایش - اگر مجموعه‌ی افراد مورد بررسی شما کج‌خلق باشد، معیارهای شما نیز کج‌خلق خواهند شد.

6. نظارت - تغییرات در کاربران یا زمینه می‌تواند مشکلات را دوباره ایجاد کند.

تنظیم‌کنندگان مقررات بر مستندسازی ریسک‌های انصاف در طول این چرخه عمر، نه فقط در زمان برازش مدل، تأکید دارند. این یک تمرین همه‌جانبه است. [2]

چگونه می‌توانیم انصاف را بدون دچار شدن به دور باطل بسنجیم؟ 📏

یک معیار برای تعیین همه آنها وجود ندارد. بر اساس مورد استفاده خود و مضراتی که می‌خواهید از آنها جلوگیری کنید، انتخاب کنید.

• برابری جمعیتی - نرخ انتخاب باید در بین گروه‌ها مشابه باشد. برای سوالات تخصیص مناسب است، اما می‌تواند با اهداف دقت در تضاد باشد. [3]

• شانس‌های برابر - نرخ‌های خطا مانند مثبت‌های کاذب و مثبت‌های واقعی باید مشابه باشند. زمانی مفید است که هزینه خطاها بر اساس گروه متفاوت باشد. [3]

• کالیبراسیون - برای امتیاز یکسان، نتایج باید در بین گروه‌ها به طور مساوی محتمل باشند. این مورد زمانی مفید است که امتیازها، تصمیمات انسانی را هدایت می‌کنند. [3]

جعبه ابزارها با محاسبه شکاف‌ها، نمودارها و داشبوردها، این کار را عملی می‌کنند تا بتوانید حدس زدن را متوقف کنید. [3]

روش‌های عملی برای کاهش سوگیری که واقعاً مؤثر هستند 🛠️

به جای یک راه‌حل جادویی، به راه‌حل‌های کاهشی لایه‌ای فکر کنید

• ممیزی و غنی‌سازی داده‌ها - شناسایی شکاف‌های پوشش، جمع‌آوری داده‌های ایمن‌تر در صورت قانونی بودن، نمونه‌برداری از اسناد.

• وزن‌دهی مجدد و نمونه‌گیری مجدد - توزیع آموزش را برای کاهش انحراف تنظیم کنید.

• محدودیت‌های حین پردازش - اهداف انصاف را به هدف اضافه کنید تا مدل مستقیماً بده‌بستان‌ها را یاد بگیرد.

• سوگیری‌زدایی تخاصمی - مدل را طوری آموزش دهید که ویژگی‌های حساس از بازنمایی‌های داخلی قابل پیش‌بینی نباشند.

• پس‌پردازش - در صورت لزوم و قانونی بودن، آستانه‌های تصمیم‌گیری را برای هر گروه کالیبره کنید.

• بررسی‌های انسانی در حلقه - مدل‌های جفت‌شده با خلاصه‌های قابل توضیح و مسیرهای ارجاع.

کتابخانه‌های متن‌باز مانند AIF360 و Fairlearn هم معیارها و هم الگوریتم‌های کاهش خطر را ارائه می‌دهند. آن‌ها جادویی نیستند، اما یک نقطه شروع سیستماتیک به شما می‌دهند. [5][3]

اثبات واقعی اهمیت تعصب 📸💳🏥

• تحلیل چهره - تحقیقات گسترده و معتبر، نابرابری‌های زیادی را در دقت تشخیص بین گروه‌های جنسیتی و نوع پوست در سیستم‌های تجاری ثبت کرده‌اند و این حوزه را به سمت شیوه‌های ارزیابی بهتر سوق می‌دهند. [4]

• تصمیمات پرمخاطره (اعتبار، استخدام، مسکن) - حتی بدون قصد قبلی، نتایج جانبدارانه می‌توانند با وظایف انصاف و ضد تبعیض در تضاد باشند. ترجمه: شما مسئول نتایج هستید، نه فقط کد. [2]

حکایتی کوتاه از عمل: در یک ممیزی صفحه استخدام ناشناس، یک تیم شکاف‌های فراخوان برای زنان در نقش‌های فنی را پیدا کرد. گام‌های ساده - تقسیم‌بندی‌های طبقه‌بندی‌شده بهتر، بررسی ویژگی‌ها و آستانه‌گذاری برای هر گروه - بیشتر شکاف را با کمی دقت از بین برد. کلید حل یک ترفند نبود؛ بلکه یک حلقه اندازه‌گیری-کاهش-نظارت تکرارپذیر بود.

سیاست، قانون و حکومتداری: «خوب» چه شکلی است 🧾

لازم نیست وکیل باشید، اما باید طوری طراحی کنید که انصاف و قابلیت توضیح داشته باشد:

• اصول انصاف - ارزش‌های انسان‌محور، شفافیت و عدم تبعیض در طول چرخه عمر. [1]

• حفاظت از داده‌ها و برابری - در مواردی که داده‌های شخصی مطرح هستند، انتظار وظایفی در مورد انصاف، محدودیت هدف و حقوق فردی را داشته باشید؛ قوانین بخش نیز ممکن است اعمال شوند. تعهدات خود را از قبل ترسیم کنید. [2]

• مدیریت ریسک - از چارچوب‌های ساختاریافته برای شناسایی، اندازه‌گیری و نظارت بر سوگیری به عنوان بخشی از برنامه‌های گسترده‌تر ریسک هوش مصنوعی استفاده کنید. آن را بنویسید. مرور کنید. تکرار کنید. [1]

به طور خلاصه: کاغذبازی فقط بوروکراسی نیست؛ بلکه روشی است که ثابت می‌کنید که واقعاً کار را انجام داده‌اید.

جدول مقایسه: ابزارها و چارچوب‌هایی برای مهار سوگیری هوش مصنوعی 🧰📊

هر یک از این موارد با ارائه ساختار، معیارها و واژگان مشترک، به سوگیری هوش مصنوعی

یک گردش کار کوتاه و کمی سلیقه‌ای 🧪

1. آسیبی را که می‌خواهید از آن جلوگیری کنید بیان کنید - آسیب تخصیص، نابرابری در نرخ خطا، آسیب به شأن و منزلت و غیره.

2. یک معیار همسو با آن آسیب انتخاب کنید - مثلاً اگر برابری خطا مهم است، شانس‌های برابر. [3]

3. با داده‌ها و مدل امروز اجرا کنید

4. ابتدا اصلاحات کم‌اصطکاک را امتحان کنید - تقسیم‌بندی بهتر داده‌ها، آستانه‌گذاری یا وزن‌دهی مجدد.

5. در صورت نیاز، محدودیت‌های حین پردازش را بررسی کنید

6. مجموعه‌های ذخیره‌شده‌ای را که نشان‌دهنده کاربران واقعی هستند، دوباره ارزیابی کنید

7. نظارت در تولید - تغییرات توزیع رخ می‌دهد؛ داشبوردها نیز باید چنین باشند.

8. بده‌بستان‌های مستند - انصاف وابسته به بافت است، بنابراین توضیح دهید که چرا برابری X را به برابری Y ترجیح دادید. [1][2]

نهادهای نظارتی و استانداردسازی به یک دلیل بر تفکر چرخه عمر تأکید می‌کنند. این روش جواب می‌دهد. [1]

نکات ارتباطی برای ذینفعان 🗣️

• از توضیحات صرفاً ریاضی خودداری کنید - ابتدا نمودارهای ساده و مثال‌های ملموس را نشان دهید.

• از زبان ساده استفاده کنید - بگویید که مدل ممکن است چه کار ناعادلانه‌ای انجام دهد و چه کسی ممکن است تحت تأثیر قرار گیرد.

• بده‌بستان‌های سطحی - محدودیت‌های انصاف می‌توانند دقت را تغییر دهند؛ اگر این امر آسیب را کاهش دهد، اشکال محسوب نمی‌شود.

• برنامه‌ریزی برای موارد احتمالی - نحوه مکث یا بازگشت به حالت قبل در صورت بروز مشکلات.

• دعوت به بررسی دقیق - بررسی خارجی یا تشکیل تیم قرمز نقاط کور را آشکار می‌کند. هیچ‌کس آن را دوست ندارد، اما مفید است. [1][2]

سوالات متداول: سوگیری هوش مصنوعی واقعاً چیست؟ ❓

آیا سوگیری فقط داده‌های بد نیست؟
نه تنها داده‌ها مهم هستند، بلکه انتخاب‌های مدل‌سازی، طراحی ارزیابی، زمینه استقرار و انگیزه‌های تیمی، همگی بر نتایج تأثیر می‌گذارند. [1]

آیا می‌توانم تعصب را به طور کامل از بین ببرم؟
معمولاً نه. هدف شما مدیریت تعصب است تا اثرات ناعادلانه‌ای ایجاد نکند - به کاهش و مدیریت فکر کنید، نه به کمال. [2]

از کدام معیار انصاف باید استفاده کنم؟
بر اساس نوع آسیب و قوانین دامنه انتخاب کنید. برای مثال، اگر نتایج مثبت کاذب به یک گروه بیشتر آسیب برساند، روی برابری نرخ خطا (شانس‌های برابر) تمرکز کنید. [3]

آیا به بررسی قانونی نیاز دارم؟
اگر سیستم شما به فرصت‌ها یا حقوق افراد مربوط می‌شود، بله. قوانین مربوط به مصرف‌کننده و برابری می‌توانند در مورد تصمیمات الگوریتمی اعمال شوند و شما باید کار خود را نشان دهید. [2]

سخنان پایانی: خیلی طولانی بود، نخوندم 🧾✨

اگر کسی از شما بپرسد که سوگیری هوش مصنوعی چیست ، پاسخ ساده این است: این یک انحراف سیستماتیک در خروجی‌های هوش مصنوعی است که می‌تواند اثرات ناعادلانه‌ای در دنیای واقعی ایجاد کند. شما آن را با معیارهای متناسب با زمینه تشخیص می‌دهید، با تکنیک‌های لایه‌ای آن را کاهش می‌دهید و در کل چرخه عمر آن را مدیریت می‌کنید. این یک اشکال واحد نیست که بتوان آن را از بین برد - این یک سوال مربوط به محصول، سیاست و افراد است که نیاز به یک طبل ثابت اندازه‌گیری، مستندسازی و فروتنی دارد. من حدس می‌زنم هیچ راه حل جادویی وجود ندارد... اما چک لیست‌های مناسب، بده بستان‌های صادقانه و عادات بهتر وجود دارد. و بله، چند ایموجی هرگز ضرری ندارد. 🙂

منابع

1. نشریه ویژه NIST شماره ۱۲۷۰ - به سوی استانداردی برای شناسایی و مدیریت سوگیری در هوش مصنوعی . لینک

2. دفتر کمیسر اطلاعات بریتانیا - در مورد انصاف، تعصب و تبعیض چطور؟ لینک

3. مستندات Fairlearn - معیارهای رایج انصاف (برابری جمعیتی، شانس‌های برابر، کالیبراسیون). لینک

4. بولاموینی، جی.، و گبرو، تی. (۲۰۱۸). سایه‌های جنسیتی: نابرابری‌های دقت متقاطع در طبقه‌بندی جنسیتی تجاری . FAT* / PMLR. لینک

5. تحقیقات IBM - معرفی AI Fairness 360 (AIF360) . لینک

جدیدترین هوش مصنوعی را در فروشگاه رسمی دستیار هوش مصنوعی پیدا کنید

درباره ما