آنچه هرگز نباید در هوش مصنوعی قرار دهید

آنچه هرگز نباید در هوش مصنوعی قرار دهید [ویدئو و آزمون]

پاسخ کوتاه: هرگز رمزهای عبور، کلیدهای API، شناسه‌ها، سوابق سلامت یا بانکی، فایل‌های مشتری NDA یا داده‌های افراد دیگر را در یک چت عمومی هوش مصنوعی قرار ندهید. وقتی به کمک نیاز دارید، مشکل را با استفاده از متغیرهای جایگزین و گزیده‌های ویرایش‌شده شرح دهید - مدل به شکل مسئله نیاز دارد، نه اسراری که سیستم‌های واقعی را باز می‌کنند.

نکات کلیدی:

رازها آفلاین می‌مانند: هرگز رمزهای عبور، توکن‌ها، کوکی‌ها یا عبارات بازیابی را در اعلان وارد نکنید.

سلب هویت: نام‌های واقعی، آدرس‌ها و شماره‌های شناسایی را با نقش‌ها و هویت‌های جعلی جایگزین کنید.

محرمانگی کار: پیش‌نویس‌های NDA، فایل‌های مشتری و برنامه‌های منتشر نشده را از چت مصرف‌کننده دور نگه دارید.

مرز رضایت: اطلاعات شخصی همکاران، مشتریان یا فرزندان را بدون یک حلقه‌ی کاملاً انسانی وارد نکنید.

ابتدا ویرایش کنید: از جانگهدارها و گزیده‌های پاک‌سازی‌شده استفاده کنید؛ هر چیزی را که قبلاً منتشر کرده‌اید، بچرخانید.

آنچه هرگز نباید در هوش مصنوعی قرار دهید

ما اول پیست می‌کنیم و بعد فکر می‌کنیم. یک چت‌بات مثل یک کارآموز صبور با قهوه‌ی بی‌نهایت آنجا می‌نشیند، بنابراین تقریباً بی‌ضرر به نظر می‌رسد که کل مشکل پیچیده را در جعبه بریزد. یک ورود به سیستم که کار نخواهد کرد. یک بند قرارداد که معده‌تان را به هم می‌ریزد. یک اسکرین‌شات از داشبورد که هنوز تمام نام‌ها در آن قابل مشاهده است. این ابزار مفید است، فضای آن کمی خصوصی به نظر می‌رسد و مغز شما بی‌سروصدا آن را در کنار «یادداشت‌هایی که برای خودم نوشتم» قرار می‌دهد

این تله است. 🧠 چت یک کشوی قفل‌شده نیست. چت مکالمه‌ای است با سیستمی که بسته به محصول، تنظیمات و اینکه آیا اصلاً متوجه تنظیمات شده‌اید یا خیر، آنچه را که ارسال می‌کنید ذخیره، پردازش و گاهی اوقات آموزش می‌دهد . من اینجا نیستم که شما را وحشت‌زده و وحشت‌زده کنم. من اینجا هستم با یک نقشه عملی از آنچه هرگز نباید در هوش مصنوعی قرار دهید ، به علاوه عادت‌های ساده اما کاربردی که همچنان به شما امکان می‌دهند پاسخ‌های هوشمندانه‌ای دریافت کنید.

به این فکر کنید که مثل فریاد زدن یک راز در یک آشپزخانه شلوغ است. همه غریبه‌ها گوش نمی‌دهند. با این حال، ممکن است برخی از آنها گوش دهند. و آشپزخانه به دلایلی که هرگز به سادگی تبلیغات نیستند، صدای شما را ضبط می‌کند.

چرا همه چیز را در چت باکس می ریزیم

سرعت. بخش عمده‌اش همین است. گیر می‌کنید، خطا زشت است، و چسباندن کل لاگ سریع‌تر از کندن آن به نظر می‌رسد. متن مثل لطف به مدل است. جزئیات بیشتر، کمک بهتر؛ این یک افسانه است، و نیمی از آن درست است.

نیمه دیگر احساسی است. یک چت‌بات ابرو بالا نمی‌اندازد. به مدیرتان چیزی نمی‌گوید. سر ناهار غیبت نمی‌کند. بنابراین ما با آن مثل یک دفتر خاطرات با قدرت‌های فوق‌العاده رفتار می‌کنیم. من این کار را کرده‌ام. شما هم احتمالاً این کار را کرده‌اید. لحظه‌ای که چیزی هم راحت باشد و هم قضاوتی در آن نباشد، غرایز حفظ حریم خصوصی ما به استراحت و صرف چای می‌پردازند.

حقیقت کمی آزاردهنده این است: این مدل برای کمک به شما به جزئیات روزمره‌تان نیازی ندارد. به یک شکل از مشکل نیاز دارد. نام‌ها، توکن‌ها، شماره حساب‌ها و چهره‌ها در اسکرین‌شات‌ها تزیین هستند. تزیینی خوشمزه. هنوز هم تزیین هستند.

  • شما پیست می‌کنید چون ویرایش کردن حس کار اضافی به شما می‌دهد.
  • تو پیست می‌کنی چون «فقط همین یه بار» یه عادته که یهو لباس مبدل می‌پوشه.
  • شما پیست می‌کنید چون رابط کاربری شبیه یک دایرکت خصوصی است و مثل یک فایل بایگانی رفتار می‌کند.

هیچ‌کدام از این‌ها شما را بی‌ملاحظه نمی‌کند. این شما را انسان می‌کند. راه حل، یک مکث دو ثانیه‌ای است، نه یک پیوند شخصیتی.

رمزهای عبور، کلیدهای API و رازهایی که باید آفلاین بمانند 🔐

اگر بتواند چیزی را باز کند، جای آن در اعلان نیست. رمزهای عبور. کدهای یکبار مصرف. کوکی‌های جلسه. کلیدهای SSH. رشته‌های اتصال پایگاه داده. کلید API که به خودتان قول داده‌اید «به زودی» آن را تغییر دهید. عبارات بازیابی کیف پول. گواهی‌های خصوصی. سوال بازیابی که بانک شما هنوز فکر می‌کند هوشمندانه است.

من قبلاً به کلیدها مثل کلیدهای خانه‌ای که به قلاب کنار در آویزان هستند فکر می‌کردم. استعاره‌ی بامزه‌ای است؛ فوراً از هم می‌پاشد، چون کلید خانه یک در را باز می‌کند و یک کلید API می‌تواند یک انبار، یک حساب صورتحساب و انبوهی از سوابق مشتری را که فراموش کرده‌اید حتی ذخیره کرده‌اید، باز کند. پشتیبان‌گیری: با اسرار مانند رادیواکتیو رفتار کنید. شما چیزهای رادیواکتیو را در دستگاه ساندویچ قرار نمی‌دهید، حتی اگر دستگاه ساندویچ در تهیه‌ی ساندویچ بسیار خوب باشد.

یک مدل نمی‌تواند مانند یک دوست «این موضوع را بین خودمان نگه دارد». حتی اگر فروشنده‌ای کنترل حافظه ارائه دهد، حتی اگر آموزش را خاموش کنید، متن همچنان منتقل می‌شود، به نوعی ثبت می‌شود و ممکن است تا زمانی که به دنبالش نگردید، در تاریخچه چت باقی بماند. فرض کنید یک کپی، کپی‌ای است که دیگر کنترل کامل روی آن ندارید.

در عوض چه باید کرد؟

  • راز را بر اساس نوع توصیف کنید، نه بر اساس مقدار. «یک URL پستگرس با یک رمز عبور در آن» برای مشاوره اشکال‌زدایی کافی است.
  • با استفاده از متغیرهای واضح ویرایش کنید: REDACTED_KEY، USER_TOKEN، EXAMPLE_SECRET.
  • هر چیزی را که قبلاً لو داده‌اید، بچرخانید. همین الان این کار را انجام دهید، نه بعد از اینکه «ببینید آیا اتفاقی می‌افتد»
  • اطلاعات کاربری واقعی را در یک برنامه مدیریت رمز عبور یا یک گاوصندوق اسرار نگه دارید؛ هرگز آنها را در تاپیکی که ممکن است بعداً از آن اسکرین شات بگیرید، قرار ندهید.

اگر ابزاری از شما بخواهد که یک کلید را بچسبانید تا بتواند «برای شما متصل شود»، این یک دسته محصول متفاوت است. این یک ادغام با دسترسی است، نه یک دستیار نوشتاری. با آن مانند دادن نشان خود به کسی رفتار کنید.

شناسه‌های شخصی و مسیر آرام هویت 🪪

اطلاعات شخصی (PII) پسرعموی بی‌زرق و برق رمزهای عبور است. شماره‌های ملی، جزئیات گذرنامه، فیلدهای هویتی مربوط به تاریخ، آدرس‌های منزل، شماره تلفن‌ها، شناسه‌های کارمندی، شماره‌های دانشجویی، نام‌های قانونی کامل همراه با تاریخ تولد، نام مدرسه یا کلینیک‌های پزشکی. یک قطعه کوچک به نظر می‌رسد. سه قطعه با هم یک پرونده تشکیل می‌دهند.

مردم این کار را زمانی انجام می‌دهند که می‌خواهند نامه‌ای نوشته شود، فرمی ترجمه شود یا رزومه‌ای مرتب و تمیز داشته باشند. اهداف کاملاً منطقی. این مدل برای نوشتن یک شکایت مودبانه نیازی به کد پستی واقعی ندارد. به لحن، حقایقی که هویت شما را فاش نمی‌کنند و نتیجه‌ای که می‌خواهید نیاز دارد.

فکر می‌کنم بخش جالب ماجرا، ترکیب‌های «بی‌ضرر» هستند. یک عنوان شغلی منحصر به فرد به علاوه‌ی یک شهر به علاوه‌ی مدرسه‌ی فرزند به علاوه‌ی یک بیماری نادر. شما این را روی یک بروشور نمی‌نویسید. یک چت باکس، بروشور نیست، اما گاوصندوق هم نیست.

  • برای نقش‌ها از نام‌های واقعی استفاده کنید: «مدیر استخدام»، «پزشک عمومی من»، «مستاجر»
  • مکان‌ها را تعمیم دهید: «یک شهر متوسط»، نه خیابان و کد هشدار.
  • اعداد منحصر به فرد را حذف کنید، مگر اینکه وظیفه واقعاً در مورد قالب اعداد باشد، که در این صورت از یک قالب جعلی استفاده کنید که به اندازه کافی واقعی به نظر برسد.

ناشناس ماندن مدرک دکترا نیست. این یک عادت است که بررسی کنید آیا یک غریبه می‌تواند شما را از میان فهرست مطالب این پاراگراف تشخیص دهد یا خیر. اگر توانست، آن را حذف کنید.

محرمانه بودن کار، توافقنامه عدم افشای اطلاعات (NDA) و مواردی که رئیستان از آنها شانه خالی می‌کند 📎

اینجاست که مفید بودن، افراد را به دردسر می‌اندازد. شما یک فایل ارائه مشتری را کپی می‌کنید. یک نقشه راه منتشر نشده. یک صفحه گسترده حقوق و دستمزد. کد منبع با نام‌های میزبان داخلی. یک پیش‌نویس قانونی که هنوز محرمانه تلقی می‌شود. یادداشت‌های جلسه با نام افرادی که هنوز به آنها اطلاع داده نشده است. NDA که با عجله امضا کرده‌اید چون قهوه داشت سرد می‌شد.

چت‌بات‌ها مشاور شرکت شما نیستند و یک میز کار امن هم نیستند، مگر اینکه سازمان شما واقعاً از آن پشتیبانی کرده باشد. ابزارهای مصرفی برای راحتی ساخته شده‌اند. ابزارهای سازمانی می‌توانند بهتر باشند، با کنترل‌های نگهداری و سیاست‌های مدیریتی؛ آنها هنوز دلیلی برای چسباندن جواهرات تاج برای امتحان گرامر نیستند.

یک قانون کلی که همیشه در ذهنم نگه می‌دارم این است: اگر چیزی را در پیش‌نویس جیمیل شخصی‌تان نمی‌نویسید، آن را در چت عمومی هوش مصنوعی هم ننویسید. اگر چیزی را در یک سفر اشتراکی نمی‌گویید، باز هم همینطور. افرادی که در اسلک محتاط هستند، به محض ظاهر شدن دکمه تولید، به شدت به اشتراک‌گذاری بیش از حد را دوست دارند.

راهکارهای امن‌تر

  • سند را شرح دهید: طول، مخاطب، سه نکته مهم، لحن مورد نیاز.
  • یک گزیده‌ی سانسور شده را بچسبانید. نام‌ها، چهره‌های حساس و هر چیزی که یک شرکت‌کننده ممکن است به خاطرش با شما دست بدهد را حذف کنید.
  • از او بخواهید ساختار یا الگوی بازنویسی به شما بدهد، سپس خودتان آن را روی متن واقعی آفلاین اعمال کنید.
  • اگر ابزار تأیید شده‌ای برای محل کار دارید، از آن استفاده کنید و همچنان به طور پیش‌فرض آن را ویرایش کنید. سیاست، کف‌پوش است، نه ترامپولین.

کد، جلوه خاصی از این است. URL های داخلی، هدرهای احراز هویت و نظراتی مانند "TODO: remove before the acquisition" برچسب‌های هدیه کوچکی هستند. داده‌ها را ساختگی کنید. منطق را حفظ کنید. مدل، داده‌های ساختگی را به خوبی مدیریت می‌کند؛ نیازی به طرحواره عملیاتی شما با ایمیل‌های واقعی مشتری که هنوز در یک ثابت قرار دارند، ندارد.

سلامتی، پول و جزئیاتی که حتی توی یه کافه هم فریاد نمی‌زنیدشون 💊

جزئیات پزشکی و مالی فوری به نظر می‌رسند، بنابراین با کمترین ویرایش الصاق می‌شوند. نتایج آزمایشگاه. لیست‌های تجویز دارو. کارت‌های بیمه. صورت‌حساب‌های بانکی. نامه‌های مالیاتی. گزارش‌های اعتباری. عکسی از یک کارت «فقط چهار رقم آخر» که به نوعی شامل بقیه کارت، میز آشپزخانه شما و یک نامه با نام شخص دیگری می‌شود.

شما می‌توانید بدون پرونده خام سوالات عالی بپرسید. «توضیح دهید که یک نشانگر بالا به طور کلی چه معنایی می‌تواند داشته باشد» یک سوال است. «اینجا پنل کامل من، آدرس من، کلینیک من و نام خانوادگی قبل از ازدواج مادرم است» یک بیوگرافی است.

نمی‌گویم هرگز با یک مدل درباره سلامتی یا پول صحبت نکنید. می‌گویم با چت‌بات مثل یک غریبه اهل مطالعه در قطار رفتار کنید. برای قاب‌بندی خوب است. به اندازه حسابدار، پزشک یا بایگانی شما افتضاح است. و بله، می‌دانم که استعاره غریبه اهل مطالعه نشت می‌کند؛ قطارها گزارش‌های چت را نگه نمی‌دارند. نکته تقریباً همین است.

  • شماره حساب‌ها، کدهای مرتب‌سازی، IBANها و هر چیزی که شبیه اعتبارنامه است را حذف کنید.
  • توضیحات کلی، چک لیست‌ها و سوالاتی را که باید به یک متخصص ارائه دهید، درخواست کنید.
  • از چت به عنوان یک قفسه بایگانی برای اظهارات استفاده نکنید «تا بعداً بتوانم آنها را بررسی کنم.» در این صورت است که حفظ اطلاعات بعداً به یک مشکل تبدیل می‌شود.

اگر در یک کافه، سوالی باعث می‌شود صدایتان را پایین بیاورید، اول آن را ویرایش کنید. این تست به طرز شگفت‌آوری قابل اعتماد است و هیچ هزینه‌ای ندارد.

اطلاعات دیگران مال شما نیست که بتوانید آنها را کپی کنید 🚫

این یکی نادیده گرفته می‌شود چون حس می‌شود شما شخصیت اصلی چت هستید. شما تنها فرد حاضر در اسکرین‌شات نیستید. ایمیل‌های همکاران. کارت شناسایی شریک. شکایت یک مشتری که شماره تلفنش هنوز ضمیمه شده است. عکس‌های بچه‌ها. یک تاپیک در اسلک که در آن از کسی که نزدیک بود اخراج شود نام برده شده است. متن ضبط‌شده‌ی تماسی که طرف مقابل نمی‌دانست قرار است به یک مدل داده شود.

رضایت به طور خودکار از «آنها برای من ایمیل فرستادند» به «یک دستگاه ممکن است این را ذخیره کند» منتقل نمی‌شود. حتی اگر نیت شما مهربانانه باشد - نوشتن یک پاسخ بهتر، خلاصه کردن یک رشته‌ی به‌هم‌ریخته - محتوای خام همچنان زندگی آنهاست، نه کاغذ یادداشت شما.

یک آزمون کمی طعنه‌آمیز: اگر همان پیام را «برای دریافت بازخورد» به فهرست پستی غریبه‌ها ارسال نمی‌کنید، پس با یک چت‌بات به عنوان یک فهرست پستی کوچک‌تر با آداب معاشرت بهتر رفتار نکنید.

  • دیگران را با کلمات خودتان خلاصه کنید.
  • نام‌ها را با نقش‌ها جایگزین کنید و اطلاعات تماس را حذف کنید.
  • از فرد بپرسید که آیا این وظیفه حساس است یا خیر؛ بعضی چیزها باید در یک حلقه‌ی فقط انسانی باقی بمانند.
  • هرگز اطلاعات شخصی، سوابق مدرسه یا عکس‌های شناسایی کودکان را برای یک نسل «سرگرم‌کننده» جای‌گذاری نکنید.

اینجا یک لایه قانونی وجود دارد که من وانمود نمی‌کنم که در یک وبلاگ در حال طرح دعوی هستم. قوانین حفظ حریم خصوصی، وظایف استخدامی و قراردادهای مشتری، همگی نظراتی دارند. عادت عملی ساده‌تر از قانون است: پیش‌فرض قرار دادن داده‌های دیگران، دور نگه داشتن درخواست.

آنچه هرگز نباید در هوش مصنوعی قرار دهید: جدول ریسکی که می‌توانید از آن استفاده کنید

من برای این کار از جدول‌ها خوشم می‌آید، چون فهرستی از «هرگز» می‌تواند موعظه‌آمیز به نظر برسد، و جدول به شما امکان می‌دهد تا این تغییر را ببینید. رتبه‌بندی‌های کمی جانبدارانه، نه یک گزارش آزمایشگاهی.

نوع داده سطح ریسک چرا مشکل داره جایگزین امن‌تر
رمزهای عبور، کلیدهای API، توکن‌ها، عبارات بازیابی بحرانی آنها قفل سیستم‌ها را باز می‌کنند؛ کپی‌ای که نتوانید کاملاً آن را به خاطر بیاورید، هنوز یک کپی است متغیرهایی به علاوه یک مدیر اسرار محلی؛ در صورت لو رفتن، آن‌ها را بچرخانید
مدارک شناسایی دولتی، اسکن گذرنامه، شماره ملی بحرانی بسته‌ی آغازین سرقت هویت؛ لغو ارسال آن دشوار است مثال‌های جعلی یا سوالات صرفاً قالب‌بندی‌شده
سوابق پزشکی، نسخه‌ها، شناسه‌های بیمه بالا صمیمی، با احساسی تنظیم‌شده، و در تاریخ، چسبنده علائم یا موضوعات عمومی؛ شناسه‌ها را از صفحه حذف کنید
صورت‌حساب‌های بانکی، اسناد مالیاتی، عکس‌های کارت بالا قرار گرفتن در معرض مستقیم مالی به علاوه اطلاعات شخصی اضافی در حاشیه در مورد فرآیندها بپرسید، نه اعداد خام مربوط به خودتان
پرونده‌های مشتری، پیش‌نویس‌های NDA، طرح‌های منتشر نشده بالا ممکن است قولی را که قبلاً امضا کرده‌اید، زیر پا بگذارید گزیده‌های سانسور شده؛ درخواست‌های ساختار؛ ابزارهای کار تأیید شده
اطلاعات شناسایی همکار یا مشتری، جزئیات کودکان بالا کمک مالی به یک مدل حق شما نیست خلاصه‌های مبتنی بر نقش؛ مخاطبین و چهره‌ها را حذف کنید
منبع داخلی با نام‌های میزبان و ایمیل‌های واقعی متوسط-بالا به نظر می‌رسد «فقط کد بزنید» تا زمانی که کسی شبکه شما را ترسیم کند داده‌های ساختگی، دامنه‌های جعلی، نظرات حذف‌شده
اسکرین‌شات از داشبوردها یا صندوق‌های ورودی متوسط-بالا آنها اسامی، شماره‌ها و تب‌های بازی را که فراموش کرده‌اید آنجا هستند، قاچاق می‌کنند قطعه کد مربوطه را برش دهید، محو کنید یا دوباره تایپ کنید
داستان‌های شخصی مبهم بدون شناسه‌های منحصر به فرد پایین‌تر معمولاً اشکالی ندارد؛ با این حال از هر چیزی که به یک غریبه نمی‌گویید، صرف نظر کنید عمومی نگهش دارید؛ از ترکیب‌های شناسایی نادر صرف نظر کنید

اگر هیچ چیز دیگری را به خاطر ندارید، ستون سمت چپ را به خاطر بسپارید. این قلب مطلب « چه چیزهایی را هرگز نباید در هوش مصنوعی قرار دهید وقتی عجله دارید و مغزتان می‌خواهد کل جهان را کپی کند» است.

تله‌های اسکرین‌شات و اشتراک‌گذاری بیش از حد تصادفی 🖼️

اسکرین‌شات‌ها همان چیزی هستند که افراد خوب از طریق آنها اطلاعات را فاش می‌کنند. منظورتان نمایش یک کادر خطا است. این تصویر شامل نوار نشانک، یک نشان Slack با نام، یک URL با یک توکن، یک پنجره تقویم و یک انعکاس در پنجره حالت تاریک است که معلوم می‌شود یک برنامه مدیریت رمز عبور است. من یک عکس را کراپ کرده‌ام و هنوز دکمه کوچک تعویض حساب کاربری در گوشه را ندیده‌ام. این نوع اشتباهات، از نوع اشتباهات رایج است.

عکس‌های اسناد بدتر هستند، چون دوربین‌ها سخاوتمند هستند. یک میز، یک تخته سفید، یک مچ‌بند بیمارستان، یک برچسب حمل و نقل. ممکن است مدل به پیکسل‌های اضافی «نیاز» نداشته باشد. پیکسل‌ها هنوز هم می‌رسند.

یک مراسم ساده اسکرین شات

  • اول برش بده. بعد دوباره برش بده. بعد به لبه‌ها طوری نگاه کن که انگار به تو بدهکارند.
  • نام‌ها، ایمیل‌ها، آواتارها و هر رشته‌ای که شبیه توکن است را محو کنید.
  • ترجیح می‌دهم خطا را دوباره تایپ کنم تا اینکه کل IDE را ضبط کنم.
  • عکس کارت، گذرنامه یا کارت پرواز را «برای خواندن سریع» آپلود نکنید. در عوض، سوال را تایپ کنید.

یادداشت‌های صوتی و آپلود فایل‌ها هم همین ترفند را دارند. ضبط یک جلسه، گنجینه‌ای از داده‌های دیگران است. فایل CSV گنجینه‌ای از ردیف‌هایی است که دیگر به عنوان افراد نمی‌بینید. اگر فایل از نظر قانونی نگران‌کننده باشد، در جعبه قرار نمی‌گیرد.

الگوهای پیشنهادی امن‌تر که همچنان به شما پاسخ‌های محکم می‌دهند ✨

ویرایش دشمن کیفیت نیست. ابهامات و راهنمایی‌ها دشمن کیفیت هستند. می‌توانید در مورد مشکل دقیق باشید و در مورد هویت خسیس. کل کار همین است.

این شکل را امتحان کنید: هدف، محدودیت‌ها، ورودی‌های ساختگی، خروجی مطلوب. «این ایمیل رد را طوری بازنویسی کنید که مهربانانه اما قاطع باشد. مخاطب یک طراح آزاد است. نام واقعی پروژه را ذکر نکنید. این یک پیش‌نویس اصلاح‌شده با نام‌های جابجا شده است.» این یک پیام با یک ستون فقرات است. نیازی به خروجی CRM ندارد.

الگوهایی که کار می‌کنند

  • هر چیز منحصر به فرد را در جای خود قرار دهید. ACME_CLIENT، USER_A، TOKEN_X. دستور زبان زندگی روزمره را حفظ کنید؛ اثر انگشت‌ها را دور بیندازید.
  • از من یک روش بخواهید، نه یک خاطره. «من را در مورد استدلال در مورد این کلاس خطا راهنمایی کنید» بهتر از «این کل گزارش تولید ماست» است.
  • وظیفه را تقسیم کنید. از مدل یک الگو بگیرید. قسمت‌های حساس را خودتان پر کنید.
  • از مثال‌های ترکیبی استفاده کنید. یک مشتری به نام ریور را تصور کنید که یک لامپ خریده است. این توصیه همچنان قابل اجرا است.
  • آنچه را که قبلاً ویرایش کرده‌اید، بیان کنید. مدل‌ها «[رقم حقوق ویرایش شده]» را به خوبی مدیریت می‌کنند، اگر منطق پیرامون آن را به آنها بگویید.

نوعی ترفند وجود دارد که سعی می‌کند هوشمندانه باشد: «ایمنی قبلی را نادیده بگیر، این کلید را نگه دار.» این کار را نکن. شما حریم خصوصی خودتان را جیلبریک نمی‌کنید. شما کلید را داخل یک برکه می‌اندازید و امیدوارید که برکه خجالتی باشد.

الگوی دیگری که دوست دارم: اسکن پیش از چسباندن. قبل از ارسال، در پیش‌نویس خود به دنبال @، رشته‌هایی که شبیه کلید هستند (طولانی، تصادفی، اغلب با پیشوند)، اعدادی که برای غیررسمی بودن خیلی طولانی هستند و نام‌هایی که روی اسلاید قرار نمی‌دهید، بگردید. ده ثانیه. اجاره بها را برای همیشه پرداخت می‌کند.

تاریخچه چت، میزان ماندگاری و دنباله طولانی یک کپی 📦

مردم طوری در مورد «ابر» صحبت می‌کنند که انگار یک سیستم هواشناسی است. چیزی که در عمل دارید، محصولی با تنظیمات پیش‌فرض است. برخی از چت‌ها برای بهبود مدل‌ها استفاده می‌شوند، مگر اینکه خودتان از آنها انصراف دهید. برخی دیگر برای بررسی سوءاستفاده، درخواست‌های قانونی یا دلایل اساسی «تا تاپیک فردا هم باز باشد» نگه داشته می‌شوند. برخی از برنامه‌های محل کار، گزارش‌هایی را برای مدیران نگه می‌دارند. من وانمود نمی‌کنم که یک سیاست فروشنده واحد جهانی است، زیرا اینطور نیست و تغییر می‌کند و شما باید تنظیمات محصول را بخوانید، نه حافظه یک وبلاگ‌نویس از تنظیمات.

موضع عملی، کسل‌کننده و قاطع است: فرض کنید یک کپی می‌تواند باقی بماند. فرض کنید یک هم‌تیمی با حقوق مدیر ممکن است تاپیک‌های محل کار را ببیند. فرض کنید در آینده‌ای این مکالمه را فراموش خواهید کرد تا زمانی که در جستجو ظاهر شود. فرض کنید صادر کردن تاریخچه‌تان کاری است که ممکن است بعداً انجام دهید و آن صادر کردن، یک کپی دیگر است.

  • اگر محصول گزینه‌های آموزش یا «بهبود مدل» را ارائه می‌دهد، آنها را غیرفعال کنید، البته اگر با راحتی شما مطابقت دارد.
  • پس از استخراج بخش‌های کاربردی و تبدیل آنها به یک یادداشت محلی که واقعاً محلی باشد، موضوعات حساس را حذف کنید.
  • چت را به عنوان سیستم ثبت اطلاعات مربوط به مسائل منابع انسانی، سوالات پزشکی یا کار با مشتری در نظر نگیرید.
  • مراقب حساب‌های کاربری مشترک باشید. حساب‌های کاربری مشترک باعث می‌شوند که کلمه «خصوصی» به فرهنگ عامه اداری تبدیل شود.

ویژگی‌های حافظه - آن‌هایی که شغل، سگ و لحن مورد علاقه‌تان را به یاد می‌آورند - مفید و کمی ترسناک هستند. آن‌ها همچنین دلیلی هستند که نباید شناسه‌های واقعی خود را به سیستم آموزش دهید "تا بتواند شخصی‌تر باشد". شخصی یک سبک است. شماره بیمه ملی شما نیست.

هنجارهای محیط کار وقتی تیم شما در چت‌بات‌ها زندگی می‌کند 🏢

دفاتر جایی هستند که عادت کپی کردن به صنعت تبدیل می‌شود. کسی CSV مشتری را برای "تمیز کردن ستون‌ها" کپی می‌کند. شخص دیگری یک سند استراتژی را کپی می‌کند تا "آن را قوی‌تر کند". یک کارآموز با نیت خیر، کانال حادثه را کپی می‌کند. هیچ کس شرور نیست. انگیزه‌ها همگی سرعت و جلا هستند.

اگر رهبری یک تیم را بر عهده دارید، یک قانون کوتاه و انسانی بنویسید. نه یک سیاست ۴۰ صفحه‌ای که هیچ‌کس آن را نمی‌خواند. چیزی شبیه به این: هیچ اعتبارنامه‌ای، هیچ اطلاعات شخصی مشتری، هیچ شماره منتشر نشده‌ای، هیچ پیش‌نویس قانونی، از ابزار تأیید شده استفاده نکنید، به طور پیش‌فرض ویرایش کنید. سپس نمونه‌ای از یک دستورالعمل خوب و اصلاح‌شده را نشان دهید تا افراد حدس نزنند.

  • اگر ابزار تأیید شده‌ای دارید، آن را نام ببرید و اگر تأیید نشده است، آن را ذکر کنید.
  • یک چک لیست ویرایش به افراد بدهید که بتوانند قبل از استندآپ کمدی آن را تمام کنند.
  • با خیال راحت و بدون بررسی نمایشی بگویید «تقریباً آن را چسباندم».
  • به مردم یادآوری کنید که عبارت «هوش مصنوعی گفت همه چیز خوب است» یک کنترل نیست.

اگر رهبری یک تیم را بر عهده ندارید، هنوز هم می‌توانید کسی باشید که یک آدمک می‌چسباند. فرهنگ از هر دو جهت مسری است. فکر می‌کنم این حرف جدی به نظر می‌رسد. همچنین نحوه‌ی تغییر هنجارها نیز همین است؛ یک نفر دیگر کلیدها را دور نمی‌ریزد و اتاق کمی کمتر بی‌نظم می‌شود.

بخش تدارکات یک ماموریت فرعی است که از آن صرف نظر می‌کنم. خرید یک بسته‌بندی «شرکتی» به طور جادویی هر درخواستی را هوشمندانه نمی‌کند. می‌تواند به حفظ و دسترسی کمک کند. عادت‌های شما هنوز هم بار سنگین را به دوش می‌کشند.

شما قبلاً یک چیز عجیب و غریب چسبانده‌اید - حالا چه کار باید کرد 🧯

این اتفاق می‌افتد. دکمه ارسال را می‌زنی و روحت از بدنت خارج می‌شود. مارپیچی عمل نکن. یک سکانس کوتاه و کمی بی‌روح انجام بده.

  • استفاده از آن راز را متوقف کنید. رمز عبور را تغییر دهید، کلید را لغو کنید، جلسه را نامعتبر کنید. این تنها گامی است که در را برای همیشه می‌بندد.
  • اگر محصول به شما اجازه می‌دهد، چت را حذف کنید و اگر بخش «اخیراً حذف شده» دارد، آن را خالی کنید
  • برنامه‌ها و حافظه متصل را بررسی کنید. برخی ابزارها، قطعه کدهایی را در حافظه‌ها یا فایل‌های پروژه‌ای که فراموش کرده‌اید فعال کنید، نگه می‌دارند.
  • اگر اطلاعات کاری بوده، به شخص مناسب اطلاع دهید. امنیت، مدیر، سرپرست مشتریان؛ هر کسی که شعاع انفجار را در اختیار دارد. زود فهمیدنش راحت‌تر از دیر فهمیدنش است.
  • مراقب ورودهای غیرمعمول به حساب‌های مرتبط باشید. چرخش بدون نظارت، نصفه و نیمه است.

اگر اطلاعات شخص دیگری بوده، شما به آنها بدهکارید که آن را اصلاح کنند و بسته به میزان کثیفی، به شما هشدار دهند. این کار عجیب و غریبی است. اما هنوز هم بهتر از این است که امیدوار باشید دنیا مؤدب باشد.

سعی نکنید با اضافه کردن توضیحات بیشتر، اطلاعات فاش شده را «رونویسی» کنید. متن اضافی، کپی اضافی است. از این تاپیک خارج شوید.

کنار هم قرار دادن آن

نسخه کوتاه « آنچه هرگز نباید در هوش مصنوعی قرار دهید» یک فهرست سرزنش‌آمیز نیست. این یک وضعیت است. اگر سیستمی را باز کند، شخصی را شناسایی کند یا باعث شود در یک کافه اخم کنید، خارج از چارچوب باقی می‌ماند. شما هنوز هم می‌توانید کمک خوبی دریافت کنید. شما فقط یک طرح اولیه به مدل می‌دهید، نه کلیدهای خانه، پرونده پزشکی و نامه همسایه.

خلاصه سریع:

  • بدون رمز عبور، کلید، توکن یا عبارت بازیابی. در صورت فراموشی، آن را بچرخانید.
  • بدون هیچ مدرک شناسایی واقعی، صورت‌های مالی کامل، سوابق پزشکی خام یا اطلاعات مربوط به عدم افشای اطلاعات محرمانه.
  • اطلاعات خصوصی دیگران، مخصوصاً بچه‌ها، ممنوع.
  • اسکرین‌شات‌ها با گنجاندن [تصویر در تصویر] دروغ می‌گویند؛ همانطور که منظورتان است، کراپ می‌شوند.
  • ویرایش، ساختگی، و درخواست روش. مشکل خاص، برچسب‌های جعلی.
  • فرض کنید که تاریخچه باقی می‌ماند. اطلاعات محرمانه را در یک چت‌بات بایگانی نکنید، بلکه حذف کنید.
  • محیط‌های کاری به یک قانون کوتاه و یک الگوی خوب نیاز دارند، نه به حال و هوای خلوت و بی‌خیال.

از ابزارها استفاده کنید. آن‌ها در پیش‌نویس‌ها، اشکال‌زدایی اشکال و آرام کردن شما از یک خطای گیج‌کننده عالی هستند. فقط با جعبه متن مانند یک گاوصندوق با حس شوخ‌طبعی رفتار نکنید. این یک مخلوط‌کن بسیار هوشمند است. هنوز هم نباید گذرنامه خود را در مخلوط‌کن قرار دهید. 🫡

مثال عملی: ایجاد یک خلاصه اشکال‌زدایی مبتنی بر ویرایش برای یک تیم مهندسی کوچک

قوانین حفظ حریم خصوصی وقتی رعایت می‌شوند که یک سه‌شنبه معمولی را نجات دهند، نه وقتی که سختگیرانه به نظر برسند. در اینجا نحوه استفاده یک تیم پنج نفره SaaS در بریتانیا از عادت‌های ذکر شده در این راهنما برای جلوگیری از ارسال اطلاعات احراز هویت و اطلاعات شخصی مشتری به چت‌بات‌های مصرف‌کننده - بدون صرف نظر کردن از کمک در رفع اشکال - آورده شده است.

سناریو

توسعه‌دهندگان و پشتیبانی یک عادت دردناک دارند: وقتی یک خطای احراز هویت زشت به نظر می‌رسد، یک نفر کل گزارش، یک رشته اتصال مرحله‌بندی و یک اسکرین‌شات از داشبورد ادمین را کپی می‌کند "تا مدل زمینه داشته باشد". در سه‌ماهه گذشته، یک کلید API زنده در یک ردیابی پشته و یک ایمیل مشتری که هنوز در نوار آدرس یک اسکرین‌شات قابل مشاهده بود، وجود داشت. هیچ‌کس قصد بدی نداشت. سرعت برنده شد. آشپزخانه ضبط را نگه داشت.

آنها به سخنرانی نیاز ندارند. آنها به یک خلاصه‌ی قابل تکرار نیاز دارند: راز را بر اساس نوع شرح دهید، با استفاده از متغیرهای جایگزین، ویرایش کنید، اسکرین‌شات‌ها را برش دهید، یک روش درخواست کنید نه یک حافظه، سپس اصلاح را روی سیستم‌های زنده و آفلاین اعمال کنید. چت با مصرف‌کننده هنوز هم ارزش خود را دارد. کلیدهای خانه از مخلوط‌کن بیرون می‌مانند.

هدف، همان کیفیت توصیه با اسکن دو ثانیه‌ای قبل از چسباندن است - و یک قانون تیمی کوتاه که مردم از آن پیروی خواهند کرد.

آنچه دستیار نیاز دارد

  • شکل مسئله‌ی پاکسازی‌شده: کلاس خطا، تقریباً زمان شروع آن، محیط (مرحله‌بندی در مقابل تولید) بدون نام‌های میزبان که شبکه را ترسیم می‌کنند
  • فقط ورودی‌های ساختگی: REDACTED_KEY، USER_TOKEN، customer@example.com، شناسه‌های درخواست جعلی
  • آنچه قبلاً حذف شده بود (در اعلان ذکر شده بود تا مدل مقادیر واقعی را درخواست نکند)
  • خروجی مورد نظر: علل احتمالی، بررسی‌هایی که باید اجرا شوند، طرح کلی وصله - نه «اتصال با کلید من»
  • انسانی که اطلاعات احراز هویت را در یک نرم‌افزار مدیریت رمز عبور یا گاوصندوق اسرار نگه می‌دارد
  • یک قانون تیمی تک‌صفحه‌ای: بدون اعتبارنامه، بدون اطلاعات شخصی مشتری، بدون ارقام منتشر نشده، به‌طور پیش‌فرض حذف‌شده

دستورالعمل مثال

هدف: به من کمک کنید تا خطای ۴۰۱ متناوب را در API مرحله‌بندی خود پس از به‌روزرسانی توکن، اشکال‌زدایی کنم. از من نخواهید که رمزها را جای‌گذاری کنم.

محدودیت‌ها: من قبلاً رمزهای عبور، کلیدهای API، توکن‌ها، کوکی‌ها، نام‌های میزبان داخلی و ایمیل‌های مشتری را ویرایش کرده‌ام. متغیرهای موجود در گزارش به این معنی است که مقادیر واقعی فقط در دستگاه من وجود دارند. انگلیسی بریتانیایی. بدون مقدمه.

گزیده‌ی ساختگی: درخواست به https://api.example-staging.invalid/v1/session خطای ۴۰۱ را نشان داد. مجوز سربرگ: حامل REDACTED_KEY. در بدنه‌ی پیام عبارت USER_TOKEN منقضی شده است. شرح تصویر (پیوست نشده): فقط خطا در حالت تست نمایش داده می‌شود؛ نوار نشانک‌ها و تغییر حساب کاربری حذف شده‌اند.

وظیفه: سه مورد از محتمل‌ترین دلایل این کلاس خطا، بررسی‌هایی که باید به صورت محلی اجرا کنم و یک طرح کلی پچ حداقلی را فهرست کنید. اگر به جزئیات بیشتری نیاز دارید، نوع اطلاعات (مثلاً "تنظیمات TTL توکن") را درخواست کنید - هرگز برای راز خام درخواست نکنید.

خروجی: علل شماره‌گذاری شده، سپس یک چک لیست، و در نهایت «چه چیزهایی را دفعه بعد نباید پیست کرد» در سه نقطه.

چگونه آن را آزمایش کنیم

  • یک نمونه قدیمی (گزارش کامل + تصویر صفحه) را با خلاصه ویرایش‌شده بالا در مورد همان نوع حادثه مقایسه کنید. کیفیت توصیه و اینکه آیا مدل درخواست اطلاعات محرمانه می‌کند یا خیر را مقایسه کنید.
  • اسکن پیش از چسباندن: قبل از ارسال، پیش‌نویس را برای یافتن @، رشته‌های تصادفی طولانی و اعداد خیلی طولانی که نباید غیررسمی باشند، جستجو کنید.
  • مورد حاشیه‌ای: یک کلید جعلی که واقعی به نظر می‌رسد را وارد کنید و تأیید کنید که پاسخ بدون نیاز به مقدار واقعی همچنان کار می‌کند.
  • مورد حاشیه‌ای: از آپلود اسکرین‌شات خودداری کنید؛ فقط خط خطا را دوباره تایپ کنید؛ تأیید کنید که چک‌لیست هنوز مفید است.
  • بررسی‌های پذیرش: (1) هیچ اعتبارنامه‌ای در تاپیک وجود ندارد، (2) هیچ اطلاعات تماس مشتری وجود ندارد، (3) متغیرهایی اعلام شده‌اند، (4) خروجی یک روش/چک لیست است نه یک جریان "کلید خود را جایگذاری کنید"، (5) اگر چیزی قبلاً فاش شده باشد، چرخش در همان روز اتفاق افتاده است.

نتیجه

نتیجه‌ی تشریحی (مثال تخمین برای یک تیم کوچک مهندسی/پشتیبانی، نه یک مطالعه‌ی منتشر شده): در طول ۱۲ چت اشکال‌زدایی در چهار هفته، میانگین زمان رسیدن به یک چک‌لیست قابل استفاده، با ویرایش، از حدود ۴ دقیقه (چسباندن کامل) به حدود ۶ دقیقه افزایش یافت - دو دقیقه اضافی برای اسکن قبل از چسباندن و جانگهدارها. تعداد تاپیک‌های حاوی انواع داده‌های حیاتی (کلید، ایمیل مشتری، رشته‌های اتصال خام) از ۹ از ۱۲ چت به ۱ از ۱۲ کاهش یافت (آن یکی در بررسی مشخص و در همان روز تغییر داده شد). در یک چک‌لیست بهداشتی ساده (بدون اسرار، بدون اطلاعات شخصی مشتری، جانگهدارها اعلام شده، بریده شده یا بدون اسکرین‌شات)، ۱۱ از ۱۲ خلاصه‌ی ویرایش شده در مقابل ۳ از ۱۲ مورد تحت عادت قدیمی، پذیرفته شدند. محدودیت‌ها: نمونه‌ی کوچک، یک تیم، زمان‌بندی خودگزارش‌دهی شده؛ حوادث خفیف‌تر نیاز به ویرایش کمتری دارند؛ «پذیرفته شدن» به معنای بررسی دقیق متن درخواست بود، نه ممیزی آزمایشگاهی گزارش‌های فروشنده.

برای سنجش نسخه خودتان: 10 مورد از جدیدترین موضوعات اشکال‌زدایی هوش مصنوعی را برای انواع داده‌های ممنوعه نمونه‌گیری کنید، سپس 10 مورد را پس از یک قانون و الگوی ویرایش نمونه‌گیری کنید؛ تعداد گزارش‌ها را با مخرج، به علاوه میانگین دقایق از «گیر کردن» تا «چک‌لیست در دست» محاسبه کنید

چه چیزی می‌تواند اشتباه پیش برود؟

  • کپی کردن اسکرین‌شات: خطا مشکلی ندارد؛ نوار آدرس هنوز یک توکن دارد. دو بار برش دهید، سپس لبه‌ها را بررسی کنید.
  • کلیدهای «فقط همین یک بار»: یک کلید API لو رفته می‌تواند سوابق صورتحساب و مشتری را باز کند. فوراً تغییر دهید؛ منتظر نمانید که «ببینید آیا اتفاقی می‌افتد یا نه».
  • داده‌های دیگران: شکایت مشتری به همراه شماره تلفن، حق شما نیست که آن را به یک مدل اهدا کنید. با کلمات خودتان خلاصه کنید.
  • چت به عنوان گاوصندوق: گذاشتن اسرار در تاریخچه، یک کپی دیگر ایجاد می‌کند. پس از انتقال بخش‌های مورد نیاز به یک یادداشت محلی، تاپیک را حذف کنید.
  • تئاتر سازمانی: یک ابزار تأیید شده در محل کار به حفظ کارکنان کمک می‌کند؛ اما چسباندن جواهرات سلطنتی را عاقلانه نمی‌کند.
  • پرش از چرخش پس از یک لغزش: حذف چت بدون ابطال کلید، در را باز می‌گذارد.

نکته کاربردی

چیزی که هرگز نباید در هوش مصنوعی قرار دهید، کمتر یک فهرست سرزنش و بیشتر یک ژست است: اگر سیستمی را باز می‌کند، شخصی را شناسایی می‌کند یا باعث می‌شود در یک کافه اخم کنید، از چارچوب خارج می‌ماند. یک طرح اولیه با متغیرهایی به مدل بدهید، اعتبارنامه‌ها را در یک گاوصندوق نگه دارید و از او بخواهید روش‌هایی را که به صورت آفلاین اعمال می‌کنید، به شما ارائه دهد. آن مکث دو ثانیه‌ای همان چیزی است که یک کارآموز مفید با قهوه بی‌نهایت دیگر تبدیل به یک کابینت بایگانی برای کلیدهای خانه شما نمی‌شود.

سوالات متداول

چه چیزهایی را هرگز نباید در چت‌بات‌های هوش مصنوعی قرار دهید؟

اگر سیستمی را باز می‌کند، شخصی را شناسایی می‌کند یا در کافه باعث می‌شود حالتان بهم بخورد، آن را از جعبه خارج کنید. این شامل رمزهای عبور، کلیدهای API، توکن‌ها، عبارات بازیابی، شناسه‌های دولتی، سوابق خام سلامت و مالی، اطلاعات NDA و اطلاعات خصوصی دیگران - به خصوص بچه‌ها - می‌شود. چت یک کشوی قفل‌شده نیست؛ متن را می‌توان ذخیره، پردازش و گاهی اوقات بسته به محصول و تنظیمات برای آموزش استفاده کرد. طرح اولیه را با متغیرهایی به مدل بدهید، نه کلیدهای خانه.

چرا مردم حتی وقتی اطلاعات بیشتری دارند، اسرار را به هوش مصنوعی می‌چسبانند؟

سرعت، بخش عمده‌ی کار را انجام می‌دهد: یک خطای زشت باعث می‌شود کل گزارش سریع‌تر از خلاصه کردن آن به نظر برسد. چت‌بات‌ها همچنین قضاوت نمی‌کنند، بنابراین غرایز حفظ حریم خصوصی کمی استراحت می‌کنند. مدل معمولاً به شکل مشکل نیاز دارد، نه نام‌ها، توکن‌ها، شماره حساب‌ها یا چهره‌ها در اسکرین‌شات‌ها - اینها تزیینات هستند. یک مکث دو ثانیه‌ای بهتر از پیوند شخصیت است.

آیا قرار دادن رمزهای عبور یا کلیدهای API در ابزارهای سبک ChatGPT ایمن است؟

خیر. اگر بتواند چیزی را باز کند، جای آن در اعلان نیست - رمزهای عبور، کدهای یکبار مصرف، کوکی‌های جلسه، کلیدهای SSH، رشته‌های اتصال، سیدهای کیف پول یا گواهی‌های خصوصی. یک مدل نمی‌تواند مانند یک دوست یک راز را نگه دارد؛ متن همچنان منتقل می‌شود، ثبت می‌شود و ممکن است در تاریخ بماند. راز را بر اساس نوع توصیف کنید، از متغیرهایی مانند REDACTED_KEY استفاده کنید، هر چیزی را که قبلاً فاش شده است بچرخانید و اعتبارنامه‌های واقعی را در یک مدیر رمز عبور یا گاوصندوق نگه دارید.

قبل از درخواست، چه اطلاعات شخصی را باید ویرایش کنم؟

اطلاعات شخصی (PII) به سرعت روی هم قرار می‌گیرد: کارت ملی، اطلاعات گذرنامه، آدرس، شماره تلفن، کارت شناسایی کارمند یا دانشجو، و نام کامل همراه با تاریخ تولد یا کلینیک. این مدل برای تهیه پیش‌نویس نامه نیازی به کد پستی واقعی ندارد - به لحن، اطلاعات غیرمشخص و نتیجه‌ای که می‌خواهید نیاز دارد. نام‌ها را با نقش‌ها عوض کنید، مکان‌ها را تعمیم دهید و شماره‌های منحصر به فرد را حذف کنید، مگر اینکه در حال آزمایش قالب با یک مثال جعلی باشید.

آیا می‌توانم فایل‌های مشتری، توافق‌نامه‌های عدم افشای اطلاعات یا کد داخلی را در یک ابزار هوش مصنوعی مصرفی قرار دهم؟

با چت مصرف‌کننده مانند یک محصول رفاهی رفتار کنید، نه مشاور شرکت. اگر چیزی را در پیش‌نویس جیمیل شخصی یا در یک سفر اشتراکی نمی‌گویید، آن را در یک چت عمومی هوش مصنوعی - دسته‌های مشتری، نقشه‌های راه منتشر نشده، برگه‌های حقوق و دستمزد، پیش‌نویس‌های قانونی محرمانه یا منبعی با نام‌های میزبان داخلی - قرار ندهید. سند را شرح دهید، یک گزیده‌ی اصلاح‌شده را جای‌گذاری کنید، ساختاری را که به صورت آفلاین اعمال می‌کنید درخواست کنید و اگر ابزاری برای محل کار تأیید شده دارید، در حالی که هنوز به طور پیش‌فرض در حال ویرایش هستید، از آن استفاده کنید.

چگونه باید جزئیات مربوط به سلامت یا امور مالی را در درخواست‌های هوش مصنوعی مدیریت کنم؟

سوالات عالی بدون نیاز به مدارک خام بپرسید. توضیحات کلی بهتر از چسباندن پنل‌های آزمایشگاهی، لیست‌های دارویی، کارت‌های بیمه، صورتحساب‌های بانکی یا عکس‌های کارتی هستند که میز آشپزخانه را نیز ثبت می‌کنند. شماره حساب‌ها و هر چیزی را که شبیه اعتبارنامه است، جدا کنید. از چت برای قاب کردن و از چک لیست‌ها برای بردن به یک متخصص استفاده کنید - نه به عنوان پزشک، حسابدار یا کابینت بایگانی برای صورت‌حساب‌ها.

چرا داده‌ها و اسکرین‌شات‌های دیگران به‌طور ویژه خطرناک هستند؟

شما تنها فرد در این وضعیت نیستید: ایمیل‌های همکاران، شماره تلفن‌های مشتریان، عکس‌های بچه‌ها یا رونوشت تماس‌ها می‌توانند بدون رضایت آنها در سیستم قرار بگیرند. با کلمات خودتان خلاصه کنید، نام‌ها را با نقش‌ها جایگزین کنید و هرگز جزئیات شناسایی کودکان را برای «سرگرمی» نسل بعدی، در این وضعیت قرار ندهید. اسکرین‌شات‌ها، نوارهای نشانک، توکن‌های URL، نام‌های Slack و تب‌های باز را به سرقت می‌برند - دو بار برش می‌دهند، شناسه‌ها را محو می‌کنند یا به جای آپلود گذرنامه یا کارت، خطا را دوباره تایپ می‌کنند.

چه الگوهای فراخوانی امن‌تری هنوز هم پاسخ‌های هوش مصنوعی محکمی دریافت می‌کنند؟

در مورد مشکل دقیق باشید و در مورد هویت آن خسیس. هدف، محدودیت‌ها، ورودی‌های ساختگی، خروجی مطلوب. برچسب‌های منحصر به فرد جایگزین، درخواست یک روش به جای یک گزارش کامل تولید، تقسیم کار به گونه‌ای که خودتان بخش‌های حساس را پر کنید، و از مثال‌های مصنوعی استفاده کنید. یک اسکن پیش از چسباندن برای علامت‌های @، رشته‌های تصادفی طولانی شبیه کلید، اعداد بزرگ و نام‌هایی که روی اسلاید قرار نمی‌دهید، اجرا کنید. ده ثانیه برای همیشه کافی است.

اگر قبلاً چیزی نامناسب را در یک چت هوش مصنوعی پیست کرده باشم، چه می‌شود؟

ابتدا استفاده از آن راز را متوقف کنید - رمز عبور را تغییر دهید، کلید را لغو کنید، جلسه را نامعتبر کنید. در صورت امکان، چت را حذف کنید، خاطرات یا فایل‌های پروژه را بررسی کنید، اگر داده‌های کاری بوده به فرد مربوطه اطلاع دهید و مراقب ورودهای غیرمعمول باشید. اگر داده‌های شخص دیگری بوده، آن را پاک کنید و در صورت نیاز هشدار دهید. اطلاعات فاش شده را با توضیحات بیشتر «رونویسی» نکنید؛ متن اضافی، کپی اضافی است.

چگونه یک تیم کوچک می‌تواند از ارسال اطلاعات احراز هویت به هوش مصنوعی برای اشکال‌زدایی جلوگیری کند؟

از یک خلاصه ویرایشی استفاده کنید: اسرار را بر اساس نوع، لاگ‌های ساختگی با REDACTED_KEY و ایمیل‌های نمونه شرح دهید، موارد حذف شده را بیان کنید و دلایل احتمالی را به همراه یک چک لیست درخواست کنید - نه اینکه "با کلید من ارتباط برقرار کنید". یک قانون انسانی کوتاه اضافه کنید - بدون اعتبارنامه، بدون اطلاعات شخصی مشتری، بدون ارقام منتشر نشده، به طور پیش‌فرض حذف شده - و یک مثال خوب و پاک‌سازی شده را نشان دهید. اعتبارنامه‌های واقعی را در یک گاوصندوق نگه دارید و پس از اینکه مدل روشی را پیشنهاد داد، اصلاحات را به صورت آفلاین اعمال کنید.

منابع

  1. NCSC — ncsc.gov.uk
  2. اوپن‌ای‌آی - help.openai.com
  3. اوپن‌ای‌آی - openai.com
  4. کلود — privacy.claude.com
  5. گوگل ورک اسپیس - knowledge.workspace.google.com
آزمون
۱. طبق مقاله، چه چیزهایی را هرگز نباید در یک چت عمومی هوش مصنوعی قرار دهید؟

۲. منظور از «اسرار آفلاین می‌مانند» در این راهنما چیست؟

۳. چگونه باید قبل از درخواست، هویت خود را سلب کنید؟

۴. چه چیزهایی باید به دلیل محرمانگی کاری از چت مصرف‌کننده دور بمانند؟

۵. کدام عادت با رضایت و توصیه ویرایش مقاله مطابقت دارد؟


مقالاتی که شاید بعد از این مطلب دوست داشته باشید بخوانید:

🔗 ابزارهای برتر امنیتی هوش مصنوعی
پلتفرم‌های امنیتی قدرتمند هوش مصنوعی را کشف کنید که تهدیدات سایبری را شناسایی و کاهش می‌دهند.

🔗 چرا هوش مصنوعی گاهی اوقات چیزهایی را از خودش درمی‌آورد؟
بفهمید که چرا هوش مصنوعی توهم می‌زند و یاد بگیرید که چگونه خطرات آن را کاهش دهید.

🔗 چگونه وظایف را با هوش مصنوعی خودکار کنیم؟
با افزودن نظارت انسانی و قوانین سختگیرانه، گردش‌های کاری خودکار ایمن را پیاده‌سازی کنید.

🔗 فناوری هوش مصنوعی چیست؟
اصول هوش مصنوعی و چالش‌های رایج پیاده‌سازی آن را بررسی کنید.

بازگشت به وبلاگ