هوش مصنوعی مسئولانه یک شعار اخلاقی مبهم نیست؛ چند کار مشخص است: روشن کردن مسئول، شناختن ریسک، سنجیدن کیفیت و کنترل استفاده. چارچوب NIST این کار را در چهار گام پشتسرهم خلاصه میکند: مسئولیت، شناخت زمینه، اندازهگیری و مدیریت.
۱. مسئولیت: چه کسی پاسخگو است؟
هر کاربرد هوش مصنوعی باید یک صاحب مشخص، هدف روشن، دادهی مجاز، سطح دسترسی و راه گزارش خطا داشته باشد. اگر معلوم نیست مسئول نهایی جوابها کیست، سیستم برای کار واقعی آماده نیست.
- مسئول کیست؟
برای هر سیستم هوش مصنوعی یک نفر پاسخگو مشخص کنید.
- کجا استفاده میشود؟
بدانید سیستم در چه کاری و برای چه کسانی کار میکند.
- چطور میسنجیم؟
کیفیت و خطر را با معیار روشن اندازه بگیرید.
- بعد از انتشار
نتیجه را زیر نظر بگیرید و اگر لازم شد اصلاح کنید.
۲. شناخت زمینه: سیستم کجا استفاده میشود؟
جواب اشتباه در ایدهپردازی با جواب اشتباه در استخدام، درمان یا اعتبارسنجی فرق دارد. قبل از انتخاب ابزار بنویسید: چه کسانی استفاده میکنند، چه تصمیمی گرفته میشود، چه افرادی ممکن است آسیب ببینند و اگر خطا شد چه میشود.
۳. اندازهگیری: کیفیت و خطر را چطور بسنجیم؟
- امتحان دقت با نمونههای واقعی و سخت
- چک کردن جواب ساختگی و نبودن منبع
- امتحان اینکه برای گروهها و زبانهای مختلف یکسان کار میکند
- بررسی درز اطلاعات، فریب دادن مدل با دستور (Prompt Injection) و دسترسی زیاد
- نوشتن مواردی که سیستم باید از جواب دادن یا کار کردن خودداری کند
۴. مدیریت: بعد از انتشار چه کار میکنیم؟
ریسک با یک آزمایش اولیه تمام نمیشود. نسخهی مدل، تغییر داده، خطاهای کاربران، شکایتها و مشکلات امنیتی را زیر نظر بگیرید، و طوری کار کنید که اگر قابلیتی خطرناک شد بتوانید فوری محدود یا خاموشش کنید.
شفافیت در ۲۰۲۶ چرا مهم است؟
قاعدههای شفافیت قانون هوش مصنوعی اتحادیهی اروپا از ۲ اوت ۲۰۲۶ برای بعضی موارد اجرا میشود؛ مثلاً باید به افراد بگویید دارند با یک سیستم هوش مصنوعی حرف میزنند، و بعضی محتوای ساختهشده با هوش مصنوعی را باید مشخص کنید. اگر محصول شما به کاربران اتحادیهی اروپا میرسد، حتماً از متخصص حقوقی بپرسید.
چکلیست ۱۰ دقیقهای مدیر
- هدف، صاحب کار و تصمیم نهایی انسانی را بنویسید.
- دادهی مجاز و ممنوع را مشخص کنید.
- سه پیامد مهم خطا را فهرست کنید.
- یک معیار کیفیت و چند نمونهی واقعی برای امتحان بسازید.
- دسترسی ابزار و کارهایی که میتواند بکند را محدود کنید.
- روش اعلام استفاده از هوش مصنوعی را تعیین کنید.
- ثبت رویدادها، گزارش خطا و توقف امن را آماده کنید.
برای امنیت خود سایت، چکلیست امنیت سایت برای کسبوکار کوچک را بخوانید.
همین سؤالها را از مشاوری که میخواهید استخدام کنید هم بپرسید؛ مشاور هوش مصنوعی را چطور انتخاب کنیم؟
سؤالات متداول
چارچوب NIST AI RMF چیست؟
یک چارچوب داوطلبانه برای مدیریت ریسک هوش مصنوعی که کارها را در چهار بخش مسئولیت، شناخت زمینه، اندازهگیری و مدیریت مرتب میکند.
قانون هوش مصنوعی اتحادیهی اروپا برای شرکت ایرانی هم مهم است؟
اگر محصول یا خدمت شما به بازار یا کاربران اتحادیهی اروپا مربوط باشد، ممکن است مهم شود. برای تشخیص دقیق، مشاورهی حقوقی تخصصی بگیرید.
مهمترین کنترل برای عامل هوش مصنوعی چیست؟
کمترین دسترسی، ثبت کارها، تأیید انسان برای کارهای حساس و امکان توقف یا سپردن سریع به انسان.