جهت‌گیری ضد اسلامی در هوش مصنوعی: راهی به سوی هوش مصنوعی منصفانه

 نویسنده: آشار آوان

    هوش مصنوعی (AI) بخش های مختلف جامعه ما را متحول کرده است، از مراقبت های صحی و بهداشتی گرفته تا حمل و نقل، و از آموزش و تحصیل گرفته تا سرگرمی و تفریح. با این حال، پیش‌داوری و تعصب ضد مسلمانی که در سیستم‌های هوش مصنوعی دیده می‌شود، می‌تواند تأثیرات مهمی بر زندگی مسلمانان داشته باشد. یکی از راه هایی که تعصب ضد مسلمانی می‌تواند در سیستم های هوش مصنوعی آشکار شود، استفاده از داده های جانبدارانه است. اگر یک سیستم هوش مصنوعی با داده های حاوی جهت‌گیری ضد مسلمانان آموزش ببیند، سیستم احتمالاً این تعصب را در تصمیمات خود منعکس می‌کند. به عنوان مثال، یک سیستم هوش مصنوعی که بر روی مجموعه‌ای از مقالات خبری درباره تروریسم آموزش‌دیدهاست، ممکن است مسلمانان را به عنوان افراد مظنون تروریسم معرفی کند.

      سیستم های هوش مصنوعی از داده هایی که بر روی آنها آموزش دیده اند یاد می‌گیرند؛ اگر داده‌های آموزشی حاوی اطلاعات جانبدارانه باشد، سیستم هوش مصنوعی می‌تواند آن جهت‌گیری‌ها را یاد بگیرد و آن را منتشر کند و گسترش دهد. این می تواند منجر به پیامدهای منفی مختلفی از جمله گسترش تعصبات ضد مسلمانان شود.این تعصب و جهت‌گیری‌ می‌تواند به سوء تفاهم‌هاو تنش‌ها دامن بزند و به ناسازگاری اجتماعی کمک کند. به عنوان مثال، یک سیستم هوش مصنوعی که برای تعدیل محتوا استفاده می‌شود،اگر با داده‌های حاوی تعصبات ضد اسلامی آموزش داده شده باشد، می‌تواند به‌طور غیرمنصفانه وناعادلانه محتوای ارسال‌شده توسط کاربران مسلمان را علامت گذاری و یا هم حذف کند. این می‌تواند منجر به احساس تبعیض و محرومیت شود و تنش های اجتماعی را تشدید بخشد. ابوبکر عابد و سایر محققان در مطالعه‌ای که در سال 2021 در مجله معروف طبیعت (Nature) منتشر شد، رابطه مسلمانان با خشونت را در مدل‌های زبانی بزرگ بررسی کردند و به طور خاص بر روی GPT-3 OpenAIتمرکز کردند که در آن زمان در دسترس محققان خاصی بود؛محققان از طریق آزمایش‌هایی با مسلمانان و دیگر گروه‌های مذهبی دریافتند که GPT-3هنگام ذکر مسلمانان عبارات خشونت‌آمیز ایجاد می‌کند که نشان‌دهنده یک پیش‌داوری و جهت‌گیری مضر و آسیب رسانندهاست. با این حال، زمانیکه سایر گروه‌های مذهبی از مدخل‌ها و ورودی‌هایمشابه استفاده می‌کنند، تمایل به تولید عبارات خشونت‌آمیز کاهش می‌یابد. تفاوت در پایان‌ها و نتیجه‌ها، تفاوت‌ها را در زمینه‌های خشونت آمیز برجسته می‌کند. علاوه بر این، این تحقیق نشان می‌دهد که کلمه "تروریسم" اغلباً با "مسلمان" در خروجی های GPT-3همراه است.این یافته‌ها نیاز به پرداختن و کاهش جهت‌گیری‌های مضر در مدل‌های زبانی اصلی در فرآیندهای توسعه و پیاده‌سازی را برجسته می‌کند.

     پرداختن به جهت‌گیری و جانبداری هوش مصنوعی نیازمند تلاش‌های گسترده از سوی سهامداران و ذینفعان مختلفی مانند محققان هوش مصنوعی، شرکت‌های فناوری و ارگان‌های دولتی است. هوش مصنوعی باید از منابع مختلف داده ای که نشان دهنده انواع تجربیات انسانی از جمله دیدگاه مسلمانان است، بیاموزد؛ این می تواند خطر جهت‌گیری در سیستم های هوش مصنوعی را کاهش دهد. به عنوان مثال، اگر یک سیستم هوش مصنوعی در طیف وسیعی از داده ها آموزش دیده باشد، احتمال جهت‌گیری نسبت به یک گروه خاص کمتر خواهد بود.

     محققان هوش مصنوعی می‌توانند الگوریتم های هوش مصنوعی را با بهبود تکنیک هایی برای کاهش تعصب در خروجی تنظیم کنند. این فرآیند شامل تنظیم الگوریتم برای اطمینان از نمایش منصفانه است. به عنوان مثال، تکنیک هایی مانند انصاف با آگاهی، برابری جمعیتی، و احتمالات مساوی می‌تواند برای کاهش تعصب در سیستم های هوش مصنوعی استفاده شود.

شرکت‌های فناوری باید شفافیت را در تصمیم‌گیری هوش مصنوعی ارتقا دهند و در قبال جهت‌گیری در سیستم‌های هوش مصنوعی باید پاسخگو باشند.

به عنوان مثال، شرکت‌هایی مانند توییتر می‌توانند با اعتراف به اشتباهات خود و قول دادن به رفع مشکل جهت‌گیری و تعصب نژادی، الگو و نمونه شوند. شرکت‌ها باید در مورد هرگونه جهت‌گیری در سیستم‌های هوش مصنوعی خود باز باشند و برای رفع آن اقداماتی انجام دهند.

       نهادهای دولتی باید مقرراتی را اجرا کنند که توسعه اخلاقی و استفاده از هوش مصنوعی را به گونه ای هدایت کند که از حقوق و منافع همه گروه ها از جمله مسلمانان محافظت کند. این می‌تواند شامل اجرای قوانینی باشد که سیستم‌های هوش مصنوعی را ملزم می‌کند قبل از استقرار از نظر جهت‌گیری آزمایش شوند و شرکت‌ها را در قبال انتشار هرگونه تعصبی در سیستم‌های هوش مصنوعی مسئول و پاسخگو نگه‌دارد.

      پرداختن به این جهت‌گیریها بسیار مهم است زیرا هوش مصنوعی این پتانسیل را دارد که زندگی ما را به طور چشمگیری بهبود بخشد. هنگامیکه که هوش مصنوعی را بپذیریم و در آغوش بگیریم، ما را قادر می سازد به گونه ای عمل کنیم که درک، احترام و برابری را در جامعه به طور کلی ارتقا دهد و آن را ترویج کند. مورد تعصب ضد مسلمانان در هوش مصنوعی یادآوری قدرتمندی از چالش‌های موجود در این زمینه است و بر اهمیت سودمندی هوش مصنوعی برای همه بشریت، نه فقط تعداد معدودی از افراد، تأکید می‌کند.همانطور که در حال پیشرفت و پیشروی است، ادامه ساختن سیستم های هوش مصنوعی منصفانه، عادلانه و بی طرفانه از اهمیت حیاتی برخوردار است.