چگونه هوش مصنوعی کاربران ایرانی را سانسور و تحقیر می‌کند؟

پژوهش جدید محققان دانشگاه MIT نشان می‌دهد که پیشرفته‌ترین مدل‌های هوش مصنوعی جهان، از جمله GPT-4، Claude 3 Opus و Llama 3 در مواجهه با کاربران ایرانی، افراد غیرانگلیسی‌زبان و کسانی که تحصیلات کمتری دارند، به شکلی سیستماتیک دچار افت عملکرد می‌شوند. این سیستم‌ها هم اطلاعات غلط و سانسورشده به این دسته از کاربران می‌دهند و هم در موارد متعددی با ادبیاتی تحقیرآمیز با آن‌ها برخورد می‌کنند؛ پژوهشگران باور دارند یافته‌ این محققین عملا رویای دسترسی عادلانه به اطلاعات از طریق هوش مصنوعی را زیر سوال می‌برد.

به گزارش بیکینگ، مدل‌های زبانی بزرگ (LLMs) ابزارهایی برای دموکراتیزه کردن دسترسی به اطلاعات در سراسر جهان معرفی شده‌اند و هوش مصنوعی قرار بود فارغ از پیشینه یا موقعیت جغرافیایی افراد، دانش را در رابط کاربری ساده‌ای در اختیار همه قرار دهند. اما نتایج یک تحقیق جدید از مرکز ارتباطات سازنده (CCC) مستقر در آزمایشگاه رسانه دانشگاه MIT (Media Lab)، نشان می‌دهد این هدف تا امروز محقق نشده است.

این پژوهش در چهلمین کنفرانس سالانه هوش مصنوعی (AAAI) در سنگاپور (ژانویه ۲۰۲۶) ارائه شد، و الینور پول-دایان، نویسنده ارشد این مقاله، می‌گوید:

انگیزه ما از این پژوهش این بود که ببینیم آیا مدل‌های زبانی می‌توانند نابرابری دسترسی به اطلاعات را در جهان حل کنند یا خیر. اما بدون اطمینان از این که سوگیریِ مدل‌ها و گرایش‌های آسیب‌زای آن‌ها علیه کاربران با ملیت‌ها، زبان‌ها و جمعیت‌شناختیِ متفاوت، برطرف شده، این هدف محقق نخواهد شد.

– الینور پول-دایان، پژوهشگر