به گزارش بیکینگ، به نقل از یورونیوز، اگر از هوشمصنوعی گوگل بپرسید وقتی تنها با یک نروژی هستید چه کار باید بکنید، ممکن است پیشنهاد گفتوگو بدهد. اما اگر همین سؤال را درباره یک سومالیایی مطرح کنید، شاید به شما بگوید با پلیس تماس بگیرید.
کاربران اینترنت از ۲۳ اوت با نوشتن عبارتهای مختلف «من تنها هستم با…» و افزودن ملیتهای گوناگون، این الگو را در قابلیت جستوجوی «AI Overviews» گوگل امتحان کردهاند.
نتایج بسته به کشور یا گروه ذکرشده تفاوت چشمگیری داشته و همین موضوع موجی از اتهام جانبداری نژادی را برانگیخته که در رسانههای فرانسوی بازتاب گستردهای یافته است.
به گزارش آزمایشهایی که وبسایتها انجام دادهاند، در پرسشی درباره تنها بودن با یک بریتانیایی، جمینی پیشنهاد کرده است یک فنجان چای درست کنید. اما در مقابل، پرسشهایی که فردی با اصالت هندی یا پاکستانی را نام میبرده، شمارههای اضطراری را بالا آورده است.
مقایسه میان ایتالیایی و الجزایری نخستین بار توسط کمدین فرانسوی آلیسیا سِ ت تو مطرح شد که ۲۳ اوت ویدیویی از این گفتوگو را در اینستاگرام منتشر کرد.
پرسش درباره یک ایتالیایی پاسخی درباره «جذابیت» و «گفتوگوی پرجنبوجوش» به همراه داشت، اما همان سؤال درباره یک الجزایری از کاربر میپرسید آیا احساس «خطر» میکند و شماره پلیس و سامانههای هشدار پیامکی را پیشنهاد میکرد.
با این حال، همه نتایج مطابق این الگو نبود. به نوشته هافپست، وقتی کاربری عبارت «من تنها هستم با یک هیتیایی» را وارد کرده، جمینی پاسخ داده است: «ملیت یا اصالت، این واقعیت را تغییر نمیکند که شما صرفا با یک انسان دیگر هستید.»
رباتهای گفتوگوگر مانند جمینی، چتجیپیتی و کلاود بر پایه حجم عظیمی از متنهای جمعآوریشده از اینترنت آموزش دیدهاند؛ از آرشیوهای خبری گرفته تا انجمنهای آنلاین و شبکههای اجتماعی. کارشناسانی که سوگیری هوشمصنوعی را مطالعه میکنند میگویند وقتی یک کلیشه به اندازه کافی در دادههای آموزشی تکرار شود، احتمال زیادی هست که مدل آن را بازتولید کند، حتی اگر برای این کار به طور مستقیم برنامهریزی نشده باشد.
5858
