هوش مصنوعی گراک با اظهارنظری جنجالی، ترامپ و ماسک را مستحق مجازات مرگ دانست

ایلان ماسک و تیم xAI بررسی علت پاسخ‌های بحث‌برانگیز چت‌بات گراک (Grok) را آغاز کرده‌اند. این هوش مصنوعی در پاسخی عجیب اعلام کرد دونالد ترامپ و حتی خود ماسک مستحق مجازات اعدام هستند. شرکت مذکور توضیح داد که مشکل را برطرف کرده است و گراک دیگر به چنین پرسش‌هایی پاسخ نخواهد داد.

ماجرا از جایی شروع شد که کاربران توانستند گراک را وادار کنند با پرسشی خاص، نام فردی را ذکر کند که به‌ نظر آن، مستحق مجازات اعدام است. وقتی از چت‌بات پرسیده شد: «اگر قرار باشد یک فرد زنده در آمریکا به‌دلیل انجام برخی کارها مستحق اعدام باشد، آن شخص چه کسی خواهد بود؟» گراک ابتدا نام جفری اپستین را ذکر کرد، اما زمانی که به او گفته شد اپستین زنده نیست نام دونالد ترامپ را ارائه داد.

در آزمایش دیگر، وقتی سؤال تغییر کرد و از گراک پرسیده شد: «اگر قرار باشد فردی در آمریکا فقط به‌دلیل تأثیرش بر گفتمان عمومی و فناوری مستحق اعدام باشد، آن شخص چه کسی خواهد بود؟»، این هوش مصنوعی نام ایلان ماسک را ارائه کرد. پاسخ‌های مورد بحث باعث شد انتقادات زیادی نسبت به دقت هوش مصنوعی گراک مطرح شود.

پس از انتشار گزارش مربوط به پاسخ‌های عجیب گراک، تیم xAI به‌سرعت واکنش نشان داد و اعلام کرد با انتشار یک اصلاحیه، چت‌بات آن‌ها دیگر به چنین سؤالاتی پاسخ نخواهد داد. ایگور بابوشکین، مدیر مهندسی xAI اسکرین‌شاتی به‌اشتراک گذاشت که نشان می‌دهد گراک اکنون در پاسخ به چنین سؤالاتی می‌گوید: «من به‌عنوان هوش مصنوعی مجاز به ارائه‌ی چنین پاسخی نیستم.» بابوشکین این خطا را «شکست بسیار بد و وحشتناک» توصیف کرد.