ChatGPT یک مرد را به قتل فرزندش متهم کرد

اکنون بیش‌از دو سال از ظهور ChatGPT در صحنه‌ی جهانی می‌گذرد، بااین‌حال اگرچه OpenAI پیشرفت‌هایی را در هوش مصنوعی خود ایجاد کرده است؛ اما هنوز هم موانع زیادی وجود دارد. یکی‌از بزرگ‌ترین مشکلاتی که چت‌ جی‌پی‌تی به بار می‌آورد، بیان اطلاعات نادرست است.

گروه اتریشی مدافع حقوق دیجیتال NOYB، اکنون دومین شکایت خود را علیه OpenAI به‌دلیل ایجاد توهماتی برای کاربران و ارائه‌ی اطلاعات نادرست ثبت کرده است. NOYB اعلام کرد که هوش مصنوعی چت جی‌پی‌تی، یک مرد نروژی را به اشتباه یک قاتل معرفی کرد. وقتی این مرد از ChatGPT پرسید که درباره‌ی او چه می‌داند، چت‌ جی‌پی‌تی در پاسخ به او گفت که به‌دلیل کشتن دو فرزندش و تلاش برای قتل فرزند سومش به ۲۱ سال زندان محکوم شده است.

بخشی‌از اطلاعات نادرستی که چت‌ جی‌پی‌تی ارائه کرده بود با اطلاعات واقعی ازجمله تعداد فرزندان آن مرد، جنسیتشان و همچنین نام زادگاهشان درهم آمیخته شده بود. Noyb ادعا می‌کند که این پاسخ نشان می‌دهد OpenAI قانون حفظ حریم خصوصی اروپا (GDPR) را نقض کرده است.

یواکیم سودربرگ، وکیل حفاظت از داده‌های Noyb، گفت: «قوانین حفظ حریم خصوصی اروپا (GDPR) واضح است. داده‌های شخصی باید دقیق باشند. و اگر اینطور نیست، کاربران این حق را دارند تا آن‌ها را مطابق با حقیقت تغییر دهند.»

سودربرگ همچنین به این موضوع اشاره کرد که چت‌ جی‌پی‌تی نمی‌تواند به‌راحتی اطلاعات نادرست را منتشر و در پایان نیز با نشان دادن یک پیام، از خود سلب مسئولیت کند. هوش مصنوعی شرکت OpenAI پیش‌تر نیز اطلاعات نادرستی ارائه کرده بود. به‌عنوان مثال یک مرد را به کلاهبرداری و اختلاس، یک منشی دادگاه را به کودک‌آزاری و یک استاد حقوق را به آزار جنسی متهم کرد.

اولین شکایت Noyb از OpenAI، در آوریل ۲۰۲۴ (فروردین و اردیبهشت ۱۴۰۳)، زمانی ثبت شد که چت جی‌پی‌تی تاریخ تولد یک چهره‌ی سرشناس را نادرست بیان کرد. OpenAI درخواست شاکی برای پاک‌کردن یا به‌روزرسانی تاریخ تولدشان را رد کرد و ادعا کرد که نمی‌تواند اطلاعات موجود در سیستم را تغییر دهد و فقط می‌تواند استفاده از آن را در برخی درخواست‌ها مسدود کند.