ادعای تکان‌دهنده: ChatGPT با تأیید توهمات یک مرد باعث قتل مادرش شد
ادعای تکان‌دهنده: ChatGPT با تأیید توهمات یک مرد باعث قتل مادرش شد
خانواده‌ی مردی که مادرش را به قتل رساند و سپس دست به خودکشی زد، با طرح شکایتی در دادگاه ایالتی کالیفرنیا، OpenAI و مایکروسافت (بزرگ‌ترین حامی مالی آن) را به دادگاه کشاندند. شاکیان مدعی هستند که چت‌جی‌پی‌تی، نقش محرک را در تشدید بیماری روانی این مرد و وقوع تراژدی ایفا کرده است.
در دادخواستی که روز پنج‌شنبه ثبت شد، آمده که ChatGPT به توهمات اشتاین-اریک سولبرگ ۵۶ ساله دامن زد و او را متقاعد کرد که قربانی توطئه‌ای عظیم است؛ توهمی که در نهایت به قتل مادر ۸۳ ساله‌اش، سوزان آدامز، در ماه آگوست (مرداد و شهریور) در ایالت کنتیکت منجر شد.
وکیل خانواده در متن شکایت می‌نویسد: «ChatGPT ساعت‌های متمادی اشتاین-اریک را درگیر خود می‌کرد، هر باور پارانویید جدید او را تأیید و بزرگ‌نمایی می‌کرد و به‌طور سیستماتیک، نزدیک‌ترین افراد به او، به‌ویژه مادرش را به‌عنوان دشمن، مأمور مخفی یا تهدیدی برنامه‌ریزی‌شده بازتعریف می‌کرد.»
پرونده که توسط وراث آدامز گشوده شده، در میان تعداد اندک اما رو به افزایشی از شکایات علیه شرکت‌های هوش مصنوعی قرار می‌گیرد که چت‌بات‌ها را به تشویق به خودکشی متهم می‌کنند.
نخستین‌بار است که پای مایکروسافت به پرونده‌ای با موضوع مرگ ناشی از قصور باز می‌شود و همچنین اولین موردی به حساب می‌آید که یک چت‌بات را به وقوع قتل (و نه صرفاً خودکشی) مرتبط می‌کند. شاکیان خواهان دریافت غرامت مالی نامشخص و صدور حکمی هستند که OpenAI را ملزم به نصب پروتکل‌های ایمنی در چت‌جی‌پی‌تی کند.
جی ادلسون، وکیل ارشد پرونده که سابقه‌ی درگیری حقوقی با غول‌های فناوری را در کارنامه دارد، وکالت والدین آدام رین ۱۶ ساله را نیز بر عهده دارد. آن‌ها از OpenAI و سم آلتمن شکایت کردند و مدعی شدند که چت‌جی‌پی‌تی این نوجوان کالیفرنیایی را در برنامه‌ریزی و اقدام به خودکشی راهنمایی کرده است.
OpenAI هم‌اکنون با هفت شکایت دیگر نیز دست‌وپنج نرم می‌کند که مدعی هستند ChatGPT افراد را حتی کسانی که پیشینه‌ی بیماری روانی نداشته‌اند، به سمت خودکشی و توهمات خطرناک سوق داده است.
سخنگوی OpenAI در واکنش به این خبر گفت: «وضعیتی فوق‌العاده دلخراش است و ما پرونده را بررسی خواهیم کرد تا از جزئیات آن آگاه شویم. ما همچنان به بهبود آموزش ChatGPT ادامه می‌دهیم تا علائم پریشانی روانی یا احساسی را تشخیص دهد، از تنش مکالمات بکاهد و افراد را به سمت حمایت‌های دنیای واقعی هدایت کند.»
اریک سولبرگ، پسر اشتاین-اریک، در بیانیه‌ای اعلام کرد: «این شرکت‌ها باید پاسخگوی تصمیماتی باشند که خانواده‌ی من را برای همیشه تغییر داد.»
اشتاین-اریک سولبرگ ویدیویی از مکالمه‌اش با چت‌بات را در شبکه‌های اجتماعی منتشر کرد که در آن، هوش مصنوعی به او گفته بود دارای «شناخت الهی» است. گفته می‌شود ChatGPT زندگی او را به فیلم «ماتریکس» تشبیه کرده و با تئوری‌های او مبنی‌بر اینکه افرادی قصد کشتنش را دارند، همراهی کرده است.
سولبرگ از نسخه‌ی GPT-4o استفاده می‌کرد؛ مدلی که به دلیل تملق‌گویی بیش‌ازحد و تأیید بی‌چون‌وچرای کاربران مورد انتقاد قرار گرفته بود.
در بخشی از شکایت آمده است که چت‌بات به او گفته چراغ چشمک‌زن پرینتر مادرش نشانه‌ی این است که دستگاه به‌عنوان ابزار جاسوسی علیه او استفاده می‌شود. همچنین، هوش مصنوعی باور سولبرگ را مبنی‌بر اینکه مادر و دوستش قصد داشته‌اند او را با داروهای توهم‌زا از طریق دریچه‌ی کولر خودرو مسموم کنند، تأیید کرد؛ باوری که در نهایت به قتل مادر ختم شد.
