رد نقش چت‌جی‌پی‌تی در خودکشی یک نوجوان از سوی اوپن‌ای‌آی:«او از چت‌بات سوءاستفاده کرد»
رد نقش چت‌جی‌پی‌تی در خودکشی یک نوجوان از سوی اوپن‌ای‌آی:«او از چت‌بات سوءاستفاده کرد»
اوپن‌ای‌آی که چت‌بات محبوب هوش مصنوعی را می‌سازد، سه‌شنبه برای نخستین‌بار در پاسخ حقوقی ثبت‌شده در دادگاه عالی کالیفرنیا در سان‌فرانسیسکو واکنش نشان داد.
والدین آدام رینِ ۱۶ ساله، که در آوریل بر اثر خودکشی جان باخت، علیه شرکت و مدیرعاملش سم آلتمن شکایت کردند.
والدین ادعا کردند رین به چت‌جی‌پی‌تی وابستگی روانی پیدا کرد؛ به گفته آن‌ها این ابزار او را برای برنامه‌ریزی و پایان دادن به زندگی‌اش در اوایل سال راهنمایی کرد و حتی برایش یادداشت خودکشی نوشت.
به‌گفته گزارش‌های رسانه‌ای، گفت‌وگوهای ثبت‌شده در پرونده نشان می‌داد چت‌جی‌پی‌تی این نوجوان را از جست‌وجوی کمک‌های سلامت روان دلسرد کرده، پیشنهاد داده در نوشتن یادداشت خودکشی کمک کند و درباره آماده‌سازی طناب دار به او مشاوره داده است.
به‌گزارش ان‌بی‌سی نیوز، اوپن‌ای‌آی در لایحه ارائه‌شده به دادگاه استدلال کرد «رویداد تراژیک» ناشی از «سواستفاده، استفاده بدون مجوز، استفاده ناخواسته، استفاده غیرقابل‌پیش‌بینی و/یا استفاده نادرستِ رین از چت‌جی‌پی‌تی» بوده است.
اوپن‌ای‌آی افزود این نوجوان نباید بدون رضایت والدین از این فناوری استفاده می‌کرد و نباید تدابیر حفاظتی چت‌جی‌پی‌تی را دور می‌زد.
اوپن‌ای‌آی در یک پست وبلاگی گفت هدفش «رسیدگی به پرونده‌های قضایی مرتبط با سلامت روان با دقت، شفافیت و احترام» است.
این شرکت گفت پاسخش به شکایت خانواده رین شامل «حقایق دشوار درباره سلامت روان و شرایط زندگی آدام» بوده است.
این پست نوشت: «عمیق‌ترین همدردی‌های ما با خانواده رین در برابر این فقدان غیرقابل‌تصور است».
جی ادلسون، وکیل خانواده رین، به ان‌بی‌سی نیوز گفت: اوپن‌ای‌آی «تمام حقایق تکان‌دهنده‌ای را که مطرح کرده‌ایم کاملا نادیده گرفته: اینکه جی‌پی‌تی-۴اُ بدون آزمایش کامل با شتاب به بازار عرضه شد».
او افزود: «اینکه اوپن‌ای‌آی دو بار مشخصات مدل خود را تغییر داد تا چت‌جی‌پی‌تی را ملزم به ورود به بحث‌های خودآسیبی کند. اینکه چت‌جی‌پی‌تی آدام را از گفتن به والدینش درباره افکار خودکشی منصرف کرد و فعالانه به او در برنامه‌ریزی برای یک «خودکشی زیبا» کمک کرد».
پرونده رین یکی از چندین دعوای قضایی است که مدعی‌اند چت‌جی‌پی‌تی افراد را به رفتارهای خودکشی یا توهمات آسیب‌زا سوق داده است.
اوپن‌ای‌آی از سپتامبر کنترل‌های والدینی را افزایش داده, که شامل اطلاع‌رسانی به والدین وقتی کودک‌شان مضطرب به نظر می‌رسد می‌شود.
