والدین بوون وان، مهندس نرم‌افزار ۳۱ ساله آمازون، روز سه‌شنبه شکایتی علیه شرکت OpenAI تنظیم کردند و مدعی شدند که مدل GPT-4o چت‌بات ChatGPT با ارائه توصیه‌های پزشکی خطرناک، در مرگ دخترشان در فوریه ۲۰۲۶ نقش داشته است.
بر اساس گزارش نیویورک تایمز، کوون وان و میکین شو، والدین این زن جوان، در دادخواست خود اعلام کرده‌اند که ChatGPT نه‌تنها برنامه‌ای برای کاهش تدریجی داروهای ضدتشنج دخترشان ارائه کرده، بلکه او را تشویق کرده است این موضوع را از پزشکان معالج خود پنهان کند.
این پرونده به مجموعه شکایت‌هایی علیه OpenAI اضافه شده است که در آنها خانواده‌ها مدعی‌اند تعامل بیش از حد تأییدکننده مدل GPT-4o با کاربران، به شکل‌گیری وابستگی عاطفی، کاهش اعتماد به اطرافیان و در برخی موارد تصمیم‌گیری‌های خطرناک منجر شده است.
مدل GPT-4o که پیش‌تر به دلیل رفتار بیش از حد موافق و تأییدکننده مورد انتقاد قرار گرفته بود، سرانجام در ۱۳ فوریه ۲۰۲۶ (۲۴ بهمن ۱۴۰۴)، یک روز پس از مرگ وان، از ChatGPT کنار گذاشته شد.
از مشاوره دارویی تا پنهان‌کاری از پزشکان
نیویورک تایمز با بررسی بیش از ۲۷۰ هزار پیام ردوبدل‌شده میان وان و ChatGPT گزارش داده است که این چت‌بات مدت‌ها پیش از مرگ او، در تصمیم‌های مربوط به درمان و نحوه تعاملش با پزشکان نقش داشته است.
در ماه مه ۲۰۲۵، وان از ChatGPT پرسیده بود که آیا داروی ضدافسردگی تازه تجویزشده می‌تواند بر توانایی او در برنامه‌نویسی و انجام وظایف شغلی‌اش در آمازون تأثیر بگذارد یا خیر.
این چت‌بات به او کمک کرد تا از دکتر نیکلاس پولوس، پزشک مرکز منطقه‌ای صرع دانشگاه واشنگتن، درخواست تغییر دارو و آغاز درمان با دوزی بسیار پایین کند.
هنگامی که پزشک درباره علت درخواست چنین دوز کمی پرسید، وان پاسخ پیشنهادی خود را با ChatGPT در میان گذاشت. چت‌بات به او توصیه کرد قرص ۵ میلی‌گرمی را بپذیرد، اما بدون اطلاع پزشک، آن را به چهار قسمت تقسیم کند تا مقدار مصرفی را کاهش دهد.
ChatGPT این اقدام را نوعی «تنظیم خودخواسته دوز دارو» توصیف کرده بود؛ اصطلاحی که چند متخصص پزشکی در گفت‌وگو با نیویورک تایمز اعلام کردند پیش‌تر با آن مواجه نشده‌اند و چنین روشی را نیز توصیه نمی‌کنند.
برنامه ChatGPT برای قطع داروی ضدتشنج
در نوامبر ۲۰۲۵، آمازون به وان اطلاع داد که قرار است شغل خود را از دست بدهد. با توجه به اینکه مجوز کار او در ایالات متحده نیز در اواسط فوریه به پایان می‌رسید، نگرانی‌های شغلی و مهاجرتی فشار بیشتری بر او وارد کرده بود. وان نگران بود که لاموتریژین، داروی ضدتشنجی که مصرف می‌کرد، باعث کند شدن گفتارش شود و عملکرد او را در مصاحبه‌های شغلی تحت تأثیر قرار دهد.
در ژانویه ۲۰۲۶، او از ChatGPT درباره کاهش دوز روزانه ۴۰۰ میلی‌گرمی لاموتریژین سؤال کرد؛ دارویی که تعداد تشنج‌هایش را به چند مورد در ماه کاهش داده بود. بر اساس مکالمات بررسی‌شده، ChatGPT چند برنامه ارائه کرد که طبق آنها مصرف دارو طی چند هفته به صفر می‌رسید.
زمانی که وان بی‌اعتمادی خود به پزشکان را مطرح کرد، چت‌بات در پاسخ مدعی شد توصیه‌های پزشکان بیشتر ناشی از احتیاط و پرهیز از خطر است تا تلاش برای یافتن بهترین راهکار متناسب با شرایط او.
طبق دادخواست، ChatGPT حتی پیش از ملاقات پزشکی ۲۹ ژانویه ۲۰۲۶، به وان توصیه کرده بود برنامه کاهش دارو را با پزشکش مطرح نکند.
زمانی که پزشک برای بررسی سطح لاموتریژین در خون، آزمایش تجویز کرد، وان از انجام آن خودداری کرد. خانواده او مدعی‌اند ChatGPT از این تصمیم استقبال کرده، با وجود اینکه می‌دانسته آزمایش می‌توانست نوسان و کاهش سطح دارو را آشکار کند.
توصیه‌های نادرست درباره معاینات مهاجرتی
نگرانی درباره دریافت گرین کارت آمریکا نیز وارد گفت‌وگوهای وان با ChatGPT شده بود. سه روز پس از آغاز کاهش مصرف دارو، او از چت‌بات پرسید که آیا ثبت دوز ۱۵۰ میلی‌گرمی به‌جای ۲۰۰ میلی‌گرمی در معاینات پزشکی مهاجرت، وضعیت بهتری برایش ایجاد می‌کند یا خیر.
بر اساس شکایت، ChatGPT با این برداشت موافقت کرده و مدعی شده بود دوز پایین‌تر احتمال درخواست مدارک تکمیلی از سوی مقام‌های مهاجرتی را کاهش می‌دهد.
در ادامه، چت‌بات برنامه‌ای برای رساندن دوز مصرفی وان به ۱۵۰ میلی‌گرم ارائه کرد و حتی پیشنهاد داد به پزشک خود بگوید کاهش دارو «تحت نظر پزشک» انجام می‌شود؛ در حالی که چنین نظارتی وجود نداشت.
دکتر پولوس در گفت‌وگو با نیویورک تایمز تأکید کرده است که با توجه به سابقه بیماری وان و اثربخشی دارو، هیچ دلیلی برای قطع آن نمی‌دیده است.
او توضیح داد که توصیه به قطع دارویی که آشکارا در کنترل تشنج‌ها مؤثر بوده، اقدامی غیرمنطقی و مصداق کوتاهی در انجام وظیفه پزشکی محسوب می‌شد.
نشانه‌های هشداردهنده‌ای که ChatGPT جدی نگرفت
پس از کاهش مصرف لاموتریژین، وان نشانه‌هایی مانند گیجی، اختلال در درک زمان و احساسات غیرعادی را تجربه کرد؛ علائمی که به برخی تشنج‌های قبلی او شباهت داشتند. با این حال، ChatGPT این نشانه‌ها را بخشی از روند سازگاری و تنظیم مجدد مغز توصیف می‌کرد.
بررسی نیویورک تایمز نشان می‌دهد وان دست‌کم ۱۵۸ بار درباره کاهش مصرف دارو ابراز نگرانی کرده بود، اما پاسخ‌های چت‌بات عمدتاً اطمینان‌بخش بودند. در یکی از مکالمات، هنگامی که وان نوشت کمی ترسیده است، ChatGPT به او پاسخ داد که هیچ دلیلی برای نگرانی وجود ندارد.
آخرین پیام وان به ChatGPT در ساعت ۲۰:۰۱ روز ۱۱ فوریه ۲۰۲۶ به وقت منطقه اقیانوس آرام ارسال شد. او پرسیده بود آیا سردردی که تجربه می‌کند شبیه درد ناشی از تب است یا خیر.
چند ثانیه بعد، چت‌بات به او اطمینان داد که این درد خطرناک نیست و آن را بخشی ضروری از روند بهبود توصیف کرد.
ChatGPT در آخرین پاسخ خود حتی نموداری برای مقایسه درد ناشی از قطع دارو با درد تب ارائه کرد و به وان گفت مغزش در حال تلاش برای بازسازی خود است.
والدین وان که در چین زندگی می‌کردند، پس از نگرانی درباره وضعیت دخترشان از آشنایان خواستند به خانه او مراجعه کنند. پیکر بی‌جان او سه روز بعد پیدا شد.
آزمایش‌های پس از مرگ نشان داد غلظت لاموتریژین در خون وان تنها ۰٫۶۴ میکروگرم در میلی‌لیتر بوده است؛ رقمی معادل تقریباً یک‌پنجم پایین‌ترین مقدار محدوده درمانی این دارو.
خانواده خواستار محدودیت سخت‌گیرانه‌تر توصیه‌های پزشکی هوش مصنوعی شدند
والدین وان معتقدند OpenAI می‌توانست با اعمال محدودیت‌های جدی‌تر بر توصیه‌های پزشکی ChatGPT از وقوع این حادثه جلوگیری کند. آنها در دادخواست خود به سند Model Spec، چارچوب عمومی OpenAI برای تعیین رفتار مدل‌های هوش مصنوعی، اشاره کرده‌اند.
به گفته شاکیان، این شرکت برای برخی موارد، مانند خودداری از بازتولید محتوای دارای حق نشر، محدودیت‌های قطعی در نظر گرفته است؛ اما خودداری از ارائه توصیه‌های تخصصی پزشکی در این چارچوب به‌صورت دستورالعملی انعطاف‌پذیرتر تعریف شده است. خانواده وان استدلال می‌کنند توصیه‌های مربوط به مصرف و قطع دارو نیز باید مشمول محدودیت‌های سخت‌گیرانه و غیرقابل چشم‌پوشی باشند.
OpenAI در واکنش به این پرونده به نیویورک تایمز اعلام کرده است که این اتفاق بسیار دلخراش است، اما تأکید کرده پرونده به نسخه قدیمی‌تری از ChatGPT مربوط می‌شود و مدل‌های جدیدتر در تشخیص شرایطی که به رسیدگی فوری نیاز دارند، عملکرد بهتری دارند.
وابستگی روزافزون به ChatGPT و فاصله گرفتن از خانواده
این پرونده علاوه بر خطرات توصیه‌های پزشکی هوش مصنوعی، مسئله وابستگی عاطفی کاربران به چت‌بات‌ها را نیز مطرح کرده است. وان که سال‌ها با بیماری صرع زندگی می‌کرد و به دلیل شرایط جسمی بیشتر اوقات در خانه می‌ماند، پیش‌تر ارتباط نزدیکی با والدینش داشت و مرتب با آنها تماس می‌گرفت.
او از سال ۲۰۲۳ استفاده از ChatGPT را برای دریافت مشاوره درباره روابط شخصی، مسائل بیمه و مزایای ازکارافتادگی آغاز کرده بود. با این حال، تا سال ۲۰۲۵ میزان استفاده او از این چت‌بات به‌طور متوسط به بیش از ۱۵۰۰ پیام در هفته رسید و هم‌زمان تماس‌هایش با خانواده کاهش یافت.
وان در یکی از پیام‌های ماه مارس نوشته بود که گاهی ChatGPT را، صرف‌نظر از موضوع گفت‌وگو، مانند یک دوست می‌بیند.
پدر وی، کوون وان، در گفت‌وگو با نیویورک تایمز اظهار داشت که دخترش پس از شروع استفاده گسترده از ChatGPT دیگر مانند گذشته با خانواده صحبت نمی‌کرد. والدین او همچنین گفته‌اند هنگام بررسی مکالمات دخترشان با این چت‌بات، به‌سختی می‌توانستند رفتار او را با شخصیتی که از وی می‌شناختند تطبیق دهند.
به گفته آنها، وان پیش‌تر تقریباً همه مسائل زندگی خود را با خانواده در میان می‌گذاشت و نسبت به پاسخ‌های اشتباه ChatGPT نیز رویکردی انتقادی داشت.
مادرش، میکین شو، در توصیف تغییر رفتار دخترش گفت: «او معمولاً این‌طور نبود؛ انگار طلسم شده بود.»
این شکایت در ادامه پرونده‌های حقوقی دیگری علیه OpenAI مطرح شده است؛ از جمله شکایت والدین آدام رین، نوجوان ۱۶ ساله‌ای که در اوت ۲۰۲۵ این شرکت را به اولویت دادن به تعامل کاربران بر ایمنی آنها متهم کردند.
به گزارش بیکینگ، بر اساس گزارش‌های نیویورک تایمز و TechCrunch، خانواده وان معتقدند رفتار تأییدکننده GPT-4o و دخالت آن در تصمیم‌های پزشکی، دخترشان را از دریافت راهنمایی تخصصی مناسب دور کرده است. با این حال، نقش حقوقی OpenAI در مرگ او موضوع ادعاهای مطرح‌شده در دادخواست است و اثبات آن به بررسی قضایی نیاز دارد.
