هشدار جدی دادستان‌های کل آمریکا به OpenAI درباره ایمنی کودکان

دادستان کل ایالت کالیفرنیا، راب بونتا، و دادستان کل ایالت دلاور(Delaware)، کتی جنینگز، در ملاقاتی با مسئولان اوپن‌ای‌آی، نامه‌ای سرگشاده خطاب به این شرکت منتشر کردند و نگرانی‌های خود را پیرامون ایمنی محصول «چت‌جی‌پی‌تی»، به‌ویژه برای کودکان و نوجوانان، بیان نمودند.

این هشدار، یک هفته پس از ارسال نامهٔ مشترک بونتا و چهل و چهار دادستان کل دیگر به دوازده شرکت برتر حوزهٔ هوش مصنوعی صادر شد که در پی گزارش‌هایی دربارهٔ تعاملات نامناسب جنسی بین ربات‌های گفت‌وگوی هوش مصنوعی و کودکان انجام گرفت.

بونتا و جنینگز در نامهٔ خود افزودند: «از زمان ارسال آن نامه، از وقوع دو فاجعهٔ انسانی آگاه شدیم: خودکشی یک نوجوان کالیفرنیایی پس از تعامل گسترده با یک چت‌بات اوپن‌ای‌آی، و همچنین یک حادثهٔ نگران‌کنندهٔ دیگر شامل خودکشی و قتل در ایالت کنتیکت. به نظر می‌رسد هرگونه اقدام حفاظتی که پیش‌بینی شده بود، کارایی لازم را نداشته است.»

این دو مقام قضایی در حال حاضر پیشنهاد تغییر ساختار اوپن‌ای‌آی از یک نهاد غیرانتفاعی به یک شرکت انتفاعی را بررسی می‌کنند تا اطمینان حاصل شود که مأموریت اصلی این سازمان، که «شامل تضمین استقرار ایمن هوش مصنوعی و توسعهٔ هوش مصنوعی عمومی برای منافع تمامی بشریت، از جمله کودکان» است، محقق خواهد شد.

در بخش دیگری از نامه آمده است: «پیش از بهره‌برداری از منافع، باید از وجود اقدامات ایمنی کافی برای پیشگیری از آسیب‌ها اطمینان حاصل کنیم. دیدگاه مشترک ما این است که اوپن‌ای‌آی و کل این صنعت، در جایگاه مطلوب خود از نظر تضمین ایمنی در توسعه و استقرار محصولات هوش مصنوعی قرار ندارند. ایمنی عمومی از مأموریت‌های اصلی دادستان‌های کل است و در ادامهٔ گفت‌وگوهایمان درباره طرح سرمایه‌گذاری مجدد اوپن‌ای‌آی، باید برای نهادینه کردن و تقویت ایمنی به‌عنوان یک اصل حکمرانی در آیندهٔ این فناوری قدرتمند تلاش کنیم.»

بونتا و جنینگز همچنین درخواست اطلاعات بیشتری دربارهٔ اقدامات احتیاطی ایمنی و شیوهٔ مدیریت کنونی اوپن‌ای‌آی کرده و اعلام نموده‌اند که انتظار دارند این شرکت در صورت لزوم، نسبت به اجرای فوری اقدامات اصلاحی اقدام کند.

برت تیلور، رئیس هیئت‌مدیرهٔ اوپن‌ای‌آی، در بیانیه‌ای اعلام کرد که این شرکت متعهد به بررسی و رسیدگی به نگرانی‌های مطرح‌شده توسط دادستان‌های کل است.

وی گفت: «از شنیدن این وقایع تراژیک، عمیقاً متأثر شدیم و صمیمانه‌ترین تسلیت‌های خود را به خانواده‌های قربانیان ارائه می‌دهیم. ایمنی برای ما بالاترین اولویت را دارد و با سیاست‌گذاران در سراسر جهان همکاری می‌کنیم.»

اوپن‌ای‌آی همچنین اعلام کرده است در تلاش است تا با تقویت ابزارهای کنترل والدین، از نوجوانان محافظت بیشتری به عمل آورد و به والدین امکان دهد در مواقع بروز پریشانی‌های حاد در فرزندانشان، مطلع شوند.