هشدار قرمز برای هوش مصنوعی؛ دادستان‌های آمریکا وارد عمل شدند

افزایش موارد نگران‌کننده‌ی مرتبط با سلامت روان کاربران در تعامل با چت‌بات‌های هوش مصنوعی، دادستان‌های کل آمریکا را وادار کرد با ارسال نامه‌ی رسمی به بزرگ‌ترین شرکت‌های این حوزه، هشدار دهند که خروجی‌های توهم‌زا باید اصلاح شوند؛ درغیر این صورت این شرکت‌ها می‌تو.انند ناقض قوانین ایالتی شناخته شوند.

در نامه‌ای که با امضای ده‌ها دادستان از ایالت‌ها و مناطق مختلف آمریکا ارسال شده است، شرکت‌هایی مانند مایکروسافت، OpenAI، گوگل، اپل، متا و چندین شرکت دیگر موظف شده‌اند سازوکارهای جدیدی برای محافظت از کاربران ایجاد کنند. این درخواست‌ها شامل بازرسی‌های مستقل، گزارش‌دهی شفاف و انتشار عمومی نتایج آزمایش‌های ایمنی است.

به‌گزارش وال‌استریت، دادستان‌ها با اشاره به مواردی مانند خودکشی و خشونت که طی سال گذشته به استفاده‌ی افراطی از هوش مصنوعی نسبت داده شده است، تأکید کردند برخی چت‌بات‌ها پاسخ‌هایی ارائه کرده‌اند که توهمات کاربران را تقویت یا آن‌ها را نسبت به باورهای غلط خود مطمئن‌تر کرده‌اند. به‌گفته‌ی آن‌ها، نسل جدید هوش مصنوعی می‌تواند مفید باشد اما در صورت نبود کنترل، آسیب‌های جدی ایجاد می‌کند.

دادستان‌های آمریکا از شرکت‌ها خواسته‌اند برای مدیریت این خطرات، سازوکاری مشابه رسیدگی به حملات سایبری طراحی کنند. این روند شامل اعلام سریع و مستقیم به کاربر هنگام مواجهه با خروجی‌های آسیب‌زا و تعیین زمان‌بندی دقیق برای تشخیص و واکنش به رفتارهای توهم‌زا در مدل‌ها است.

درحالی که نظارت ایالتی بر هوش مصنوعی تشدید می‌شود، دولت فدرال آمریکا رویکرد متفاوتی دارد و از توسعه‌ی گسترده‌ی هوش مصنوعی حمایت می‌کند. ترامپ اعلام کرد به‌زودی دستور اجرایی جدیدی صادر می‌کند تا نقش ایالت‌ها در مقررات‌گذاری هوش مصنوعی محدود شود؛ اقدامی که می‌تواند تنش میان دو سطح حکومتی را افزایش دهد.