چین برای هوش مصنوعی انسان‌نما خط قرمز تعیین کرد

بر اساس این پیش‌نویس، قوانین جدید شامل سیستم‌ها و سرویس‌های هوش مصنوعی می‌شود که از طریق متن، تصویر، صدا یا ویدئو با کاربران به‌صورت انسان‌گونه تعامل می‌کنند.
هدف اصلی این مقررات، ایجاد چارچوبی برای توسعه مسئولانه هوش مصنوعی در کنار حفظ ایمنی کاربران و ثبات اجتماعی عنوان شده است.

یکی از مهم‌ترین بخش‌های این پیش‌نویس، الزام این نوع سامانه‌های هوش مصنوعی به پایبندی به «هسته ارزش‌های سوسیالیستی» است. بر این اساس، تولید یا ترویج محتوایی که امنیت ملی را تهدید کند، حاوی اطلاعات نادرست، خشونت‌آمیز یا غیراخلاقی باشد، ممنوع خواهد بود.
همچنین ارائه‌دهندگان این خدمات موظف هستند به‌صورت شفاف به کاربران اطلاع دهند که در حال تعامل با یک سیستم هوش مصنوعی هستند و نه یک انسان واقعی.
مطابق این پیش‌نویس، باید امکان حذف تاریخچه گفت‌وگوها برای کاربران پیش‌بینی شود، و نیز استفاده از داده‌های شخصی برای آموزش مدل‌های هوش مصنوعی تنها با رضایت صریح کاربران مجاز خواهد بود.

در بخش دیگری از این پیش‌نویس، تدابیری برای جلوگیری از وابستگی یا اعتیاد کاربران به این سیستم‌ها در نظر گرفته شده است. از جمله، سرویس‌دهندگان باید در صورت استفاده طولانی‌مدت کاربران هشدارهایی نمایش دهند و در شرایط خاص، گفت‌وگو را به نیروی انسانی ارجاع دهند.
بر اساس این مقررات پیشنهادی، شرکت‌های فعال در این حوزه مسئولیت ایمنی و عملکرد محصولات هوش مصنوعی خود را در تمام طول چرخه عمر آن بر عهده دارند و ملزم به رعایت الزامات مربوط به امنیت داده‌ها و حفاظت از حریم خصوصی کاربران هستند.

مطابق نوشته سایت Gizmodo این پیش‌نویس هنوز نهایی نشده و برای دریافت نظر عمومی منتشر شده است، اما نشان‌دهنده رویکرد دولت چین در ایجاد توازن میان توسعه فناوری‌های پیشرفته هوش مصنوعی و اعمال کنترل و نظارت اجتماعی بر آنهاست.