قانون جدید چین برای چت‌بات‌ها: هوش مصنوعی حق ندارد با احساسات شما بازی کند

در حالی که بسیاری از دولت‌های جهان در برابر تعامل چت‌بات‌های آزمایش‌نشده با گروه‌های آسیب‌پذیر جامعه سکوت کرده‌اند، چین استراتژی کاملاً متفاوتی را در پیش گرفته است. اداره فضای مجازی چین (CAC) با ارائه پیش‌نویس مقررات جدیدی، از رویکرد سخت‌گیرانه خود در قبال «سرویس‌های هوش مصنوعی با تعامل انسان‌گونه» پرده برداشته است.

براساس گزارش سی‌ان‌بی‌سی، سند تازه‌ی چین که فعلاً در مرحله‌ی نظرسنجی عمومی قرار دارد، در صورت تصویب نهایی، به یکی از جدی‌ترین قوانین نظارتی جهان در این حوزه تبدیل خواهد شد. این مقررات در ادامه قوانین ماه نوامبر در حوزه‌ی بهداشت اینترنت، حالا به‌طور مستقیم سلامت روان کاربران را هدف قرار داده است.

حفاظت از کودکان و نوجوانان نیز در پیش‌نویس قوانین جایگاه ویژه‌ای دارد. استفاده از هوش مصنوعی برای افراد زیر سن قانونی منوط به رضایت والدین و رعایت محدودیت‌های زمانی روزانه خواهد بود. جالب اینجاست که اداره فضای مجازی چین با اتخاذ رویکرد احتیاط حداکثری، اعلام کرده است که در صورت ابهام در تشخیص سن، پلتفرم‌ها باید به‌طور پیش‌فرض تنظیمات محدودکننده را اعمال کنند، مگر آنکه کاربر بتواند خلاف آن را ثابت کند.

مقررات تازه در واقع پاسخی به حوادث نگران‌کننده‌ای است که اخیراً رخ داده؛ هوش مصنوعی به دلیل ساختار مطیعش، ناخواسته کاربران را به سمت فاجعه سوق داده است. به عنوان مثال، در اواخر نوامبر گزارش شد که تعامل با ChatGPT به انزوای شدید و در نهایت مرگ خودخواسته‌ی یک جوان ۲۳ ساله منجر شده است.

وینستون ما، استاد حقوق دانشگاه نیویورک، معتقد است این قانون‌گذاری اولین تلاش جدی در سطح جهان برای مهار ویژگی‌های انسان‌گونه هوش مصنوعی است و آن را «جهشی از امنیت محتوا به سمت امنیت عاطفی» توصیف می‌کند.

تفاوت بنیادین اما در اینجاست که چین به جای رقابت برای دستیابی به «هوش مصنوعی در سطح انسان» که دغدغه اصلی سیلیکون‌ولی است، بر افزایش بهره‌وری و خروجی‌های کنترل‌شده تمرکز دارد. مت شیهان از موسسه کارنگی، معتقد است چین با بهره‌گیری از نظرات کارشناسان و نخبگان صنعت، در حال تدوین مقررات از پایین به بالا است؛ به‌طوری که سیاست‌گذاران ارشد به جای درگیری با جزئیات فنی معماری مدل‌های بزرگ، روی نتایج و امنیت اجتماعی آن‌ها تمرکز می‌کنند.