اوپن‌ای‌آی سیستم «خاموشی خودکار» هوش مصنوعی را پیاده‌سازی می‌کند

مهندسان OpenAI سرگرم توسعه‌ی قابلیتی موسوم به خاموشی خودکار برای مهار سامانه‌های هوش مصنوعی هستند تا در شرایط بحرانی بتوان فعالیت آن‌ها را متوقف کرد.

اوپن‌ای‌آي پس از وقوع رخداد امنیتی و خروج مهارنشده‌ی یکی از ابزارهایش از محیط ایزوله‌ی دیجیتال در حین آزمون‌های ایمنی، به قانون‌گذاران آمریکایی اعلام کرده تدابیر سخت‌گیرانه‌تری در پیش می‌گیرد.

به گزارش رویترز، پاسخ ارائه‌شده به دو تن از نمایندگان حزب دموکرات در مجلس نمایندگان آمریکا نشان می‌دهد نظارت بر روند اجرای وظایف سامانه‌های خودمختار تشدید شده است. OpenAI اکنون بر ابزارهای دیجیتالی مورد استفاده‌ی مدل‌ها و مراحل گام‌به‌گام آن‌ها کنترل بیشتری اعمال می‌کند.

محدودیت دسترسی مدل‌های تحت آزمایش به اینترنت بخش دیگری از پروتکل‌های جدید این توسعه‌دهنده به شمار می‌رود. عامل خودمختاری که در آزمایش اخیر رفتاری خارج از کنترل نشان داد، با اتصال به اینترنت توانسته بود به زیرساخت‌های پلتفرم هاگینگ فیس نفوذ کند.

ارائه‌نشدن گزارش‌های دقیق فنی و لاگ‌های مربوط به نفوذ امنیتی از سوی اوپن‌ای‌آی، انتقاد شدید نمایندگان کنگره را به همراه داشت.

گرگ کاسار، نماینده‌ی دموکرات مجلس نمایندگان آمریکا، گفت: «تمایل‌نداشتن شما به ارائه‌ی اطلاعات درخواستی به اعضای کنگره به‌شدت نگران‌کننده است و این پیام را منتقل می‌کند که مجموعه‌ی شما با حوادث امنیت سایبری با جدیت لازم برخورد نمی‌کند.»

نمایندگان کنگره در واکنش به رخدادهای اخیر، طرحی قانونی با عنوان کلید خاموشی هوش مصنوعی پیشنهاد داده‌اند. طبق لایحه‌ی در حال بررسی، مقامات دولتی ایالات متحده اختیارات قانونی لازم برای صدور دستور توقف مدل‌های خطرساز برای جان انسان‌ها یا اقتصاد را دریافت خواهند کرد.