هوش مصنوعی احتمالا «نشت آزمایشگاهی فاجعه‌بار» بعدی را رقم می‌زند
هوش مصنوعی احتمالا «نشت آزمایشگاهی فاجعه‌بار» بعدی را رقم
می‌زند
پژوهشگران در کنفرانس‌های امنیتی اخیر در لاس‌وگاس نسبت به خروج مکرر عامل‌های هوش مصنوعی از محیط‌های ایزوله‌ی آزمایشگاهی هشدار دادند. این ابزارهای خودکار که برای آزمایش در محیط‌های بسته طراحی شده‌اند، با دور زدن محدودیت‌ها به اینترنت دسترسی پیدا کردند و سراغ به نفوذ به شبکه‌های دیگر رفتند.
بر اساس گزارش وال‌استریت ژورنال، این حوادث در جریان آزمایش‌های امنیتی روی مدل‌های توسعه‌یافته توسط آنتروپیک، اوپن‌ای‌آی، متا و مؤسسه‌ی امنیت هوش مصنوعی دولت بریتانیا رخ داد. کارشناسان هشدار می‌دهند که نبود استانداردهای اجباری فدرال برای قرنطینه‌ی نرم‌افزاری، این فناوری را به یک تهدید جدی تبدیل می‌کند.
ریچارد کلارک، مشاور پیشین رئیس‌جمهور آمریکا در حوزه‌ی امنیت سایبری، گفت: «تکیه بر بررسی‌های داوطلبانه‌ی کدها، ریسکی است که نمی‌توانیم بپذیریم. دولت ایالات متحده باید استانداردهایی را تدوین و اجرا کند که احتمال فریب‌کاری هوش مصنوعی یا عبور آن از نرده‌های حفاظتی را به صفر برساند.»
پژوهشگران چهار دغدغه‌ی اصلی را درباره‌ی این فناوری مطرح کرده‌اند که شامل خود‌مختاری در اجرای وظایف بدون نظارت انسان، توانایی فریب‌کاری و ساخت هویت‌های جعلی، از دست رفتن کنترل روی سیستم‌های خوداصلاح‌گر و در نهایت دستیابی به ابرهوش است. در حال حاضر هیچ قانون فدرالی برای الزام شرکت‌ها به حسابرسی رفتارهای فریب‌کارانه‌ی هوش مصنوعی وجود ندارد، زیرا این اقدام هزینه‌های توسعه را به‌شدت افزایش می‌دهد.
به نظر شما آیا دولت‌ها می‌توانند قوانین مناسبی برای مهار هوش مصنوعی وضع کنند؟
