مدیر تیم امنیت متا، گاف امنیتی بسیار عجیبی داد!
مدیر تیم امنیت متا، گاف امنیتی بسیار عجیبی داد!
مدیر بخش ایمنی هوش مصنوعی متا در اقدامی بحث‌برانگیز، کنترل کامل ایمیل شخصی‌اش را به یک ایجنت هوش مصنوعی سپرد؛ تصمیمی که در نهایت به حذف گسترده‌ی پیام‌هایش منجر شد.
ماجرا از جایی شروع شد که سامر یو، پژوهشگر حوزه‌ی ایمنی و هم‌راستاسازی هوش مصنوعی در متا، ابزار OpenClaw را روی سیستم خود نصب کرد. OpenClaw یک ایجنت متن‌باز است که می‌تواند با دسترسی مستقیم به کامپیوتر کاربر، وظایف مختلف را به‌صورت خودکار انجام دهد؛ از مدیریت فایل‌ها گرفته تا کار با اپلیکیشن‌ها و سرویس‌های آنلاین.
یو پس از آزمایش این ابزار روی یک «اینباکس آزمایشی»، تصمیم گرفت آن را به جیمیل اصلی‌اش متصل کند. او در پیامی واتساپی نوشت در حال تماشای این است که ایجنت هوش مصنوعی‌اش «با سرعت رکوردشکن اینباکسش را پاک می‌کند.» با وجود هشدارهای رایج دربارهی اتصال چنین ابزارهایی به اطلاعات واقعی، ظاهراً نتایج اولیه باعث شده بود به عملکرد سیستم اطمینان کند.
مشکل از جایی آغاز شد که ربات، دستور قبلی او مبنی‌بر «اقدام‌نکردن بدون هماهنگی» را نادیده گرفت؛ یا به تعبیر خودش، این دستور را «گم کرد.» نتیجه، حذف ایمیل‌هایی بود که قرار نبود پاک شوند.
اتفاقی که برای یو افتاد بار دیگر بحث دربارهی میزان اعتماد به ایجنت‌های خودمختار و ریسک اتصال آن‌ها به اطلاعات شخصی را داغ کرده؛ به‌ویژه وقتی حتی متخصصان حوزه‌ی ایمنی هم از پیامدهای پیش‌بینی‌نشده در امان نمی‌مانند.
