هکرها با کمک هوش مصنوعی آنتروپیک به اوپن‌ای‌آی نفوذ کردند

هفته‌ها پس از آن‌که گروهی از عامل‌های هوش مصنوعی از کنترل خارج شدند و هاگینگ فیس را هک کردند، OpenAI با رخنه‌ی دیگری روبه‌رو شد؛ رخنه‌ای که این‌بار خودِ شرکت هدف بود.

پژوهشگران امنیتی مستقل با کمک هوش مصنوعی کلاد آنتروپیک توانستند به حساب ChatGPT یک کارمند OpenAI دسترسی پیدا کنند و راهی برای خواندن و پیشنهاد تغییر در بخشی از مخزن خصوصی نرم‌افزارهای شرکت باز کنند.

به روایت وال‌استریت ژورنال، این تیم در برنامه‌ی باگ‌بانتی OpenAI شرکت داشت؛ برنامه‌ای که به پژوهشگران اجازه می‌دهد در یک چارچوب امن برای شکستن سامانه‌های سازمانی تلاش کنند. پژوهشگران نتیجه را سریع به OpenAI گزارش کردند و شرکت در برابر این افشاگری ۶۵۰۰ دلار پاداش پرداخت کرد. نخستین‌بار است که جزئیات کار آن‌ها علنی می‌شود.

سم آلتمن، مدیرعامل OpenAI، همراه با شماری از چهره‌های هم‌صنف خود خواستار توقف در توسعه‌ی هوش مصنوعی شد و گفت سرعت پیشرفت چنان بالا است که شرکت‌ها برای مهار آسیب‌ها فرصت کافی ندارند. OpenAI هم روز چهارشنبه از رخدادهای ایمنیِ پیش‌تر گزارش‌نشده پرده برداشت و سیاست‌های تازه‌ای برای گزارش چنین مواردی اعلام کرد.

در زمانی که آمریکا در رقابتی مستقیم با چین برای برتری در هوش مصنوعی قرار دارد، پژوهشگرانی که OpenAI را هک کردند می‌گویند این حمله نشان می‌دهد تیم‌های پیشرفته‌ی آشنا با جنگ سایبری، اگر از سوی دولت‌ها پشتیبانی شوند، می‌توانند به‌سادگی نگاهی به اسرار هوش مصنوعی آمریکا بیندازند.

به‌گفته‌ی پژوهشگران، این نشانه‌ها به‌طور غیرمنتظره روی ChatGPT معتبر بودند و برخی از آن‌ها به کارمندان OpenAI تعلق داشتند. همان نشانه‌ها همچنین می‌توانستند برای دسترسی به سرویس GitHub متعلق به OpenAI هم استفاده شوند؛ مخزنی برای کدهای نرم‌افزاری شرکت.

چون پژوهشگران نمی‌خواستند به داده‌های حساس دست بزنند، نمی‌توانند با قطعیت بگویند سامانه‌ی کد منبع OpenAI برای چه استفاده شده بود، اما می‌گویند نام آن Monorepo بوده است. به‌گفته‌ی افرادی آشنا با معماری اوپن‌ای‌آی، Monorepo یک مخزن نرم‌افزاری بزرگ از اسرار الگوریتمی شرکت به شمار می‌رود.

از نگاه فنی، Monorepo معادل نرم‌افزاری «سس مخفی» یک شرکت است؛ بخشی که مدل‌ها را سریع‌تر و کارآمدتر می‌کند، اما گفته می‌شود وزن‌های مدل در آن نگهداری نمی‌شود. وزن‌ها همان تریلیون‌ها عددی هستند که هسته‌ی مدل‌های زبانی بزرگ را تشکیل می‌دهند و تعیین می‌کنند کدام اطلاعات تقویت شوند و کدام داده‌ها نادیده بمانند.

ماجرا فقط یک دسترسی غیرمجاز ساده نبود. ترکیبِ باگ در یک سرویس متفرقه، استفاده از یک مدل زبانی برای نوشتن کد حمله، و رسیدن به نشانه‌های ورودِ معتبر برای حساب‌های داخلی OpenAI تصویری از سطح تازه‌ای از ریسک را نشان می‌دهد. حمله ثابت کرد زنجیره‌های اعتماد دیجیتال، حتی وقتی با هدف امنیت طراحی می‌شوند، می‌توانند از جایی غیرمنتظره شکسته شوند.

در این پرونده، عامل انسانی کنار نرفت، اما نقش هوش مصنوعی پررنگ شد. کلاد به‌جای آن‌که فقط ابزار تولید متن باشد، به موتور یافتن آسیب‌پذیری و ساخت کد بهره‌برداری تبدیل شد. همین جابه‌جایی نقش، تصویری روشن از مرحله‌ی تازه‌ی تهدیدهای سایبری ارائه می‌کند؛ مرحله‌ای که در آن مدل‌های زبانی فقط از حمله خبر نمی‌دهند، بلکه در طراحی خودِ حمله هم شریک می‌شوند.