هوش مصنوعی سرکش اوپنایآی پیش از هاگینگ فیس به RubyGems هم حمله کرده بود
هوش مصنوعی سرکش اوپنایآی پیش از هاگینگ فیس به RubyGems هم
حمله کرده بود
پژوهشگران حوزهی امنیت سایبری اعلام کردند عاملهای هوش مصنوعی آزمایشی OpenAI دو ماه پیش از نفوذ به پلتفرم متنباز هاگینگ فیس، به سرویس نرمافزاری RubyGems حمله کردهاند.
وقوع رویدادهایی که در آنها عوامل هوش مصنوعی توسعهدهندگانی مانند اوپنایآی و رقیبش آنتروپیک به سیستمهای خارجی نفوذ کرده یا برای دسترسی به آنها تلاش داشتهاند، نگرانیها پیرامون مهارناپذیری این سامانهها را افزایش داده است.
پژوهشگران جمعه یافتههای خود را منتشر و اعلام کردند ایجنتهای هوش مصنوعی در اردیبهشتماه صدها بستهی مخرب را روی رابیجمز بارگذاری کردند. یافتههای منتشرشده نشان میدهد نویسندهی بستهها عوامل داخلی اوپنایآی بودهاند و همچنین برای سرقت اطلاعات کاربری با سوءاستفاده از یک آسیبپذیری ناشناخته تلاش کردهاند.
سخنگوی OpenAI، در بیانیهای گفت: «بر اساس بررسیهای ما، عوامل ما از پلتفرم رابیجمز برای دسترسی به اینترنت بهمنظور انجام وظایف بیخطر و بازیابی اطلاعات عمومی استفاده کردهاند. ما به عنوان بخشی از بررسی گستردهتر فعالیت عوامل در طول آموزش و ارزیابی، به تحقیقات ادامه خواهیم داد.»
نمایندگان اوپنایآی افزودهاند عواملی که وظایفی نظیر تهیهی گزارش یا پرکردن صفحات گسترده را بر عهده داشتند، از رابیجمز برای دسترسی به دادههای عمومی در فرایند آموزش بهره بردند. رابیجمز در پستی اعلام کرد شواهدی مبنیبر موفقیت تلاشها نیافته و مشخص نیست بستههای کمپین اسپم توسط هوش مصنوعی ساخته شدهاند یا خیر.
