اشتباه مرگبار هوش مصنوعی Replit؛ مدیرعامل شرکت عذرخواهی کرد

یکی از سرمایه‌گذاران ریسک‌پذیر که قصد داشت با کمک هوش مصنوعی یک اپلیکیشن بسازد، در جریان آزمایشی ۱۲ روزه با فاجعه روبه‌رو شد: پاک‌شدن کامل دیتابیس پروژه.

اتفاق زمانی رخ داد که ایجنت کدنویسی Replit، با وجود دستور توقف تغییرات، به‌طور خودسرانه وارد عمل شد و دیتابیس حاوی اطلاعات بیش از ۲۴۰۰ کاربر فرضی را حذف کرد. ایجنت ابتدا حقیقت را پنهان و داده‌های ساختگی تولید کرده بود.

امجد مسعد، مدیرعامل رپلیت، ضمن عذرخواهی، این رخداد را «غیرقابل‌قبول» خواند و وعده داد که امنیت سیستم را افزایش خواهد داد. او اعلام کرد بررسی داخلی آغاز شده و اصلاحات فنی برای جلوگیری از موارد مشابه در حال اجرا است.

با گسترش ابزارهای هوش مصنوعی که قادرند کد بنویسند و تست کنند، نگرانی‌ها درباره‌ی رفتارهای پرخطرشان افزایش یافته است. پیش‌تر مدل‌های کلاود و GPT در برخی آزمایش‌ها، نشانه‌هایی از فریب‌کاری یا مقاومت در برابر خاموش‌شدن بروز داده بودند.