مدیر آنتروپیک خواستار کاهش سرعت توسعه هوش مصنوعی شد

به گزارش خبرگزاری فرانسه، آمودی روز شنبه در نامه‌ای که در وب‌سایت شخصی خود منتشر کرد، نسبت به سرعت پیشرفت هوش مصنوعی هشدار داد و بر لزوم کنترل بهتر روند توسعه این فناوری تأکید کرد.

انتشار این نامه تنها چند روز پس از آن انجام شد که جیکوب کوکسون، محقق آنتروپیک، استعفای خود از این شرکت مستقر در کالیفرنیا را اعلام کرد. کوکسون آنتروپیک را متهم کرده بود که تهدیدهای وجودی هوش مصنوعی برای بشریت را کم‌اهمیت جلوه می‌دهد.

این تحولات بار دیگر هشدارهای استیون هاوکینگ، اخترفیزیکدان نظری فقید، درباره پیامدهای توسعه کنترل‌نشده هوش مصنوعی را مورد توجه قرار داده است؛ به‌ویژه در شرایطی که پیشرفت سریع فناوری نگرانی‌های گسترده‌ای درباره پیامدهای اجتماعی و امنیتی آن ایجاد کرده است.

هاوکینگ که در سال ۲۰۱۸ در ۷۶ سالگی درگذشت، پیش‌تر در اظهارنظرهایی درباره خطرات توسعه هوش مصنوعی هشدار داده بود. او معتقد بود توسعه کامل این فناوری «می‌تواند به معنای پایان نژاد بشر باشد» و در نهایت انسان‌ها را پشت سر بگذارد.

او همچنین هشدار داده بود که ماشین‌ها می‌توانند خودشان را توسعه دهند و با سرعت فزاینده‌ای به بازطراحی خود ادامه دهند؛ روندی که به اعتقاد او انسان‌ها قادر نخواهند بود با آن رقابت کنند یا همگام شوند.
 

استعفای یک محقق و تشدید هشدارها

نگرانی‌های مطرح‌شده درباره سرعت توسعه هوش مصنوعی پس از استعفای عمومی جیکوب کوکسون نیز شدت گرفت. او از سمت خود در بخش تحقیقات پیش‌آموزشی آنتروپیک کناره‌گیری کرد؛ محققی که پیش از این نیز در OpenAI فعالیت کرده بود.

کوکسون پس از استعفا مجموعه‌ای از پست‌ها را در پلتفرم X منتشر کرد و هر دو شرکت آنتروپیک و OpenAI را به «اقدام نکردن مسئولانه، رقابت برای رسیدن به هوش مصنوعی خودبهبوددهنده و قمار با جان انسان‌ها» متهم کرد.

او در مصاحبه‌ای با وال‌استریت ژورنال نیز هشدار داد که برخی از توسعه‌دهندگان بر این باورند چنین فناوری‌هایی می‌توانند تا پایان این دهه به مرگ همه انسان‌ها منجر شوند. کوکسون همچنین نسبت به احتمال مواجهه با مدل‌های خارج از کنترل تا پایان سال آینده ابراز نگرانی کرد.

به گفته او، ابرسیستم‌های هوش مصنوعی در آینده ممکن است توانایی نفوذ به سیستم‌های مختلف، ایجاد تغییرات ناگهانی و به‌دست آوردن سریع قدرت و منابع را پیدا کنند.

اظهارات آمودی در حالی مطرح شده است که بحث درباره سرعت توسعه هوش مصنوعی و ضرورت ایجاد سازوکارهایی برای کنترل خطرات احتمالی آن، بیش از گذشته در میان مدیران و پژوهشگران این حوزه مورد توجه قرار گرفته است.