حمله مدیرعامل میسترال به غول‌های هوش مصنوعی: بحث‌های امنیتی، نقابِ بی‌دقتی است
حمله مدیرعامل میسترال به غول‌های هوش مصنوعی: بحث‌های امنیتی،
نقابِ بی‌دقتی است
آرتور منش، مدیرعامل میسترال، شرکت‌های پیشروی هوش مصنوعی جهان را متهم کرد که از بحث درباره‌ی ایمنی فناوری به‌عنوان پوششی برای «سهل‌انگاری» خود استفاده می‌کنند. او در گفت‌وگو با CNBC گفت که ساخت سیستم‌هایی با توان مهار ایجنت‌های هوش مصنوعی ضروری است.
منش می‌گوید: «بحثی که در آمریکا شاهد بودیم، نقابی برای سهل‌انگاری برخی از رقبای ما بوده است.»
منش تنها منتقد بحث ایمنی هوش مصنوعی در آمریکا نیست. دیوید ساکس، رئیس پیشین امور رمزارز کاخ سفید و ئیس فعلی شورای مشاوران علمی و فناوری رئیس‌جمهور، از غول‌های فناوری خواست «تظاهر نکنند که انگیزه‌ی کندکردن سرعت، صرفا بشردوستانه است.»
امیل میشل، معاون امور تحقیقات و مهندسی وزارت دفاع آمریکا نیز درباره‌ی «کمپین هماهنگ» ترس‌افکنی هشدار داده بود. رخدادهای مربوط به ایجنت‌های سرکش هوش مصنوعی در جهان رو به افزایش است. تازه‌ترین گزارش از استرالیا می‌آید؛ جایی که ایجنت اوپن‌ای‌آی به وب‌سایت دولتی نفوذ کرد.
آنتروپیک نیز اخیرا سه مورد را شرح داد که مدل‌های کلاد در جریان یک ارزیابی به اینترنت دسترسی یافتند و بدون مجوز به سیستم‌های واقعی سه سازمان مختلف راه پیدا کردند.
مدیرعامل میسترال می‌گوید: «وقتی ابزارهای زیادی در اختیارشان قرار می‌دهید، آن سیستم‌ها [ایجنت‌های هوش مصنوعی] بسیار پویا هستند و می‌توانند کارهایی انجام دهند که انتظارش را ندارید.»
او افزود: «باید سازوکار پایش مناسب در اختیار داشته باشید و ما به شرکت‌هایی که با آن‌ها کار می‌کنیم، همین سیستم‌های پایش را می‌دهیم.»
بحث‌ها درباره‌ی ایمنی هوش مصنوعی پس از آن شدت گرفت که یک پژوهشگر هوش مصنوعی اوایل همین ماه از شغل خود در آنتروپیک استعفا داد و گفت آنتروپیک و رقیبش اوپن‌ای‌آی «با زندگی ما قمار می‌کنند» و فناوری‌ای می‌سازند که بیش از ۱۰ درصد احتمال کشتن همه‌ی انسان‌ها را دارد.
داریو آمودی، هم‌بنیان‌گذار و مدیرعامل آنتروپیک، سپس مقاله‌ای منتشر کرد و از شرکت‌ها خواست سرعت بهبود مدل‌های هوش مصنوعی خود را کاهش دهند.
اوپن‌ای‌آی اخیرا اعلام کرد تصمیم گرفته مدل پیشروی خود، GPT-6.1 Astra، را منتشر نکند، چون به این نتیجه رسید که استانداردهای ایمنی شرکت را به‌اندازه‌ی کافی برآورده نمی‌کند. یک روز بعد نیز گزارش شد که آنتروپیک به سرمایه‌گذاران بالقوه در عرضه‌ی عمومی اولیه‌ی خود هشدار داده این فناوری می‌تواند «خطرهای فاجعه‌بار یا وجودی برای بشریت» داشته باشد.
میسترال نیز مدل‌های هوش مصنوعی توسعه می‌دهد، اما برخلاف اوپن‌ای‌آی و آنتروپیک رویکرد متفاوتی دارد و با شرکت‌های مختلف همکاری می‌کند تا ابزارهای هوش مصنوعی سفارشی متناسب با نیازشان بسازد و آن‌ها را با کسب‌وکارشان یکپارچه کند. با این حال، برخلاف رقبا، میسترال برنامه‌ای برای کند کردن توسعه‌ی مدل‌های پیشرفته ندارد.
منش درباره‌ی برتری آزمایشگاه‌های آمریکایی گفت: «این برتری چندان بزرگ نیست.» او افزود شرکتش مطمئن است مدل نسل بعدی‌اش این فاصله را «به‌شکل بسیار چشمگیری» کاهش خواهد داد.
به نظر شما، بحث ایمنی هوش مصنوعی یک نگرانی واقعی است یا بهانه‌ای برای کند کردن رقبا؟ دیدگاه خود را در بخش نظرات با ما در میان بگذارید.
