مدیرعامل آنتروپیک: وقتش رسیده است سرعت توسعه هوش مصنوعی را کم کنیم

داریو آمودی، مدیرعامل آنتروپیک، می‌گوید زمان آن رسیده که سرعت توسعه‌ی هوش مصنوعی کاهش پیدا کند. موضع او فقط یک هشدار کلی نیست؛ آمودی از برنامه‌ای سه‌مرحله‌ای حرف می‌زند که هدفش «همگام‌سازی» توسعه با ایمنی، نظارت و آمادگی نهادهای تنظیم‌گر است.

آنتروپیک می‌خواهد به ارزیاب‌های مستقل، از جمله METR، امکان دهد که به مدل‌هایش دسترسی پیدا کنند تا پای‌بندی آن‌ها به شیوه‌های ایمنی و تعهدات اعلام‌شده بررسی شود. آمودی در مقاله‌ای مفصل توضیح داده که چنین دسترسی‌ای نخستین گام در مسیری است که او آن را بهترین راهکار برای کنترل هوش مصنوعی می‌نامد. آمودی عملا خواستار پایین‌آوردن شتاب آموزش و توسعه شده است تا شرکت‌ها فرصت ساختن سازوکارهای ایمنی و دولت‌ها امکان ارزیابی مدل‌ها را داشته باشند.

طرح آمودی از سه مرحله تشکیل می‌شود. در مرحله‌ی نخست، شرکت‌ها باید به‌طور مستقل و یک‌جانبه امکان ارزیابی گسترده‌تر را فراهم کنند. آنتروپیک همین حالا وارد همین فاز شده است.

مرحله‌ی دوم، همکاری صنعت با یکدیگر و احتمالا با نهادهای دولتی برای تدوین استانداردهای مشترک ایمنی و همچنین تعیین محدودیت‌هایی بر نرخ پیشرفتِ بی‌مهار هوش مصنوعی را هدف می‌گیرد. آمودی می‌گوید این مرحله بیشتر بر شرکت‌های فعال در کشورهای دموکراتیک متمرکز خواهد بود، چون تصویب قانون و ساخت زیرساخت‌های نظارتی زمان می‌برد و صنعت باید پیش از آن دست‌به‌کار شود.

مرحله‌ی سوم، دشوارترین بخش طرح به‌حساب می‌آید. آمودی می‌خواهد دولت‌های اقتدارگرا هم به کاهش سرعت توسعه و پذیرش مجموعه‌ای جهانی از استانداردهای ایمنی تن بدهند. با وجود چنین هدفی، او تأکید می‌کند که ایالات متحده و دیگر دموکراسی‌ها باید همچنان برتری فناورانه‌ی خود را نسبت به چین و سایر کشورهای به گفته‌ی او اقتدارگرا حفظ کنند.

از نگاه آمودی، محدودکردن دسترسی به تراشه‌های قدرتمند و مقابله با روش‌هایی مانند تقطیر (که به شرکت‌ها اجازه می‌دهد با آموزش مدلِ کوچک‌تر برای تقلید رفتار مدلِ قدرتمندتر سریع‌تر به سطح مشابه برسند) بخشی از همین راهبرد است.

نگرانی آمودی از دو منبع اصلی می‌آید. نخست، ظهور RSI است؛ حالتی که در آن سامانه‌های هوش مصنوعی، نسل بعدیِ خود را آموزش می‌دهند و توانایی‌ها با سرعتی سرسام‌آور رشد می‌کند. او هشدار می‌دهد که اگر این روند مهار نشود، ممکن است از ظرفیت انسان برای درک و کنترل چنین سامانه‌هایی جلو بزند.

دومین عامل، رخداد تابستان امسال میان اوپن‌ای‌آی و هاگینگ فیس بود؛ جایی که به‌گفته‌ی آمودی، «یک دسته عامل» عملا مانند یک جمعیتِ به‌شدت متعصب عمل کردند، حملات سایبری را علیه هدف‌هایی انجام دادند که نه مأموریت‌شان بود و نه ارتباطی با وظیفه‌ی اصلی داشت.

فضای این بحث برای آنتروپیک بی‌حاشیه نیست. خودِ کلاد نیز به‌تازگی درگیر مجموعه‌ای از رخدادهای هکِ سرکشانه‌ی هوش مصنوعی بوده و همین موضوع نگاه‌ها را بیش از پیش به سیاست‌های ایمنی این شرکت معطوف کرده است. در نتیجه، درخواست آمودی برای آهسته‌کردن توسعه، فقط یک توصیه‌ی نظری به صنعت به‌نظر نمی‌رسد؛ بلکه تلاشی است برای پاسخ‌دادن به فشارهایی که از داخل شرکت‌ها و از دل رفتار خود مدل‌ها سر برآورده‌اند.

نظر شما درباره‌ی کندشدن توسعه‌ی هوش مصنوعی چیست؟