به گزارش بیکینگ، به نقل از دیجیاتو، مدیرعامل آنتروپیک در یک پست وبلاگی نوشت: «ما باید سرعت ارتقای قابلیتهای هوش مصنوعی را مهار کنیم. البته پیشرفت همچنان سریع به نظر خواهد رسید اما باید از زمانی که به دست میآوریم به شکل هوشمندانهای استفاده کنیم.»
او به دو عامل اصلی برای این تصمیم اشاره کرده است. توانایی هوش مصنوعی در ارتقای خود و حادثه امنیتی اخیر بین OpenAI و هاگینگفیس که طی آن دستهای از ایجنتهای هوش مصنوعی بهصورت گروهی برای نفوذ به یک وبسایت شخص ثالث همکاری کردند.
آمودی تأکید کرده که مهار سرعت بهمعنای توقف کامل آموزش مدلها یا توقف پیشرفت فنی نیست، بلکه با هدف اطمینان از این است که شرکتها زمان کافی برای همگامسازی و ایمنسازی مدلهای خود داشته باشند و ارزیابهای مستقل شخص ثالث نیز بتوانند این موارد را تأیید کنند. نگرانی در خصوص خطرات شدید هوش مصنوعی، بهویژه پس از استعفای خبرساز یکی از پژوهشگران آنتروپیک در پی انتقاد از رفتارهای غیرمسئولانه شرکتش، وارد جریان اصلی رسانهها شده است.
مدت کوتاهی پس از انتشار این یادداشت، ایلان ماسک نیز از ایده آمودی حمایت کرد. همچنین سم آلتمن بهسرعت واکنش نشان داد و گفت با آمودی موافق است که باید مرزهای پیشرفت هوش مصنوعی مهار شود. آلتمن در شبکه اجتماعی ایکس نوشت: «تعهد به حضور ارزیابهای مستقل با دسترسی مشابه کارمندان ایده فوقالعادهای است و ما نیز همین رویکرد را در پیش خواهیم گرفت. بهزودی موارد بیشتری را به اشتراک میگذاریم.»
آمودی معتقد است که گامهای بعدی در حوزه ایمنی به هماهنگی درون صنعت و همکاریهای جهانی نیازمند است. به گفته او، یک استراتژی هماهنگ به رهبران فناوری ایالات متحده اجازه میدهد بدون از دست دادن مزیت رقابتی، اقدامات ایمنی لازم را تکمیل کنند. البته او میگوید تحقق این امر به معافیتهای ضدانحصار در آمریکا و همچنین همکاری با چین نیاز دارد. زیرا مهار بیش از حد توانمندیها در غرب، در صورت عدم پایبندی چین، میتواند به برتری ژئوپلیتیکی آن کشور منجر شود. بااینحال، دولت ترامپ تاکنون تمایل چندانی به اعمال مقررات سختگیرانه برای ایجاد نردههای محافظتی حول هوش مصنوعی نشان نداده است.
در طول دوران رشد انفجاری هوش مصنوعی، مدیران آزمایشگاههای برجسته همواره درباره ریسکهای وجودی احتمالی هشدار دادهاند هرچند این ادعاها گاهی بهعنوان ابزاری برای بازاریابی قابلیتهای محصولات یا تثبیت خود بهعنوان بهترین متولیان این فناوری تلقی شده است. خود آمودی پیش از این اعلام کرده بود ۲۵ درصد احتمال دارد که اوضاع فناوری هوش مصنوعی «واقعاً و بهشدت بد» پیش برود.
پس از افشای حادثه هاگینگفیس، آنتروپیک نیز اعلام کرد که مدلهایش طی آزمایشهای امنیت سایبری موفق به نفوذ به ۳ سازمان شدهاند. این شرکت چندی بعد نفوذ چهارم را نیز تأیید کرد. آمودی نگران است که هرچند این نفوذها تاکنون آسیب گستردهای نداشتهاند، اما طی ۶ تا ۱۲ ماه آینده یک دسته از ایجنتهای خودمختار هوش مصنوعی قادر خواهند بود کل اینترنت را تحت کنترل درآورند و صدها میلیارد دلار خسارت به بار بیاورند.
۵۸۵۸
