دانشمند ارشد آنتروپیک از احتمال «کشته‌شدن همه انسان‌ها به دست هوش مصنوعی» می‌گوید

دو صدا از درون آنتروپیک، تصویری نگران‌کننده از شتاب صنعت هوش مصنوعی ترسیم کردند؛ تصویری که در آن، رقابت برای ساخت سامانه‌های خودبهبوددهنده از مرز احتیاط عبور کرده و به میدانِ قمار با ریسک‌های وجودی نزدیک شده است.

یک پژوهشگر ارشد ایمنی آنتروپیک گفته است که بیش از ۱۰ درصد احتمال دارد هوش مصنوعی تا پایان دهه‌ی جاری میلادی «بتواند همه‌ی انسان‌ها را بکشد.» این اظهارنظر تنها چند ساعت پس از آن منتشر شد که یکی از همکارانش در اعتراض به رویکردی که آن را سهل‌انگارانه در برابر ایمنی می‌دانست، از شرکت جدا شد.

جیکوب کوکسن، پژوهشگری که در آنتروپیک روی آموزش سامانه‌های هوش مصنوعی کار کرده بود و پیش‌تر در اوپن‌ای‌آی هم سابقه داشت، در پستی در ایکس نوشت دلیل کناره‌گیری‌اش نگرانی از همان مسیری است که شرکت‌های بزرگ طی می‌کنند؛ مسیری که به‌گفته‌ی او، به‌سوی «فراهوشِ خودبهبوددهنده» می‌رود و در عین حال «با جان ما قمار می‌کند.» او مدعی شد کسانی که هوش مصنوعی می‌سازند، صادقانه باور دارند که این فناوری ممکن است تا پایان دهه همه را از میان ببرد.

نگرانی درباره‌ی سامانه‌هایی که می‌توانند خودشان را بهبود دهند، تازه نیست. سال‌ها است برخی فعالان و پژوهشگران هشدار می‌دهند که چنین مدل‌هایی ممکن است در چرخه‌ای شتاب‌گیر از کنترل انسان خارج شوند. هنوز چنین وضعیتی به‌طور کامل محقق نشده، اما شرکت‌ها عملا در همان مسیر سرمایه‌گذاری می‌کنند و بخش مهمی از کدهای امروزی نیز با کمک خودِ هوش مصنوعی نوشته می‌شود.

اوان هوبینگر که یکی از تیم‌های ایمنی هوش مصنوعی آنتروپیک را هدایت می‌کند، در پاسخ به کوکسن گفت نگرانی‌اش درباره‌ی سامانه‌های خودبهبوددهنده جدی است و سرعت پیشرفت آن‌ها از برآوردهای قبلی بالاتر رفته. او با ارزیابی همکار سابقش هم‌نظر شد و گفت: «ما واقعا صادقانه باور داریم هوش مصنوعی می‌تواند همه‌ی انسان‌ها را بکشد.» هوبینگر احتمال وقوع چنین سناریویی را شخصا بیش از یک‌دهم و در بازه‌ی «دهه‌ی آینده» برآورد کرد.

در عین حال، او اعتراف کرد آنتروپیک هنوز برای اطمینان از ایمن‌بودن و هم‌راستایی سامانه‌های پیشرفته با ارزش‌های انسانی «برنامه‌ای ندارد» و حتی به‌روشنی در مسیر ساخت چنین برنامه‌ای هم قرار نگرفته است. از نگاه کوکسن، شرکت‌ها در «یک مسابقه‌ی قفل‌شده» گرفتار شده‌اند؛ مسابقه‌ای برای رسیدن زودتر به سامانه‌های پیشرفته، حتی اگر خطرها پابرجا بماند.

خروج کوکسن یکی از پررنگ‌ترین نمونه‌های جدایی یک کارمند از آنتروپیک به‌شمار می‌آید؛ شرکتی که توسط شماری از اعضای پیشین اوپن‌ای‌آی و در واکنش به نگرانی‌های ایمنی در آن مجموعه پایه‌گذاری شد. در سال‌های اخیر، چندین پژوهشگر دیگر هم گفته‌اند که دغدغه‌های مربوط به ایمنی دلیل اصلی ترک اوپن‌ای‌آی بوده است.

برای صنعت هوش مصنوعی، چنین هشدارهایی هم‌زمان دو معنا دارد. از یک‌سو نشان می‌دهد نگرانی درباره‌ی کنترل‌پذیری مدل‌ها دیگر در حاشیه نیست. از سوی دیگر، روشن می‌کند که شکاف میان جاه‌طلبی فنی و آمادگی ایمنی هنوز پر نشده و حتی در شرکت‌هایی که با شعار احتیاط و ایمنی شناخته می‌شوند، پاسخ قطعی برای آینده وجود ندارد.