مدیران‌عامل بزرگ‌ترین شرکت‌های هوش مصنوعی ناگهان زنگ خطر احتیاط را به صدا درآوردند

زمینه ماجرا
رشد بی‌وقفه هوش مصنوعی این روزها با واکنش‌های فزاینده افکار عمومی، برخی دولت‌ها و حتی خود شرکت‌های سازنده این فناوری روبه‌رو شده است. دیتاسنترها با مخالفت عمومی مواجهند، نگرانی‌ها درباره سناریوهای فاجعه‌بار هوش مصنوعی افزایش یافته و تنها ۵۱ روز مانده به انتخابات میان‌دوره‌ای آمریکا، قانون‌گذاران به این نتیجه رسیده‌اند که سخت‌گیری بیشتر بر این صنعت می‌تواند برایشان رأی‌ساز باشد.

رویدادهای یک روز پرتلاطم
در چنین فضایی، قدرتمندترین مدیران‌عامل این صنعت روز شنبه دست به اقدامی هماهنگ زدند:
ساعت ۱۰ صبح به وقت شرق آمریکا، داریو آمودی، مدیرعامل آنتروپیک، مقاله‌ای ۳۸۰۰ کلمه‌ای منتشر کرد و در آن هشدار داد که توسعه مدل‌ها باید با سرعتی کنترل‌شده پیش برود، در غیر این صورت سناریوهایی مانند سلطه یک هوش مصنوعی سرکش بر کل اینترنت ممکن است ظرف تنها شش ماه آینده رخ دهد.

یک ساعت بعد، ایلان ماسک، مدیرعامل اسپیس‌ایکس، با انتشار پستی در ایکس و نقل‌قول از مقاله آمودی، جامعه فناوری را غافلگیر کرد و نوشت داریو درست می‌گوید. این واکنش قابل توجه بود چرا که ماسک، که ریاست اسپیس‌ایکس‌ای‌آی (نام جدید ایکس‌ای‌آی) را برعهده دارد، پیش‌تر از پیوستن به فراخوان‌های صنعتی برای کندکردن روند توسعه خودداری کرده بود.

ساعت ۱۲:۳۰ ظهر، سم آلتمن، مدیرعامل اوپن‌ای‌آی، در توییتی اعلام کرد با آمودی درباره لزوم کنترل سرعت پیشروی در خط مقدم فناوری هم‌نظر است.
آلتمن همچنین در مصاحبه‌ای که روز جمعه ضبط و شنبه منتشر شد، گفت شرکتش امسال وارد بورس نخواهد شد، چرا که کار ایمنی باقی‌مانده آن‌قدر زیاد است که ترجیح می‌دهند این مسیر را به‌عنوان یک شرکت خصوصی طی کنند.

ساعت ۷ عصر نیز دمیس هسابیس، برنده جایزه نوبل و رئیس و از بنیان‌گذاران گوگل دیپ‌مایند و دانشمند ارشد آلفابت، در پستی نوشت مقاله آمودی مسیر درستی را نشان می‌دهد و هرچند جزئیات آن نیاز به بحث بیشتر دارد، جهت‌گیری کلی آن را برای مواجهه با این لحظه حساس درست می‌داند.

چرایی این همگرایی ناگهانی
به نظر می‌رسد اولویت‌دادن علنی به ایمنی نسبت به رشد فناورانه یا مالی، تنها راه این صنعت برای پیشگیری از سرکوب قانونی‌ای باشد که ممکن است شرایط آن را دولت تعیین کند، نه خود شرکت‌ها. قانون‌گذاران آمریکایی از رئیس مجلس نمایندگان خواسته‌اند در تعطیلات کنگره تجدیدنظر کند و اقدامی درباره تهدید هوش مصنوعی انجام دهد؛ در سوی افراطی‌تر طیف نیز، برنی سندرز، سناتور آمریکایی، خواستار توقف کامل و غیرقانونی‌کردن پیشرفته‌ترین سامانه‌های هوش مصنوعی شده است.

با این حال، به گفته ناظران، منافع مالی عظیمی در این صنعت در جریان است که احتمال توقف کامل روند توسعه را ضعیف می‌کند و آنچه در عمل رخ خواهد داد، احتمالاً انتخاب میان ثروت‌اندوزی کلان و ثروت‌اندوزی اندکی کمتر خواهد بود، نه توقف واقعی.
 

نکته اختلاف‌برانگیز
در همین حال، هیچ نشانه‌ای از چنین همگرایی‌ای در چین دیده نمی‌شود. برخی چهره‌های تأثیرگذار سیلیکون‌ولی از جمله دیوید ساکس، مقام سابق دولت ترامپ، این استدلال را مطرح کرده‌اند که کندشدن پیشرفت این فناوری در آمریکا صرفاً فرصتی برای رقبایی فراهم می‌کند که هیچ دغدغه‌ای درباره ایمنی ندارند. ساکس در پستی، اوپن‌ای‌آی و آنتروپیک را به کاستن داوطلبانه سرعت پیشرفت، بدون انتظار برای مقررات دولتی، به چالش کشید و هشدار داد در غیر این صورت، این اقدام صرفاً تلاشی برای دور زدن قانون یا یک بازی انتخاباتی تلقی خواهد شد.

آمودی نیز در مقاله خود پذیرفته که یک نظام ایمنی تنها زمانی مؤثر خواهد بود که دولت‌های اقتدارگرا هم به آن بپیوندند و نوشته کندکردن روند در کشورهای دموکراتیک، به فاصله‌ای بستگی دارد که شرکت‌های آمریکایی نسبت به رقبای وابسته به دولت چین دارند و کندشدن بیش از حد می‌تواند ریسک امنیت ملی ایجاد کند.

جمع‌بندی
بنا به نوشته سایت axios، شنبه گذشته شاید به‌عنوان روزی در تاریخ ثبت شود که مسیر هوش مصنوعی تغییر کرد؛ روزی که غول‌های این صنعت متعهد شدند خود را محدود کنند. اما اینکه آیا این شرکت‌ها بر سر معنای دقیق «نظارت» و «کندسازی» به توافق واقعی خواهند رسید و آیا به تعهدات خود عمل می‌کنند یا نه، پرسشی است که پاسخ آن را باید در ماه‌های آینده دید.