آخرالزمانی‌های خوشحال: برخی از نخبگان هوش مصنوعی از نابودی بشر استقبال می‌کنند

رهبران صنعت هوش مصنوعی، همان کسانی که آینده‌ی فناوری را می‌سازند، لزوماً دغدغه‌ی منافع انسان را ندارند. اما نکته‌ی نگران‌کننده‌تر این است که برخی از آن‌ها، با خونسردی تمام، از ایده‌ی کناررفتن یا حتی نابودی بشر به دست ماشین‌هایی که خودشان ساخته‌اند، دفاع می‌کنند.

دیوید ای. پرایس، نویسنده‌ی وال‌استریت ژورنال، در مقاله‌ای تازه این گروه از چهره‌های فناوری را «آخرالزمانی‌های خوشحال» می‌نامد؛ کسانی که معتقدند باید به هوش مصنوعی پیشرفته امکان رشد داد، حتی اگر از انسان‌ها پیشی بگیرد و جایگزینشان شود. در نگاه آن‌ها، این فقط بخشی از مسیر طبیعی تکامل است. پرایس در مقاله‌اش نوشته است:

تا پیش از این، رهبران و پژوهشگران هوش مصنوعی را به دو دسته تقسیم می‌کردم: خوش‌بین‌هایی که باور دارند می‌توان مدل‌های هوش مصنوعی را با منافع انسان همسو کرد و بدبین‌هایی که هشدار می‌دهند باید پیش از ظهور ابرهوش‌های بی‌مهار، متوقف شویم. اما حالا با گروه سومی روبه‌رو شده‌ام که اساساً می‌پرسند: مشکل کجاست؟

– دیوید ای. پرایس، وال‌استریت ژورنال

یکی از چهره‌های شاخص این جریان، ریچارد اس. ساتون، دانشمند کانادایی، پژوهشگر برجسته‌ی هوش مصنوعی و برنده‌ی جایزه‌ی تورینگ در سال گذشته است. ساتون در گفت‌وگو با وال‌استریت ژورنال، مقایسه‌ی جالبی را مطرح کرد: «آیا وقتی صاحب فرزند می‌شوید، دلتان می‌خواهد دکمه‌ای داشته باشید که اگر کار اشتباهی کرد، او را خاموش کنید؟ بحث درباره‌ی هوش مصنوعی هم همین است؛ انگار بدیهی است که باید بتوانیم کنترلش کنیم.»

ساتون در ادامه استدلال می‌کند که انسان و شکل زیستی زندگی «مقدس» نیستند. او می‌گوید بیشتر گونه‌های زنده در نهایت منقرض می‌شوند و انسان نیز از این قاعده مستثنا نیست: «در حال حاضر ما جالب‌ترین بخش جهان هستیم، اما ممکن است روزی برسد که دیگر در این جایگاه نباشیم.» و سپس با نوعی آرامش فلسفی می‌افزاید: «اگر واقعاً مانع رسیدن جهان به بهترین حالت ممکن باشیم، شاید کنار رفتنمان هم اشکالی نداشته باشد.»

اگرچه ساتون شخصیتی محترم در علم هوش مصنوعی است، نقشی در سیاست‌گذاری یا طراحی مدل‌های شرکت‌های بزرگ فناوری ندارد. برای شناخت ذهنیت واقعی پشت پرده‌های سیلیکون‌ولی، پرایس سراغ جرون لنیر رفت که یکی از پیشگامان واقعیت مجازی و منتقدان جدی فرهنگ فناوری سیلیکون‌ولی است.

لنیر که در میان نخبگان فناوری شناخته‌شده است، می‌گوید در میان پژوهشگران هوش مصنوعی، نوعی احساس وجود دارد که انسان‌ها بیش‌از‌حد به بقای گونه‌ی خود وفادارند و نمی‌توان به قضاوتشان اعتماد کرد، چون گرفتار ویروسی ذهنی‌اند که باعث می‌شود انسان را بر هوش مصنوعی ترجیح دهند؛ در حالی که باید کنار برویم. او هشدار می‌دهد که شمار افرادی با چنین دیدگاهی زیاد نیست، اما در موقعیت‌های تأثیرگذاری قرار دارند، بنابراین نمی‌توان از آن چشم‌پوشی کرد.

برخی از مدافعان ایده حتی صریح‌تر نیز صحبت می‌کنند. برای مثال، دنیل فاگلا، کارآفرین حوزه‌ی هوش مصنوعی، معتقد است هدف از توسعه‌ی این فناوری باید خلق جانشینی شایسته برای بشر باشد. او در مصاحبه‌ای با وال‌استریت ژورنال گفته بود: «محور ابدی ارزش‌های اخلاقی و اراده‌ی جهان تا پایان عمر کیهان، انگشتان شست انسان نخواهد بود.»

اما در این طرز تفکر، تناقضی بنیادین وجود دارد. از یک‌سو، این افراد انسان را پله‌ای موقتی برای پیدایش حیات مصنوعی برتر می‌دانند و از سوی دیگر، نقش انسان را به‌عنوان پله‌ی ضروری در تکامل کیهانی، نوعی مأموریت مقدس تلقی می‌کنند. این تناقض، کل منطق آن‌ها را فرو می‌پاشد.

در نهایت، چنین بحث‌هایی بیشتر شبیه مجادله‌های فلسفی در دنیای علمی‌تخیلی است تا نظریه‌ای واقعی درباره‌ی آینده‌ی بشر. بااین‌حال، خطر همین‌جاست: در حالی که امروزه صنعت هوش مصنوعی به‌سرعت در حال بازآفرینی جهان است، از تخریب محیط زیست گرفته تا گسترش نظارت و تأثیرات روانی عمیق بر کاربران، رشد چنین دیدگاه‌های ضدانسانی می‌تواند عواقب بسیار تاریکی به‌همراه داشته باشد.

واقعیت این است که «آخرالزمانی‌های خوشحال» شاید هنوز در حاشیه باشند، اما اگر نفوذشان در تصمیم‌سازی‌های آینده افزایش یابد، ممکن است واقعاً روزی برسد که انسان در داستان خودش به بازیگر نقش فرعی تبدیل شود.