چگونه می‌توان فهمید هوش مصنوعی به آگاهی رسیده است؟

پرسشی که مطرح می‌شود این است که چگونه می‌توان آگاهی محسوس یک الگوریتم را وارسی کرد؟ الگوریتم‌ها برخلاف مغز انسان هیچ علامتی از عملکرد کشف‌شدنی داخلی در موج‌نگاری مغزی یا MRI نشان نمی‌دهند. به همین دلیل نیاز به روش دیگری است. پژوهشگرها در ابتدا نظریه‌های فعلی درباره‌ی خودآگاهی انسان را برای رسیدن به توصیف‌گرهای اصلی وضعیت آگاهی بررسی کردند و سپس در معماری هوش مصنوعی به بررسی آن‌ها پرداختند.

در نتیجه، یک نظریه باید مبتنی بر علوم عصبی و شواهد تجربی مثل اسکن‌های داده‌های مغزی باشد. پژوهشگرها با این داده‌ها و ترفندهای ادراکی، آگاهی را دست‌کاری می‌کنند؛ بنابراین این احتمال وجود دارد که آگاهی صرف‌نظر از محاسبات اجراشده توسط نورون‌های زیستی یا تراشه‌های سیلیکونی، به وجود بیاید.

نظریه‌ی دیگری موسوم به مرتبه بالا نشان می‌دهد که آگاهی شامل فرآیند بازنمایی و تفسیر داده‌های اولیه است که از حس‌ها دریافت می‌شوند. نظریه‌های دیگر بر اهمیت مکانیزم‌های لازم برای کنترل توجه و نیاز دریافت بازخورد از دنیای بیرون تأکید می‌کنند. پژوهشگرها بر اساس شش نظریه‌ی موجود، ۱۴ شاخص را برای وضعیت آگاهی استخراج کردند.

بر اساس استدلال پژوهشگرها، هرچقدر معماری هوش مصنوعی منطبق با تعداد بیشتری از شاخص‌ها باشد، احتمال داشتن آگاهی بیشتر می‌شود. اریک الموزنینو، کارشناس یادگیری ماشین فهرست یادشده را برای هوش‌های مصنوعی متعدد با معماری‌های متفاوت مثل سیستم مولد تصویر Dall-E2 به کار برد. بسیاری از معیار‌ها با شاخص‌های نظریه‌ی پردازش بازگشتی منطبق بودند. نوعی مدل زبانی بزرگ که اساس ChatGPT هم به شمار می‌رود با شاخص‌های نظریه‌ی شبکه‌ی کاری سراسری سازگار بود.

با توجه به این مسئله که هیچ‌کدام از هوش‌های مصنوعی از تمام معیارها برخوردار نیستند، هیچ‌کدام را نمی‌توان کاندیدی قوی برای آگاهی درنظر گرفت. پژوهشگرها به دنبال طراحی آزمایش آگاهی گسترده‌تری هستند که بتوان روی ریزاندام‌ها، حیوانات و نوزادان تازه‌متولدشده اعمال کرد. آن‌ها امیدوار هستند در ماه‌های آینده این نظریه را منتشر کنند. مشکل چنین پروژه‌هایی این است که نظریه‌های فعلی مبتنی بر درک ما از آگاهی انسان هستند. با این‌حال آگاهی حتی در پستاندارهای دیگر می‌تواند شکل‌های متفاوتی داشته باشد.