می‌خواهید هوش مصنوعی صادقانه صحبت کند؟ دروغ بگویید!
می‌خواهید هوش مصنوعی صادقانه صحبت کند؟ دروغ بگویید!
یوشوا بنجیو، دانشمند پژوهشی و از چهره‌های برجسته‌ی هوش مصنوعی، در پادکست The Diary of a CEO به میزبان برنامه، استیون بارتلت، گفت که متوجه شده چت‌بات‌های هوش مصنوعی در ارائه‌ی بازخورد روی ایده‌های تحقیقاتی‌اش بی‌فایده‌اند؛ چراکه همیشه پاسخ‌های مثبت می‌دهند.
او گفت: «من نصیحت صادقانه و بازخورد واقعی می‌خواستم؛ اما چون [هوش مصنوعی] چاپلوس است، دروغ می‌گوید.»
بنجیو توضیح داد که استراتژی خود را تغییر داده و تصمیم گرفته با دروغ گفتن به چت‌بات و معرفی ایده‌اش به عنوان ایده‌ی یک همکار، پاسخ‌های صادقانه‌تری از این فناوری دریافت کند.
او افزود: «اگر بداند من هستم، می‌خواهد خوشحالم کند.»
بنجیو، استاد علوم کامپیوتر و تحقیق در عملیات دانشگاه مونترال، در کنار جفری هینتون و یان لیکان، به‌عنوان یکی از «پدرخوانده‌های هوش مصنوعی» شناخته می‌شود. او در ماه ژوئن (خرداد و تیر) از راه‌اندازی یک سازمان غیرانتفاعی تحقیقات ایمنی هوش مصنوعی به نام LawZero خبر داد که هدفش کاهش رفتارهای خطرناک مدل‌های پیشرفته‌ی AI مانند دروغ‌گویی و فریبکاری است.
او در پادکست گفت: «این تملق، نمونه‌ای واقعی از عدم همسویی است. ما واقعاً نمی‌خواهیم هوش مصنوعی چنین باشد.» او هشدار داد که دریافت بازخورد مثبت از AI می‌تواند باعث دلبستگی عاطفی کاربران به تکنولوژی شود و مشکلات بیشتری ایجاد کند.
سایر کارشناسان صنعت فناوری نیز زنگ خطر را درباره‌ی تبدیل‌شدن هوش مصنوعی به یک «بله‌قربان‌گو» به صدا درآورده‌اند.
شرکت‌های هوش مصنوعی آشکارا اعلام کرده‌اند که در تلاش برای کاهش تملق در مدل‌هایشان هستند. پیش‌تر، OpenAI ویژگی‌ای را از ChatGPT حذف کرد که به گفته‌ی خودش باعث می‌شد چت‌بات پاسخ‌های «بیش‌ازحد حمایتگرانه اما غیرصادقانه» ارائه دهد.
