آزمایش مخفی محققان در ردیت: چت‌بات‌ها در متقاعدسازی انسان‌ها موفق‌تر هستند

گروهی از محققان از دانشگاه زوریخ بدون اطلاع کاربران، ارتشی از چت‌بات‌های هوش مصنوعی را در انجمنی از وب‌سایت ردیت به نام r/changemyview به کار گرفتند تا بررسی کنند آیا این فناوری توانایی تأثیرگذاری بر تغییر دیدگاه افراد را دارد یا خیر. نتایج اولیه نشان می‌دهد که این چت‌بات‌ها در متقاعدسازی کاربران، بین ۳ تا ۶ برابر موفق‌تر از انسان‌ها بوده‌اند.

در انجمن پرطرفدار r/changemyview در وب‌سایت Reddit حدود ۴ میلیون کاربر برای بحث درباره موضوعات بحث‌برانگیز گرد هم می‌آیند. در آزمایش محققان، بیش از ۱۷۰۰ نظر توسط چت‌بات‌ها در این انجمن ثبت شد. چت‌بات‌ها با هویت‌های مختلفی ظاهر شدند؛ از جمله فردی که قربانی تعرض بود اما آسیب‌دیدگی‌اش را کم‌اهمیت جلوه می‌داد، مشاور خشونت خانگی که زنان تحت حمایت والدین را آسیب‌پذیرتر معرفی می‌کرد و فردی سیاه‌پوست که مخالف جنبش «جان سیاه‌پوستان مهم است» بود. همچنین چت‌باتی دیگر با بررسی حساب‌های کاربری افراد، پاسخ‌هایی سفارشی برای افزایش اثربخشی تولید می‌کرد.

به‌ گزارش لایوساینس، محققان پس از اجرای آزمایش، آن را به مدیران انجمن اطلاع دادند و پیش‌نویس نتایج را با آن‌ها به اشتراک گذاشتند. مدیران در بیانیه‌ای اعلام کردند که این اقدام را نادرست می‌دانند و اینکه «تاکنون کسی این کار را نکرده» توجیه مناسبی برای اجرای چنین آزمایشی نیست.

نتایج پیش‌نویس تحقیق که با استفاده از قابلیتی در سایت (برای اعطای جایزه به نظراتی که باعث تغییر دیدگاه کاربران می‌شوند) میزان موفقیت چت‌بات‌ها را اندازه‌گیری کرده، نشان می‌دهد پاسخ‌های تولیدشده توسط هوش مصنوعی بین ۳ تا ۶ برابر متقاعدکننده‌تر از نظرات کاربران انسانی بوده‌اند. نویسندگان مطالعه که برخلاف عرف علمی، نامی از خود در پیش‌نویس منتشر نکرده‌اند، همچنین اشاره کرده‌اند که در طول آزمایش، هیچ‌یک از کاربران به این شک نکرده‌اند که ممکن است نظرات توسط هوش مصنوعی تولید شده باشد.

همزمان، بن لی، مدیر ارشد حقوقی ردیت، در واکنش به این اتفاق اعلام کرد که این پلتفرم قصد دارد علیه دانشگاه زوریخ اقدام قانونی کند. وی این اقدام را در تضاد با اصول اخلاقی، هنجارهای حقوق کاربران و قوانین ردیت دانست.

ماجرای اخیر ردیت در کنار گزارش‌هایی از پشت سر گذاشتن مدل GPT-4.5 از آزمون تورینگ (با موفقیت در فریب ۷۳ درصد از شرکت‌کنندگان) نشان می‌دهد چت‌بات‌ها تا چه اندازه در نفوذ به فضای بحث آنلاین مؤثر بوده‌اند. این موضوع همچنین به «نظریه اینترنت مرده» که معتقد است در آینده محتوای اینترنت عمدتاً توسط چت‌بات‌ها تولید خواهد شد، دامن می‌زند، البته این ایده فعلاً فقط در حد تئوری توطئه باقی مانده است.