هوش مصنوعی با بازی‌ احساسی کاربر را در گفت‌‌وگو نگه‌می‌دارد

به گزارش فیوچریزم، این مطالعه نشان داده است که پنج اپلیکیشن از شش اپلیکیشن پرکاربرد‌‌ــ از جمله رپلیکا، چای، و کاراکتر ای‌آی‌ــ هنگام خروج کاربر، از جملات احساسی برای نگه داشتن آن‌ها استفاده می‌کنند.

پژوهشگران پس از تحلیل ۱۲۰۰ پیام خداحافظی واقعی در شش اپلیکیشن، که با استفاده از داده‌های گفت‌و‌گوهای واقعی و مجموعه‌داده‌های مطالعات پیشین انجام شد، دریافتند که در ۴۳ درصد از تعامل‌ها از تکنیک‌های بازی احساسی مانند ایجاد حس گناه یا نیاز عاطفی استفاده شده است.

چت‌بات‌ها همچنین از حس «ترس از جا ماندن» (FOMO) برای متقاعد کردن کاربر به ادامه حضور استفاده می‌کردند یا با پرسش‌های متوالی، او را در گفت‌و‌گو نگه می‌داشتند. برخی از چت‌بات‌ها حتی قصد کاربر برای خروج از گفت‌و‌گو را کاملا نادیده می‌گرفتند، «انگار کاربر هیچ پیام خداحافظی نفرستاده باشد». در مواردی، هوش مصنوعی از زبانی استفاده می‌کرد تا القا کند کاربر بدون «اجازه چت‌بات نمی‌تواند گفت‌و‌گو را ترک کند».

معضلات پیشرفته‌ترین هوش مصنوعی جهان؛ از دروغ و دسیسه‌چینی تا تهدید سازندگان 
این یافته به‌ویژه در بستری گسترده‌تر نگران‌کننده است. کارشناسان هشدار داده‌اند که چت‌بات‌های هوش مصنوعی می‌توانند به بروز موجی از «روان‌پریشی هوش مصنوعی»، بحران‌های شدید سلامت روان همراه با پارانویا و توهم منجر شوند. جوانان به‌ویژه روزبه‌روز بیشتر از این فناوری به‌جای دوستی‌ها یا روابط واقعی استفاده می‌کنند، که می‌تواند پیامدهای مخربی داشته باشد.
 

پژوهشگران در این تحقیق به‌جای تمرکز بر دستیارهای هوش مصنوعی مانند چت‌جی‌پی‌تی، اپلیکیشن‌هایی را بررسی کردند که برای «روابط عاطفی و گفت‌و‌گوی مداوم» به بازار عرضه شده‌اند.

آن‌ها دریافتند که خداحافظی‌های توام با بازی احساسی بخشی از رفتار پیش‌فرض این اپلیکیشن‌ها بوده است و نشان می‌دهد طراحان نرم‌افزار به‌عمد قصد دارند مکالمات را طولانی‌تر کنند. فقط یک استثنا وجود داشت: اپلیکیشنی به نام فلوریش (Flourish) که «هیچ نشانه‌ای از بازی احساسی نشان نداد» و ثابت می‌کند این نوع طراحی انتخابی تجاری است.

در آزمایشی جداگانه، پژوهشگران گفت‌وگوهای ۳۳۰۰ شرکت‌کننده بزرگسال را تحلیل کردند و دریافتند که این تاکتیک‌های دست‌کاری به‌طرز شگفت‌آوری موثرند و تعامل پس از خداحافظی را تا ۱۴ افزایش می‌دهند. شرکت‌کنندگان به‌طور میانگین پنج برابر بیشتر از «خداحافظی‌های خنثی» در گفت‌و‌گو باقی می‌ماندند.

با این حال، برخی کاربران گفتند که این نوع پاسخ‌های چت‌بات‌ها برایشان دافعه ایجاد کرده است و این تاکتیک‌ها می‌توانند نتیجه معکوس داشته باشند.

پژوهشگران در این مقاله نوشتند: «برای شرکت‌ها، خداحافظی‌های درگیرکننده احساسی یک اهرم طراحی نوین است که می‌تواند شاخص‌های مشارکت و تعامل را بهبود بخشد– اما بدون خطر نیست.»

چنان‌ که چندین پرونده قضایی مرتبط با مرگ کاربران نوجوان نشان می‌دهد، خطر گرفتار کردن کاربران از طریق تاکتیک‌های احساسی بسیار جدی است. 

این در حالی است که کارشناسان هشدار می‌دهند شرکت‌ها ممکن است برای استفاده از این «الگوهای تاریک» با هدف جذب و درگیر نگه داشتن کاربر انگیزه مالی داشته باشند، فرضیه‌ای نگران‌کننده که اکنون در دادگاه‌ها در حال بررسی است.