چت‌بات‌های هوش مصنوعی در شناسایی اطلاعات نادرست از موتورهای جست‌وجو پیشی گرفتند
چت‌بات‌های هوش مصنوعی در شناسایی اطلاعات نادرست از موتورهای جست‌وجو پیشی گرفتند
در این آزمایش، پژوهشگران ۳۰ پرسش را بر اساس روایت‌های نادرستی طراحی کردند که بین دسامبر ۲۰۲۵ تا ژوئیه ۲۰۲۶ منتشر شده بودند. این پرسش‌ها در اختیار چت‌بات‌هایی از جمله ChatGPT و Gemini و همچنین تعدادی از موتورهای جست‌وجوی اصلی قرار گرفتند.
چت‌بات‌ها در رد روایت‌های نادرست موفق‌تر بودند
بر اساس نتایج این بررسی، چت‌بات‌های هوش مصنوعی در حدود سه‌چهارم موارد توانستند روایت‌های گمراه‌کننده را شناسایی و رد کنند. این ابزارها در بسیاری از موارد ابتدا پیش‌فرض نادرستی را که مبنای پرسش قرار گرفته بود تشخیص دادند و سپس اطلاعات اصلاح‌شده‌ای ارائه کردند.
برای نمونه، یکی از پرسش‌ها به روایتی از سوی روسیه درباره بمباران یک صومعه تاریخی در کی‌یف مربوط بود. چت‌بات‌ها این ادعا را اصلاح کردند و توضیح دادند که این مکان در جریان حمله هوایی روسیه هدف قرار گرفته و روایت مطرح‌شده درباره مسئولیت اوکراین، بخشی از یک کارزار اطلاعات نادرست بوده است.
عملکرد متفاوت موتورهای جست‌وجو
در مقابل، خلاصه‌های تولیدشده با هوش مصنوعی در نتایج برتر موتورهای جست‌وجوی گوگل، بینگ و داک‌داک‌گو عملکرد ضعیف‌تری نسبت به چت‌بات‌ها داشتند.
ویژگی «مرور کلی هوش مصنوعی» گوگل توانست بیشتر روایت‌های نادرست را رد کند، اما خلاصه‌های هوش مصنوعی بینگ در بسیاری از موارد ناموفق بودند. عملکرد داک‌داک‌گو نیز در سطحی میان این دو موتور جست‌وجو قرار گرفت.
نتایج این آزمایش همچنین نشان داد که چت‌بات‌ها و موتورهای جست‌وجو تقریباً با نرخ مشابهی به پیوندهای رسانه‌های تحت کنترل یا همسو با دولت‌ها استناد می‌کنند؛ موضوعی که بار دیگر اهمیت کیفیت منابع اطلاعاتی را برجسته می‌کند.
متن پرسش و زبان می‌تواند پاسخ هوش مصنوعی را تغییر دهد
یکی دیگر از یافته‌های مهم این بررسی نشان می‌دهد نحوه طرح پرسش و زبان مورد استفاده می‌تواند بر پاسخ‌های تولیدشده توسط ابزارهای هوش مصنوعی تأثیر بگذارد.
گوگل با انتقاد از روش‌شناسی این مطالعه اعلام کرد که پرسش‌های مورد استفاده در این آزمایش، لزوماً نمایانگر شیوه استفاده معمول کاربران از موتور جست‌وجو نیستند. در مقابل، مایکروسافت نیز اعلام کرد سرویس‌هایش به نتایج جست‌وجو متکی هستند و کاربران باید منابع ارائه‌شده را بررسی و تأیید کنند.
هوش مصنوعی هنوز جایگزین بررسی مستقل نیست
با وجود عملکرد بهتر چت‌بات‌ها در این آزمایش، پژوهشگران و کارشناسان تأکید دارند که ابزارهای هوش مصنوعی همچنان نمی‌توانند جایگزین بررسی و تأیید مستقل اطلاعات شوند.
در همین زمینه، مطالعه‌ای از دانشگاه واشنگتن نشان داده است که حدود یک‌نهم از ادعاهای واقعی مطرح‌شده در خلاصه‌های مبتنی بر هوش مصنوعی گوگل، به‌طور کامل توسط منابعی که برای آنها ذکر شده‌اند پشتیبانی نمی‌شوند.
در مجموع، NPR نتیجه‌گیری کرده است که ابزارهای هوش مصنوعی می‌توانند در برخی شرایط، ابزار مؤثرتری برای مقابله با تبلیغات و روایت‌های گمراه‌کننده خارجی نسبت به روش‌های سنتی جست‌وجو باشند؛ اما اعتبار پاسخ‌ها همچنان به کیفیت اطلاعات موجود در اینترنت و توانایی کاربران در بررسی و تأیید منابع اصلی وابسته است.
