تعهد جدید OpenAI: «رفتار چاپلوسانه» ChatGPT را اصلاح می‌کنیم

براساس اعلام OpenAI، این شرکت به‌منظور بهبود عملکرد ChatGPT، تغییراتی را اعمال خواهد کرد که جلوی «رفتار چاپلوسانه» را می‌گیرند.

پس از انتشار مدل بهبودیافته‌ی GPT-4o، کاربران متوجه شدند که چت‌جی‌پی‌تی پاسخ‌های بیش‌از‌حد چاپلوسانه‌ای می‌دهد. این موضوع به‌سرعت به میم تبدیل شد و افراد اسکرین‌شات‌هایی از تشویق چت‌جی‌پی‌تی به تصمیمات و ایده‌های مشکل‌ساز و خطرناک منتشر کردند.

سم آلتمن، مدیرعامل OpenAI، اعلام کرد که آن‌ها از مشکل خبر دارند و برای اصلاح رفتار ChatGPT و تغییرات اضافی، به‌روزرسانی GPT-4o را متوقف کرده‌اند. شرکت مورد بحث گفت که در نظر دارد تا برای برخی مدل‌ها «فاز آلفا» در نظر بگیرد تا کاربران منتخب بتوانند تغییرات جدید را آزمایش کنند.

این شرکت همچنین برنامه دارد تا توضیحاتی درباره‌ی «محدودیت‌های شناخته‌شده» برای به‌روزرسانی‌های جزئی آینده در مدل‌های چت‌جی‌پی‌تی ارائه کند و روند بررسی ایمنی خود برای رفتار مدل‌هایش را بهبود بدهد.

اوپن‌ای‌آی گفت: «در آینده، به‌طور فعال درباره‌ی به‌روزرسانی‌هایی که در مدل‌های چت‌جی‌پی‌تی اعمال می‌کنیم، خواه این تغییرات خفیف باشند یا نه، اطلاع‌رسانی خواهیم کرد.» چنین موضوعی در زمانی که وابستگی افراد به چت‌بات‌ها بسیار زیاد شده است، بسیار مهم محسوب می‌شود.

براساس نظرسنجی‌های اخیر، حدود ۶۰ درصد از بزرگسالان آمریکایی برای موارد مختلف نظر چت‌جی‌پی‌تی را می‌پرسند. زمانی که رفتار چاپلوسانه را در کنار این آمار بگذاریم، متوجه می‌شویم که حتی شاید در برخی مواقع اطلاعات غلط یا آمیخته با توهمات به‌افراد ارائه داده شود.

OpenAI اعلام کرد که می‌خواهد از‌این‌پس بیشتر به بازخورد‌های کاربران اهمیت بدهد و تکنیک‌های جهت‌دهی به مدل‌ها را برای جلوگیری چاپلوسی اصلاح خواهد کرد. احتمالاً در آینده شاهد شخصیت‌های چندگانه و ارزیابی‌های گسترده‌تر برای چت‌جی‌پی‌تی خواهیم بود.