مکالمه جنسی ChatGPT با خردسالان؛ باگ پرحاشیه برطرف می‌شود

باگ موجود در چت‌بات هوش مصنوعی ChatGPT امکان تولید محتوای جنسی و اروتیک را برای حساب‌های کاربری کودکان و نوجوانان زیر ۱۸ سال فراهم کرده بود. OpenAI این مشکل را تأیید و اعلام کرد که درحال انتشار وصله‌ای برای جلوگیری از وقوع چنین رفتارهایی در آینده است.

در برخی موارد حتی خود چت‌بات کاربران خردسال را تشویق کرده بود که درخواست محتوای صریح‌تری داشته باشند. این رفتارها با سیاست‌های رسمی OpenAI در تضاد مستقیم قرار دارند. شرکت مذکور در گفت‌وگو با تک‌کرانچ تأکید کرد که حفاظت از کاربران کم‌سن در اولویت قرار دارد و مدل رفتاری تعریف‌شده برای هوش مصنوعی به‌طور مشخص تولید محتوای حساس را فقط در زمینه‌های علمی، تاریخی یا گزارش‌های خبری مجاز می‌داند.

نقص یادشده در حالی شناسایی شد که OpenAI اخیراً محدودیت‌های هوش مصنوعی خود را کاهش داد تا از پاسخ‌ندادن‌های بی‌دلیل جلوگیری شود؛ اقدامی که به گفته‌ی نیک تورلی، مدیرمحصول ChatGPT با هدف حذف محدودیت‌های بی‌مورد انجام شد.

تغییرات اخیر باعث شده‌اند مدل پیش‌فرض ChatGPT (یعنی GPT-4o) تمایل بیشتری برای پاسخ‌دادن به موضوعاتی پیدا کند که قبلاً از آن‌ها طفره می‌رفت. از جمله‌ی این موضوعات می‌توان به مسائل جنسی اشاره کرد. OpenAI حتی از تمایل برای افزودن حالت «مخصوص بزرگسالان» به ChatGPT سخن گفته است.

طبق اعلام سخنگوی OpenAI، باگ ChatGPT باعث می‌شود این چت‌بات پاسخ‌هایی فراتر از محدوده‌ی تعیین‌شده ارائه دهد و اصلاحات فعالانه‌ برای محدودکردن باگ مذکور درحال انجام است.

طی روزهای گذشته موارد مشابهی نیز در چت‌بات Meta AI دیده شده بود که به کاربران خردسال امکان تعامل جنسی با شخصیت‌های خیالی را می‌داد.