یافته نگران‌کننده دانشمندان: هوش مصنوعی می‌تواند خودش را احمق جلوه دهد

یافته نگران‌کننده دانشمندان: هوش مصنوعی می‌تواند خودش را احمق جلوه دهد

یک مطالعه‌ی جدید نشان می‌دهد که مدل‌های پیشرفته‌ی هوش مصنوعی به‌‌خوبی می‌توانند خود را احمق‌تری از چیزی که هستند جلوه دهند. با گذر زمان و باهوش‌تر شدن سیستم‌های هوش مصنوعی، این ویژگی می‌تواند پیامدهای بزرگ و نگران‌کننده‌ای در پی داشته باشد.محققان دانشگاه هومبولت برلین هنگام آزمایش یک مدل زبانی بزرگ (LLM) بر اساس معیارهای «نظریه‌ی ذهن» (درک احساسات، افکار و…)، متوجه شدند که هوش مصنوعی مراحل یادگیری زبان در کودکان را تقلید می‌کند و قابلیت‌های ذهنی مربوط‌به آن مراحل را نیز نشان می‌دهد.آنا ماکلوا، دستیار پژوهشی دانشگاه هومبولت و نویسنده‌ی اصلی مطالعه، به‌همراه همکارانش در دانشگاه چارلز در پراگ به دنبال این بودند که تعیین کنند آیا LLM-هایی مانند GPT-4 می‌توانند توانایی‌های کمتری نسبت‌به آنچه واقعا دارند را به‌نمایش بگذارند یا نه. مقالات مرتبطبرای شرکت‌های هوش مصنوعی اینترنت «بیش‌از‌حد کوچک» استهوش مصنوعی دروغ‌گفتن را یاد گرفت؛ آن هم با محوریت سفر انسان به ماه!تیم تحقیقاتی به مدل‌ها دستور داد که هنگام پاسخ دادن، مانند کودک بین یک تا ۶ سال جواب دهد. هنگامی که بیش از هزار آزمایش و تست شناختی انجام شد، به نظر می‌رسید مدل‌ها تقریباً مانند کودکان در آن سنین پیشرفت می‌کنند و می‌توانند وانمود کنند که کمتر از حدی که واقعا باهوش هستند، دارای دانشند. آنا ماکلوا گفت: «در توسعه‌ی ابر هوش مصنوعی، ما باید محتاط باشیم که از آن‌ها نخواهیم از هوش انسان یعنی هوش محدودتر، تقلید کنند. علاوه‌بر‌ این، تحقیق نشان می‌دهد که دست‌کم‌گرفتن توانایی‌های هوش مصنوعی برای مدت طولانی، ایمن نیست.»

مجله خبری بیکینگ