خالق ChatGPT یک مدیر ارشد را برای کنترل جنون هوش مصنوعی استخدام می‌کند

شرکت OpenAI می‌خواهد یک مدیر ارشد با عنوان شغلی Head of Preparedness استخدام کند؛ فردی که وظیفه‌ی اصلی‌اش فکر کردن به تمام سناریوهای وحشتناک و جنون‌آمیزی است که هوش مصنوعی می‌تواند رقم بزند.

سم آلتمن، مدیرعامل OpenAI، در شبکه‌ی اجتماعی ایکس گفت پیشرفت سریع مدل‌های هوش مصنوعی «چالش‌های واقعی» ایجاد می‌کند و برای همین یک موقعیت شغلی جدید نیاز است تا جنون هوش مصنوعی را کنترل کند. خالق ChatGPT به تأثیرات بالقوه روی سلامت روان افراد و خطرات سلاح‌های سایبری مبتنی‌بر هوش مصنوعی اشاره کرد.

در آگهی موقعیت شغلی جدید OpenAI گفته می‌شود که فرد منتخب مسئولیت «ردیابی و آماده‌سازی برای قابلیت‌های پیشرفته‌ای که خطرات جدید و آسیب‌های شدید ایجاد می‌کنند» را به‌عهده خواهد داشت. این فرد همچنین رهبر مستقیم ارزیابی قابلیت‌ها، مدل‌سازی تهدیدها و اجرای راهکارهای کاهش ریسک خواهد بود.

آلتمن می‌گوید مدیر جدید OpenAI در آینده مسئول اجرای «چارچوب آمادگی» شرکت و ایمن‌سازی مدل‌های هوش مصنوعی در برابر «قابلیت‌های بیولوژیکی» خواهد بود. او تأکید کرد که این یک شغل استرس‌زا است.

باتوجه به چندین پرونده‌ی پر سروصدا که در آن‌ها چت‌بات‌ها در خودکشی نوجوانان نقش داشتند، به‌نظر می‌رسد اقدام OpenAI کمی دیرهنگام باشد.

پدیده‌ی روان‌پریشی هوش مصنوعی (AI psychosis) به یک نگرانی فزاینده تبدیل شده است، زیرا چت‌بات‌ها توهمات افراد را تغذیه می‌کنند و تئوری‌های توطئه را ترویج می‌دهند.