سم آلتمن: نمی‌توان از برخی حوادث هوش مصنوعی جلوگیری کرد

مدیرعامل اوپن‌ای‌آی در جریان کنفرانس Dreamforce متعلق به سلزفورس اعلام کرد که جلوگیری از تمام خطرات و حوادث حوزه‌ی هوش مصنوعی غیرممکن است. او تأکید کرد که موضوع حیاتی، نحوه‌ی واکنش و مواجهه کل این صنعت با رخدادها و خطاهای احتمالی خواهد بود.

سم آلتمن رویکرد سازمان‌های هوانوردی را الگویی مناسب برای مواجهه با این چالش‌ها دانست: «فکر می‌کنم وقوع حدی از حوادث با فناوری‌های جدید اجتناب‌ناپذیر است. آن‌چه واقعا برای من اهمیت دارد، ایجاد فرهنگ قدرتمند گزارش‌دهی حوادث و یادگیری از آن‌هاست.»

آلتمن به سازمان هوانوردی فدرال و هیئت ملی ایمنی ترابری اشاره کرد؛ نهادهایی که بررسی دقیق سوانح هوایی را زمینه‌ساز ایمنی پروازهای مدرن کرده‌اند. چنین اظهاراتی هم‌زمان با هشدار برخی پژوهشگران از جمله جیکوب کوکسون درباره‌ی سرعت‌گرفتن رقابت برای ساخت ابرهوش خودمختار مطرح می‌شود.

آلتمن می‌گوید: جهان کاملا حق دارد که از این موضوع بترسد.» او اضافه کرد که توسعه‌دهندگان باید فعالیت‌های حوزه‌ی ایمنی، هم‌ترازی و نظارت را همواره جلوتر از پیشرفت توانایی مدل‌ها نگه دارند و در صورت برهم‌خوردن تعادل، سرعت پژوهش‌ها را کاهش دهند.