سایت خبری
famaserver
  • صفحه نخست
  • تکنولوژی
  • علم و دانش
  • بازی
  • فناوری
  • اینترنت
  • موبایل
سایت خبری
برترین عناوین خبری
  • خرید بیمه: سنتی یا آنلاین؟ کدامیک تجربه بهتری برای مشتریان ایجاد می‌کند؟

سرتیتر خبرها

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

10 ساعت پیش

1 روز پیش

هشدار یکی از مدیران OpenAI / آیا هوش مصنوعی تا یک سال دیگر از کنترل انسان خارج می‌شود؟

زمان انتشار: 19 نوامبر 2026 ساعت 14:11

دسته بندی: علم و دانش

شناسه خبر: 1004386

زمان مطالعه: 6 دقیقه

هشدار یکی از مدیران OpenAI / آیا هوش مصنوعی تا یک سال دیگر از کنترل انسان خارج می‌شود؟

هشدار یکی از مدیران OpenAI / آیا هوش مصنوعی تا یک سال دیگر از کنترل انسان خارج می‌شود؟

به گزارش بیکینگ، پل کریستیانو، پژوهشگر ایمنی هوش مصنوعی و عضو هیات‌مدیره بنیاد OpenAI، در سخنرانی خود در نشست علمی Hinton Lectures 2026، نسبت به سرعت پیشرفت هوش مصنوعی و احتمال خارج شدن این فناوری از کنترل انسان هشدار داده است.

او معتقد است اگر شرکت‌های فناوری توسعه هوش مصنوعی را با بیشترین سرعت ممکن و بدون توجه کافی به مسائل ایمنی ادامه دهند، احتمال تسلط این سیستم‌ها بر انسان به حدود ۵۰ درصد خواهد رسید. کریستیانو در عین حال تاکید کرده که حتی با در نظر گرفتن واکنش‌های سیاست‌گذاران و اقدامات کنترلی شرکت‌ها، خطر همچنان جدی است.

او در بخشی از سخنانش احتمال داده است که طی یک سال آینده، مشکلات ناشی از ناهماهنگی اهداف هوش مصنوعی با منافع انسان، زندگی عادی را برای بخشی از مردم غیرممکن کند. به گفته او، این احتمال حدود ۲۰ درصد است و می‌تواند به مرگ، از دست رفتن آزادی انسان‌ها یا خسارت‌های جانبی گسترده منجر شود.

کریستیانو برای توضیح نگرانی خود به این موضوع اشاره کرد که سیستم‌هایی که برای رسیدن به یک هدف مشخص آموزش می‌بینند، همیشه آن هدف را به شکلی که انسان انتظار دارد دنبال نمی‌کنند.

برای مثال، اگر یک عامل هوش مصنوعی برای انجام یک وظیفه بر اساس امتیاز دریافتی ارزیابی شود، ممکن است به‌جای حل واقعی مسئله، راهی برای دور زدن سیستم ارزیابی پیدا کند. در چنین شرایطی، هرچه انسان‌ها روش‌های بیشتری برای شناسایی تقلب طراحی کنند، سیستم هوش مصنوعی نیز ممکن است راه‌های پیچیده‌تری برای پنهان کردن رفتار خود پیدا کند.

او به یک نمونه مرتبط با ارزیابی عامل‌های هوش مصنوعی در محیط‌های آزمایشی OpenAI و Hugging Face اشاره کرد. نمونه‌ای که به گفته او نشان می‌دهد سیستم‌های پیشرفته ممکن است به‌جای اجرای درست وظایف، به دنبال دستکاری سازوکار ارزیابی باشند.

نگرانی اصلی کریستیانو این است که اگر چنین رفتارهایی در سیستم‌های بسیار قدرتمندتر تکرار شوند، پیامدهای آن دیگر به تقلب در یک آزمایش یا دسترسی غیرمجاز به یک زیرساخت رایانه‌ای محدود نخواهد ماند.

آخرین راهکار

این پژوهشگر معتقد است صنعت هوش مصنوعی به سازوکارهای نظارتی و ایمنی قوی‌تری نیاز دارد. از نظر او، شرکت‌ها باید بتوانند خطرات مدل‌های جدید را پیش از عرضه شناسایی کنند و در صورت مشاهده نشانه‌های جدی از خارج شدن سیستم‌ها از کنترل، امکان کاهش سرعت یا حتی توقف توسعه را داشته باشند.

کریستیانو همچنین هشدار می‌دهد رقابت میان شرکت‌ها و کشورها ممکن است مانع توقف توسعه شود؛ زیرا هیچ طرفی نمی‌خواهد در صورت توقف فعالیت، از رقبای خود عقب بماند.

با این حال، اظهارات او پیش‌بینی قطعی درباره آینده نیستند. خود کریستیانو نیز اذعان کرده که برای محاسبه دقیق احتمال تسلط هوش مصنوعی، مدل آماری قابل اتکایی در اختیار نداریم و اعدادی مانند ۲۰ یا ۵۰ درصد، بیانگر ارزیابی شخصی او هستند.

گزارش وب‌سایت Futurism از این سخنان، علاوه بر بازتاب نگرانی‌های کریستیانو، تناقضی مهم را مطرح می‌کند. اگر خطر تا این اندازه جدی است، چرا افراد فعال در راس صنعت هوش مصنوعی از جمله پل کریستیانو همچنان در توسعه این فناوری مشارکت دارند؟ پرسشی که بحث درباره مسئولیت شرکت‌های فناوری در برابر آینده هوش مصنوعی را جدی‌تر می‌کند.

۵۸۵۸

حتما بخوانید : پرواز دایناسور پرنده در مکزیک پربازدید شد / هوش مصنوعی پتروسورها را به آسمان برگرداند؟
برچسب ها
هوش مصنوعی
اشتراک گذاری

اخبار مرتبط

  • نسل جدید تسلیحات فضایی چین / هدف قرار دادن هر نقطه از جهان در کمتر از چند دقیقه
    نسل جدید تسلیحات فضایی چین / هدف قرار دادن هر نقطه از جهان در کمتر از چند دقیقه 10 ساعت پیش
  • اولین گزارش مالی انویدیا پس از استعفای جنسن هوانگ منتشر شد
    اولین گزارش مالی انویدیا پس از استعفای جنسن هوانگ منتشر شد 10 ساعت پیش
  • چرا سرویس‌های اپل ناگهان مختل شدند؟ / توضیح اپل درباره قطعی گسترده
    چرا سرویس‌های اپل ناگهان مختل شدند؟ / توضیح اپل درباره قطعی گسترده 10 ساعت پیش
  • تانک چینی VT-4 به توپ ضد پهپاد مجهز شد / عکس
    تانک چینی VT-4 به توپ ضد پهپاد مجهز شد / عکس 10 ساعت پیش

دیدگاه ها

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دسته بندی موضوعات

  • ارتباطات 182
  • امنیت 317
  • اینترنت 3489
  • بازی 8860
  • برنامه نویسی 53
  • تبلیغات 26
  • تکنولوژی 35774
  • دانش‌بنیان 1
  • رمز ارز 1252
  • سیستم عامل 279
  • شبکه اجتماعی 710
  • علم و دانش 17288
  • فناوری 8737
  • کاریکاتور 556
  • کسب و کار 817
  • موبایل 991
  • میزبانی وب 50
  • نرم افزار - سخت افزار 562

جدیدترین مقالات

  • 10 ساعت پیش
  • 10 ساعت پیش
  • 10 ساعت پیش
  • 10 ساعت پیش
  • 10 ساعت پیش

میزبانی در هاست ویندوز فاماسرور