استارتاپ هوش مصنوعی انتروپیک هدف بزرگی برای سال ۲۰۲۷ تعیین کرد

داریو آمودی، مدیرعامل انتروپیک، از برنامه‌ی جاه‌طلبانه‌اش برای بهبود درک‌پذیری سیستم‌های هوش مصنوعی پیشرفته تا سال ۲۰۲۷ خبر داد. او در مقاله‌ای با عنوان «فوریت درک‌پذیری»، بر اهمیت فهم بهتر مدل‌ها قبل از تحقق هوش مصنوعی عمومی (AGI) و خطرات ناشی از تصمیم‌گیری‌های غیرشفاف این فناوری در بخش‌هایی مثل امنیت ملی و اقتصاد تأکید کرد.

در قلب برنامه‌ی جدید انتروپیک، روش «درک‌پذیری مکانیکی» قرار دارد که می‌خواهد با مهندسی معکوس مسیرهای فکری مدل‌های زبانی بزرگ، رفتار و سوگیری‌های آن‌ها را بهتر شناسایی کند. آمودی این فرایند را به اسکن مغزی هوش مصنوعی تشبیه و بر نیاز به درک ساختارهای درونی مدل‌ها پیش از کاربرد گسترده‌شان تأکید کرد.

به‌نوشته‌ی EchocraftAI، انتروپیک تاکنون در مدل Claude مدارهای خاصی از جمله مداری برای تطبیق شهرها و ایالت‌های آمریکا را با موفقیت شناسایی کرده است. هرچند این یافته‌ها بسیار ابتدایی هستند، اما از آغاز راهی دشوار برای باز کردن رمزهای پیچیده‌ی مدل‌های هوش مصنوعی خبر می‌دهند که میلیون‌ها مدار ناشناخته در خود دارند.

چالش‌های مربوط به درک‌پذیری فقط مختص انتروپیک نیست و شرکت‌های بزرگی مانند OpenAI و گوگل دیپ‌مایند نیز با مسائلی مثل افزایش توهم مدل‌ها همزمان با ارتقای قابلیت‌هایشان روبه‌رو شده‌اند. این روند، ضرورت پیشرفت‌های همزمان در ایمنی و شفافیت را بیش از پیش آشکار می‌کند.

آمودی ضمن ابراز خوش‌بینی محتاطانه نسبت به پیشرفت در درک‌پذیری هوش مصنوعی طی ۵ تا ۱۰ سال آینده، باور دارد شناسایی ویژگی‌های مفهومی‌ای مانند طعنه یا همدلی نشان می‌دهد حتی با ابزارهای فعلی نیز می‌توان به بینش‌های ارزشمندی دست یافت. او همچنین تأکید کرد که بهبود درک‌پذیری، علاوه‌بر افزایش ایمنی می‌تواند مزیت رقابتی مهمی برای شرکت‌ها ایجاد کند.

انتروپیک در مسیر دستیابی به هدف خود، زیرساخت‌های فنی عظیمی برای مدیریت داده‌ها ایجاد و از رویکردی مسئولانه در قبال مقررات و همکاری‌های بین‌المللی حمایت می‌کند. این شرکت با پشتوانه‌ی چنین رویکردی، خود را به‌عنوان یکی از پیشگامان شفافیت و ایمنی در توسعه‌ی هوش مصنوعی معرفی کرده است.