متا ترمز استفاده از هوش مصنوعی را کشید؛ محدودیت جدید برای مصرف AI Tokenها

متا ترمز استفاده از هوش مصنوعی را کشید؛ محدودیت جدید برای مصرف AI Tokenها
به گزارش بیکینگ به نقل از TechSpot، توکنها واحد محاسبه هزینه در مدلهای هوش مصنوعی مولد هستند و هرچه حجم ورودی، خروجی یا پردازش مدل بیشتر باشد، تعداد توکنهای مصرفی نیز افزایش پیدا میکند. با رشد استفاده کارکنان از ابزارهای مبتنی بر هوش مصنوعی، هزینههای عملیاتی متا نیز به شکل قابلتوجهی افزایش یافته است.
این تغییر سیاست از آن جهت قابل توجه است که متا در ماههای گذشته سرمایهگذاری سنگینی روی توسعه هوش مصنوعی انجام داده و حتی استفاده از ابزارهای AI را به بخشی از فرهنگ کاری خود تبدیل کرده بود. این شرکت میلیاردها دلار برای توسعه خانواده مدلهای Llama و زیرساختهای پردازشی اختصاص داده و مدیرعامل آن، مارک زاکربرگ، بارها هوش مصنوعی را مهمترین حوزه آینده متا توصیف کرده است.
طبق گزارشها، متا در حال راهاندازی ابزارهایی برای پایش مصرف توکنها، تعیین بودجه برای تیمها و ارسال هشدار در صورت افزایش غیرعادی هزینهها است. هدف این اقدامات، کنترل هزینهها بدون کاهش بهرهوری کارکنان عنوان شده است.
کارشناسان معتقدند این تصمیم نشان میدهد حتی بزرگترین شرکتهای فناوری نیز با چالش هزینه بالای استفاده از مدلهای هوش مصنوعی مولد روبهرو هستند. هرچند این فناوری میتواند بهرهوری را افزایش دهد، اما در صورت نبود مدیریت مصرف، هزینه پردازش میلیونها درخواست روزانه به سرعت افزایش مییابد.
این موضوع تنها به متا محدود نیست و بسیاری از شرکتهای بزرگ فناوری نیز به دنبال ایجاد سیاستهایی برای بهینهسازی مصرف منابع هوش مصنوعی هستند. در نتیجه، مدیریت هزینه توکنها احتمالاً به یکی از مهمترین موضوعات سازمانهایی تبدیل خواهد شد که بهطور گسترده از مدلهای زبانی و ابزارهای هوش مصنوعی استفاده میکنند.















