هوش مصنوعی قابل اعتماد: چرا تاب‌آوری مهم‌تر از دقت است؟
هوش مصنوعی قابل اعتماد: چرا تاب‌آوری مهم‌تر از دقت است؟
به گزارش بیکینگ و به نقل از Analytics Insight، پریتویراج کومار دساری، مهندس ارشد نرم‌افزار و نویسنده DZone، معتقد است پیشرفت واقعی در هوش مصنوعی نه از افزایش جزئی دقت مدل‌ها، بلکه از مقاوم‌سازی زیرساخت‌های پشتیبان آنها حاصل می‌شود. او می‌گوید: «اعتماد زمانی معنا دارد که سامانه در میلیون‌ها سناریوی غیرمنتظره، همچنان پایدار بماند.»
بر اساس گزارش‌های گارتنر و مک‌کینزی، تا پایان سال ۲۰۲۷ بیش از ۴۰ درصد از پروژه‌های موسوم به «هوش مصنوعی عاملی» به دلیل افزایش هزینه‌ها و نبود کنترل ریسک شکست خواهند خورد. همچنین حدود ۸۵ درصد از پروژه‌های هوش مصنوعی ارزش وعده‌داده‌شده خود را محقق نمی‌کنند که عمدتاً ناشی از کیفیت پایین داده‌ها یا ضعف طراحی زیرساخت است.
به گفته او، شاخص‌گذاری نه فقط باید سریع، بلکه باید دقیق، پایدار و مقاوم باشد. او فلسفه خود را چنین خلاصه می‌کند: «زیرساخت آماده برای هوش مصنوعی یعنی ساخت سیستمی که فرض بر شکست دارد و برای بقا طراحی شده است.»
به باور دساری، دهه آینده با تغییر معیار موفقیت همراه خواهد بود. دیگر حجم مدل معیار پیشرفت نیست، بلکه قابلیت اعتماد و توانایی سامانه در پیش‌بینی شکست‌ها معیار نوین است. او در مقاله اخیر خود در DZone نشان داده است که چطور حتی تغییرات کوچک در معماری داده می‌تواند پایداری را به‌شکل چشمگیری افزایش دهد.
در جهانی که هوش مصنوعی به حوزه‌هایی چون سلامت، مالی و زیرساخت‌های حیاتی نفوذ کرده است، تاب‌آوری دیگر یک انتخاب نیست بلکه ضرورت بقاست. همان‌طور که دساری می‌گوید: «در هوش مصنوعی، قابلیت اعتماد، معیار واقعی پیشرفت است.»
