اعتماد کورکورانه به هوش مصنوعی، راهی تازه برای ورود مجرمان سایبری باز می‌کند

اعتماد کورکورانه به هوش مصنوعی می‌تواند خطرات امنیت سایبری را به شکل قابل‌توجهی افزایش دهد. امروزه، مهم‌ترین نقاط ضعف امنیتی دیگر صرفاً در نرم‌افزار یا سخت‌افزار نیستند، بلکه در نحوه تعامل افراد، به‌ویژه با عوامل هوش مصنوعی، نهفته‌اند.

قابلیت‌های هوش مصنوعی با سرعت زیادی در حال توسعه است و این سیستم‌ها اکنون می‌توانند برنامه‌ریزی کنند، از APIها و ابزارهای کنترلی استفاده کنند و وظایف پیچیده را به‌صورت خودکار و بدون دخالت مستقیم انسان انجام دهند.

با این حال، این پیشرفت‌ها خطر اتکای کامل به راحتی و بهره‌وری را نیز به همراه دارد.

به گفته یکی از متخصصان تحقیقات امنیتی کسپرسکی، در حالت ایده‌آل، هر مرحله از توسعه برنامه‌های هوش مصنوعی باید مورد بررسی قرار گیرد، اما نظارت واقعی بر این فرایندها اغلب به دلیل تمرکز بر سرعت و رعایت مهلت‌های زمانی نادیده گرفته می‌شود. زمانی که اعتماد به هوش مصنوعی به اعتماد کورکورانه تبدیل شود، خطر قابل‌توجهی برای امنیت سایبری ایجاد خواهد شد.
 

مجرمان سایبری دیگر لزوماً نیازی به شناسایی پیچیدگی‌های فنی برای اجرای حملات ندارند؛ بلکه می‌توانند از اعتماد بیش از حد کاربران به هوش مصنوعی سوءاستفاده کنند.

این تهدید تنها کاربران را هدف قرار نمی‌دهد و به زیرساخت‌های اصلی شرکت‌های فناوری که به نرم‌افزارهای متن‌باز وابسته هستند نیز گسترش می‌یابد. برنامه‌نویسان و عوامل هوش مصنوعی برای انجام وظایف خود به این نرم‌افزارها متکی هستند و همین وابستگی می‌تواند به نقطه‌ای برای اجرای حملات تبدیل شود.

طبق گزارش کسپرسکی، ۳۱ درصد از شرکت‌ها حملاتی را تجربه کرده‌اند که زنجیره تأمین آنها را هدف قرار داده است. یکی از نمونه‌های این حملات، حمله به کتابخانه جاوااسکریپت Axios بود که طی آن مهاجمان توانستند کنترل آن را به دست بگیرند و نسخه‌ای مخرب از نرم‌افزار را مستقر کنند.

علاوه بر این، Kaspersky Container Security هزاران پیکربندی نادرست بالقوه را در جریان فرایندهای یکپارچه‌سازی و استقرار مداوم در پلتفرم GitHub Actions شناسایی کرده است.

تداوم این تهدیدها نشان می‌دهد که تأیید، بررسی و نظارت مستمر بر برنامه‌ها و عوامل هوش مصنوعی برای حفظ ایمنی و امنیت آنها اهمیت زیادی دارد.