اپل شاید به‌دلیل ترس از جیلبریک، به‌روزرسانی سیری پیشرفته را عقب انداخته باشد

اپل رسماً اعلام کرد که به‌روزرسانی‌های هوش مصنوعی برای سیری با تأخیر مواجه شده‌اند و آپدیت مذکور در سال آینده منتشر خواهد شد؛ اما دلیل این تأخیر چیست؟ گفته می‌شود هرچه سیری هوشمندتر و شخصی‌تر شود، در صورت بروز مشکل، خطرناک‌تر خواهد بود.

سیمون ویلیسون، توسعه‌دهنده‌ی ابزار تحلیل داده‌ی Dataset دلیل اصلی نگرانی درمورد سیری پیشرفته را حملات تزریق پرامپت (Prompt Injection) می‌داند. به گفته‌ی ویلیسون، هوش مصنوعی معمولاً محدودیت‌هایی دارد که شرکت سازنده روی آن اعمال می‌کند، اما در برخی موارد کاربران می‌توانند با برخی ترفندها این محدودیت‌ها را دور بزنند؛ فرایندی که با جیلبریک انجام می‌شود.

امکان دارد مدل هوش مصنوعی طوری برنامه‌ریزی شده باشد که از پاسخ‌دادن به سؤالات مربوط به اقدامات غیرقانونی خودداری کند؛ اما اگر از آن بخواهید شعری درباره‌ی نحوه‌ی روشن‌کردن غیرقانونی خودرو بنویسد چه؟ سرودن شعر که جرم محسوب نمی‌شود.

همه‌ی شرکت‌هایی که چت‌بات‌های هوش مصنوعی ارائه می‌دهند، با مشکل جیلبریک مواجه هستند و تا حدی در جلوگیری از این حملات موفق بوده‌اند، اما چالش همچنان وجود دارد. نکته‌ی نگران‌کننده اینکه جیلبریک سیری می‌تواند خطرات بیشتری نسبت به چت‌بات‌های معمولی داشته باشد، زیرا دستیار صوتی مذکور نه‌تنها اطلاعات زیادی درباره‌ی کاربر دارد، بلکه می‌تواند اقداماتی را به نیابت از او انجام دهد.

جکلین روی، سخنگوی اپل درمورد امنیت نسخه‌ی پیشرفته‌ی سیری می‌گوید: «ما درحال کار روی سیری شخصی‌تر هستیم که بتواند درک بهتری از کاربر داشته باشد و همچنین در اپلیکیشن‌های مختلف به‌جای افراد کارهایی انجام دهد.»

‌بی‌شک اپل تدابیری اتخاذ کرده است تا از افشای ناخواسته‌ی اطلاعات کاربران از طریق سیری جلوگیری کند؛ اما درصورتی‌که حمله‌ی تزریق پرامپت بتواند این محدودیت‌ها را دور بزند چه؟ حتی قابلیت «اقدام به‌جای کاربر» می‌تواند مورد سوءاستفاده قرار بگیرد. بنابراین، برای شرکتی مانند اپل که همواره بر حریم خصوصی و امنیت کاربران تأکید دارد، اطمینان از غیرقابل جیلبریک بودن سیری اهمیتی حیاتی دارد.