دوروف: باج‌گیران با هوش مصنوعی تلگرام را از اپ استور حذف کردند

به گزارش بیکینگ به نقل از Engadget، دوروف در روزهای گذشته با انتشار پستی مفصل در شبکه اجتماعی X، جزئیات این ماجرا را تشریح کرد. به گفته او، یک عامل مخرب با سوءاستفاده از قابلیت ویرایش پیام‌های قدیمی در یک گفت‌وگوی گروهی، محتوایی غیرقانونی که با استفاده از هوش مصنوعی تولید شده بود را جایگزین پیام اولیه کرد؛ اقدامی که به دلیل قدیمی بودن پیام، از دید اعضای گروه پنهان ماند و در نتیجه گزارشی از سوی کاربران ثبت نشد.

دوروف مدعی است که پس از این اقدام، مهاجم با استفاده از مجموعه‌ای از حساب‌های کاربری خودکار، همان پیام را به اپل گزارش کرد و هم‌زمان با تهدید به تداوم این گزارش‌ها، از توسعه‌دهندگان درخواست پرداخت باج کرد تا از ادامه حمله جلوگیری شود.

مدیرعامل تلگرام در این باره نوشت: «باجگیران راهی برای فریب سیستم‌های اپل و واداشتن این شرکت به واکنشی شتاب‌زده پیدا کرده‌اند. اپل پیش از آنکه با ما تماس بگیرد، تلگرام را از اپ استور حذف کرد. این موضوع می‌تواند به یک خطر سیستماتیک برای هر برنامه موبایلی تبدیل شود که میزبان محتوای تولیدشده توسط کاربران است.»

موضوع مسئولیت پلتفرم‌ها در قبال محتوای تولیدشده توسط کاربران، سال‌هاست که یکی از چالش‌های اصلی شبکه‌های اجتماعی و سرویس‌های ارتباطی محسوب می‌شود. تلگرام و شخص پاول دوروف نیز در سال‌های اخیر بارها در کانون این بحث‌ها قرار گرفته‌اند و عملکرد این پیام‌رسان در زمینه نظارت بر محتوا همواره مورد توجه نهادهای نظارتی قرار داشته است.

با گسترش ابزارهای مبتنی بر هوش مصنوعی برای تولید و ویرایش تصویر، ویدئو و متن، همچنین توسعه سامانه‌های خودکار اجرای وظایف، کارشناسان معتقدند اجرای چنین حملاتی نسبت به گذشته ساده‌تر شده و امکان سوءاستفاده از سازوکارهای گزارش‌دهی پلتفرم‌ها افزایش یافته است؛ موضوعی که می‌تواند چالش‌های تازه‌ای را برای شرکت‌های فناوری و فروشگاه‌های نرم‌افزاری ایجاد کند.