هوش مصنوعی ویدیوهای پرتعدادی از هرزه‌نگاری کودکان تولید کرده است

در نیمه‌ی اول سال ۲۰۲۵، موجی نگران‌کننده از محتوای هرزه‌نگاری کودکان با استفاده از هوش مصنوعی در فضای آنلاین ثبت شده؛ تعداد ویدیوهای تولیدشده با فناوری‌های جدید به‌طرز چشمگیری افزایش یافته است و در مواردی تقریباً از تصاویر واقعی قابل‌تشخیص نیستند.

بنیاد Internet Watch Foundation (IWF) مستقر در بریتانیا اعلام کرد که در نیمه‌ی اول سال، ۱٬۲۸۶ ویدیو غیراخلاقی از سوءاستفاده‌ی جنسی از کودکان با استفاده از هوش مصنوعی را شناسایی و تأیید کرده است. این آمار در مدت مشابه سال گذشته فقط دو مورد بود.

IWF هشدار می‌دهد که سرمایه‌گذاری چند میلیارد دلاری در مدل‌های تولید تصویر و ویدیو باعث می‌شود ابزارهای قدرتمند و در دسترس به‌راحتی توسط مجرمان سوء‌استفاده شوند. تحلیلگران این نهاد اعلام کردند بسیاری از ویدیوها از مدل‌های متن‌باز ساده ایجاد شده‌اند که با نمونه‌هایی از محتوای سوءاستفاده‌ی واقعی، برای تولید ویدیوهای بسیار واقعی‌تر آموزش‌دیده‌اند.

تعداد URL-های حاوی محتواهای غیراخلاقی رشد فزاینده‌ای داشته و با افزایش ۴۰۰ درصدی نسبت‌به سال گذشته، به ۲۱۰ URL رسیده است. هر صفحه صدها تصویر یا ویدیو در خود داشت که نشان از رشد وسیع این بحران دارد.

دولت بریتانیا قانونی جدید در دست اجرا دارد که تملک، ساخت یا توزیع ابزارهای هوش مصنوعی با هدف تولید محتوای هرزه‌نگاری کودکان را جرم‌انگاری می‌کند. نقض این قانون می‌تواند تا پنج سال زندان برای متخلفان به‌دنبال داشته باشد.