بر اساس گزارش فیوچریزم، اکثر حسابهایی که ویدیوها را منتشر میکنند تصویر و گاهیاوقات نام قربانیان را پس از احیا توسط هوش مصنوعی، تغییر دادهاند. این احتمالاً راهکاری برای دور زدن یکی از قوانین جدید تیک تاک است؛ قانونی که انتشار ویدیوهای دیپفیک افراد جوان را ممنوع و اعلام میکند تمامی ویدیوهای مبتنیبر این فناوری باید برچسبگذاری شوند.
بااینحال، تعداد زیادی از ویدیوهایی خلقشده با هوش مصنوعی که در آنها روایت قتل فجیع کودکان گفته میشود، در تیک تاک منتشر شده است. در این ویدیوها معمولاً جزئیات اصلی تا حدی اصلاح میشود. بدین ترتیب با ویدیوهایی طرف هستیم که ترکیبی از واقعیت و داستانپردازی هستند و بیننده نمیتواند بخشهای واقعی را تشخیص دهد.
پاول بلیکلی، استادیار عدالت کیفری در دانشگاه نیوهِیوِن آمریکا، میگوید: «این ویدیوها واقعاً عجیب و ترسناکاند. ظاهراً ویدیوها با این هدف طراحی شدهاند که واکنشهای احساسی شدیدی را برانگیخته کنند، چون این کار مطمئنترین راه برای دریافت کلیک و لایک است. تماشای این ویدیوها حس بدی به شما منتقل میکند و بهنظرم نکتهی اصلی همین است.»
شماری از حسابهایی که ویدیوها را منتشر کردهاند میگویند از روی احترام به فوتشدگان، از اسم و تصویر واقعی آنها استفاده نمیکنند؛ اما این موضوع روی حس بدی که بیننده میگیرد، تأثیر نمیگذارد. این ویدیوها بسیار ناراحتکنندهاند و احتمالاً بدون کسب اجازه از خانوادهی قربانیان تولید شدهاند.
بلیکلی میگوید: «تصور کنید والدین یا خویشاوند یکی از این کودکان هستید. آنلاین میشوید و تصویری از کودک فوتشدهی خود میبینید که با جزئیات بسیار زیاد اتفاقی را که برایش رخ داده است توضیح میدهد.»
ظاهراً تیم مدیریت محتوای تیک تاک دستبهکار شده است؛ چون فیوچریزم میگوید شماری از حسابهایی که چنین ویدیوهایی را منتشر کردهاند از دسترس خارج شدهاند.
۵۸۵۸
