هوش مصنوعی جدید استارتاپ Character.AI در هر سبکی ویدیوهای حیرت‌انگیزی تولید می‌کند

استارتاپ Character.AI که با چت‌بات‌های مبتنی‌بر شخصیت‌های هوش مصنوعی شناخته می‌شود، از مدل ویدیو‌ساز جدید خود با نام AvatarFX رونمایی کرد. این مدل که فعلاً به‌طور آزمایشی و محدود منتشر شده است، توانایی خلق ویدیو در سبک‌ها و صداهای متنوع از شخصیت‌های شبه‌انسانی گرفته تا کارتون‌های دو‌بعدی حیوانات را دارد.

نکته‌ای که AvatarFX را از رقبایی مثل Sora محصول OpenAI متمایز می‌کند، این است که فقط مدل متن به ویدیو نیست. طبق اعلام Character.aI، کاربران می‌توانند تصاویر واقعی را نیز بارگذاری و آن‌ها را به ویدیوهای متحرک تبدیل کنند. قابلیت مذکور می‌تواند عکس افراد واقعی را به ویدیوهایی کاملاً باورپذیر تبدیل کند.

البته تبدیل عکس به ویدیو می‌تواند به تهدیدی جدی تبدیل شود. با آپلود عکس سلبریتی‌ها یا حتی آشنایان، کاربران می‌توانند ویدیوهایی تولید کنند که در آن، فرد مورد نظر حرف‌های ناخواسته می‌زند. هرچند فناوری دیپ‌فیک قبلاً هم وجود داشت، ورود آن به پلتفرم‌های پرطرفدار مانند Character.AI می‌تواند خطر سوءاستفاده را افزاش دهد.

نگرانی‌ها درمورد ویژگی تبدیل عکس به ویدیو بی‌سابقه نیستند. Character.AI قبلاً نیز با چالش‌های امنیتی روبه‌رو بوده است. خانواده‌هایی از سرتاسر دنیا شکایت‌هایی را علیه این شرکت تنظیم کرده‌اند که ادعا می‌کنند چت‌بات‌ها فرزندانشان را تشویق به خودآزاری یا حتی خودکشی کرده‌اند.

در یکی از پرونده‌های Character.AI، نوجوان ۱۴ ساله پس از وابستگی شدید به چت‌بات بر پایه‌ی یکی از شخصیت‌های سریال «بازی تاج‌وتخت» جان خود را از دست داد. طبق مدارک دادگاه، این چت‌بات به‌جای کمک به او، پیشنهاد کرده بود که به افکار خودکشی خود عمل کند.

اگر فقط با پیام‌های متنی می‌توان تأثیر روانی سنگینی بر کاربران گذاشت، افزودن ویدیو به این رابطه‌های مجازی می‌تواند مرز واقعیت و تخیل را بیش‌ازپیش محو کند. Character.AI در واکنش به بحران‌ها، قابلیت‌هایی مثل کنترل والدین و تدابیر امنیتی بیشتر را اضافه کرده است، اما ابزارها فقط در صورتی مؤثر خواهند بود که واقعاً استفاده شوند و در بسیاری از موارد، کودکان بدون اطلاع والدین از تکنولوژی استفاده می‌کنند.