به گزارش بیکینگ، به نقل از دیجیاتو، این ابزار امکان ساخت دیپفیکهای هوش مصنوعی از دنیای واقعی را با استفاده از متن فراهم میکرد. گوگل در روز پنجشنبه اعلام کرده بود که تصاویر تولید شده با Nano Banana در Google Earth دارای واترمارک دیجیتال هستند و این شرکت از تولید تصاویر درباره موضوعات آسیبزا جلوگیری میکند. اما حالا به نظر میرسد به علت سوءاستفاده کاربران از این قابلیت و ایجاد دیپ فیکهایی مغایر با قوانین، گوگل تصمیم گرفته تا این قابلیت را از دسترس کاربران Google Earth خارج کند.
این تصمیم پس از آن گرفته شد که وبسایت 404 Media گزارش داد قابلیت تولید تصویر در Google Earth بهراحتی میتواند برای ساخت تصاویر ماهوارهای گمراهکننده مورد استفاده قرار بگیرد. برای مثال «جوزف کاکس»، نویسنده این وبسایت، با استفاده از این ابزار تصویری از یک گودال ناشی از انفجار در لسآنجلس ایجاد کرد. در نمونهای دیگر نیز او گروهی از معترضان را در مقابل مقر گوگل در شهر مانتین ویو، کالیفرنیا، به تصویر افزود.
در آن زمان، گوگل نگرانیها درباره انتشار اطلاعات نادرست را کماهمیت جلوه داد و مدعی شد کاربران میتوانند با استفاده از ابزارهایی مانند Gemini، اصالت تصاویر تولیدشده توسط Nano Banana را بررسی کنند. بااینحال، کاکس دراینباره گفت: «ادعای گوگل مبنیبر اینکه تصاویر Nano Banana دارای واترمارکی هستند که آنها را بهعنوان محتوای تولید شده توسط هوش مصنوعی شناسایی میکند، کاملاً نشان میدهد این شرکت درک درستی از نحوه انتشار اطلاعات نادرست ندارد.»
گوگل روز جمعه بار دیگر از این تصمیم دفاع و تأکید کرد که تصاویر تولیدشده در Google Earth همگی دارای واترمارک بودند. بااینحال، این شرکت گفت پیش از آنکه قابلیت تولید تصویر را دوباره در Google Earth فعال کند، محدودیتها و سازوکارهای حفاظتی قویتری را برای جلوگیری از سوءاستفاده پیادهسازی خواهد کرد.
۵۸۵۸
