La integración de la inteligencia artificial en servicios tecnológicos continúa generando debate, especialmente cuando se trata de la veracidad de la información. Recientemente, Google ha introducido una nueva función en Google Earth que utiliza el modelo de IA generativa conocido como Nano Banana. Esta herramienta permite a los usuarios crear imágenes satelitales de eventos ficticios con un alto grado de realismo.
Riesgos de Desinformación
El anuncio de Google destaca la capacidad de esta función para recrear vistas satelitales de civilizaciones antiguas o imaginar escenarios futuros. Sin embargo, su potencial para propagar desinformación ha sido señalado por expertos. Henk van Ess, periodista especializado en investigación en línea, advirtió sobre la facilidad con la que se pueden generar imágenes falsas que imitan capturas satelitales auténticas.
Con simples comandos de texto, es posible crear escenas ficticias como refugiados en la frontera con México o un accidente en Ámsterdam. Este fenómeno fue experimentado por el medio de comunicación EL PERIÓDICO, que logró producir imágenes que mostraban una explosión en Melilla y una invasión en Barcelona.
Impacto en la Información Veraz
Las imágenes satelitales han sido tradicionalmente una fuente confiable para la documentación y el análisis de eventos en áreas de difícil acceso. Los expertos en inteligencia de fuentes abiertas han recurrido a servicios como Google Earth para obtener datos precisos en conflictos como los de Irán, Ucrania o Gaza.
Respuesta de Google
Ante las críticas, Google emitió un comunicado reafirmando su compromiso con la lucha contra la desinformación. La empresa asegura que cada imagen creada con Nano Banana cuenta con una marca de agua digital denominada SynthID. Según Google, esta marca permite verificar la autenticidad de las imágenes mediante aplicaciones como Gemini o usando Lens en la Búsqueda.
“Nos tomamos muy en serio la desinformación: cada imagen creada con Nano Banana en Google Earth incluye la marca de agua digital SynthID. Si alguien tiene dudas sobre una imagen, puede consultar la app Gemini o usar Lens en la Búsqueda para comprobar si se generó mediante IA”, declaró Google.
Preocupaciones de Expertos
No obstante, las medidas de Google no parecen ser suficientes para algunos expertos. Mahsa Alimardani, directora asociada de Tecnología en Witness, expresó su preocupación por la capacidad de estas imágenes para engañar rápidamente a un gran número de personas antes de que se realicen las verificaciones necesarias.
“En un conflicto que avanza rápidamente, la imagen falsa llega a millones de personas mucho antes de que se pueda verificar”, señaló Alimardani. “Marcar con una marca de agua las falsificaciones no protege el registro auténtico una vez que se sabe que cualquiera puede crear imágenes satelitales falsas”.
Desafíos y Futuro
El avance de la tecnología de IA plantea desafíos significativos para la veracidad de la información. Aunque las herramientas como Nano Banana ofrecen nuevas posibilidades creativas, también subrayan la necesidad de desarrollar sistemas más robustos para garantizar la autenticidad de los contenidos digitales.
El debate sobre el uso responsable de la inteligencia artificial en la creación de contenido digital continúa siendo un tema central en el ámbito tecnológico y periodístico. La búsqueda de un equilibrio entre innovación y veracidad es crucial para evitar que la desinformación se propague sin control.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!