La ambición de integrar inteligencia artificial en herramientas cotidianas se topó de frente con la cruda realidad de la desinformación. Google se vio obligado a retirar su función de generación de imágenes con IA, denominada “Nano Banana 2”, en Google Earth, apenas unas horas después de su lanzamiento. La decisión se tomó ante la rápida difusión de capturas de pantalla que mostraban escenarios falsos, generados a partir de indicaciones de texto, y que infringían las políticas de la compañía.

El Riesgo de la Verdad Manipulada

La premisa de Nano Banana 2 era permitir a los usuarios crear y compartir escenarios ficticios superpuestos sobre mapas reales de Google Earth. Sin embargo, esta capacidad pronto se convirtió en una amenaza potencial para la veracidad de la información visual. Enrique Cortés Rello, director del hub de IA del Tecnológico de Monterrey, advirtió a Expansión sobre la creciente dificultad para discernir la autenticidad de las imágenes en línea. "El verdadero problema es que esa fuente 100% confiable ahora puede ser manipulada externamente", señaló, subrayando cómo la IA puede erosionar la confianza en plataformas que antes se consideraban infalibles.

La herramienta, diseñada para transformar y editar imágenes de forma rápida mediante texto, presentaba un riesgo inherente. Este incidente pone de manifiesto la urgencia de una regulación enfocada en los usos de la IA, más allá de la tecnología en sí. Un precedente preocupante fue la demanda contra Grok, el chatbot de xAI, a principios de 2026, por generar imágenes sexualizadas de personas reales sin consentimiento.

Creando Realidades Alternas

Google reconoció a BBC Verify que la herramienta podría ser explotada por actores malintencionados para difundir desinformación, aprovechando la apariencia de legitimidad que confiere la marca Google. Henk van Ess, experto en IA y desinformación de Digital Digging, alertó sobre la capacidad de Nano Banana 2 para fabricar imágenes falsas, como una central nuclear inexistente en Irán, un campo de refugiados en la frontera entre Estados Unidos y México, o un hospital en Gaza con un cráter de bomba simulado.

Cortés Rello comparó la IA con un martillo: una herramienta con potencial tanto para el bien como para el mal. "¿Hoy se acusaría a la empresa que fabricó el martillo de asesinato? No", enfatizó, argumentando que la responsabilidad recae en el usuario. No obstante, Van Ess apuntó a un factor clave: la credibilidad heredada. Las falsificaciones no necesitan ser perfectas por sí solas; se benefician de la confianza inherente que los usuarios depositan en plataformas como Google Earth.

La Confianza en la Mira

Google, consciente de la confianza que profesionales y público general depositan en Google Earth para obtener información visual fiable, admitió que la función fue utilizada de manera indebida por algunos usuarios. La compañía aseguró que las imágenes generadas por IA incluían marcas de agua, tanto visibles como invisibles, para facilitar la detección de manipulación. Además, indicaron que estas imágenes no aparecían en la experiencia principal de Google Earth, sino que requerían una acción específica para ser visualizadas y llevaban una etiqueta clara de haber sido generadas por IA.

La empresa también mencionó que los usuarios podían verificar la autenticidad de las imágenes utilizando herramientas como Gemini o Lens. Sin embargo, la rápida retirada de Nano Banana 2 sugiere que estas medidas de seguridad no fueron suficientes para mitigar el riesgo percibido de desinformación y abuso. El incidente subraya la compleja relación entre la innovación tecnológica y la necesidad de salvaguardar la integridad de la información en la era digital.

El Futuro de la IA Visual

Este episodio con Nano Banana 2 es un claro indicativo de los desafíos regulatorios y éticos que enfrenta el desarrollo de la inteligencia artificial generativa. La capacidad de crear imágenes hiperrealistas a partir de simples descripciones de texto abre un abanico de posibilidades creativas, pero también de manipulaciones peligrosas. La comunidad tecnológica y los gobiernos de todo el mundo se enfrentan a la tarea de establecer marcos normativos que permitan aprovechar los beneficios de la IA sin sacrificar la veracidad y la seguridad de la información.

La retirada de la herramienta por parte de Google, aunque rápida, demuestra una respuesta proactiva ante un riesgo inminente. Sin embargo, la cuestión de fondo persiste: ¿cómo equilibrar la innovación con la responsabilidad en un ecosistema digital cada vez más saturado de contenido generado por máquinas? La industria deberá encontrar soluciones más robustas y transparentes para asegurar que las herramientas de IA sirvan para informar y enriquecer, en lugar de desinformar y engañar.

El debate sobre la regulación de la IA apenas comienza, y casos como el de Nano Banana 2 servirán como advertencias y puntos de partida para futuras discusiones. La confianza en las plataformas digitales está en juego, y la capacidad de las empresas tecnológicas para gestionar estos riesgos será crucial para mantener la credibilidad ante sus usuarios.