En un movimiento que ha sorprendido a la industria tecnológica, Google ha decidido retirar, en apenas un día, su innovador generador de imágenes por inteligencia artificial integrado en Google Earth. Esta herramienta, que prometía transformar la manera en que interactuamos con las imágenes satelitales, permitiendo ediciones a partir de simples instrucciones de texto, fue lanzada el jueves y desactivada este viernes. El motivo: la alarmante facilidad con la que se podían generar deepfakes en localizaciones reales y sensibles, como la frontera de México o la Franja de Gaza.

Este episodio no es un incidente aislado; más bien, subraya las complejidades y los riesgos inherentes a la carrera actual por desplegar la IA generativa en productos de consumo masivo, a menudo sin haber consolidado por completo los mecanismos de seguridad y control.

Claves del incidente

  • Retirada exprés: La función estuvo operativa menos de 24 horas. Google la lanzó un jueves y la desactivó al día siguiente, tras identificar su potencial para crear escenas sensibles sin un filtrado eficaz.
  • Deepfakes en zonas de conflicto: El investigador Henk van Ess demostró cómo, con instrucciones sencillas, la IA podía añadir elementos como refugiados en la frontera mexicana o un cráter de bomba junto a un hospital en Gaza, exponiendo la vulnerabilidad del sistema ante contenidos delicados.
  • Escalada del riesgo regulatorio: Este tipo de fallos en plataformas de gran alcance puede acelerar el escrutinio de organismos como la Unión Europea, que ya está implementando la AI Act.

La función, que utilizaba el modelo Nano Banana 2, permitía a los usuarios alterar fotografías aéreas de Google Earth mediante comandos de texto. La compañía había mostrado ejemplos inofensivos, como una Pompeya reimaginada. Sin embargo, las pruebas de van Ess, difundidas en redes sociales, revelaron una carencia crítica de barreras contextuales. El sistema no lograba bloquear solicitudes que combinaban ubicaciones geopolíticamente delicadas con conceptos cargados de violencia o desinformación.

Inicialmente, Google afirmó que todas las imágenes generadas incluían una marca de agua digital y que prevenían la “creación de imágenes sobre temas dañinos”. Sin embargo, la realidad demostró que un prompt lo suficientemente creativo podía sortear estos filtros. Apenas un día después, la empresa emitió un nuevo comunicado, reconociendo la necesidad de reforzar las salvaguardas y anunciando la suspensión temporal de la herramienta. Este tipo de marcha atrás, en un momento donde la credibilidad de la IA es crucial, puede erosionar la confianza de usuarios y reguladores de manera más significativa que un mal resultado financiero.

Este incidente se suma a otros desafíos que Google ha enfrentado en el ámbito de la IA generativa, como las controversias iniciales con su chatbot Gemini. La compañía de Mountain View se encuentra en una intensa competencia con Microsoft y OpenAI, donde cualquier error en la gestión de contenidos puede resultar en la pérdida de clientes empresariales, particularmente en Europa, donde el cumplimiento normativo es cada vez más estricto.

Más allá de la anécdota técnica, el problema fundamental reside en la velocidad de despliegue. Las grandes tecnológicas están integrando la IA en productos con millones de usuarios sin que los sistemas de moderación hayan alcanzado la madurez necesaria. Google Earth, con su capa de información geográfica precisa, se convierte en un lienzo peligroso cuando la IA puede reescribir la realidad con una simple instrucción.

La herramienta fue desactivada no porque generase imágenes violentas de forma automática, sino porque demostró que un prompt ingenioso podía sortear cualquier filtro. La confianza en los productos de Google se juega en ese detalle.

El impacto en la regulación y la confianza empresarial

La retirada de esta función llega en un momento delicado para el marco regulatorio europeo. La AI Act, que clasifica las aplicaciones de IA según su nivel de riesgo, está en pleno proceso de implementación. Una herramienta capaz de generar deepfakes geolocalizados podría ser considerada de alto riesgo, lo que obligaría a Google a someterse a exhaustivas evaluaciones de conformidad. Bruselas ha demostrado con el DMA y el DSA su firmeza al sancionar a las grandes tecnológicas, y este incidente podría proporcionarles argumentos adicionales.

Además, la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con sede en A Coruña, está llamada a ser un actor clave en la supervisión de la AI Act. Incidentes como este refuerzan la necesidad de organismos nacionales que vigilen el despliegue de la IA en productos de consumo masivo. Para Google, que ha invertido significativamente en infraestructura cloud en España, la percepción de riesgo regulatorio podría frenar la adopción de sus servicios entre las grandes empresas españolas, un segmento estratégico para sus soluciones de IA empresarial.

Repercusiones en la carrera de la IA

Este episodio va más allá de Google. Muchas empresas están explorando la adopción de IA generativa, y la confianza en el proveedor es un factor determinante. Un fallo de esta magnitud en una herramienta tan visible como Google Earth plantea interrogantes sobre los controles internos de la compañía, justo cuando compite con Microsoft por contratos importantes como Copilot y Azure en España. Microsoft, hasta el momento, no ha experimentado un escándalo similar en la integración de IA en sus productos geoespaciales, lo que podría influir en las decisiones de entornos corporativos más conservadores.

La pregunta que queda en el aire es si Google podrá reintroducir esta funcionalidad con las garantías necesarias y, sobre todo, si este traspié afectará el calendario de otros lanzamientos de IA previstos. En un mercado donde la velocidad es primordial, el mayor riesgo no es técnico, sino reputacional. Recuperar la confianza es un proceso que, sin duda, lleva mucho más que veinticuatro horas.