O recurso Nano Banana 2, integrado ao Google Earth, gerava imagem de satélite via IA a partir de qualquer local real do mapa, incluindo lugar sensível. O problema não era só inventar paisagem bonita: era inventar fato que nunca aconteceu, em cima de coordenada real.
Três cenas nasceram do prompt de quem usava o recurso e nunca existiram de verdade: um hospital em Gaza aparecendo destruído por bomba, um grupo de refugiados na fronteira EUA-México, e um acidente de carro fatal em Amsterdã.
O Google reagiu rápido, rápido demais pra ter sido bem pensado antes: só 1 dia separou o recurso ser anunciado de ser desligado. "Estamos revertendo esse recurso no Google Earth enquanto trabalhamos em proteções mais robustas", disse a empresa. A defesa inicial não durou nem isso: a empresa garantia marca d'água Gemini e identificador invisível SynthID em toda imagem, mas bastou editar a imagem ou fotografar a tela pra driblar os dois. Foi o pesquisador Henk Van Ess (blog Digital Digging) quem expôs a brecha.