Resumo
- O Google desativou o recurso de geração de imagens com inteligência artificial no Earth, que permitia criar imagens realistas de locais do mundo usando capturas de satélite.
- A ferramenta foi criticada por facilitar a criação de fake news e confundir usuários.
- O Google afirmou que as imagens geradas tinham marca d’água digital SynthID, mas removeu o recurso enquanto desenvolve restrições mais eficazes.
O Google decidiu desativar nesta sexta-feira (31/07) o recurso de geração de imagens com inteligência artificial no Earth. A ferramenta tinha sido lançada um dia antes, na quinta-feira (30/07), mas foi duramente criticada.
Em pouco menos de 24 horas, usuários e especialistas mostraram como era fácil criar imagens realistas de catástrofes e ataques, o que poderia ser usado em campanhas de desinformação.
“Sabemos que as pessoas confiam no Google Earth como uma visualização confiável do mundo. Vimos profissionais da área geoespacial usarem esse recurso para fins úteis, mas também vimos pessoas compartilhando capturas de tela que aparentemente violam nossas políticas”, escreveu o Google em sua conta no X (antigo Twitter).
Como consequência, a empresa resolveu remover a IA do Google Earth enquanto trabalha em restrições mais sólidas para evitar esse tipo de situação. A companhia ainda ressaltou que as imagens não apareciam para outros usuários e recebiam marcas d’água para identificação.
Ferramenta foi criticada por facilitar fake news
A facilidade para gerar imagens realísticas que poderiam ser usadas em notícias falsas e campanhas de desinformação levou a uma avalanche de críticas contra o Google.
De fato, diversos usuários e especialistas notaram que era muito simples usar a ferramenta para fins escusos. A equipe do 404 Media conseguiu, por exemplo, criar imagens falsas de um acampamento de pessoas sem teto em Los Angeles e até mesmo colocar manifestantes diante da sede do Google.
O pesquisador de segurança da informação Henk van Ess chegou a resultados parecidos. “Hoje, eu escrevi uma só frase no Google Earth e coloquei refugiados na fronteira com o México. Depois, coloquei uma usina nuclear no Irã. Depois, um acidente fatal em uma rua de Amsterdã”, escreveu o especialista. “As imagens de satélite do próprio Google serviram de base para as três. O que diabos o Google está fazendo?”
Os exemplos não param. A BBC gerou uma Torre Eiffel desabada, um buraco engolindo a Grande Pirâmide de Gizé e tanques russos na capital da Ucrânia.
Na quinta-feira (30/07), o Google chegou a declarar que levava o problema da desinformação a sério, afirmando que toda imagem gerada tinha a marca d’água digital SynthID, que poderia ser identificada usando o Gemini ou o Lens. Aparentemente, isso não foi o bastante para manter o recurso no ar.
