O avanço acelerado da inteligência artificial (IA) levanta preocupações sobre o aprimoramento das imagens deep fake, cada vez mais difíceis de se distinguir. Em resposta, o Google começou a testar uma abordagem inovadora: uma marca d’água digital para sinalizar imagens produzidas por IA.
As empresas de tecnologia usam uma técnica chamada hashing para criar “impressões digitais” de vídeos de abuso conhecidos, para que possam identificá-los e removê-los rapidamente, caso comecem a se espalhar online.
No entanto, com o avanço da tecnologia, a diferenciação entre imagens reais e geradas artificialmente se torna cada vez mais complexa. A marca d’água digital proposta pelo Google é aplicável somente a imagens criadas pela ferramenta de IA Imagen.
“Você pode mudar a cor, pode mudar o contraste, pode até redimensioná-lo… ainda será capaz de identificar que é gerado por IA”, disse Pushmeet Kohli, chefe de pesquisa da DeepMind.
O sistema, chamado SynthID e desenvolvido pela DeepMind, braço de IA do Google, introduz alterações sutis nos pixels das imagens. Esse processo cria marcas d’água praticamente invisíveis ao olho humano, mas detectáveis por computadores. No entanto, a DeepMind destaca que o SynthID não é infalível contra manipulações extremas de imagens.
