Google Deepmind: imagens de inteligência artificial deverão ter marca d’água

O constante avanço das ferramentas de inteligência artificial (IA) está levantando preocupações sobre a crescente sofisticação das imagens “deepfake“, que estão se aproximando cada vez mais da indistinguibilidade em relação às imagens reais.

Em resposta a essa tendência, o Google está atualmente experimentando com uma solução inovadora: a introdução de marcas d’água digitais que visam identificar e assinalar imagens produzidas por IA.

Desenvolvido pela equipe da DeepMind, a divisão de IA do Google, o sistema conhecido como SynthID foi criado para detectar imagens geradas por máquinas. Esse método opera através da introdução de micro alterações nos pixels das imagens, tornando as marcas d’água virtualmente invisíveis para o olho humano, enquanto permanecem detectáveis por sistemas computacionais.

É importante notar, porém, que a própria DeepMind destacou que o sistema não é infalível diante de manipulações extremas de imagens. À medida que a tecnologia evolui, a distinção entre imagens autênticas e aquelas fabricadas artificialmente se torna cada vez mais complexa. Um exemplo disso é o teste “AI ou Real” da BBC Bitesize, que ressalta a crescente dificuldade em discernir entre as duas categorias.

A pesquisa para conter o avanço das deepfakes é crucial, visto que a disseminação dessas imagens poderia ter impactos negativos em áreas como jornalismo, política e sociedade como um todo. O desenvolvimento de técnicas como as marcas d’água digitais pode oferecer um contrapeso importante na luta contra a manipulação de mídia gerada por IA.

*Com informações do G1 e OlharDigital.