Ferramenta da Google irá detectar imagens geradas por IA
19 de setembro de 2023
Por
A Google está testando uma marca d’água para identificar imagens criadas por Inteligência Artificial.
Desenvolvido pela DeepMind, divisão de IA do Google, o SynthID pretende identificar imagens geradas por computador em um esforço para combater a desinformação.
A ferramenta funciona realizando alterações em pixels individuais nas imagens, tornando as marcas d’água invisíveis ao olho humano, mas detectáveis por computadores. O sistema do Google criará uma marca d’água efetivamente invisível, permitindo que as pessoas usem seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina.
Para o chefe de pesquisa da DeepMind, Pushmeet Kohli, o sistema modifica as imagens de forma tão sutil que “para um humano, não muda”. Mesmo se a imagem for cortada ou editada, o software da empresa ainda pode identificar a presença da marca d’água.
“Você pode mudar a cor, o contraste, até redimensioná-la, e a DeepMind ainda conseguirá ver que é gerada por IA”, acrescenta Kohli.
Entretanto, ele alerta que este é um lançamento experimental do sistema, e que a empresa precisa que as pessoas usem para aprender mais sobre suas capacidades.
Os geradores de imagens de IA se popularizaram rapidamente, como é o caso do Midjourney, que já conta com mais de 14,5 milhões de usuários. A ferramenta permite que as pessoas criem imagens em segundos a partir de instruções em texto, o que levanta questões sobre direitos autorais e propriedade em todo o mundo.
O Google possui seu próprio gerador de imagens, chamado Imagen, e seu sistema para criar e verificar marcas d’água deve se aplicar apenas às imagens criadas por ele nesse primeiro momento.
Microsoft e Amazon estão entre as grandes empresas de tecnologia que, assim como o Google, se comprometeram a adicionar marcas d’água em conteúdos gerados por IA. Além das imagens, a Meta publicou um artigo de pesquisa para seu gerador de vídeos ainda não lançado, o Make-A-Video, que afirma que marcas d’água serão adicionadas aos vídeos gerados para atender à demandas semelhantes de transparência sobre produtos gerados por IA.
À medida que a tecnologia evolui, está se tornando cada vez mais complexo distinguir imagens reais das geradas artificialmente, como foi o caso das supostas fotos do set de filmagens de ‘Coringa 2’, estrelado por Joaquin Phoenix, que deve chegar aos cinemas em outubro de 2024. No fim do ano passado, imagens de Lady Gaga vestida como a personagem Arlequina teriam sido vazadas pela equipe de produção do filme. Mas, apesar da cantora estar no elenco do longa-metragem, foi comprovado que as imagens haviam sido geradas e manipuladas por IA.
Outro caso que viralizou nas redes sociais foi a imagem do Papa Francisco vestido de uma maneira fora do comum para o representante do Vaticano, com uma jaqueta puffer branca. Assim como no exemplo anterior, este é mais um excelente trabalho da IA.
Diante do crescente desafio de diferenciar imagens verdadeiras das produzidas artificialmente, a iniciativa de desenvolver o SynthID é mais um passo para combater a disseminação de desinformação.
* Com informações da BBC
Foto: Reprodução/Internet
Fonte/Créditos: AdNews.