Uma recente análise da Reuters apontou que a nova ferramenta de detecção de conteúdo gerado por inteligência artificial da Meta, lançada esta semana juntamente com o modelo de geração de imagens Muse Image, falhou em reconhecer algumas imagens criadas pela própria tecnologia após edições simples, como recortes. Essa limitação pode complicar a identificação de deepfakes, especialmente em um contexto eleitoral crítico nos Estados Unidos.

Desempenho da ferramenta em testes

Na avaliação de 40 imagens geradas com o Muse Image, a Reuters constatou que a ferramenta conseguiu identificar corretamente todas as versões originais. Contudo, ao serem recortadas para aproximadamente um terço ou metade do tamanho original, 55% das imagens deixaram de ser reconhecidas. Essa falha levanta questões sobre a eficácia da tecnologia em cenários de manipulação de imagens.

Funcionamento e limitações da marca d'água invisível

A Meta afirma que sua ferramenta é capaz de identificar imagens geradas por seus modelos de IA mesmo após recortes, utilizando um sistema de marca d'água invisível denominado Content Seal, que é aplicado a todas as imagens produzidas pelo Muse Image. A empresa explicou que a ferramenta ainda está em fase de pré-visualização e, embora a marca d'água tenha sido projetada para resistir a edições comuns, pode perder sua eficácia em recortes mais severos.

Em resposta à análise da Reuters, a Meta destacou que outras empresas, como Google e OpenAI, também reconheceram que suas ferramentas de detecção enfrentam limitações semelhantes na identificação de todas as formas de manipulação de imagens.

Recomendações e perspectivas futuras

Em março, o Conselho de Supervisão da Meta, um órgão independente que assessora a empresa sobre conteúdo em suas plataformas, solicitou um aumento nos esforços para combater a disseminação de conteúdo enganoso gerado por inteligência artificial. O grupo enfatizou a necessidade de investimentos em ferramentas de detecção mais robustas.

Siwei Lyu, professor da Universidade Estadual de Nova York em Buffalo, mencionou que, embora sistemas baseados em marcas d'água possam ser eficazes, eles têm limitações. “Modificações que removem ou enfraquecem a marca d'água podem reduzir a eficácia do sistema”, afirmou Lyu.

Sarah Barrington, pesquisadora de IA e doutoranda da Universidade da Califórnia em Berkeley, também comentou que, apesar das limitações, a tecnologia de marca d'água é promissora. “Mesmo que consiga detectar apenas 90% dos casos, isso já é um avanço significativo em relação à ausência de mecanismos de identificação”, concluiu.