Você certamente já deve ter se deparado com algum vídeo ou imagem dos chamados deepfakes — quando alguém, usando ferramentas de inteligência artificial, consegue usar o rosto de outra pessoa tão perfeitamente que fica quase impossível distinguir o falso do real. Mas uma nova plataforma, também baseada em IA, pode ajudar a desmascarar a técnica, e isso por meio da luz refletida nos olhos do usuário.
A técnica foi criada por pesquisadores da Universidade de Buffalo, nos EUA, e é relativamente simples quando comparada a outros métodos de detecção. Eles descobriram que, em fotos reais de pessoas, os reflexos nas córneas tendem a ser idênticos quando são expostos à luz. Só que, em fotografias falsas, os mesmos reflexos apresentam padrões muito diferentes porque, ao contrário dos olhos humanos, o reflexo sintético gerado pelos deepfakes não costumam ter o mesmo efeito espelhado. No lugar, aparecem inconsistências, como formas geométricas.
O sistema de inteligência artificial busca essas diferenças ao mapear o rosto e analisar a luz refletida em cada globo ocular. Feito isso, o mecanismo gera uma pontuação que funciona como uma métrica de similaridade; quanto menor for essa pontuação, maior a probabilidade de o rosto analisado ser um deepfake.
Os testes foram feitos usando imagens retiradas do site This Person Does Not Exist, um repositório que gera fotos aleatórias de pessoas que simplesmente não existem. De acordo com um artigo relatado pelo , a tecnologia apresentou uma eficácia de 94% na hora de apontar rostos falsos.
No entanto, há algumas limitações: a principal delas é que, nos testes atuais, a fórmula só deu certo em imagens no estilo retrato, quando o fundo da foto fica desfocado. Os pesquisadores afirmam que, nesse cenário, são menores as chances de reflexos visíveis serem encontrados nos olhos das pessoas. As inconsistências nesses padrões podem ser corrigidas com pós-processamento manual, desde que ambos os olhos estejam visíveis na imagem e que eles estejam olhando diretamente para a câmera.
O trabalho da equipe de pesquisadores será aprimorar esse sistema para detectar de forma eficaz os programas mais sofisticados de deepfakes.
[, ]
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
