Já tem algum tempo que estamos presenciando uma guerra interminável entre aqueles que se esforçam para criar vídeos perfeitos de deepfake e aqueles que criam ferramentas para detectar essa fraude. E esse segundo grupo que tenta desmascarar as falcatruas encontrou uma maneira muito inteligente de expor vídeos que foram modificados digitalmente em busca de sinais literais de vida: usando os da pessoa.
Se você já teve um médico anexando um oxímetro de pulso à ponta do seu dedo, então você já experimentou uma técnica conhecida como fotopletismografia. O método é capaz de detectar mudanças sutis de cor na sua pele baseadas em como o sangue é bombeado através do corpo – geralmente acontece por medição no pulso ou pelo dedo. É a mesma técnica que o Apple Watch e dispositivos vestíveis de rastreamento de condicionamento físico usam para medir frequência cardíaca, mas não se limita apenas às pontas dos dedos e pulsos.
Embora não seja visível a olho nu, a cor do seu rosto exibe o mesmo fenômeno, mudando sutilmente de cor à medida que seu coração bombeia sangue continuamente através das artérias e veias sob a pele. Trata-se de uma técnica tão simples que até mesmo uma webcam básica pode ser usada para detectar o efeito e medir seu pulso, mas agora está sendo aproveitada para descobrir notícias falsas. Ou melhor: as tão comentadas deepfakes.
Foi a partir da fotopletismografia que pesquisadores da Universidade de Binghamton, em Nova York, trabalharam com a Intel para desenvolver uma ferramenta chamada FakeCatcher, e suas descobertas foram publicadas recentemente em um artigo intitulado .
Normalmente, as deepfakes são criadas combinando trechos individuais de um vídeo a um banco de dados com milhares de imagens de uma pessoa em particular. Com isso, é possível ajustar e trocar o rosto original do vídeo quase que perfeitamente.
O que acontece é que, mesmo efetuando a troca de rosto, as imagens originais ainda contêm os sinais biológicos específicos de uma pessoa com pulso – algo que ferramentas de aprendizado de máquina usadas para criar deepfakes não levam em consideração. Logo, quando o vídeo final é reproduzido, o rosto em movimento ainda deve exibir um pulso mensurável. A maneira aleatória como um vídeo deepfake é criado resulta em uma medição de pulso instável quando técnicas de detecção de fotopletismografia são aplicadas a ele, tornando-os mais fáceis de apontar quando são falsos.
Em seus testes, os pesquisadores descobriram que o FakeCatcher não só foi capaz de detectar vídeos deepfake com um acerto de 90%, como também determinar com precisão qual das quatro ferramentas deepfake diferentes – Face2Face, NeuralTex, DeepFakes ou FaceSwap – foi usada para criar o vídeo enganoso.
Agora que a pesquisa e a existência da ferramenta FakeCatcher foram reveladas, isso dará tempo para aqueles que desenvolvem programas de criação de deepfake a oportunidade de melhorar o próprio software. Resta saber se esses usuários serão capazes de aprimorar suas plataformas para enganar técnicas de fotopletismografia. Que seja eficiente enquanto dure.