Ferramentas de detecção estão ficando para trás na corrida contra deepfakes

Deepfakes estão cada vez mais difíceis de serem detectados pelo olho humano, mas ferramentas tecnológicas também estão falhando nessa identificação. Uma análise do PC World observou que muitas plataformas de segurança que ajudam nessa detecção deixam passar vários conteúdos manipulados por inteligência artificial (IA).

• Ferramentas de fraude por deepfake ainda são muito fracas, diz pesquisa
• Atletas olímpicos viram alvo de deepfakes com fotos íntimas e citações falsas

A desconfiança partiu de um vídeo publicado no TikTok, em que uma mulher aparece vendendo um produto próprio. Tudo parece normal até que ela coloca os dedos no meio da cartilagem do nariz de um jeito bastante estranho e nada comum para ações humanas.

O vídeo impressiona pela qualidade da manipulação, passando ileso por ferramentas de detecção mesmo sendo um deepfake. Nem mesmo plataformas públicas bastante usadas por usuários conseguiram entregar estimativas precisas a respeito do conteúdo feito por IA.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

O site deepfakedetector.ai, por exemplo, acessado pelo PC World durante a análise, afirmou que a probabilidade do vídeo ser um deepfake variava entre 5% a 24%. A resposta da ferramenta diz ainda que o material contava com detalhes e expressões faciais nítidas, profundidade de campo, interação natural com objetos e movimentos oculares e frequência de piscadas convincentes.

Por outro lado, o Hive Moderation, recurso que também é usado para detectar vídeos feitos por deepfake, entregou uma resposta mais satisfatória e confiável, identificando o vídeo como um material gerado por inteligência artificial.

Como detectar golpes com deepfakes

Um bom jeito de não cair no conto das deepfakes é sempre desconfiar. Em um mundo onde vídeos e imagens manipuladas por IA se tornam cada vez mais condizentes com a realidade, ter um senso de ceticismo diante de produções de conteúdo na internet é fundamental para evitar cair em um golpe.

No caso do vídeo do nariz citado acima, a pessoa que está por trás do deepfake provavelmente está fazendo aquilo para enganar os usuários, apresentando o produto vendido como algo feito manualmente ao invés de ser fabricado em uma linha de produção para justificar um valor alto, por exemplo.

Também é possível fazer uma captura de tela do produto vendido na internet e aplicar uma busca reversa de imagens no Google Lens, que permite ao usuário a descoberta da origem, do contexto ou fotos similares de uma imagem enviada. Ainda é possível pesquisar palavras-chaves ou frases que descrevem o item, verificando a confiança daquele perfil.

Vale ressaltar que prestar atenção aos detalhes do vídeo é uma ação fundamental para analisar piscadas irregulares, sincronia labial estranha, sombras inconsistentes e outros movimentos faciais que pareçam antinaturais, como o do vídeo do nariz.

Leia a matéria no Canaltech.