Pesquisadores do Itaú criam método para combater golpes com deepfakes

Uma parceria entre pesquisadores do Instituto de Ciência e Tecnologia do Itaú (ICTi) e do Massachusetts Institute of Technology Computer Science and AI Lab (MIT CSAIL) resultou na criação de um método capaz de combater golpes que usam deepfakes para burlar sistemas de reconhecimento facial.

• CTO do Itaú diz que IA já impacta experiência de clientes
• Itaú lança ‘modo protegido’ para proteger a conta fora de casa

Para aumentar a precisão contra diferentes formas de falsificação, a tecnologia combina vários modelos de detecção que atuam simultaneamente. As soluções desenvolvidas estão reunidas em um artigo publicado no periódico científico Computers, voltado a sistemas de computação.

De acordo com Carlos Eduardo Mazzei, diretor de Tecnologia do Itaú Unibanco, a solução tem como foco a segurança dos clientes — um pilar central do banco — e visa acompanhar avanços como os possibilitados pela IA generativa.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

“Temos investido de forma consistente no pilar de IA responsável, além de ciência aplicada e inovação, por meio do ICTi, em parceria com os mais avançados laboratórios de pesquisa do mundo. Este estudo é um exemplo concreto de como temos antecipado riscos emergentes, como os deepfakes, para fortalecer ainda mais nossas camadas de proteção”, pontua Mazzei

IA e os desafios aos sistemas bancários

A popularização dos recursos oferecidos pela IA faz com que criminosos também evoluam suas estratégias para burlar sistemas computacionais, como os bancários. Nesse contexto, fotos e vídeos gerados artificialmente podem ser usados para fraudar a abertura de contas e outros tipos de operações bancárias.

Os deepfakes, por exemplo, podem enganar sistemas de biometria facial, abrindo caminho para que golpistas se passem por clientes reais. Diante disso, os pesquisadores acreditam que o novo modelo representa um avanço importante no aprimoramento dos mecanismos de defesa.

“O modelo previsto em nosso estudo atinge alta acurácia e pode ser integrado a sistemas de segurança de forma escalável, sem comprometer a experiência do cliente. Trata-se de um avanço relevante não apenas para o setor bancário, mas para qualquer sistema que utiliza reconhecimento facial como camada de segurança”, ressalta Amar Gupta, pesquisador responsável por liderar o projeto no MIT CSAIL

Como funciona a nova tecnologia

A solução apresentada pelo ICTi e pelo MIT CSAIL combina quatro detectores capazes de identificar vários tipos de deepfake, inclusive aqueles gerados por sistemas que usam IA para aprimorar a criação das imagens ao reduzir imperfeições ao longo do processo.

No final, o modelo atua como um comitê de especialistas, onde cada detector identifica um tipo de falsificação, e os resultados são cruzados para gerar a decisão final. Essa estratégia aumenta as camadas de verificação contra golpes.

O estudo divulgado pelas instituições apontou que o sistema teve bom desempenho nos testes, especialmente na detecção de ataques que usam técnicas ainda não vistas — demonstrando capacidade de adaptação contínua contra novas ameaças.

“Ao investir em ciência e tecnologia de ponta, reforçamos nosso compromisso em estar à frente na criação de novos paradigmas para o setor financeiro, ao mesmo tempo em que buscamos gerar transformações positivas para a sociedade como um todo”, destaca Mazzei.

Leia mais: 

• Como usar o Cofrinho no app do Itaú
  
• App de banco mais seguro: 5 ajustes para deixar sua conta protegida
  
• É seguro abrir o app do banco no ônibus ou metrô? Veja os riscos
  

VÍDEO: Pagar com PIX pelo NFC do Celular é Seguro? Como Funciona?

Leia a matéria no Canaltech.