O teste de Voight-Kampff da vida real: como dar crachá para uma IA?

No clássico da ficção científica Blade Runner (1982), a humanidade se depara com o problema de segurança peculiar de como distinguir um ser humano real de um “replicante”, um androide tão perfeitamente construído que é fisicamente indistinguível de nós. A solução encontrada pela polícia foi o Teste de Voight-Kampff, um interrogatório focado em medir reações empáticas e pupilares para desmascarar a máquina escondida sob a pele sintética.

• Como a IA transforma e desafia a cibersegurança
• Gerar senhas com IA é seguro? O que fazer e o que nunca fazer

Saindo da distopia cyberpunk pós-futurista e aterrissando na cibersegurança de 2026, estamos prestes a enfrentar o nosso próprio dilema de Blade Runner. A provocação que tira o sono de arquitetos de segurança hoje é, justamente, como autenticar, autorizar e auditar um “usuário” que pensa e toma decisões como um humano, mas opera na velocidade e na escala de uma máquina. Em outras palavras, é preciso entender como dar crachá para um Agente Autônomo de Inteligência Artificial.

Para entender o tamanho do problema, precisamos olhar primeiro para como a segurança cibernética lidou com identidades até ontem. De maneira geral, a disciplina de Gestão de Identidade e Acesso (IAM, na sigla em inglês) sempre dividiu o mundo em duas caixas muito bem definidas.

–
Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.
–

Na primeira caixa, temos os humanos. Humanos são lentos, precisam dormir, esquecem senhas e caem em golpes de phishing, e para eles, criamos crachás com foto, senhas complexas, biometria e autenticação em múltiplas etapas (MFA). Já na segunda caixa, temos os softwares e scripts, máquinas são incrivelmente rápidas, mas, historicamente, eram limitadas a não conseguir aprender, sendo imutáveis sem intervenção direta de humanos. Um script faz exatamente aquilo para o qual foi programado, nem um bit a mais, nem um a menos. Para eles, criamos tokens e chaves de API estáticas, se o script tem a chave, a porta se abre.

Como a IA generativa e os Agentes Autônomos implodiram essas duas caixas?

Um Agente de IA não é apenas um script que repete tarefas, mas um software ao qual você delega um objetivo de alto nível. Você não diz “execute a rotina A, depois a B”. Você diz: “analise meus e-mails, identifique as faturas pendentes, acesse o sistema financeiro e pague as que vencem hoje”, e o agente irá interpretar o contexto, criar seu próprio plano de ação, lidar com imprevistos e executar a tarefa da melhor forma possível dentro de suas capacidades e privilégios administrativos.

Ele é um híbrido assustador, pois possui a criatividade, a imprevisibilidade e a capacidade de adaptação de um ser humano, mas age com a velocidade de processamento de um de um processo de software. E é aqui que o modelo tradicional de segurança entra em colapso.

Se você der a esse Agente de IA as suas credenciais humanas ou um token de API com amplos privilégios, o que acontece se ele “alucinar”, ou ainda pior pior, o que acontece se ele for vítima de um prompt injection? Dependendo da tarefa solicitada, um e-mail malicioso não precisa mais ter arquivos infectados, detectáveis por antivírus e firewalls, para explorar vulnerabilidades.

Basta que ele traga instruções ocultas que “hipnotizam” a IA, ordenando que ela transfira dinheiro para a conta de um hacker em vez de pagar a fatura legítima, por exemplo. Para o sistema financeiro da sua empresa, o acesso parecerá perfeitamente legítimo. Uma vez que a chave de acesso estava correta e a fechadura foi aberta por dentro, o sistema não tem como saber que a “mente” operando aquela chave foi sequestrada.

O novo crachá: Confiança Zero e autorização comportamental

A resposta para a provocação de “como dar crachá para uma IA” passa, indiscutivelmente, por aceitar que as ferramentas legadas de IAM já não servem mais. Não podemos tratar Agentes de IA nem como humanos, nem como scripts burros, o que nos força a pensar um novo paradigma de identidade. Em centros como o CISSA (Centro de Competência Embrapii em Segurança Cibernética operado pelo CESAR), essa é uma das linhas de pesquisa mais quentes. 

A solução não está em criar senhas mais fortes para as IAs, mas em migrar para um modelo de autorização dinâmica e comportamental. O “crachá” da IA do futuro não será uma chave estática, mas um contrato de permissões efêmeras, baseadas em contexto. O sistema de segurança precisará avaliar em tempo real se o que esse Agente está tentando fazer faz sentido para o objetivo que lhe foi delegado, ou se o volume de dados que ele está tentando acessar é normal. 

Se o Agente financeiro tentar ler o banco de dados do RH, o acesso deve ser bloqueado instantaneamente, mesmo que a credencial seja válida. É a aplicação extrema do conceito de Zero Trust (Confiança Zero), onde a identidade da máquina é reavaliada a cada microssegundo, baseada no seu comportamento.

A pressão do mercado por eficiência e redução de custos está empurrando as empresas a adotarem Agentes de IA em massa, e a promessa de ter “estagiários incansáveis” resolvendo problemas complexos 24 horas por dia é irresistível. No entanto, a pressa em adotar a inovação não pode atropelar a governança.

A moral da história é que a inteligência sem controle é apenas um desastre esperando para acontecer em alta velocidade. Os replicantes já estão entre nós, integrados aos nossos fluxos de trabalho, lendo nossos dados e tomando decisões em nosso nome. O nosso trabalho, como engenheiros e arquitetos de segurança, é garantir que o nosso Teste de Voight-Kampff digital esteja pronto antes que eles decidam que sabem administrar o negócio melhor do que nós.

Confira também como hackers tomam o controle de programas em execução e entenda os riscos para a segurança cibernética na era quântica.

Leia a matéria no Canaltech.