Mythos conseguiu invadir “quase todos” os sistemas da NSA, diz diretor da agência

O Mythos 5, novo algoritmo de IA da empresa norte-americana Anthropic, foi tirado do ar na semana passada após uma ordem da Casa Branca determinando que ele não poderia ser usado por estrangeiros – a justificativa foi de que o bot, supostamente capaz de encontrar grande quantidade de brechas de segurança em outros softwares, representaria uma ameaça à segurança nacional dos EUA.    

Agora, uma informação publicada pela revista inglesa The Economist adiciona dramaticidade ao caso. Segundo o general Joshua Rudd, que desde março dirige a National Security Agency (NSA), a superagência de espionagem dos EUA, o Mythos teria “invadido quase todos os nossos sistemas confidenciais, não em semanas, mas em horas”. A informação foi relatada à Economist por Mark Warner, vice-presidente do Comitê de Inteligência do Senado dos EUA.  

Isso não significa, claro, que o Mythos tenha feito ataques por “iniciativa” própria. O texto da Economist não traz mais detalhes, mas é provável que a NSA tenha usado o bot num exercício de segurança do tipo red team – em que profissionais de uma organização (como uma empresa ou, no caso, da agência) usam ferramentas para tentar atacar os próprios sistemas, com o objetivo de identificar vulnerabilidades neles. 

O Mythos ganhou notoriedade após encontrar 271 falhas de segurança no navegador Firefox durante um teste controlado, realizado com a permissão da Fundação Mozilla. Alegando questões de segurança, a Anthropic optou por não liberar esse algoritmo ao público – ele só podia ser utilizado por pesquisadores e instituições aprovadas pela empresa.

Porém, no dia 9 de junho, ela lançou publicamente o Fable: uma versão controlada do Mythos, supostamente cercada por guardrails (programações de segurança para que o bot não execute determinadas ordens). Não durou muito: no dia 12, ela já recebeu a ordem da Casa Branca, e acabou tirando o algoritmo de seu site. Engenheiros da Amazon teriam descoberto um modo de burlar os guardrails, e alertado as autoridades norte-americanas.  

A Anthropic é conhecida por dizer que suas IAs são perigosas, para depois liberá-las ao público mesmo assim (ela fez isso com o GPT-2 e o GPT-3, mas depois lançou o ChatGPT, em novembro de 2022, rodando um algoritmo mais poderoso, o GPT-3.5). Mas o Mythos e o Fable realmente parecem mais poderosos -e potencialmente danosos- que seus antecessores. 

Leia também: Por dentro da NSA, a superagência que grampeou a internet