Entre os profissionais de cibersegurança, o bom humor anda em falta. Segundo Alex Kantrowitz, na newsletter Big Technology, quem trabalha na área está exausto e desanimado, a ponto de ter batizado o último mês de "Black October". O motivo: vulnerabilidades detectadas por IA surgiram em um ritmo sem precedentes, mais rápido do que muitos conseguiam corrigir.
Para o autor, é o que acontece quando uma tecnologia muito mais poderosa que as anteriores é solta em uma sociedade cujas defesas foram construídas para outra era. Proteções que pareciam sólidas agora parecem vulneráveis, e, para muita gente do setor, uma grande catástrofe impulsionada por IA virou questão de quando, não de se.
O texto faz uma distinção importante. O ataque ao Hugging Face atribuído à OpenAI chamou a atenção do mundo porque lembrava a ficção científica de uma IA que se rebela e comete crimes. Kantrowitz, porém, considera mais provável outro roteiro: pessoas usando IA para provocar o caos, seja com um ataque hacker catastrófico, com a criação de um novo patógeno ou com uma guerra iniciada a partir de um sinal manipulado por IA.
A cibersegurança é, na avaliação do autor, a frente mais preocupante, já que ferramentas de programação com IA chegaram às mãos de criminosos. Os exemplos citados são concretos. Um jovem de 26 anos teria invadido vários bancos na Coreia do Sul com uma ferramenta open source desenvolvida na China e o Claude Code. Outro grupo usou modelos da Anthropic, da SpaceX e da Moonshot AI contra mais de 400 alvos financeiros na América Latina, obtendo senhas, chaves de API e backdoors. Um terceiro recorreu à tecnologia da Anthropic para mirar instituições governamentais e fabricantes de produtos químicos antes de ser pego.
Nenhum desses ataques derrubou uma instituição fundamental. Mas, com as capacidades de programação avançando em ritmo acelerado e se espalhando via open source, Kantrowitz não acha prudente apostar que isso nunca vá acontecer.
O risco militar aparece no texto com um episódio inquietante. Um relatório do mês anterior, pouco notado segundo o autor, relata que tropas americanas armadas quase abordaram um navio chinês, com aviões militares no ar. A operação foi cancelada no último segundo, quando os militares perceberam que estavam agindo com base em uma resposta incorreta de um chatbot. Além do descuido, Kantrowitz alerta que agentes mal-intencionados poderiam simular ataques ou acionar defesas capazes de levar países a trocar tiros.
No campo biológico, o autor reconhece que fabricar uma arma com ajuda de IA é difícil, porque exige laboratório e algum conhecimento técnico. Ainda assim, cita um relatório recente da Anthropic segundo o qual um cientista usou o Claude para planejar pesquisas que poderiam inserir mutações no vírus da gripe aviária e torná-lo mais transmissível.
O paradoxo, para Kantrowitz, é que boa parte do que se sabe sobre esses riscos vem dos próprios laboratórios de IA, elogiados pela transparência. Mesmo assim, as promessas de controlar o ritmo da fronteira tecnológica ficaram, em grande parte, no papel: houve alguns adiamentos curtos, mas todos seguem correndo, sem disposição aparente para coordenar uma estratégia coletiva mais segura. O subtítulo do texto resume a crítica: "O desastre vai acontecer primeiro, depois a ação para preveni-lo." Na visão do autor, o mundo talvez precise viver uma catástrofe para acordar, e ver o perigo chegando só para assisti-lo acontecer é algo que provavelmente será lembrado com perplexidade.