Relatório feito com chatbot apontou carga nuclear falsa em navio chinês; aviões dos EUA já estavam no ar
Um erro de IA militar quase colocou Estados Unidos e China em rota de colisão. De acordo com a CNN, um relatório de inteligência gerado com ajuda de inteligência artificial apontou que um navio chinês no Oriente Médio transportava componentes de um programa de armas nucleares. A informação era falsa. Contudo, as Forças Armadas dos EUA já preparavam a interceptação da embarcação quando descobriram o engano.
Quatro fontes familiarizadas com o episódio relataram o caso à emissora americana. O relatório circulou entre os militares dos EUA em meio à guerra com o Irã. Assim, os alarmes acenderam de imediato. Militares armados se preparavam para abordar o navio, e aviões já estavam no ar, segundo duas dessas fontes.
Chatbot inventou a carga do navio
Foi apenas momentos antes da operação que as autoridades analisaram o documento com mais cuidado. Então descobriram que um analista do comando de operações especiais havia produzido o relatório com ajuda de um chatbot. A ferramenta identificou de forma incorreta a carga que o navio transportava. A CNN não conseguiu apurar qual era a carga real.
O relatório, segundo uma das fontes, era totalmente falso. No entanto, a mesma fonte afirmou que ele quase provocou uma guerra. Qualquer operação americana contra um navio chinês poderia, afinal, se transformar em um conflito armado entre as duas potências.
O analista consultou o chatbot sobre relatórios de inteligência a respeito do manifesto de carga da embarcação, ou seja, a lista oficial das mercadorias transportadas. O material tinha origem no Comando de Operações Especiais do Pacífico dos EUA, sediado no Havaí. Não ficou claro se a ferramenta era um produto comercial ou um sistema do governo americano.
📱 Acesse ao Canal do Portal Felipe Tommy no WhatsApp
Relatório saiu no formato oficial
O bot fundiu inteligência de fontes abertas com informações secretas mantidas pelo governo. Dessa forma, chegou à conclusão errada sobre o material a bordo. Em seguida, o analista usou a IA de novo para formatar as descobertas em um relatório de inteligência padrão. Esse é o tipo de documento em que as autoridades militares confiam.
Um ex-alto funcionário dos EUA disse à CNN que as ferramentas internas são, em sua maioria, cópias maquiadas das versões comerciais. O Comando de Operações Especiais do Pacífico e o Pentágono não responderam aos pedidos de comentário da emissora.
Leia também
Pentágono acelerou o uso de IA
Em todo o Exército e na comunidade de inteligência americana, autoridades pressionam para integrar a IA em quase todas as áreas. Isso inclui a análise de grandes volumes de inteligência bruta e a seleção de alvos para ataques. Além disso, a tecnologia entra em tarefas de rotina, como orçamento, logística e cadeias de suprimentos.
Em janeiro, o secretário de Defesa Pete Hegseth divulgou a Estratégia de Aceleração de Inteligência Artificial da pasta. O objetivo é acelerar o uso da tecnologia pelas Forças Armadas. Segundo ele, o plano vai liberar a experimentação e eliminar barreiras burocráticas para garantir a liderança americana em IA militar.
Um memorando sobre a estratégia fala em colocar os modelos de IA líderes do mundo nas mãos de três milhões de funcionários civis e militares, em todos os níveis de classificação. Por isso, a justificativa oficial é a velocidade: decidir mais rápido quais alvos atacar ou quais recursos movimentar. Autoridades afirmam que os EUA não podem ficar para trás caso precisem enfrentar a China.
Sem regra única de checagem
O esforço, porém, é descentralizado. Diferentes setores do governo usam ferramentas distintas, sob regras e padrões de segurança variados. Não existe um conjunto único de normas sobre como os EUA verificam as informações geradas por essas ferramentas. Consequentemente, a confiabilidade dos sistemas varia muito de um órgão para outro.
Há semanas, Washington debate os alertas de engenheiros e executivos do Vale do Silício sobre uma IA fora do controle humano. O episódio do navio chinês, entretanto, expõe um risco mais imediato: seres humanos tomando decisões desastrosas com base em informações falsas geradas por máquinas.
Fontes disseram que os militares migram rapidamente para a IA na seleção de alvos. Essa área carrega o risco óbvio de erros fatais. Uma fonte familiarizada com as políticas atuais afirmou que não há orientação real sobre como a supervisão humana evitará vítimas civis ou fogo amigo.
Alucinação não foi caso isolado
A alucinação criada pela ferramenta neste caso não foi um incidente isolado na comunidade de inteligência, segundo uma das fontes. Desde que esses sistemas se espalharam pelo governo, outros erros do tipo já ocorreram. Para oficiais mais experientes, inclusive os que apoiam a IA, a tecnologia pressiona os analistas a produzir e distribuir informações com mais rapidez.
Essa pressa abre margem para erros. Analistas mais jovens, em particular, são nativos dessas ferramentas. Por isso, várias fontes afirmam que eles têm maior probabilidade de confiar nos resultados sem senso crítico. O caso do navio chinês mostra o tamanho do problema: um erro de IA militar quase virou um conflito entre as duas maiores potências do planeta.
