10 Set (Reuters) - A Anthropic anunciou nesta quinta-feira que impediu vários supostos usos maliciosos de seus modelos de inteligência artificial Claude nos últimos oito meses, incluindo uma campanha de espionagem suspeita de ter ligações com a Rússia e iniciativas de companhias chinesas de IA acusadas pela empresa norte-americana tentarem extrair e replicar os recursos do chatbot.
Criminosos e hackers apoiados por governos vinham utilizando cada vez mais a IA não apenas para auxiliar em tarefas, mas para orquestrar e executar grande parte de seus ataques digitais, afirmou a Anthropic em relatório de inteligência de ameaças. A empresa acrescentou que os seres humanos costumam atuar como supervisores e não como operadores diretos nessas campanhas.
“A maioria das operações [...] foi possibilitada pela IA por meio de execução direta ou orquestração. O uso da IA foi além de simples perguntas e respostas de um chatbot, envolvendo, na verdade, o uso de estruturas multiagentes para executar” tarefas, afirmou a Anthropic.
A Anthropic informou ter frustrado o que descreveu como ataques de sete laboratórios sediados na China durante esse período. Entre os laboratórios citados pela Anthropic estão a gigante da tecnologia Alibaba, Moonshot, DeepSeek e Xiaomi.
Operadores ligados à Alibaba conduziram o que a Anthropic chamou de maior ataque de “destilação ilícita”, supostamente com o objetivo de extrair recursos dos modelos Claude e usá-los para aprimorar os modelos Qwen da empresa de tecnologia chinesa, informou a companhia norte-americana.
A Anthropic afirmou ter observado mais de 151 milhões de trocas que atribuiu à Alibaba entre maio e julho de 2026, com pico de quase 3 milhões por dia provenientes de mais de 3.500 contas que descreveu como fraudulentas.
A destilação se refere ao processo de treinar modelos de IA menores usando os resultados de modelos maiores e mais caros, em uma tentativa de reduzir os custos de treinamento de uma nova ferramenta de IA.
Em vez de executar consultas em massa, a Moonshot, criadora do chatbot Kimi, e a DeepSeek supostamente encaminharam conversas ao vivo com clientes, que às vezes incluíam informações confidenciais, por meio do Claude e usavam suas respostas como dados de treinamento, alegou a Anthropic.
Um grupo de hackers cujas técnicas eram consistentes com as do agente de ameaças russo Midnight Blizzard teria realizado operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos governamentais, de forças armadas e da diplomacia da Ucrânia, utilizando IA em quase todas as etapas, afirmou a Anthropic.
O grupo teria usado IA para construir um sistema que detectava automaticamente quando seu malware era sinalizado pelas defesas de segurança e reescrevia o código até que ele voltasse a escapar da detecção.
(Por Prathik Jayaprakash)
Aviso