Por AJ Vicens e Eduardo Baptista
10 Set (Reuters) - A Anthropic frustrou tentativas de uso de seus modelos de inteligência artificial Claude para desenvolvimento de armas biológicas e interrompeu ações ligadas a uma campanha de espionagem eletrônica supostamente vinculada à Rússia contra a Ucrânia, afirmou a gigante da IA em um relatório publicado na quinta-feira.
A empresa também acusou concorrentes chineses de tentativas de invasão com o objetivo de extrair os recursos do Claude. Os dados foram apresentados no relatório de Inteligência de Ameaças, que documentou o uso malicioso de sua tecnologia nos últimos oito meses.
Um número crescente de tentativas ilegais de invasão por parte de agentes de IA, somado às preocupações com os riscos da tecnologia expressas por especialistas do setor, aumentou a pressão sobre os principais pioneiros da área, elevando a perspectiva de mais regulamentação.
Dois pesquisadores da Anthropic alertaram nesta semana que o rápido avanço da inteligência artificial poderá levar à extinção da raça humana em um futuro não muito distante.
MÍSSEIS, DRONES E ARMAS BIOLÓGICAS
No relatório, a Anthropic afirmou que há muito tempo existe a preocupação de que os modelos de IA possam, um dia, atingir um nível de capacidade que lhes permita tornar os patógenos existentes mais perigosos ou criar outros totalmente novos.
A empresa documentou cinco exemplos de cientistas utilizando seus modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
Em um caso, um pesquisador de uma região não atendida pela Anthropic utilizou uma infraestrutura de servidor virtual privado para acessar o Claude e, durante semanas, usou-o para planejar experimentos de adaptação da gripe aviária em mamíferos. As regiões não atendidas pela Anthropic incluem países como Rússia, China e Coreia do Norte, entre outros.
Após detectar o uso indevido, a empresa baniu as contas envolvidas nessas pesquisas e incorporou suas descobertas aos processos de proteção, fiscalização e inteligência de ameaças de seus modelos de ponta, afirmou a companhia norte-americana.
A Anthropic não identificou as instituições, os países onde estão sediadas nem os agentes biológicos e técnicas de pesquisa específicos envolvidos.
A companhia também identificou o que chamou de “novas categorias de agentes de ameaça”. Isso inclui o uso da plataforma para “desenvolver software para armas convencionais, incluindo armas de fogo, mísseis, drones armados, bombas e outras munições, bem como os sistemas de mira e controle que as operam”.
O relatório detalha incidentes envolvendo operadores na China, Rússia e Iêmen que usaram o Claude para desenvolver software para o projeto e desenvolvimento de armas, ou para apoiar a coleta de inteligência e aquisições relacionadas a programas de armamento.
As rápidas melhorias nos modelos da Anthropic geraram novos riscos, disse Jacob Klein, chefe de inteligência de ameaças da empresa, à Reuters.
“Há um ano, digamos que você quisesse otimizar um drone ou o software de um míssil; os modelos simplesmente não seriam tão bons nessa tarefa quanto são agora”, disse ele.
HACKERS RUSSOS
A Anthropic descobriu que criminosos e hackers apoiados por governos estão cada vez mais usando IA para orquestrar e executar grande parte de seus ataques, com os humanos frequentemente atuando como supervisores, em vez de operadores diretos.
“O uso da IA foi além de simples perguntas e respostas de um chatbot, envolvendo, na verdade, o uso de estruturas multiagentes”, afirmou a empresa.
Um grupo de hackers teria realizado operações de phishing, sequestro de redes Wi-Fi de hotéis e invasão de contas do WhatsApp contra alvos nos setores governamental, militar e diplomático da Ucrânia, utilizando IA em quase todas as etapas, informou a Anthropic.
A técnica do grupo era consistente com a do agente de ameaças Midnight Blizzard, sediado na Rússia, que o governo dos EUA já havia associado ao serviço de inteligência estrangeira russo SVR.
A embaixada da Rússia em Washington não comentou o assunto.
O grupo teria usado IA para criar um sistema que detecta automaticamente quando seu malware é descoberto pelas defesas de segurança e reescreve suas programação até que ele escape da detecção.
A Anthropic afirmou também ter detectado e interrompido atividades ligadas a afiliados do coletivo ShinyHunters, atualmente uma das organizações de cibercrime mais prolíficas, associada a ataques contra grandes corporações em todo o mundo.
LABORATÓRIOS CHINESES
A Anthropic afirmou ter interrompido ataques de sete laboratórios sediados na China, incluindo Alibaba, Moonshot, DeepSeek e Xiaomi, durante o período coberto pelo relatório.
Essas empresas não responderam imediatamente a um pedido de comentário.
Operadores ligados ao Alibaba conduziram o que a Anthropic chamou de maior ataque de “destilação ilícita”, supostamente com o objetivo de extrair as capacidades dos modelos Claude e usá-las para aprimorar os modelos Qwen da empresa de tecnologia chinesa.
A Anthropic afirmou ter observado mais de 151 milhões de trocas que atribuiu ao Alibaba entre maio e julho de 2026, com pico de quase 3 milhões por dia provenientes de mais de 3.500 contas que descreveu como fraudulentas.
A destilação refere-se ao processo de treinamento de modelos de IA menores utilizando os resultados de modelos maiores e mais caros, em uma tentativa de reduzir os custos de treinamento de uma nova ferramenta de IA.
Em outro caso de uso indevido de sua tecnologia, a Anthropic afirmou que a Moonshot, criadora do chatbot Kimi, e a DeepSeek supostamente redirecionaram conversas ao vivo com clientes — que às vezes incluíam informações confidenciais — por meio do Claude e utilizaram suas respostas como dados de treinamento.
O Ministério das Relações Exteriores da China afirmou não ter conhecimento do relatório da Anthropic e que o governo sustenta que a IA deve ser desenvolvida para o bem e se opõe à distorção de fatos e a campanhas difamatórias contra o país.
Aviso