Anthropic acusa três laboratórios chineses de extraírem capacidades do Claude em massa

Resumo

Anthropic acusa os laboratórios chineses DeepSeek, Moonshot AI e MiniMax de conduzirem campanhas de “destilação” em larga escala sobre o seu chatbot Claude, usando cerca de 24 mil contas fraudulentas para gerar mais de 16 milhões de interações. A empresa enquadra o caso como um risco de segurança, alertando que capacidades avançadas podem ser reutilizadas sem os mesmos mecanismos de segurança.

Na prática

Segundo Anthropic, as campanhas foram detetadas através de correlações de endereços IP, metadados de pedidos e padrões de infraestrutura que se distinguiam do tráfego normal de clientes. Os atacantes teriam focado as capacidades mais avançadas do Claude, como raciocínio complexo, programação e uso de ferramentas, em vez de perguntas casuais típicas de utilizadores comuns.

O método usado é conhecido como destilação, em que um modelo menos poderoso é treinado com base nas respostas de um modelo mais avançado, prática comum em laboratórios de IA mas aqui alegadamente feita de forma não autorizada. Anthropic afirma que os três laboratórios chineses violaram os seus termos de serviço e restrições regionais ao recorrerem a contas fraudulentas e serviços de proxy para aceder ao Claude em grande escala.

A empresa diz ter partilhado as suas conclusões com entidades governamentais nos Estados Unidos e com parceiros da indústria. Ao tornar públicos os nomes dos laboratórios, Anthropic espera incentivar uma resposta governamental mais estruturada ou um eventual diálogo com as empresas envolvidas.

Contexto

O caso surge num momento de crescente preocupação no setor de IA norte-americano com a chamada “destilação” feita por concorrentes estrangeiros. OpenAI já tinha alertado legisladores nos Estados Unidos de que a DeepSeek estaria a usar métodos cada vez mais sofisticados de destilação para aproveitar capacidades desenvolvidas por laboratórios como a própria OpenAI.

No mesmo dia do anúncio da Anthropic, a equipa de Threat Intelligence da Google revelou ter observado ataques de destilação contra os modelos Gemini, com mais de 100 mil pedidos concebidos para replicar as capacidades de raciocínio do sistema. A Google atribuiu estas atividades a empresas privadas e também a atores alinhados com Estados.

Estas denúncias são apresentadas por empresas norte‑americanas como um alerta precoce de um problema que poderá generalizar‑se à medida que mais organizações desenvolvem modelos próprios. A preocupação central é que estes processos permitam encurtar anos de investimento e desenvolvimento, ao mesmo tempo que contornam salvaguardas de segurança integradas nos modelos originais.

Porque importa

• Mostra como modelos comerciais de IA podem ser alvo de uso abusivo em escala industrial para treinar sistemas concorrentes.
• Sinaliza um novo tipo de risco de segurança, em que capacidades avançadas são copiadas sem que os respetivos mecanismos de segurança acompanhem.
• Aumenta a pressão para que governos definam regras mais claras sobre acesso, exportação e proteção de modelos de IA de ponta.
• Indica que empresas que criam modelos próprios podem ter de investir mais em monitorização de padrões de uso e defesa contra ataques de destilação.