Anthropic testa sistemas multiagente e encontra falhas de coordenação
Um estudo da Anthropic mostra que vários agentes de IA podem encontrar mais vulnerabilidades quando trabalham em conjunto, mas também podem reproduzir erros, colidir entre si ou escalar conflitos. A investigação sugere que aumentar a capacidade individual dos modelos não resolve automaticamente os problemas de coordenação.
Resumo
A Anthropic publicou uma investigação sobre o comportamento de sistemas multiagente — conjuntos de agentes de IA que partilham informação, recursos e objetivos. Os testes encontraram ganhos em tarefas paralelizáveis, mas também falhas de coordenação, conformismo, dificuldade em avaliar fontes e conflitos entre agentes com instruções incompatíveis.
Na prática
Num dos testes, 45 agentes receberam máquinas virtuais próprias, um fórum partilhado e a tarefa de procurar vulnerabilidades em 15 projetos de código aberto. Um agente separado avaliava se cada descoberta era nova e válida.
Na configuração coordenada, os agentes baseados no Mythos Preview encontraram 266 vulnerabilidades, contra 21 na abordagem paralela tradicional. A comparação não é totalmente equivalente: a equipa coordenada utilizou mais tokens e procurou também fora dos diretórios centrais definidos para os agentes independentes. Quando a análise foi limitada às mesmas áreas, a eficiência por vulnerabilidade pareceu semelhante.
Noutro teste, grupos de agentes tentaram construir jogos de fantasia durante 12 horas. Os resultados foram fracos e muitos pedidos de alteração entraram em conflito. Os modelos mais recentes coordenaram-se melhor, mas a Anthropic observou que o Sonnet 5 foi o único a combinar uma elevada taxa de alterações integradas com partilha significativa de código.
O que falta saber
Os testes foram concebidos pela própria Anthropic, executados em ambientes virtuais e baseados em tarefas específicas. Por isso, ainda não mostram como estes comportamentos se manifestam em organizações reais, com pessoas, sistemas legados, incentivos económicos e diferentes modelos a trabalhar em conjunto.
Também não é claro que mecanismos de coordenação funcionem de forma consistente fora destes cenários. A própria investigação sugere que reputação, regras, incentivos, canais de recurso e supervisão terão de ser redesenhados para sistemas em que os agentes podem ser replicados, reconfigurados e executados a grande velocidade.
Porque importa
- Vários agentes não formam automaticamente uma equipa melhor: podem amplificar erros partilhados, convergir para decisões erradas ou deixar informação importante fora do consenso.
- Mais capacidade de execução não significa necessariamente melhor coordenação; agentes mais capazes podem escalar um conflito com maior rapidez.
- Sistemas multiagente exigem limites de permissões, registos auditáveis, critérios de paragem e formas claras de pedir intervenção humana antes de serem usados em processos críticos.