Anthropic restringe o Mythos após capacidades avançadas em exploits

Resumo

Segundo a newsletter Ben's Bites, a Anthropic decidiu não lançar publicamente, para já, o Claude Mythos, um novo modelo que terá mostrado um salto muito significativo em tarefas de cibersegurança ofensiva. A peça destaca sobretudo a capacidade do modelo para encontrar e explorar vulnerabilidades de software em níveis bastante superiores aos modelos anteriores.

De acordo com o texto, o Mythos terá obtido melhorias muito expressivas em benchmarks como SWE-bench Pro e Terminal-Bench 2.0, mas o ponto mais sensível surge na geração de exploits. A newsletter refere que, em geração de exploits para Firefox, um modelo anterior da Anthropic conseguiu dois exploits funcionais em centenas de tentativas, enquanto o Mythos terá chegado a 181. O texto menciona ainda a deteção de bugs antigos em projetos críticos como OpenBSD e FFmpeg.

Na pratica

Na prática, isto significa que a Anthropic está a tratar o Mythos não como um lançamento normal de produto, mas como uma capacidade que exige controlo de acesso muito mais apertado. Em vez de abrir o modelo ao mercado em geral, a empresa estará a disponibilizar uma preview limitada a 12 organizações através de um programa chamado Project Glasswing.

Segundo a newsletter, esse programa inclui créditos de utilização do modelo e apoio financeiro a organizações ligadas à segurança open-source. O enquadramento sugerido é claro: a Anthropic quer aproveitar a utilidade do modelo para encontrar vulnerabilidades reais, mas sem abrir imediatamente uma ferramenta potencialmente perigosa a um conjunto muito mais vasto de utilizadores.

O que falta saber

Apesar do tom forte da peça, continuam por esclarecer vários pontos relevantes. A newsletter não detalha exatamente quais são os limites operacionais impostos a esta preview, que tipos de guardrails estão a ser usados, nem em que condições um lançamento mais alargado poderia vir a acontecer.

Também não fica totalmente claro até que ponto estes resultados refletem comportamento robusto em contexto real ou desempenho especialmente forte em tarefas muito específicas de segurança. Ainda assim, a decisão de restringir o acesso é, por si só, um sinal importante de que a empresa considera esta capacidade materialmente diferente da de modelos mais convencionais.

Porque importa

• Mostra que algumas capacidades frontier de IA podem ser consideradas demasiado sensíveis para um lançamento público imediato.
• Reforça a ideia de que segurança ofensiva e exploit generation estão a tornar-se um novo ponto crítico na governação de modelos.
• Coloca a Anthropic numa posição rara: travar distribuição alargada por razões de risco técnico concreto.
• É uma história forte para debate público porque junta avanço técnico, risco real e limites práticos de abertura.