Anthropic propõe abrandar o desenvolvimento da IA de fronteira
Dario Amodei defende que as empresas de IA devem reduzir o ritmo de avanço das capacidades, enquanto reforçam avaliações, segurança e coordenação entre governos.
Resumo
Dario Amodei, CEO da Anthropic, propôs abrandar o ritmo de desenvolvimento dos modelos de IA mais avançados. A proposta não implica parar a investigação, mas criar tempo para que a segurança, a avaliação independente e a compreensão dos sistemas acompanhem a evolução das suas capacidades.
Na prática
A Anthropic compromete-se a receber avaliadores externos integrados na empresa, com acesso semelhante ao das equipas internas de avaliação de risco. Terão a função de verificar práticas de segurança, analisar incidentes e comunicar conclusões relevantes ao público.
Contexto
O plano inclui também padrões comuns entre empresas sediadas em democracias e coordenação internacional em riscos específicos, como ciberataques e armas biológicas. Amodei reconhece que a cooperação global, sobretudo com a China, terá limites importantes. Sam Altman afirmou concordar com a necessidade de “ritmar a fronteira” e disse que a OpenAI seguirá a ideia dos avaliadores externos.
Porque importa
- Passa da defesa genérica de segurança para compromissos operacionais verificáveis.
- Liga o ritmo de desenvolvimento à capacidade real de testar e controlar os modelos.
- Reabre o debate entre regulação, concorrência e liderança tecnológica.