OpenAI lança Astra com capacidades avançadas de cibersegurança

Resumo

A OpenAI lançou Astra, apresentado pela empresa como o seu modelo mais capaz até à data. O sistema foi concebido para executar tarefas em computadores e browsers, programar e apoiar operações de cibersegurança. As mesmas capacidades que podem ajudar a encontrar vulnerabilidades também aumentam o risco de abuso.

Na prática

Astra pode trabalhar em ambientes digitais, responder a perguntas sobre bases de código, executar operações no terminal e identificar falhas de segurança. A OpenAI afirma que o modelo pode ajudar defensores a encontrar e corrigir vulnerabilidades, incluindo falhas anteriormente desconhecidas.

O acesso é faseado. As capacidades mais avançadas de cibersegurança começam limitadas a testadores e ao programa Daybreak. O modelo deverá chegar aos planos pagos Pro, Plus, Enterprise e Business, além da API, ao longo da semana seguinte ao lançamento.

Contexto

A OpenAI diz que Astra atingiu o nível “Crítico” do seu Preparedness Framework para capacidades de cibersegurança. Nos testes da empresa, encontrou vulnerabilidades desconhecidas e construiu cadeias de exploração em ambientes endurecidos. Estes resultados não constituem validação independente e alguns refletem o acesso Daybreak Blue, não a configuração de produção por defeito.

A empresa acrescentou recusas, classificadores, monitorização e mecanismos para interromper ações potencialmente não autorizadas. A TechCrunch destaca ainda uma técnica chamada “recorrência opaca”, que torna menos observável o processo usado pelo modelo para chegar a uma decisão. A OpenAI reconhece que a monitorização se torna mais difícil à medida que os modelos ganham capacidade.

Porque importa

• Astra aproxima os modelos de tarefas que envolvem agir diretamente em computadores e sistemas.
• A mesma capacidade pode acelerar a defesa cibernética ou aumentar o risco de abuso.
• O desafio passa também por demonstrar que os modelos continuam controláveis e auditáveis.