Anthropic prepara controlos de dados para empresas
O Enterprise Frontier Safeguards prevê que empresas guardem os seus dados no próprio ambiente cloud, mantendo monitorização automatizada de riscos.
Resumo
A Anthropic apresentou o Enterprise Frontier Safeguards, uma arquitetura para empresas que procura resolver uma tensão recorrente na adoção de IA: guardar dados suficientes para detetar abusos ou riscos, sem obrigar organizações reguladas a entregar essa informação ao fornecedor do modelo.
Na prática
Em vez de a Anthropic reter os registos de atividade, os dados podem ficar na conta cloud da própria empresa — por exemplo, em Amazon S3, Azure Blob Storage ou Google Cloud Storage. A organização mantém as suas chaves de encriptação, políticas de acesso e registos de auditoria.
Os sistemas automatizados da Anthropic continuam a procurar sinais de uso indevido, como tentativas de desenvolver capacidades ofensivas em cibersegurança ou indícios de credenciais roubadas. Quando encontram um padrão relevante, enviam o alerta para a empresa, que decide como o investigar.
Contexto
A proposta responde a uma limitação da retenção de dados tradicional. A Anthropic defende que certos abusos só se tornam visíveis quando se correlaciona atividade entre sessões e contas ao longo do tempo. Para muitas empresas, sobretudo em saúde, finanças, direito ou setor público, essa retenção é difícil de aceitar fora do seu próprio ambiente.
O serviço será disponibilizado por fases a partir do outono. Até lá, clientes elegíveis terão retenção zero de dados em determinados modelos. Não é uma solução imediatamente disponível para todas as organizações.
Porque importa
- Separa controlo dos dados e deteção de riscos.
- Pode desbloquear adoção em setores regulados.
- Mantém monitorização: não equivale a ausência de supervisão.