Google DeepMind cria instituto para alargar o debate sobre a AGI
A Google e a Google DeepMind lançaram um instituto dedicado ao debate sobre inteligência artificial geral (AGI), com quatro ensaios iniciais sobre transparência, políticas económicas e avaliação de modelos de fronteira.
Resumo
A Google e investigadores da Google DeepMind lançaram esta semana o Google DeepMind Institute, uma iniciativa para alargar o debate público sobre inteligência artificial geral (AGI). A direcção inclui Shane Legg, cofundador da DeepMind, que assume o papel de editor responsável, o executivo da Google James Manyika e Demis Hassabis, apresentado no anúncio como chairman da Google DeepMind. O instituto publicou uma primeira colecção de quatro ensaios.
Na prática
Os quatro ensaios cobrem temas distintos: políticas económicas para gerir a disrupção que a AGI pode causar, a preservação de raciocínio dos modelos em formato legível por humanos, princípios para o florescimento humano e uma proposta de avaliação de modelos de fronteira.
No ensaio sobre transparência, os investigadores de segurança da DeepMind Rohin Shah e Anca Dragan defendem que a janela cada vez mais estreita para observar o raciocínio passo a passo dos modelos não é inevitável. Propõem limitar o que designam por "profundidade serial opaca" — a quantidade de computação sequencial que um modelo pode realizar sem produzir um registo de raciocínio legível — ou exigir que os fabricantes demonstrem que sistemas menos transparentes continuam a poder ser monitorizados.
No ensaio sobre avaliação de modelos, Hassabis propõe a criação de um organismo de normas para IA de fronteira, liderado pelos Estados Unidos. Nesta proposta, os fabricantes submeteriam os modelos a avaliação voluntária até 30 dias antes do lançamento; só depois de o sistema de avaliação se mostrar eficaz é que passar esses testes se tornaria requisito para lançar modelos de fronteira nos Estados Unidos. O organismo desenharia inicialmente as avaliações em consulta com as empresas de IA, mas desenvolveria depois testes independentes e não divulgados — a que o ensaio chama testes "held-out" — para impedir que os laboratórios ajustassem os modelos às avaliações conhecidas. Segundo Hassabis, o quadro poderia ser reforçado "se a gravidade da situação o exigir", incluindo eventualmente um abrandamento coordenado entre os principais fabricantes de IA de fronteira.
Contexto
Os ensaios surgem numa altura em que o debate sobre segurança na indústria de IA se está a deslocar de declarações genéricas de preocupação para propostas concretas de divulgação, escrutínio externo e, se as salvaguardas ficarem atrasadas, abrandamentos coordenados. Essa mudança acelerou esta semana, depois de vários líderes da indústria terem apoiado partes da proposta do CEO da Anthropic, Dario Amodei, para "pacing" — um ritmo mais controlado — no desenvolvimento de IA de fronteira.
Porque importa
- A Google DeepMind formaliza num instituto público um debate que antes se fazia sobretudo através de ensaios e declarações isoladas
- A proposta de Hassabis para um organismo de avaliação voluntário nos EUA pode evoluir para requisito obrigatório de lançamento
- O ensaio de Shah e Dragan responde directamente à tendência de modelos de raciocínio cada vez mais difíceis de monitorizar
- Reflecte um alinhamento crescente entre laboratórios de IA sobre a necessidade de escrutínio externo, incluindo a possibilidade de abrandamento coordenado