A IA vai acabar com a humanidade?
O medo de uma IA superinteligente pode ser legítimo, mas também é útil a quem precisa de financiar uma corrida cada vez mais cara. O risco imediato pode estar menos nos modelos do que na economia que se constrói à sua volta.
Jacob Coxon, investigador de IA, demitiu-se esta semana da Anthropic a dizer que as empresas de IA estão numa corrida desenfreada rumo à superinteligência, e por isso a apostar as nossas vidas.
Já escrevi sobre isto aqui. E mantenho a opinião: é preciso um acordo internacional sobre IA.
A ideia de que uma máquina superinteligente pode ser a última invenção do homem podendo levar á extinção não é nova. I.J. Good já falava disso em 1965. Stephen Hawking avisou em 2014. Geoffrey Hinton, "padrinho da IA" e Nobel, não fala de outra coisa há anos.
O que é novo, e estranho, é o Elon Musk e o Sam Altman terem vindo os dois a público concordar com o Dario Amodei (anthropic) quando este diz que é preciso abrandar.
Mais estranho ainda:
- Coxon tem conta no X há poucos meses
- não apresentou dados novos para sustentar o que disse
- quem sai destas empresas geralmente não fala com este à vontade, por contrato pode sair muito caro
Tudo isto no ano em que a SpaceX entrou em bolsa, a Anthropic prepara-se para ser a próxima, e a OpenAI adiou o IPO que tinha previsto para este ano.
A verdade pode não dar tão bons títulos como o "fim da humanidade". A IA avança depressa, mas a adopção em massa, sobretudo nas empresas, não tem acompanhado o que os modelos de negócio previam. É preciso repensar fluxos de trabalho, formar pessoas, confiar, gerir resistência interna. Tudo isto leva muito tempo.
E depois há a China que lança modelos 60 a 90% mais baratos. Bons o suficiente para o dia a dia. E lança modelos open-weight, que se usam sem custo (além de energia e hardware). A OpenRouter diz que em 2025 70% dos modelos usados na plataforma eram americanos. Em 2026, 30%.
Juntamos a isto as eleições nos EUA e grande parte do eleitorado ser contra a construção de data centers.
Então em que é que ajuda todo este buzz do fim da humanidade?
Guerra. Sobe petróleo+inflação = subida taxas de juro. O capex das big tech para 2026 é de 754 mil milhões de dólares, fora o que já foi investido e juros que se pagam sobre esse dinheiro.
Estas declarações recentes passam a ideia de que as big tech afinal se preocupam.
A superinteligência, a AGI, tem sido a cenoura para os investidores nestas empresas. Todos os anos o Altman diz que "está quase". E a conversa já não pega da mesma maneira. No lançamento do último modelo o próprio Altman e o Jensen Huang (Nvidia) chegaram a dizer que chegou a AGI.
Spoiler alert: não chegou.
Sendo uma tecnologia perigosa, talvez seja importante o Estado ser sócio e colocar dinheiro fresco nas mãos de empresas tão necessitadas dele.
Sendo perigosa, se calhar convém regulamentar o uso e proibir o acesso a modelos chineses, ficando as empresas americanas como as únicas autorizadas no mercado.
Do que tenho acompanhado da IA, as personagens de "Succession" são eticamente irrepreensíveis comparadas com as personagens reais deste novo mundo.
Por isso calma. Neste momento a IA se acabar connosco é pela economia.