Ex-engenheiro da Anthropic faz alerta sobre o medo que a IA esconde
Ex-engenheiros de IA admitem em privado temer um risco existencial — e ainda assim biliões de dólares e o crescimento da economia dos EUA dependem da corrida de cerca de dez empresas para chegar primeiro à AGI.
Hoje o texto é sobre uma notícia bem animadora que nos fala de Jacob Coxon um ex engenheiro de IA da Anthropic.
Do que ele escreveu no X destaco:
> "The people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phrasing in the press to sound sensible - but I hear the same people express fear privately.
> No other human activity poses this level of danger"
Neste momento há muitos milhões de dólares investidos em IA, o crescimento da economia americana depende deste investimento que no fundo está nas mãos de umas 10 empresas.
Há uma corrida entre elas e outra com os modelos de IA chineses. Essa corrida é para chegarem ao que eles chamam AGI. Uma inteligência artificial superior que essa sim vai ter capacidade de raciocínio, aprendizagem e por isso descobrir coisas novas e que eles acreditam ser revolucionárias.
O que eles também acreditam é que a empresa que chegar lá primeiro vai ter uma vantagem tão grande sobre as outras que só ela sobreviverá. Há fontes que dizem mesmo que o CEO da Anthropic já disse várias vezes em privado que a Anthropic um dia será a única empresa privada do mundo.
A minha opinião sobre isto é que tal como nas armas nucleares deveria haver um acordo internacional sobre o desenvolvimento de IA. Com estes líderes mundiais? Sim, acho impossível.
Mas por outro lado também acho que todos estes líderes das BigTech têm um feitio muito "especial", todos eles viram muitos filmes de ficção científica. Alguns, pelo ambiente que os envolvia na idade que viram os filmes, tomaram partido pelo "lado negro da força".
E, basicamente, esta gente é maluca e tem que ser controlada. E não está. E têm biliões de dólares nas mãos. E ainda mais biliões dependem das decisões que tomam.
Como dizia um anúncio dos anos 90 na TV portuguesa "julgam-se os melhores condutores do mundo e no entanto..."
*Nota: para quem nunca viu o anúncio, acaba com o lápis (que fazia de carro) despistado e partido.*
Fontes:
- Post no X citado acima
- WSJ — Anthropic Researcher Quits Over 'Out of Control' AI Fears
- Yahoo Finance — Anthropic left the only private company