Tribunal dos EUA critica uso de ChatGPT em cortes de bolsas públicas
Um juiz federal considerou inconstitucionais cortes em bolsas de humanidades ligados ao DOGE. O caso tornou-se um exemplo forte de uma regra essencial: usar IA não elimina responsabilidade humana.
Resumo
Um tribunal federal dos Estados Unidos considerou inconstitucionais cortes superiores a 100 milhões de dólares em bolsas do National Endowment for the Humanities. Segundo a decisão, o DOGE usou ChatGPT para ajudar a identificar projetos alegadamente ligados a diversidade, equidade e inclusão, sem critérios suficientemente claros e sem revisão adequada.
A decisão da juíza Colleen McMahon concluiu que os cortes envolveram discriminação de ponto de vista e violaram proteções constitucionais. Entre os projetos afetados estavam trabalhos relacionados com educação sobre o Holocausto, comunidades indígenas, direitos civis e história afro-americana.
Na prática
O ponto central do caso não é apenas que uma ferramenta de IA foi usada no processo. É que a IA foi usada para classificar projetos com consequências reais, sem uma definição robusta dos critérios e com responsabilidade humana insuficiente sobre o resultado.
Para empresas e organismos públicos, a lição é direta. Sistemas de IA podem apoiar decisões, acelerar análise e ajudar a organizar informação. Mas decisões com impacto financeiro, legal, laboral ou social precisam de critérios explícitos, supervisão humana, documentação e mecanismos de contestação.
Contexto
A adoção de IA no setor público e nas empresas está a avançar mais depressa do que muitos modelos de governança interna. Ferramentas generalistas como ChatGPT são fáceis de usar, mas isso também aumenta o risco de decisões mal enquadradas, especialmente quando o output parece objetivo ou tecnicamente neutro.
O caso DOGE mostra que a responsabilidade não desaparece quando uma organização usa IA. Se uma decisão automatizada ou semi-automatizada prejudica pessoas, projetos ou direitos, a entidade que a aplicou continua responsável por critérios, processo e consequências.
Porque importa
- É um exemplo concreto de risco jurídico na utilização de IA em decisões públicas.
- Mostra que a explicação “foi a IA” não deve servir como escudo de responsabilidade.
- Reforça a necessidade de políticas internas para uso de IA em decisões sensíveis.
- É um caso útil para formação empresarial sobre governança, auditoria e supervisão humana.
A conclusão prática é simples: IA pode ajudar a decidir, mas não deve substituir o dever de justificar. Quanto maior for o impacto de uma decisão, mais forte deve ser o processo humano à volta da ferramenta.