Estudo revela falhas graves do ChatGPT Health em emergências e risco de suicídio

Resumo

Um estudo do Icahn School of Medicine at Mount Sinai identificou lacunas críticas na forma como o ChatGPT Health recomenda o nível de urgência com que os utilizadores devem procurar cuidados médicos. A ferramenta falhou em encaminhar adequadamente uma parte significativa dos casos que médicos classificaram como verdadeiras emergências, e aplicou salvaguardas de risco de suicídio de forma invertida.

Os investigadores criaram 60 cenários clínicos que cobriam 21 especialidades médicas, desde situações ligeiras até emergências reais, validados por três médicos com base em orientações de 56 sociedades médicas. No total, foram realizadas 960 interações com o ChatGPT Health, variando fatores como raça, género, contexto social e barreiras de acesso, para testar o comportamento do sistema em condições do “mundo real”.

O desempenho revelou um padrão em “U invertido”: a ferramenta acerta em emergências “de manual”, como AVC ou anafilaxia, mas falha em muitas situações mais subtis, como cetoacidose diabética ou insuficiência respiratória iminente, que exigem julgamento clínico apurado. Em paralelo, o sistema mostrou-se vulnerável a enviesamentos contextuais, como quando familiares minimizam sintomas, o que alterou de forma marcada as recomendações para cuidados menos urgentes.

Na prática

Os testes mostraram que o ChatGPT Health subavaliou mais de metade dos casos considerados emergências por médicos, encaminhando utilizadores para avaliações em 24 a 48 horas em vez do serviço de urgência. Em cerca de um terço dos casos não urgentes, a ferramenta também errou, atribuindo níveis de urgência desajustados.

Um achado particularmente preocupante foi o impacto de descrições minimizadoras dos sintomas por familiares ou amigos: quando esse tipo de linguagem era incluído nos cenários, a probabilidade de o sistema recomendar cuidados menos urgentes aumentava de forma acentuada. Isto sugere que o modelo é sensível à formulação do pedido, mesmo quando os sinais clínicos deveriam impor maior prudência.

No domínio da saúde mental, o estudo encontrou um comportamento inverso ao desejável nas salvaguardas de risco de suicídio. Os alertas para a linha de ajuda 988 eram acionados com mais consistência quando os utilizadores não descreviam um método específico de autoagressão do que quando apresentavam um plano concreto, invertendo assim a relação entre gravidade do risco e intensidade da resposta do sistema.

Os investigadores também analisaram se fatores como raça, género ou barreiras de acesso aos cuidados influenciavam as recomendações de triagem. Não foram detetados efeitos estatisticamente significativos nesses grupos, embora os intervalos de confiança deixem em aberto a possibilidade de diferenças clinicamente relevantes que exigem estudos adicionais.

Contexto

O estudo surge num momento em que o uso de chatbots de IA para questões de saúde se tornou rotineiro. A OpenAI lançou o ChatGPT Health em janeiro de 2026, como uma área dedicada dentro do ChatGPT para conversas sobre saúde, e a empresa indica que cerca de 40 milhões de pessoas recorrem diariamente ao serviço para perguntas relacionadas com saúde.

Este crescimento é acompanhado por alertas de organizações de segurança do doente. No início deste ano, a ECRI, um organismo sem fins lucrativos focado em segurança em saúde, classificou o uso inadequado de chatbots de IA em contexto clínico como o principal risco tecnológico em saúde para 2026, avisando que estas ferramentas podem fornecer informação falsa ou enganadora com potencial de causar danos.

Os autores do trabalho no Mount Sinai afirmam que irão continuar a avaliar versões atualizadas do ChatGPT Health e de outras ferramentas de consumo. Os próximos passos incluem alargar a investigação a áreas como cuidados pediátricos, segurança da medicação e utilização em línguas que não o inglês, para perceber até que ponto estes problemas se repetem em outros contextos.

Porque importa

• Adoção massiva de ferramentas como o ChatGPT Health significa que falhas de triagem podem afetar milhões de pessoas que procuram orientação rápida fora do sistema de saúde tradicional.
• As lacunas em emergências e em situações de risco de suicídio mostram que chatbots não podem substituir o julgamento clínico humano, sobretudo nos extremos de gravidade.
• Profissionais de saúde e reguladores ganham argumentos para exigir validação rigorosa e salvaguardas claras antes de integrar IA generativa em fluxos de triagem e aconselhamento.
• Para utilizadores comuns, o estudo reforça a necessidade de encarar respostas de IA sobre sintomas e urgência como ponto de partida, e não como decisão final sobre quando procurar ajuda presencial.