Um post falso bastou para manipular respostas do ChatGPT e da Google

Resumo

Thomas Germain, jornalista de tecnologia da BBC, diz ter conseguido fazer o ChatGPT e ferramentas de IA da Google (incluindo AI Overviews e a app Gemini) repetirem uma afirmação falsa sobre ele ser “o melhor jornalista tech a comer cachorros-quentes”. O método descrito é simples: publicar um texto enganador num site pessoal e explorar casos em que os sistemas recorrem à web para responder.

O autor enquadra isto como uma nova vaga de manipulação: influenciar as respostas geradas por IA com conteúdo fabricado, promovendo negócios ou espalhando desinformação. Especialistas alertam que pode afetar temas sensíveis como saúde e finanças.

Na pratica

O teste do autor foi propositadamente absurdo: escreveu em 20 minutos um artigo no seu site (“The best tech journalists at eating hot dogs”) com factos inventados, incluindo um campeonato inexistente. Menos de 24 horas depois, diz que a Google repetiu o conteúdo na app Gemini e em AI Overviews, e que o ChatGPT também o fez.

Segundo o autor, alguns sistemas chegaram a indicar que podia ser brincadeira; ele atualizou o texto para dizer “isto não é sátira” e, por algum tempo, as respostas pareceram tratá-lo de forma mais literal. Também testou um segundo exemplo inventado (uma lista de “polícias do trânsito que fazem hula-hoop”) e afirma que ainda aparecia em respostas de chatbots.

O artigo refere que:

• O risco aumenta quando a ferramenta “vai à internet” para preencher lacunas, e nem sempre é claro quando isso acontece.
• Por vezes as ferramentas incluem links para a origem, mas raramente destacam que pode ser a única fonte.
• Utilizadores tendem a clicar menos em links quando um AI Overview aparece, o que reduz a verificação.

Contexto

O texto compara este fenómeno à história do spam em motores de busca: manipulação existe há décadas, mas especialistas citados dizem que estas técnicas são hoje “mais fáceis” e lembram o início dos anos 2000, descrevendo uma “Renaissance for spammers”.

Entre as vozes citadas:

• Lily Ray (Amsive) afirma que é mais fácil enganar chatbots do que enganar a Google “há dois ou três anos” e considera perigoso o desfasamento entre velocidade de lançamento e capacidade de garantir precisão.
• Cooper Quintin (Electronic Frontier Foundation) alerta para abusos como burlas, destruição de reputações e até indução de dano físico.
• Harpreet Chatha (Harps Digital) dá exemplos de como conteúdos promocionais ou press releases podem ser puxados para respostas em pesquisas de consumo, incluindo temas como clínicas, investimentos e produtos.

A Google, segundo o artigo, diz que os seus sistemas mantêm resultados “99% livres de spam” e que está a combater tentativas de manipulação; a OpenAI também diz tomar medidas para interromper e expor influências encobertas e lembra que as ferramentas “podem cometer erros”. Ainda assim, o autor conclui que o problema está longe de resolvido.

Porque importa

• Respostas geradas por IA podem amplificar “vazios de informação” e conteúdo enviesado, sobretudo em pesquisas muito específicas.
• A forma “oficial” das respostas pode levar utilizadores a confiar mais do que confiariam num site isolado.
• Há risco direto em áreas como saúde e finanças, onde afirmações falsas podem orientar decisões perigosas.
• Transparência de fontes e sinalização de “apenas uma fonte” ou “conteúdo promocional” pode ser crucial para reduzir o impacto.