Deepfakes em tempo real entram nas videochamadas e mudam o risco de fraude

Resumo

A 404 Media investigou uma ferramenta chinesa chamada Haotian AI, descrita como software de deepfake em tempo real usado por operadores de fraude. Segundo a investigação, a ferramenta consegue transformar o rosto de uma pessoa noutra durante chamadas em plataformas como Microsoft Teams, Zoom, WhatsApp, TikTok e YouTube.

O jornalista Joseph Cox obteve e testou o software, vendo um operador transformar-se no seu próprio rosto durante uma chamada no Microsoft Teams. A investigação liga este tipo de ferramenta a esquemas de fraude como romance scams, burla empresarial, sequestros virtuais e outras operações que dependem de manipulação de identidade.

Na prática

A grande mudança está no facto de o deepfake deixar de ser apenas um vídeo falso publicado depois da gravação. Com ferramentas em tempo real, a fraude pode acontecer durante uma conversa ao vivo, com expressões faciais e movimentos preservados o suficiente para convencer a outra pessoa.

Isto cria um problema direto para empresas. Processos que dependem de uma videochamada para confirmar identidade, aprovar pagamentos, validar pedidos urgentes ou desbloquear acesso ficam mais frágeis. A presença visual já não deve ser tratada como prova suficiente.

Contexto

Nos últimos anos, a maioria das discussões sobre deepfakes focou-se em desinformação política, vídeos virais e imagens manipuladas. A investigação da 404 Media aponta para uma superfície de risco mais operacional: fraude em tempo real dentro de ferramentas normais de trabalho.

A resposta não passa apenas por detetores automáticos. A própria investigação sugere que estes sistemas podem enganar ferramentas de deteção. A mitigação mais robusta terá de combinar processos humanos, confirmação por canais secundários, limites de autorização e formação prática sobre engenharia social com IA.

Porque importa

• Videochamadas já não chegam como mecanismo forte de verificação de identidade.
• Equipas financeiras, jurídicas, comerciais e executivas tornam-se alvos naturais deste tipo de fraude.
• A segurança empresarial precisa de protocolos simples para confirmar pedidos sensíveis fora da chamada.
• A formação em IA deve incluir exemplos concretos de fraude multimodal, não apenas texto e phishing.

A mensagem para organizações é clara: se uma decisão tem impacto financeiro, legal ou operacional, não deve depender apenas de quem apareceu numa videochamada. A IA tornou a presença visual mais fácil de falsificar, e os processos internos têm de acompanhar essa realidade.