As marcas de água do Claude e botões para sinalizar conteúdo IA

Eu sou claramente a favor da identificação de conteúdo IA. Mas há um motivo maior.

modelos
ética-e-limites
dados

Ilustração de uma sirene de alarme vermelha com as letras IA

Eu sou claramente a favor da identificação de conteúdo IA. E nos últimos dias têm saído notícias de decisões das big tech nesse sentido:

A Anthropic (Claude) vai criar "marcas de água" nos textos que cria.
O LinkedIn já permite denunciar conteúdo que "parece slop de IA".
A Meta etiqueta conteúdo IA no Facebook, Instagram e Threads.
O TikTok usa etiquetas, metadados e marcas de água.
O YouTube começou a aplicar etiquetas automaticamente em alguns vídeos.
O Pinterest assinala imagens "AI modified".
O Reddit está mais focado em detetar bots, automatização e conteúdo IA usado para enganar.

À primeira vista, isto é uma resposta a uma preocupação com os utilizadores que não querem ter os feeds cheios de conteúdo "fastfood" genérico e artificial.

Mas há um motivo maior.

Os modelos já foram treinados com uma enorme parte do texto público acessível da internet.

Agora, se a internet começa a ser preenchida por conteúdo feito com IA, pode criar-se um ciclo:
- Um modelo produz conteúdo.
- Esse conteúdo é publicado.
- É recolhido para treinar modelos seguintes.
- Os modelos passam a aprender, em parte, com a produção de outros modelos.

A isto a investigação chama-lhe "model collapse".

Quando modelos generativos são treinados indiscriminadamente com conteúdo sintético, podem começar a perder diversidade, nuance e casos raros. Tornam-se mais uniformes. E os erros podem repetir-se e amplificar-se.

E se nós já achamos que o conteúdo IA é todo igual, imaginem se nada for feito. E quem melhor do que utilizadores humanos a verificar se o conteúdo lhes parece IA ou não?

Neste momento o conteúdo humano, original, contextualizado e verificável pode tornar-se um recurso cada vez mais valioso.

Por isso, etiquetas, marcas de água e denúncias de "slop" não servem apenas para proteger quem lê. Aliás eu desconfio sempre quando aparece uma preocupação "humana" destas bigtech. E nisso a União Europeia tem sido muito prudente e criado leis que a meu ver fazem todo o sentido.

A imagem deste post foi criada por mim com IA.

Fontes