Claude vai marcar todo texto gerado, e o motivo real não é transparência

A Anthropic acabou de fazer uma coisa que deixou o pessoal do nosso grupo de WhatsApp de orelha em pé e chateadíssimo. Falaram que foi o maior tiro no pé da Anthropic nos últimos tempos.

Ela avisou que todos os textos gerados pelo Claude agora vão ser marcados. É uma marca invisível, implantada dentro das palavras do texto, e esse selo de conteúdo gerado por IA já vale para os novos modelos.

Só que tem uma lorota mal contada aí, e eu vou te explicar o motivo real de eles estarem fazendo isso.

O que muda

A empresa assinou o código de práticas do artigo 50 da lei de IA, sobre transparência de conteúdo gerado por inteligência artificial. E a marcação funciona em todo lugar onde você usa o Claude: na API, no Claude Code, no Claude normal e no Claude Cowork.

Para o pessoal do canal isso é um tiro no pé. Para mim também, mas não é nenhuma surpresa. Tecnicamente, esse momento ia chegar.

O motivo técnico: model collapse

Você sabe que as redes generativas da Anthropic, da OpenAI e do Google são treinadas com informação que vem da web. Só que no início dos treinamentos existia uma garantia: aqueles dados tinham sido gerados por seres humanos.

Hoje não. Hoje existe um volume muito expressivo de texto na web que foi gerado por inteligência artificial. E aí nasce o problema: quando você treina um modelo novo com dado sintético de outro modelo, acontece uma coisa que tem nome, uma teoria nem nova, já consolidada na área, chamada model collapse.

Deixa eu te explicar com calma, que é fácil de visualizar.

Pega uma foto original e faz uma cópia. A cópia até convence, você ainda vê os detalhes, os brincos, o colar. O problema começa quando você pega essa cópia e gera outras cópias a partir dela. A cópia virou a fonte.

É o velho efeito do xerox do xerox do xerox. Você copia, copia, copia, e em algum momento perde completamente a noção de como era a foto original. Dá até para reconhecer alguma coisa, mas a imagem fica muito empobrecida.

Com modelo é igualzinho. O erro vai ganhando herdeiros, porque o mesmo erro entra de novo na rede para treinar. E aí acontece a decadência do modelo: ele se desconecta da realidade.

E isso é fatal, porque a inteligência artificial tem como objetivo principal imitar o comportamento humano. Se você não coloca informação humana dentro do modelo, o que ele vai achar que é a realidade? Exatamente aquilo que foi gerado de forma sintética.

A saída é curadoria de dados: misturar um pouco de realidade, um pouco de diversidade e até um tanto de dado sintético, que é aceitável. O que não dá é ficar alimentando o modelo só com a própria saída.

Aí você me pergunta: então não posso mais gerar texto com IA?

Calma, eu não disse isso.

O que eu estou dizendo é que gerar texto inteiro por IA e despejar isso na web em escala é o que alimenta o colapso.

Agora, pegar o seu texto e dar um "improve the text", melhorar, corrigir, traduzir, isso mantém a origem humana. É mais ou menos como pegar uma fotografia sua, abrir no Photoshop e dar uma melhorada. Eu mesmo estou precisando passar no Photoshop, viu?

E isso é absolutamente aceitável, inclusive na ciência. Eu tenho um artigo publicado num periódico internacional da Elsevier, sobre detecção de drones em aeroportos, revisado por pares humanos. A pesquisa toda foi conduzida por mim, o texto teve participação de IA, e o artigo traz uma seção de declaração de IA generativa dizendo que eu usei o Grammarly para concordância e o ChatGPT para estrutura e tradução. Tudo às claras.

O disclaimer que entrega o problema

A própria Anthropic publicou as limitações da marcação, e elas são reveladoras:

• uma marca detectada indica que o conteúdo foi processado pelo Claude, mas não é conclusiva;
• o Claude pode não ser o autor original, já que as pessoas usam ele para revisar, traduzir, resumir e converter textos, e o resultado carrega a marca mesmo quando as ideias e os dados vieram de outra fonte;
• a marca pode ser removida em pós-processamento, inclusive por outra IA. Ou seja, texto sem marca não significa texto sem IA.

Percebe o tamanho do problema? Revista científica que resolver usar isso como detector vai correr atrás do próprio rabo. Vai punir quem usou IA para aquilo que já é permitido, e não vai pegar quem arrancou a marca.

E você, o que acha dessa ideia? É mesmo um tiro no pé, como o pessoal falou lá no grupo? Se quiser discutir isso comigo, o grupo de WhatsApp do canal é gratuito e já tem mais de 17 mil pessoas.