Texto gerado por IA: Entenda como funcionam as marca-d’água e seus detectores

Um selo de IA tem como função responder a uma pergunta simples: este texto foi escrito por uma máquina? O problema é que a etiqueta costuma misturar uso de ferramenta, origem do conteúdo e autoria. Como acontece com outros temas de inteligência artificial e dados, a resposta depende do processo, não só do resultado final.

Neste artigo, você vai entender o que detectores de texto IA estimam, como funcionam as marcas-d’água em textos gerados por IA e por que proveniência e autoria não se equivalem. Também vamos discutir falsos positivos, edição humana, tradução e critérios para interpretar esses sinais sem transformar uma probabilidade em veredito.

Um detector de texto IA geralmente calcula a probabilidade de um trecho conter padrões associados a textos produzidos por modelos de linguagem. Ele observa previsibilidade, escolha de palavras, estrutura e características linguísticas. Portanto, entrega uma classificação estatística, não uma identificação forense da autoria nem uma prova de que uma máquina escreveu cada frase.

O estudo piloto de 2024 do NIST encontrou diferenças significativas entre os sistemas avaliados: alguns geradores enganaram a maioria dos detectores, enquanto certos detectores identificaram conteúdo de quase todos os geradores. O resultado depende do par gerador-detector, e não de uma escala universal de “humanidade”.

Na prática, muitos sistemas analisam sinais como perplexidade, repetição, distribuição de palavras e regularidade sintática. Um texto muito previsível pode parecer suspeito, mesmo quando foi escrito por uma pessoa cuidadosa. Um texto gerado por IA e depois reescrito pode parecer humano, mesmo preservando parte da origem automatizada.

Isso cria uma confusão frequente. “Este texto se parece com algo produzido por um modelo” é uma afirmação diferente de “este texto foi produzido por um modelo”. A primeira é uma inferência sobre forma. A segunda é uma afirmação sobre histórico, intenção e responsabilidade.

O tamanho também pesa. Um parágrafo curto oferece poucas observações para o detector. Um texto técnico pode repetir termos por necessidade, e não por falta de estilo. Quem escreve em uma segunda língua pode preferir construções mais previsíveis. Como um sistema pode separar esses casos sem conhecer o contexto?

A pesquisa sobre ferramentas de detecção e avaliação humana reforça essa cautela. No experimento, a acurácia geral das avaliações humanas foi de 19%, próxima de um palpite aleatório entre cinco condições. As ferramentas também apresentaram níveis diferentes de concordância, com coeficientes entre 0,57 e 0,95.

Uma marca-d’água em texto gerado por IA é um sinal estatístico incorporado durante a geração. O modelo ajusta discretamente a seleção ou a distribuição de tokens, criando um padrão detectável por um sistema que conhece o método. A alteração deve ser imperceptível para leitores, mas suficiente para indicar participação daquela ferramenta.

A documentação da Anthropic descreve duas abordagens: marcas incorporadas diretamente no texto e metadados de proveniência assinados em arquivos compatíveis. No texto, o sinal pode viajar com o conteúdo copiado. Em arquivos, o metadado pode registrar que o Claude processou o material e indicar se houve alteração.

O mecanismo não funciona como uma frase escondida dizendo “fui escrito por IA”. Ele se parece mais com uma preferência controlada entre alternativas possíveis durante a geração. Em termos técnicos, o modelo continua produzindo texto legível, mas altera probabilidades suficientes para que um detector específico procure o padrão depois.

A diferença entre a criação de uma marca e a atuação de um detector independente é decisiva. A marca é criada no momento da geração e depende de uma chave, regra ou procedimento conhecido pelo sistema emissor. Já um detector genérico tenta inferir a origem olhando o texto pronto. Um mede um sinal planejado. O outro interpreta indícios.

A pesquisa apresentada na USENIX Security 2025 mostra o potencial e o limite da abordagem. Em um cenário de 200 tokens, o método testado alcançou taxa de correspondência de 97,6% ao inserir uma mensagem de 20 bits e tolerou distância de edição média de 17 por parágrafo.

Esse número descreve um experimento específico, não uma garantia para qualquer texto. A marca precisa sobreviver a edição, tradução, paráfrase, recorte e mistura com outras fontes. Quanto mais transformações acontecem, mais difícil fica separar o sinal original do conteúdo novo.

Também vale separar marca-d’água de metadado. A primeira acompanha a sequência textual. O segundo fica associado ao arquivo ou ao evento de processamento. Um documento pode perder metadados ao ser exportado como imagem, enquanto uma marca textual pode ser enfraquecida por uma tradução.

Não. Uma marca-d’água pode indicar que determinada ferramenta participou do processamento ou da geração de um trecho, mas não prova que ela criou o argumento, definiu a tese ou escreveu o texto inteiro. A própria Anthropic afirma que Claude pode revisar, traduzir, resumir ou converter material originado por outra pessoa.

Segundo a documentação oficial do Claude, uma marca detectada sinaliza que o conteúdo pode ter sido processado pela ferramenta. A ausência do sinal também não prova autoria humana, porque edição pesada, tradução, texto curto e conversão de formato podem impedir a detecção.

Pense em quatro situações. Na primeira, uma pessoa escreve o texto e pede apenas correção gramatical. Na segunda, fornece um rascunho próprio e solicita reorganização. Na terceira, traduz o material para outro idioma. Na quarta, pede uma geração integral a partir de uma instrução curta.

Os quatro casos podem produzir resultados diferentes, mas uma etiqueta binária tende a colocá-los no mesmo grupo. Isso é insuficiente para avaliar contribuição intelectual. A pergunta “qual ferramenta participou?” pode ter uma resposta positiva. A pergunta “quem é o autor?” continua exigindo contexto.

O texto-base desta discussão resume bem o problema: um selo pode registrar que um artefato passou por uma ferramenta, mas não consegue medir quem pensou o conteúdo. A distinção entre conteúdo assistido, gerado e produzido em escala ajuda mais do que um rótulo único.

A autoria envolve escolhas. Quem definiu o problema? Quem selecionou as evidências? Quem descartou uma resposta incorreta? Quem revisou o texto e assumiu a decisão de publicar? Um sistema que olha apenas para a superfície final não enxerga essa cadeia de decisões.

Isso vale para empresas, escolas e redações. Uma marca pode contribuir para transparência, mas não deveria sozinha gerar punição, reprovação ou acusação. Ela é um indício sobre proveniência técnica. A responsabilidade editorial continua sendo uma questão humana, institucional e, em alguns contextos, legal.

Detectores produzem resultados diferentes porque foram treinados com dados, idiomas, modelos e critérios distintos. Um pode buscar previsibilidade lexical; outro pode comparar exemplos; um terceiro pode reconhecer uma marca incorporada. Por isso, percentuais de ferramentas diferentes não são diretamente comparáveis e não formam um veredito confiável de autoria.

No relatório do NIST, o desempenho variou tanto entre sistemas que alguns geradores enganaram a maioria dos detectores, enquanto outros reconheceram quase todos os geradores. A conclusão prática é simples: o nome “detector de IA” não descreve uma capacidade única.

Falsos positivos acontecem quando um texto humano recebe classificação de IA. Falsos negativos surgem quando um texto gerado passa como humano. Os dois erros têm custos diferentes dependendo do contexto. Em uma ferramenta de triagem editorial, podem pedir uma revisão extra. Em uma acusação acadêmica, podem prejudicar a reputação de alguém.

Textos curtos são especialmente difíceis. Há poucas palavras para identificar padrão, e frases objetivas podem aparecer em qualquer origem. Textos técnicos também usam estruturas repetidas, definições e vocabulário controlado. Isso não significa que sejam artificiais. Significa que o estilo oferece menos pistas individuais.

A edição muda o objeto analisado. Um autor pode substituir frases, reorganizar parágrafos, acrescentar exemplos e remover trechos. Uma tradução pode envolver a troca de escolhas lexicais e sintáticas. Uma ferramenta pode detectar partes remanescentes, mas não consegue reconstruir com segurança tudo o que ocorreu antes.

A pesquisa comparativa com ferramentas e avaliadores humanos encontrou uma taxa de falsos positivos de 72,2% para textos humanos em uma análise específica, com variação entre 43,4% e 83,3% nas análises de sensibilidade. O número não representa todo detector, mas mostra por que um score isolado não deve virar sentença.

Há ainda o problema da mudança de distribuição. Um detector treinado com textos de um modelo, idioma ou época pode funcionar pior em outro conjunto. Modelos são atualizados. Usuários alteram prompts. Editores mudam o texto. O classificador persegue um alvo que também está se movimentando.

Proveniência é o histórico de ferramentas, versões, transformações e decisões pelas quais um conteúdo passou. Autoria é a responsabilidade intelectual, editorial ou legal pelo resultado. As duas informações podem se relacionar, mas respondem a perguntas diferentes. Uma tecnologia pode registrar processamento sem identificar quem teve a ideia ou aprovou a publicação.

A Anthropic diferencia marca textual e metadados assinados, mas também alerta que o sinal não confirma a proveniência completa. O texto pode ter sido escrito por outra pessoa antes do processamento, e o arquivo pode ser modificado depois. Transparência técnica não substitui contexto.

Imagine um relatório criado a partir de entrevistas humanas. A equipe organiza os dados, pede à IA sugestões de estrutura, corrige inconsistências e valida cada afirmação. O texto final pode carregar um sinal de ferramenta. Ainda assim, a responsabilidade pelo conteúdo depende das decisões da equipe, das fontes e do processo de revisão.

Agora imagine o caminho oposto: um texto sai de um modelo, recebe apenas uma leitura rápida e é publicado sem verificação. Pode não haver marca detectável depois de várias alterações. A ausência do sinal não transforma o material em autoria humana responsável.

Proveniência funciona melhor quando é registrada durante o trabalho. Versões anteriores, histórico de edição, fontes consultadas, prompts relevantes e aprovações ajudam a explicar como o resultado surgiu. Tentar reconstruir tudo olhando somente para o texto final é parecido com deduzir o processo de software apenas pelo binário compilado.

A discussão sobre marcas e detecção de conteúdo no artigo de referência chama atenção para essa separação. Detectar que uma ferramenta apareceu na cadeia não informa, por si, quanto controle humano existiu. O ponto central é localizar as decisões, não apenas classificar o artefato.

Em políticas editoriais, isso muda o foco. Em vez de perguntar apenas “usou IA?”, vale perguntar para qual finalidade, em quais trechos, com que revisão e sob qual responsabilidade. Uma política mais precisa reduz tanto o uso irresponsável quanto a punição de quem usou uma ferramenta de apoio de maneira transparente.

Trate o selo ou score como um sinal inicial, nunca como prova isolada. Antes de tomar uma decisão, verifique a metodologia, o tipo de conteúdo analisado, o idioma, o tamanho do trecho e a possibilidade de edição ou tradução. Depois, combine o resultado com contexto, versões anteriores, fontes e avaliação humana.

O NIST recomenda avaliar geradores e discriminadores com métricas e benchmarks, porque o desempenho varia entre sistemas. Na prática, isso significa que uma porcentagem exibida por uma ferramenta não tem significado fora do método que a produziu e do caso em que foi aplicada.

Para leitores, o primeiro passo é não confundir aparência com origem. Leia o argumento, confira as fontes e procure sinais de erro factual. Um texto pode ser humano e ruim. Pode ser assistido por IA e bem revisado. Pode ser totalmente gerado e ainda conter afirmações corretas. O selo não responde sobre qualidade.

Para editores e professores, peça evidências proporcionais ao risco. Histórico de versões, referências, notas de pesquisa e explicação do processo podem esclarecer mais que dois detectores discordando. Se houver suspeita concreta, converse com o autor e avalie o conhecimento demonstrado sobre o material.

Para plataformas, evite automatizar punições com base em um único score. O sistema pode servir para priorizar análise, desde que haja revisão, contestação e registro do motivo da decisão. O mesmo cuidado vale para monetização, ranqueamento e moderação.

Para equipes que usam IA, documente o papel da ferramenta. Registre se houve brainstorming, revisão, tradução, geração de exemplos, transformação de formato ou redação integral. Essa classificação não precisa ser burocrática. Uma nota no histórico do projeto já melhora a prestação de contas.

A experiência com o SynthID do Google mostra por que essa cautela importa: a detecção textual é probabilística, e textos curtos, traduzidos ou totalmente reescritos podem perder o padrão. Se o próprio sistema trabalha com estados como “com marca”, “sem marca” e “incerto”, o usuário também deveria respeitar a incerteza.

Não. O detector estima a presença de padrões ou verifica uma marca específica. Isso pode sugerir participação de uma ferramenta, mas não prova geração integral, intenção ou autoria. O NIST relata variação significativa entre geradores e detectores, enquanto estudos comparativos mostram falsos positivos e falsos negativos relevantes em diferentes condições.

É um padrão estatístico incorporado durante a geração, geralmente por alterações sutis na escolha de tokens. Um detector compatível procura esse padrão depois. A Anthropic explica que marcas textuais e metadados de proveniência são técnicas diferentes. Ambas indicam processamento, não autoria completa.

Sim. Um texto humano pode ser classificado como provavelmente gerado por IA. Isso ocorre porque detectores usam sinais indiretos, como previsibilidade e regularidade. Em uma pesquisa, a avaliação humana teve 19% de acurácia geral, e a taxa de falsos positivos para textos humanos chegou a 72,2% em uma análise específica.

Pode. Edição, paráfrase, tradução, recorte e mistura com outros textos alteram os sinais disponíveis. A documentação do Claude informa que mudanças intensas podem impedir a detecção da marca. O Google também aponta que tradução e reescrita completa podem enfraquecer padrões do SynthID, especialmente quando o trecho já é curto.

Autoria trata de quem responde pelas ideias, decisões e publicação. Proveniência trata do caminho percorrido pelo conteúdo, incluindo ferramentas, versões e transformações. Um texto pode ter proveniência ligada a uma IA e continuar sob responsabilidade editorial humana. Para aprofundar esse cuidado, vale consultar o debate sobre proveniência de conteúdo e rastreabilidade.

Um selo ou detector pode indicar que uma ferramenta participou da produção ou que o texto apresenta padrões associados a modelos de linguagem. Ele pode apoiar transparência, triagem e rastreabilidade. O que não pode fazer sozinho é determinar autoria, medir esforço intelectual, provar má-fé ou reconstruir toda a história do conteúdo.

A pesquisa da USENIX sobre marcas-d’água mostra que sinais técnicos podem ser resistentes a certo nível de edição, enquanto a Anthropic reconhece limites como tradução, mistura de fontes e textos curtos. Esses resultados apontam para utilidade real, mas também para fronteiras claras.

A pergunta mais útil, portanto, não é apenas “a IA participou?”. Pergunte qual foi o papel da ferramenta, quais decisões permaneceram humanas, quais fontes sustentam o conteúdo e quem assumiu a responsabilidade pelo resultado. Essa abordagem serve melhor para redações, escolas, empresas e plataformas.

Detectores e marcas-d’água podem fazer parte de um sistema de transparência. Não devem substituir política editorial, julgamento humano, verificação factual ou direito de resposta. Quando o indicador vira veredito, a tecnologia promete responder uma pergunta sem nunca ter recebido dados suficientes para isso.

Quer continuar acompanhando discussões práticas sobre dados, IA e seus impactos no trabalho? Inscreva-se na newsletter do Data Hackers e acompanhe os próximos conteúdos sobre inteligência artificial, proveniência e responsabilidade no uso de modelos.