ChatGPT vai marcar textos com assinatura invisível na Europa

A OpenAI anunciou nesta segunda-feira (5) que vai passar a embutir uma marca d’água invisível nos textos gerados pelo ChatGPT e pelo Codex na União Europeia. A medida atende ao AI Act, a lei europeia de IA, e será liberada aos poucos, nas próximas semanas, para usuários elegíveis de todos os planos. Fora da Europa, a marca não é ligada por padrão, mas desenvolvedores que usam a API da empresa em qualquer país já podem ativá-la em alguns modelos.

Como funciona a “assinatura” no texto

A tecnologia se chama textGrain. Segundo a descrição publicada pela empresa e relatada pelo TechCrunch, ela não coloca caracteres escondidos nem espaços estranhos no texto. Em vez disso, ajusta de leve a escolha de palavras do modelo, seguindo uma chave secreta. O resultado é um padrão estatístico que o leitor não percebe, mas que um detector consegue medir.

Como o sinal está na própria redação, ele acompanha o texto quando alguém copia e cola. O ponto fraco é justamente a edição: nos testes citados pelo TechCrunch, trocar 10% das palavras por sinônimos derrubou a taxa de detecção de 92% para 66%. O Engadget cita ainda que, em textos curtos, o acerto fica em torno de 80%.

O que fica de fora

A própria OpenAI avisa que a ausência da marca não prova que um texto foi escrito por uma pessoa. O texto pode ser curto demais, ter sido muito editado ou ter vindo de outra IA. A marca também não diz quem usou a ferramenta, quanto da autoria é humana, quem é o dono do texto nem se o conteúdo está correto.

O acesso ao detector, por ora, será restrito a pesquisadores aprovados e organizações especializadas, e ele não revela o usuário nem o que foi pedido, de acordo com o Engadget. Ou seja: o leitor comum não vai poder colar um texto num site e descobrir se foi o ChatGPT que escreveu.

Por que a Europa

O Artigo 50 do AI Act exige que provedores de IA generativa tornem os textos gerados identificáveis por máquina. O Engadget informa que o prazo de adequação para sistemas já existentes termina em 2 de dezembro. A tendência é que outras big techs que operam na Europa, como Google, Microsoft e Meta, precisem de soluções parecidas.

O que muda para você

• Se você usa o ChatGPT no Brasil: pelo que as fontes informam, nada muda no uso diário agora. A ativação padrão é só para a Europa, e não há anúncio de que o Brasil terá a marca.
• Se você mora ou viaja para a Europa: textos gerados na conta podem sair com a assinatura invisível. Ela não altera como o texto aparece para você.
• Se é desenvolvedor ou empresa: vale avaliar a opção da API, sobretudo se seus produtos têm clientes europeus e precisam cumprir o AI Act. Teste antes, porque a detecção cai com edição.
• Se é estudante, professor ou profissional de conteúdo: não use a marca como prova. Ela não serve para acusar alguém de ter usado IA, e a própria empresa diz que a falta dela não prova autoria humana.
• Para quem acompanha regulação: é um sinal de como as regras europeias começam a mexer nos produtos de IA que também usamos aqui. Para saber como as empresas já mostram o que a IA faz no celular, veja IA no celular: o que cada recurso faz.

Resumo

• A OpenAI vai marcar de forma invisível os textos do ChatGPT e do Codex na União Europeia, nas próximas semanas.
• A tecnologia, chamada textGrain, altera sutilmente a escolha de palavras com uma chave secreta.
• A marca perde força com edição e em textos curtos, e não prova autoria humana quando ausente.
• Desenvolvedores de qualquer país podem ativar a marca na API em modelos selecionados.
• Não há informação oficial de que usuários no Brasil terão a marca ativada por padrão.