Anthropic, Google, Meta, Microsoft, Mistral e OpenAI assumiram o compromisso de incluir mecanismos que permitam identificar conteúdos produzidos por seus sistemas de inteligência artificial. A iniciativa faz parte de um acordo de transparência firmado na União Europeia e deverá alcançar usuários de diferentes países.

A identificação não aparecerá de forma visível no texto. Segundo a Anthropic, responsável pelo Claude, as respostas poderão receber marcas d’água digitais imperceptíveis, enquanto arquivos gerados por IA poderão conter metadados de procedência e assinaturas digitais.

A medida também deverá ser aplicada aos modelos que já estão disponíveis. A OpenAI afirmou que pretende ampliar os indicadores de procedência para diferentes formatos de conteúdo, enquanto a Anthropic informou que pretende aplicar a tecnologia às respostas do Claude em escala global.

A marcação foi desenvolvida para permanecer mesmo quando o texto é copiado e colado e passa por determinadas alterações. Porém, a própria Anthropic reconhece que a tecnologia ainda apresenta limitações. Modificações no conteúdo podem provocar falsos positivos, enquanto textos produzidos por IA podem eventualmente não ser identificados.

Pesquisadores também apontam que conteúdos humanos podem ser classificados incorretamente como gerados por inteligência artificial. Além disso, metadados podem ser removidos posteriormente, como já ocorre com mecanismos semelhantes utilizados em imagens produzidas por IA.

A decisão ocorre em meio ao avanço das regras europeias de transparência para sistemas de inteligência artificial. Entre as grandes empresas do setor, a xAI, de Elon Musk, desenvolvedora do Grok, não aderiu ao compromisso citado.

O debate também envolve a percepção dos usuários. Pesquisas realizadas pela própria OpenAI indicaram resistência a marcadores visíveis em textos, principalmente pelo receio de estigmatização. A nova estratégia busca justamente tornar a identificação técnica, sem alterar a aparência ou a leitura do conteúdo.