OpenAI introduziu o uso do textGrain para adicionar marcas de água aos textos gerados pelo ChatGPT na União Europeia. A medida visa cumprir as exigências do AI Act, que exige que os modelos de IA sejam identificáveis. A empresa admite, porém, que o sistema tenha limitações na detecção de edições simples feitas pelos usuários.
O textGrain é uma tecnologia desenvolvida por uma empresa de segurança digital, que permite a marcação de texto de forma invisível. A OpenAI informou que a ferramenta foi escolhida por sua eficácia em ambientes de uso geral. No entanto, a empresa reconhece que a marca pode ser removida ou alterada com facilidade, o que limita sua eficácia em cenários de uso não supervisionado.
A regulamentação do AI Act, que entrou em vigor em agosto de 2024, exige que os fornecedores de IA forneçam mecanismos para identificar o conteúdo gerado por modelos de IA. A OpenAI é uma das primeiras empresas a implementar essa medida, mas outras estão em discussão sobre a melhor forma de cumprir a norma.
A decisão da OpenAI surge em um contexto de crescente regulamentação da IA na UE. A Comissão Europeia tem promovido a criação de um marco legal para a inteligência artificial, visando garantir transparência e responsabilidade. A implementação do textGrain é um passo importante, mas ainda há desafios técnicos e éticos a serem resolvidos.
