Permita que você identifique imagens geradas por IA! A OpenAI usa a marca d'água SynthID e lança uma ferramenta de verificação pública

OpenAI anuncia fortalecimento na detecção de imagens geradas por IA, além do certificado C2PA, introduz pela primeira vez a marca d'água invisível SynthID, desenvolvida pelo Google, e lança uma ferramenta de verificação pública, acelerando a criação de um padrão de rastreabilidade comum entre empresas.

OpenAI anunciou em 19 de maio que quer facilitar a identificação de "imagens geradas por IA". Além do certificado de conteúdo C2PA existente, a OpenAI agora adiciona uma camada de marca d'água invisível SynthID nas imagens e lança uma ferramenta de verificação pública, onde qualquer pessoa pode fazer upload de uma imagem e verificar se ela foi gerada pelo modelo da OpenAI. O SynthID não é uma tecnologia própria da OpenAI, mas um padrão de marca d'água desenvolvido pelo Google DeepMind.

Por que usar mecanismos paralelos de C2PA e SynthID

A abordagem do certificado de conteúdo C2PA é incluir uma metadados no arquivo de imagem, registrando sua origem e histórico de edição; porém, esses metadados muitas vezes são removidos ao fazer upload em plataformas sociais, ao salvar ou ao tirar screenshots. O SynthID, por sua vez, insere um sinal invisível diretamente nos pixels, que pode ser detectado mesmo após a remoção dos metadados, usando ferramentas específicas. Ter ambos os mecanismos em paralelo permite manter uma trilha completa da origem enquanto os metadados estiverem presentes, e, após serem apagados, ainda há uma marca d'água identificável.

Ferramenta de verificação lançada, mas atualmente reconhece apenas imagens da própria OpenAI

Junto com esse mecanismo, foi lançada uma ferramenta pública de verificação, onde qualquer pessoa pode fazer upload de uma imagem para confirmar se ela foi gerada por um modelo da OpenAI. A marca d'água é aplicada inicialmente em imagens produzidas pelo ChatGPT, Codex e API da OpenAI. No entanto, a ferramenta atualmente só consegue identificar imagens criadas pelos produtos da própria OpenAI, não sendo capaz de verificar imagens geradas por outras empresas de IA. A OpenAI afirmou que pretende expandir gradualmente o alcance dessa verificação no futuro.

Google e OpenAI se aproximam na implementação do SynthID

O SynthID foi desenvolvido pelo Google DeepMind, inicialmente para marcar conteúdos gerados por IA do próprio Google. Agora, a OpenAI também adota o mesmo padrão de marca d'água, seguindo o exemplo de Kakao e da empresa de voz ElevenLabs, além da Nvidia, que já utilizava uma tecnologia semelhante anteriormente. Quando duas das principais empresas de IA convergem na mesma marca de rastreabilidade, a questão de como marcar e verificar conteúdos gerados por IA começa a se consolidar como uma prática comum entre diferentes empresas.

• Este artigo foi reproduzido com autorização de: 《Notícias de Blockchain》
• Título original: 《OpenAI adiciona rastreabilidade a imagens de IA: usa marca d'água Google SynthID e lança ferramenta de verificação》
• Autor original: Elponcrab