A OpenAI lançou um novo site onde você pode verificar se uma imagem é real ou uma montagem de IA.
Identificar uma imagem gerada por IA está se tornando cada vez mais difícil. A OpenAI quer mudar isso e está usando o Google como parceiro para realizar essa tarefa gigantesca.
A OpenAI anunciou uma atualização significativa na forma como lida com a proveniência do conteúdo, que é apenas uma maneira sofisticada de dizer como você pode saber de onde uma imagem veio e se ela foi gerada por IA.
A atualização possui três partes principais: conformidade com a C2PA, uma nova parceria de marca d'água com o Google e uma ferramenta pública que você pode usar para verificar imagens por conta própria.
Então, o que está mudando de fato?
Desde 2024, a OpenAI adiciona metadados, chamados de Credenciais de Conteúdo, às imagens geradas por suas ferramentas. Esses metadados são incorporados a todas as imagens geradas e informam como foram criadas. A empresa agora se tornou uma Geradora em Conformidade com o C2PA, o que significa que outras plataformas podem ler e encontrar as informações de forma confiável quando se depararem com conteúdo gerado pela OpenAI.
A grande novidade é a parceria com o Google. A OpenAI agora está adicionando a marca d'água SynthID do Google DeepMind às imagens geradas pelo ChatGPT e pela API da OpenAI. Ao contrário dos metadados, que podem ser removidos ao capturar uma imagem ou ao reenviá-la, o SynthID incorpora uma marca d'água invisível diretamente na imagem. Ele foi projetado para resistir às transformações que normalmente apagam a detecção baseada em metadados.
Os dois sistemas funcionam em conjunto. Os metadados contêm informações detalhadas sobre a origem da imagem, enquanto a marca d'água serve como backup caso os metadados não sejam preservados.
Como posso verificar se uma imagem foi gerada por IA?
A OpenAI está lançando uma prévia de uma ferramenta pública de verificação em openai.com/verify. Você pode fazer o upload de uma imagem e a ferramenta verificará as marcas d'água Content Credentials e SynthID para determinar se ela foi gerada usando as ferramentas da OpenAI.
Uma ressalva importante: se a ferramenta não encontrar marca d'água ou metadados, isso não significa que a imagem não foi gerada por IA. Isso ocorre porque a marca d'água e os metadados ainda podem ser falsificados.
Além disso, nem todas as empresas de IA generativa firmaram parceria com o Google para incluir o SynthID em suas imagens. A menos que o SynthID ou algo similar seja universalmente adotado por todos os modelos de IA generativa , nenhuma ferramenta de verificação pode afirmar com 100% de certeza que uma imagem não foi gerada por IA.
Ainda assim, é um passo na direção certa. Imagens geradas por IA se tornaram um caos e são amplamente utilizadas para fins nefastos. Um sistema para reconhecê-las é absolutamente necessário, e fico feliz que o Google e a OpenAI estejam abrindo caminho para isso.
