O Google começará a rotular imagens geradas por IA na Pesquisa

gurinho

As imagens geradas por IA tornaram -se cada vez mais predominantes nos resultados de pesquisas do Google nos últimos meses , eliminando resultados legítimos e tornando mais difícil para os usuários encontrarem o que realmente procuram. Em resposta, o Google anunciou na terça-feira que começará a rotular os resultados de pesquisa de imagens gerados e editados por IA nos próximos meses.

A empresa sinalizará esse conteúdo por meio da janela “Sobre esta imagem” e será aplicado aos recursos de Pesquisa, Google Lens e Círculo para Pesquisa do Android. O Google também está aplicando a tecnologia a seus serviços de publicidade e considerando adicionar um sinalizador semelhante aos vídeos do YouTube, mas “terá mais atualizações sobre isso no final do ano”, de acordo com o anúncio.

Imagens geradas por IA aparecendo na pesquisa do Google.
Tendências Digitais

O Google contará com metadados da Coalition for Content Provenance and Authenticity (C2PA) para identificar imagens geradas por IA. Esse é um grupo industrial ao qual o Google se juntou como membro do comitê diretor no início do ano. Esses “metadados C2PA” serão utilizados para rastrear a procedência da imagem, identificando quando e onde uma imagem foi criada, bem como os equipamentos e software utilizados na sua geração.

Até agora, vários pesos pesados ​​da indústria aderiram ao C2PA, incluindo Amazon, Microsoft, OpenAI e Adobe. No entanto, o padrão em si recebeu pouca atenção dos fabricantes de hardware e atualmente só pode ser encontrado em alguns modelos de câmeras Sony e Leica. Alguns desenvolvedores proeminentes de ferramentas de geração de IA também se recusaram a adotar o padrão, como Black Forrest Labs, que cria o modelo Flux que Grok utiliza para sua geração de imagens.

O número de golpes online utilizando deepfakes gerados por IA explodiu nos últimos dois anos. Em Fevereiro, por exemplo, um financiador baseado em Hong Kong foi induzido a transferir 25 milhões de dólares para burlões que se passaram por CFO da empresa durante uma videoconferência. Em maio, um estudo realizado pelo provedor de verificação Sumsub descobriu que os golpes usando deepfakes aumentaram 245% globalmente entre 2023 e 2024, com um aumento de 303% especificamente nos EUA.

“A acessibilidade pública a esses serviços reduziu a barreira de entrada para criminosos cibernéticos”, disse David Fairman, diretor de informação e diretor de segurança da APAC na Netskope, à CNBC em maio. “Eles não precisam mais ter conjuntos de habilidades tecnológicas especiais.”