Imagens falsas de IA estão aparecendo na pesquisa do Google – e isso é um problema
No momento, se você digitar “Israel Kamakawiwoʻole” na pesquisa do Google, não verá uma das capas de álbuns famosos do cantor, nem uma imagem dele tocando uma de suas músicas em seu icônico ukulele. O que você vê primeiro é a imagem de um homem sentado na praia com um sorriso no rosto – mas não uma foto do próprio homem tirada com uma câmera. Esta é uma foto falsa gerada por IA. Na verdade, ao clicar na imagem, você será levado ao subreddit Midjourney , onde a série de imagens foi postada inicialmente.
Vi isso postado pela primeira vez por Ethan Mollick no X (anteriormente conhecido como Twitter), um professor da Wharton que estuda IA.
Olhando a foto de perto, não é difícil ver todos os vestígios de IA deixados nela. O falso efeito de profundidade de campo é aplicado de forma irregular, a textura de sua camisa está distorcida e, claro, falta um dedo na mão esquerda. Mas nada disso é surpreendente. Por melhores que as imagens geradas por IA tenham se tornado no ano passado, elas ainda são muito fáceis de detectar quando você olha de perto.
O verdadeiro problema, porém, é que essas imagens aparecem como o primeiro resultado de uma figura famosa e conhecida, sem quaisquer marcas d'água ou indicações de que ela foi gerada por IA. O Google nunca garantiu a autenticidade dos resultados de sua pesquisa de imagens, mas há algo que parece muito preocupante nisso.
Agora, existem algumas explicações possíveis para o motivo pelo qual isso aconteceu neste caso específico. A cantora havaiana, comumente conhecida como Iz, faleceu em 1997 – e o Google sempre deseja fornecer as informações mais recentes aos usuários. Mas dado que não houve muitos artigos novos ou discussões sobre Iz desde então, não é difícil ver por que o algoritmo percebeu isso. E embora isso não pareça particularmente importante para Iz – não é difícil imaginar alguns exemplos que seriam muito mais problemáticos.
Mesmo que não continuemos a ver isso acontecer em grande escala nos resultados de pesquisa, é um excelente exemplo de por que o Google precisa ter regras sobre isso. No mínimo, parece que as imagens geradas por IA deveriam ser marcadas claramente de alguma forma antes que as coisas saiam do controle. No mínimo, pelo menos nos dê uma maneira de filtrar automaticamente as imagens de IA. Dado o interesse do próprio Google em conteúdo gerado por IA , no entanto, há razões para pensar que ele pode querer encontrar maneiras de inserir conteúdo criado por IA em seus resultados, e não marcá-lo claramente.
