O YouTube finalmente está abordando o lado mais arriscado dos vídeos deepfake.
O YouTube está intensificando sua luta contra um dos usos mais preocupantes da IA: vídeos deepfake que se fazem passar por pessoas reais. A empresa anunciou que está expandindo sua tecnologia de detecção de semelhança para um grupo piloto de jornalistas, autoridades governamentais e candidatos políticos. É uma medida que visa proteger figuras públicas da falsificação de identidade gerada por IA.
O recurso funciona de forma semelhante ao Content ID para reconhecimento facial. Os participantes enviam um vídeo curto e um documento de identidade oficial para que o sistema possa reconhecer sua aparência. Após a inscrição, o YouTube analisa os vídeos enviados em busca de conteúdo gerado por inteligência artificial que imite sua aparência. Caso esse tipo de conteúdo seja encontrado, o indivíduo pode analisá-lo e, se necessário, solicitar sua remoção.
Um novo escudo contra a falsificação de identidade por IA
O YouTube introduziu pela primeira vez a detecção de semelhança para criadores no Programa de Parcerias do YouTube no ano passado. A empresa agora acredita que a próxima prioridade é proteger figuras públicas cujas identidades são frequentemente usadas em campanhas de desinformação, especialmente em torno de eleições e discursos políticos.
Graças às ferramentas de IA generativa, os deepfakes tornaram-se cada vez mais realistas, facilitando a criação de vídeos convincentes de pessoas dizendo ou fazendo coisas que nunca fizeram. Na política e no jornalismo, esse risco pode ter sérias consequências, desde desinformação até danos à reputação. No entanto, o sistema não é um simples "botão de excluir". O YouTube afirma que as solicitações de remoção ainda estarão sujeitas às suas diretrizes de privacidade e moderação existentes, o que significa que alguns vídeos podem permanecer online se forem classificados como paródia, sátira ou comentário legítimo.
Curiosamente, o YouTube afirma que o lançamento inicial para criadores não resultou em muitas remoções. A maior parte do conteúdo detectado acabou sendo relativamente inofensiva, embora a empresa espere que a situação seja diferente para figuras públicas e líderes políticos, que enfrentam um risco maior de ataques direcionados com deepfakes.
Por enquanto, o programa permanecerá restrito a indivíduos influentes, e não ao público em geral. Mas a expansão sinaliza uma mudança mais ampla em toda a indústria de tecnologia: agir rapidamente para criar mecanismos de proteção antes que a mídia gerada por IA se torne indistinguível da realidade.
O artigo "O YouTube finalmente está abordando o lado mais arriscado dos vídeos deepfake" foi publicado originalmente no Digital Trends .
