O YouTube está de olho nos deepfakes de celebridades com uma nova tecnologia de detecção de semelhança por IA.

O YouTube está intensificando o combate aos deepfakes de celebridades e, desta vez, não está apenas abordando o problema em termos vagos de segurança da plataforma . Em uma nova publicação no blog , o YouTube anunciou que está expandindo sua tecnologia de detecção de semelhança para a indústria do entretenimento.

Agora, as ferramentas estarão acessíveis a agências de talentos e empresas de gestão para as celebridades que representam. Essa ferramenta funciona de forma semelhante ao Content ID, mas, em vez de identificar conteúdo protegido por direitos autorais , busca conteúdo gerado por IA usando a imagem de uma pessoa e permite que os participantes elegíveis encontrem esse conteúdo e solicitem sua remoção.

Por que essa é a resposta do YouTube às falsificações de celebridades por IA

A comparação com o Content AI é fundamental, pois é exatamente assim que o YouTube quer que as pessoas pensem sobre isso. Se o sistema funcionar bem, poderá oferecer a pessoas famosas uma maneira muito mais rápida de identificar vídeos falsos usando seus rostos antes que esses vídeos se espalhem demais.

E sim, é evidente que o foco principal são as celebridades falsas. O programa expandido do YouTube está voltado para a indústria do entretenimento neste momento, com o apoio de grandes agências de talentos e empresas de gerenciamento, incluindo CAA, UTA, WME e Untitled Management.

A empresa trabalhou com esses grupos para aprimorar a forma como a ferramenta deve servir aos talentos, o que sugere que ela foi moldada em torno das necessidades práticas de figuras públicas, em vez de ser lançada como um experimento genérico de moderação.

Um detalhe importante no anúncio é que celebridades e artistas podem acessar a ferramenta mesmo que não tenham um canal no YouTube. Em outras palavras, não se trata apenas de uma vantagem para criadores de conteúdo, mas sim de um sistema de controle para toda a plataforma. Golpes com deepfakes, endossos falsos e vídeos de celebridades manipulados deixaram de ser excentricidades da internet e se tornaram uma realidade nos perigos online.

Até onde o YouTube está levando isso?

Até o momento, o anúncio está focado na indústria do entretenimento. O YouTube não anunciou uma implementação pública ampla que proteja os usuários comuns. Também não temos detalhes sobre a velocidade do sistema de detecção ou o quão proativa a empresa será contra esses deepfakes.