Pode Deepfake Fool Reconhecimento Facial? Um novo estudo diz que sim!
Deepfakes e vídeos gerados por IA vieram para ficar. Mas, nos últimos anos, eles cresceram em qualidade e quantidade, fazendo com que muitas pessoas se preocupassem com a segurança nacional e a privacidade pessoal.
Ainda assim, não importa o quanto os usuários anônimos online tentem tornar seus vídeos falsos realistas, eles nunca conseguem passar por um software de reconhecimento facial avançado. Até agora.
Fooling Face Recognition APIs
Pesquisadores da Universidade Sungkyunkwan em Suwon, Coreia do Sul, testaram a qualidade da tecnologia deepfake atual . Eles testaram as APIs da Amazon e da Microsoft usando software de geração de vídeo deepfake de código aberto e comumente usado para ver o seu desempenho.
Os pesquisadores usaram os rostos de celebridades de Hollywood. Para criar deepfakes sólidos, o software precisa de muitas imagens de alta qualidade de diferentes ângulos das mesmas pessoas, que são muito mais fáceis de adquirir de celebridades do que de pessoas comuns.
Os pesquisadores também decidiram usar a API da Microsoft e da Amazon como benchmarks para seu estudo, já que ambas as empresas oferecem serviços de reconhecimento facial de celebridades. Eles usaram conjuntos de dados disponíveis publicamente e criaram pouco mais de 8.000 deepfakes. De cada vídeo deepfake, eles extraíram várias imagens de rosto e enviaram para as APIs que estão em questão.
Com o Azure Cognitive Services da Microsoft, os pesquisadores foram capazes de enganar o sistema 78 por cento do tempo usando deepfakes. Os resultados da Amazon foram um pouco melhores, com 68% dos rostos enviados sendo identificados como reais.
E quanto aos detectores de Deepfake?
Os detectores de deepfake funcionam mais ou menos da mesma maneira que o deepfake. Os detectores são softwares treinados com modelos de aprendizado de máquina para detectar vídeos deepfake.
Mas, em vez de se concentrar na criação de um vídeo hiper-realista para enganar os detectores, os deepfakes agora podem incluir exemplos adversários em cada quadro para confundir o sistema de IA. Na verdade, ataques deepfake desse tipo têm taxas de sucesso que variam de 78 a 99 por cento .
Está ficando pior
Deepfakes é um aplicativo de aprendizado de máquina . Para criar um que seja mesmo remotamente convincente, você precisa de centenas de imagens do rosto da mesma pessoa de diferentes ângulos e exibindo várias emoções.
Devido à necessidade de grandes quantidades de dados, poderíamos pensar que apenas pessoas com uma grande presença online estão em risco, como celebridades e políticos. Mas não é mais o caso.
De acordo com a Deeptrace, o número de deepfakes online aumentou 330 por cento em menos de um ano – de outubro de 2019 a junho de 2020. Sem mencionar que o software e algoritmos que os fabricantes de deepfake usam estão se tornando mais fortes e mais prontamente disponíveis e acessíveis.
Quem corre o risco de falsificações?
Quando os deepfakes se tornaram populares, as principais preocupações eram com a privacidade e a segurança nacional . As pessoas temiam que as filmagens de políticos e funcionários oficiais do governo não fossem mais confiáveis.
Mas, embora seja irresponsável desconsiderar a postura do deepfake de risco à segurança, várias pesquisas descobriram que os fabricantes do deepfake ainda não estão tão interessados em perturbar a política. A maioria dos vídeos deepfakes online pode ser dividida em duas categorias: vídeos engraçados de entrevistas com celebridades e filmes e material pornográfico.
Embora o estudo recente tenha sido conduzido usando rostos de celebridades para garantir que os deepfakes fossem de alta qualidade para enganar as APIs, isso não significa que você não pode fazer deepfakes com menos dados. Claro, eles podem não ter a chance de enganar sistemas avançados de reconhecimento facial, mas podem ser convincentes o suficiente para enganar outras pessoas.
Hoje em dia, falsificações profundas de qualquer pessoa com presença social podem ser feitas de forma convincente. Tudo que eles precisam são algumas fotos suas e talvez um vídeo em que você apareça. O deepfake resultante pode ser de baixa qualidade, mas ainda é factível e pode ser prejudicial.
O futuro ainda é desconhecido
Existem muitas previsões contraditórias sobre o estado dos deepfakes, já que eles não irão desaparecer tão cedo.
Alguns esperam um futuro cibernético apocalíptico onde você não pode confiar em nenhuma filmagem que encontrar online. Outros são mais otimistas, comparando deepfakes à animação e dizendo que pode haver um futuro na produção de conteúdo.