Principais perigos das falsificações e como identificá-las

Em um mundo onde sua identidade online se vincula diretamente a você, a perspectiva de uma replicação perfeita é preocupante. Mas é exatamente isso que enfrentamos com o advento da tecnologia deepfake.

À medida que a tecnologia se torna mais barata e fácil de usar, quais são os perigos dos deepfakes? Além disso, como você pode identificar um deepfake versus o verdadeiro?

O que é um Deepfake?

Um deepfake é o nome dado à mídia em que uma pessoa no vídeo ou imagem é substituída pela imagem de outra pessoa. O termo é uma maleta de "aprendizado profundo" e "falso" e usa algoritmos de aprendizado de máquina e inteligência artificial para criar mídia realista, embora sintética.

Basicamente, você pode encontrar um rosto sobreposto a outro modelo. Em seu pior desenvolvimento, a tecnologia deepfake costura vítimas inocentes em vídeos pornográficos falsos, notícias falsas, hoaxes e muito mais.

Você pode ler mais sobre as origens da tecnologia em nosso deepfake explicador .

Quais são os perigos das falsificações?

Imagens falsas sempre existiram. Descobrir o que é falso e o que não é é uma parte comum da vida, especialmente após o surgimento da mídia digitalizada. Mas os problemas que a tecnologia deepfake cria são diferentes, trazendo uma precisão incomparável para imagens e vídeos falsos.

Um dos primeiros vídeos deepfake a atingir um público mais amplo foi Jordan Peele imitando Barack Obama em um vídeo discutindo o assunto em questão:

O vídeo parece bruto, com uma voz estranha e artefatos granulados no rosto clonado. No entanto, ilustra a tecnologia deepfake.

Ou você já se perguntou como seria se Will Smith interpretasse Neo em Matrix em vez de Keanu Reeves (quero dizer, quem não jogou ?!)? Não se pergunte mais:

Esses dois vídeos não são maliciosos, levando centenas de horas de aprendizado de máquina para compilar. Mas a mesma tecnologia está disponível para qualquer pessoa com tempo suficiente para aprender e o poder de computação para acompanhá-la. A barreira para o uso da tecnologia deepfake era bastante alta inicialmente. Mas, à medida que a tecnologia melhora e as barreiras à entrada diminuem significativamente, as pessoas encontram usos negativos e prejudiciais para os deepfakes.

Antes de nos aprofundarmos no lado negro dos deepfakes, Jim Carrey substituiu Jack Nicholson em The Shining:

1. Material falso para adultos com celebridades

Uma das principais ameaças da tecnologia deepfake é o material adulto sintético ou pornografia deepfake, como é conhecido. Existem dezenas de milhares de vídeos adultos falsos com rostos de celebridades femininas proeminentes, como Emma Watson, Natalie Portman e Taylor Swift.

Todos usam algoritmos falsos de aprendizado de máquina para costurar o rosto da celebridade no corpo de uma atriz adulta e atraem dezenas de milhões de visualizações em vários sites de conteúdo adulto.

No entanto, nenhum desses sites faz nada sobre falsificações de celebridades.

"Até que haja um forte motivo para eles tentarem derrubá-los e filtrá-los, nada vai acontecer", disse Giorgio Patrini, CEO e cientista-chefe da Sensity, uma empresa de detecção e análise de falsificações profundas. "As pessoas ainda estarão livres para fazer upload desse tipo de material sem quaisquer consequências para esses sites que são vistos por centenas de milhões de pessoas."

Os vídeos são exploradores e estão longe de ser livres de vítimas, como alegam alguns criadores deepfake.

2. Material falso para adultos apresentando pessoas comuns

O que é pior do que pornografia sintética com celebridades? Isso mesmo: material adulto falso com mulheres inocentes. Um estudo da Sensity descobriu um robô deepfake no aplicativo de mensagens sociais, Telegram, que criou mais de 100.000 imagens deepfake de nus. Muitas das imagens são roubadas de contas de mídia social, apresentando amigos, namoradas, esposas, mães, etc.

O bot é um grande avanço na tecnologia deepfake, pois o uploader de imagens não precisa do conhecimento existente de deepfakes, aprendizado de máquina ou IA. É um processo automatizado que requer uma única imagem. Além disso, o bot do Telegram parece funcionar apenas com imagens de mulheres, e assinaturas premium (mais imagens, marca d'água removida) são ridiculamente baratas.

Como os deepfakes de celebridades, as imagens deepfake do bot do Telegram são exploradoras, abusivas e amorais. Eles poderiam facilmente encontrar o caminho para a caixa de entrada de um marido, parceiro, membro da família, colega ou chefe, destruindo vidas no processo. O potencial de chantagem e outras formas de extorsão é muito alto e aumenta a ameaça de problemas existentes, como a pornografia de vingança.

Publicar os deepfakes no Telegram também cria outro problema. O Telegram é um serviço de mensagens com foco na privacidade que não interfere muito nos usuários. Ele tem uma política de remoção de bots pornôs e outros bots relacionados a material adulto, mas não fez nada neste caso.

3. Material Hoax

Você viu Jordan Peele interpretando Obama. Nesse vídeo, ele está alertando sobre os perigos dos deepfakes. Uma das maiores preocupações em relação à tecnologia deepfake é que alguém crie e publique um vídeo tão realista que leve a uma tragédia de alguma forma.

No extremo mais extremo da escala, as pessoas dizem que o conteúdo de vídeo deepfake pode desencadear uma guerra. Mas também existem outras consequências importantes. Por exemplo, um vídeo falso apresentando uma grande corporação ou CEO de um banco fazendo uma declaração prejudicial pode causar um crash do mercado de ações. Novamente, é extremo. Mas pessoas reais podem verificar e verificar um vídeo, enquanto os mercados globais reagem instantaneamente às notícias e vendas automatizadas acontecem.

A outra coisa a considerar é o volume. Com o conteúdo deepfake se tornando cada vez mais barato para criar, aumenta a possibilidade de grandes quantidades de conteúdo deepfake da mesma pessoa, com foco em entregar a mesma mensagem falsa em diferentes tons, lugares, estilos e muito mais.

4. Negando Material Real

Como uma extensão do material hoax, você deve considerar que os deepfakes se tornarão incrivelmente realistas. Tanto que as pessoas vão começar a questionar se um vídeo é real ou não, independentemente do conteúdo.

Se alguém comete um crime e a única evidência é o vídeo, o que os impede de dizer: "É uma falsificação, é uma evidência falsa"? Por outro lado, que tal plantar evidências de vídeo falsas para alguém encontrar?

5. Líderes de pensamento e contatos sociais falsos

Já houve vários casos envolvendo conteúdo deepfake posando como líderes de pensamento. Os perfis no LinkedIn e no Twitter detalham funções de alto escalão em organizações estratégicas, embora essas pessoas não existam e sejam provavelmente geradas usando tecnologia deepfake.

Dito isso, esse não é um problema específico do deepfake. Desde o início dos tempos, governos, redes de espionagem e corporações usam perfis e personas falsos para coletar informações, promover agendas e manipular .

6. Golpes de phishing, engenharia social e outros golpes

A engenharia social já é um problema quando se trata de segurança. As pessoas querem confiar em outras pessoas. Está em nossa natureza. Mas essa confiança pode levar a violações de segurança, roubo de dados e muito mais. A engenharia social geralmente requer contato pessoal, seja por telefone, por meio de uma chamada de vídeo e assim por diante.

Suponha que alguém possa usar a tecnologia deepfake para imitar um diretor para obter acesso a códigos de segurança ou outras informações confidenciais. Nesse caso, isso poderia levar a um dilúvio de golpes falsos.

Como detectar e detectar falsas profundas

Com o aumento da qualidade dos deepfakes, descobrir como identificá-los é importante. No início, havia algumas coisas simples: imagens borradas, corrupções e artefatos de vídeo e outras imperfeições. No entanto, esses problemas reveladores estão diminuindo, enquanto o custo de uso da tecnologia está caindo rapidamente.

Não existe uma maneira perfeita de detectar conteúdo deepfake, mas aqui estão quatro dicas úteis:

1. Detalhes . Por melhor que a tecnologia deepfake esteja se tornando, ainda existem partes com as quais ela luta. Particularmente, pequenos detalhes em vídeos, como movimento do cabelo, movimento dos olhos, estruturas da bochecha e movimento durante a fala e expressões faciais não naturais. O movimento dos olhos é um grande sinal. Embora deepfakes agora possam piscar de forma eficaz (nos primeiros dias, isso era um grande sinal), o movimento dos olhos ainda é um problema.
2. Emoção . Amarrar os detalhes é emoção. Se alguém está fazendo uma declaração forte, seu rosto mostrará uma série de emoções à medida que ele entrega os detalhes. Deepfakes não pode transmitir a mesma profundidade de emoção que uma pessoa real.
3. Inconsistência . A qualidade do vídeo está em alta. O smartphone em seu bolso pode gravar e transmitir em 4K. Se um líder político está fazendo uma declaração, é na frente de uma sala cheia de equipamentos de gravação de primeira linha. Portanto, a baixa qualidade de gravação, tanto visual quanto audível, é uma inconsistência notável.
4. Fonte . O vídeo está aparecendo em uma plataforma verificada? As plataformas de mídia social usam verificação para garantir que pessoas globalmente reconhecíveis não sejam imitadas. Claro, existem problemas com os sistemas. Mas verificar de onde um vídeo particularmente notório está sendo transmitido ou hospedado ajudará você a descobrir se é real ou não. Você também pode tentar realizar uma pesquisa reversa de imagens para revelar outros locais onde a imagem é encontrada na Internet.

Ferramentas para detectar e prevenir falsas profundas

Você não está sozinho na luta contra a detecção de falsificações profundas. Várias grandes empresas de tecnologia estão desenvolvendo ferramentas para detecção de deepfakes, enquanto outras plataformas estão tomando medidas para bloquear deepfakes permanentemente.

Por exemplo, a ferramenta de detecção de deepfake da Microsoft , o Microsoft Video Authenticator , fará uma análise em segundos, informando ao usuário sua autenticidade (verifique o GIF abaixo para ver um exemplo). Ao mesmo tempo, a Adobe permite que você assine conteúdo digitalmente para protegê-lo de manipulação.

Plataformas como Facebook e Twitter já baniram deepfakes maliciosos (deepfakes como Will Smith em The Matrix ainda são um jogo justo), enquanto o Google está trabalhando em uma ferramenta de análise text-to-speech para combater trechos de áudio falsos.

Se você quiser se atualizar em suas habilidades de detecção de mídia falsa, verifique nossa lista de testes de detecção falsa para detectar e aprender .

Deepfakes estão chegando – e estão ficando melhores

A verdade é que, desde que os deepfakes se tornaram populares em 2018, seu uso principal é abusar de mulheres. Seja criando pornografia falsa usando o rosto de uma celebridade ou tirando as roupas de alguém nas redes sociais, tudo se concentra em explorar, manipular e degradar mulheres ao redor do mundo.

Não há dúvida de que uma insurreição de deepfakes está no horizonte. O surgimento de tal tecnologia representa um perigo para o público, mas há poucos recursos para impedir sua marcha.