Preocupado com o aviso deepfake do FBI? Siga estas dicas de especialistas

Na semana passada, o Federal Bureau of Investigation (FBI) divulgou um anúncio de serviço público sobre o aumento do conteúdo explícito deepfake e como ele está sendo usado para crimes como extorsão, chantagem e assédio. Nos termos mais simples, um deepfake é um material multimídia sintético tentando imitar um arquivo . Pode ser uma foto, vídeo ou clipe de áudio de geração de IA.

O nome “deepfake” vem da tecnologia inerente usada na criação dessa mídia – aprendizado profundo – que envolve treinar um modelo de IA usando material original e modificá-lo para gerar os resultados desejados. Não é exatamente uma nova invenção, mas com a IA generativa explodindo em popularidade – e acesso – os crimes deepfake estão aumentando.

A popularidade deles é tamanha que até a campanha do candidato presidencial republicano Ron DeSantis usou imagens deepfake do rival Donald Trump para difamá-lo. Deepfakes também são uma das razões pelas quais os pedidos de regulamentação da IA ​​estão sendo levantados em todos os lugares. De acordo com o FBI, o conteúdo para gerar deepfakes geralmente é retirado de postagens de mídia social e videochamadas antes de ser modificado em materiais sexualmente explícitos para extorsão e bullying.

O que os especialistas dizem sobre deepfakes

Então, qual é a solução? Infelizmente, não há solução. Pelo menos, não sem fazer um acordo – um que fundamentalmente vira todo o significado de “mídia social” de cabeça para baixo.

“Infelizmente, a única maneira de garantir que nenhuma de suas fotos ou vídeos seja usado para criar deep fakes é parar de postar fotos suas online, mas isso tiraria muita diversão dos usuários da internet”, diz Adrianus Warmenhoven, um consultor de cibersegurança na Nord .

“À medida que surgem novas e melhores práticas de segurança, agentes mal-intencionados encontrarão uma maneira de causar danos. É um jogo de atualização e às vezes parece decepcionante”, diz Parteek Saran, ex-Googler e criador de uma ferramenta de gerenciamento de senhas de última geração chamada Uno . Ele sugere ainda que se deve tentar adotar uma “filosofia de confiança zero” quando se trata de postar conteúdo nas mídias sociais e enfatiza a comunicação eficaz com conhecidos para evitar golpes de deepfake.

“Embora a IA possa ajudar a lidar com questões de segurança digital, não existe uma rede de segurança infalível”, diz Yaron Litwin, especialista em segurança digital e CMO da Canopy . O aplicativo homônimo da empresa visa manter as crianças protegidas contra crimes sexuais online e também oferece um conjunto diversificado de controles dos pais. Litwin acrescenta que você deve evitar postar imagens íntimas ou comprometedoras e, ao mesmo tempo, reduzir a frequência de postagem de imagens normais.

Como você pode se manter seguro

Os deepfakes são aterrorizantes e é difícil imaginar o trauma que eles podem infligir a uma pessoa e seus familiares. Mas existem algumas maneiras pelas quais os usuários podem evitar cair na armadilha ou, pelo menos, evitar em grande medida.

Para entender quais etapas os usuários médios de smartphones com habilidades digitais típicas podem seguir, entrei em contato com Andrew Gardner, vice-presidente de pesquisa e inovação da Gen Digital , uma empresa de software que oferece ferramentas de segurança confiáveis, como Norton, Avast e Avira, entre outras.

Gardner diz que os protocolos de segurança começam no nível fundamental. Os usuários devem começar tornando seus perfis privados – ou pelo menos alterar as configurações de visibilidade da postagem para que apenas as pessoas que eles seguem mutuamente possam ver e interagir com suas postagens. Os controles dos pais , que agora estão disponíveis para quase todas as principais plataformas de mídia social, devem ser ativados de forma diligente para que os responsáveis ​​possam ficar de olho em qualquer interação suspeita.

É um conselho geral que só se deve aceitar pedidos de pessoas que se conhece, mas dar um passo a mais pode ajudar bastante. “Se você estiver fazendo networking, verifique as postagens e atividades recentes dos convidados para avaliar o quão reais elas são”, diz Gardner, acrescentando que deve-se ter cuidado com “contas com poucos amigos ou amigos em comum”. Outro conselho crucial que o executivo da Gen Digital tem a dar é verificar e restringir os logins nas redes sociais.

Os usuários costumam visitar os serviços online e, para evitar o incômodo de criar uma conta, optam pela opção de login da mídia social. “Isso dá aos aplicativos acesso a informações pessoais e, em algumas situações, esses aplicativos vendem essas informações a terceiros”, diz ele. O escândalo da Cambridge Analytica envolvendo o Facebook é um ótimo exemplo. Deve-se verificar periodicamente quais aplicativos estão conectados às suas contas de mídia social e, a menos que necessário, seu acesso deve ser revogado.

Deepfakes são crimes sofisticados movidos a IA, mas Gardner sugere que os usuários ainda devem aderir a algumas diretrizes básicas de segurança – como habilitar a autenticação de dois fatores, usar senhas fortes, habilitar senhas biométricas e evitar links suspeitos ou desconhecidos.

Mídia social feita com segurança e responsabilidade

Litwin da Canopy é de opinião que quanto mais você compartilha, mais fácil se torna criar deepfakes convincentes. Não há escassez de modelos obscuros de geração de imagens de IA sem quaisquer restrições na criação de material explícito. Essas ferramentas dependem de entradas de imagem para treinar o modelo. Quanto mais dados de treinamento são alimentados, mais precisos e realistas os deepfakes se tornam.

É a tática padrão implementada pelos principais geradores de imagens de IA como o MidJourney . Se o seu feed social estiver aberto e tiver uma grande quantidade de fotos e vídeos, não há como impedir que um mau ator os raspe para criar deepfakes comprometedores. Mas se você está entre as pessoas que valorizam as mídias sociais como um lugar para preservar suas memórias mais queridas, existem algumas medidas que você deve tomar.

“Tenha cuidado com as informações pessoais que você compartilha online, ajuste as configurações de privacidade em suas contas, habilite a autenticação de dois fatores e revise cuidadosamente as imagens em busca de quaisquer imperfeições”, observa Boyd Clewis , especialista em segurança cibernética do Forbes Security Council e autor de “Through O firewall: a alquimia de transformar a crise em oportunidade.”

Mas como identificar com segurança um perfil de mídia social que provavelmente tem um mau ator por trás dele envolvido em atos obscuros, como criar e disseminar deepfakes? “Se o material de vídeo ou áudio for compartilhado de perfis suspeitos e as contas não contiverem nenhuma informação ou foto pessoal, é provável que o perfil seja falso”, sugere Tomas Samulis, arquiteto de segurança da informação da Baltic Amadeus. Ele sugere que esses perfis sem informações de identificação pessoal são criados especificamente para espalhar falsificações e outras informações controversas”.

O que fazer se você for deepfaked

Mas há tanta precaução que um usuário médio de smartphone pode tomar. Mesmo os usuários com mais experiência digital se encontram na ponta receptora de crimes cibernéticos, mesmo depois de usar todas as ferramentas padrão, como autenticação de dois fatores, perfis privados e firewalls biométricos.

Se, apesar de tomar todas as precauções, você ainda se encontrar no centro de um crime deepfake, procure aconselhamento especializado e ajuda das autoridades em vez de resolver o problema por conta própria. Os especialistas observam que sofrer esse tipo de assédio ou tentar lidar com isso discretamente por conta própria geralmente piora a situação das vítimas.

“Se você descobrir que alguém está fazendo uso indevido de seu conteúdo, procure um advogado familiarizado com a lei de direitos autorais para ajudá-lo a remover o conteúdo o mais rápido possível”, diz Rob Scott, membro da Dallas Bar Association e especialista jurídico licenciado em áreas como segurança cibernética. risco e privacidade de dados.

Consultar um especialista jurídico é crucial porque ele pode orientá-lo sobre seus direitos digitais, Litwin da Canopy também sugere preservar todas as evidências, aconselhando as vítimas a “documentar qualquer evidência das tentativas de extorsão, como mensagens, e-mails ou qualquer forma de comunicação relacionada a a extorsão”.

Outro conselho crucial é que a vítima deve cessar imediatamente todo contato com um criminoso porque o criminoso pode manipulá-la ou assediá-la ainda mais com exigências de extorsão mais sérias. Ao mesmo tempo, os usuários devem entrar em contato com um especialista em segurança cibernética ou discar para uma das linhas de apoio ao crime cibernético do governo para tomar as medidas corretas a tempo.

Como identificar deepfakes

Com os mecanismos de IA ficando cada vez mais sofisticados, o tipo de deepfake que eles produzem está se tornando assustadoramente real e difícil de detectar. No entanto, ainda existem alguns marcadores aos quais os usuários podem prestar atenção para identificar material comprometedor sinteticamente alterado ou gerado por IA.

A seguir está uma compilação de identificadores deepfake que os especialistas têm a oferecer:

• Fique atento a movimentos não naturais dos olhos. Se os olhos de uma pessoa não parecem estar piscando, o movimento dos olhos está desligado ou as expressões faciais não parecem estar em sincronia com as palavras que estão falando, é mais provável que seja um clipe deepfake. A falta de emoções, ou emoções incoerentes, é um marcador revelador de que a mídia foi transformada digitalmente.
• “A tecnologia deepfake normalmente se concentra em características faciais”, diz Gardner. “Se a forma do corpo da pessoa não parece natural, ou se seus movimentos são espasmódicos e desconexos, o vídeo provavelmente é um deepfake.”
• Outro marcador confiável é o plano de fundo, que pode parecer estranhamente desfocado ou mostrar artefatos visuais estranhos. Outra maneira fácil de detectar deepfakes é procurar por descoloração anormal ou incompatibilidade de cor grave, especialmente no que diz respeito ao rosto e à sombra dos itens ao redor.
• Se você se deparar com uma foto em que uma pessoa está exibindo um “cabelo perfeito” e não conseguir identificar nenhum elemento individual, como alguns fios de cabelo solto ou crespo, fique atento. Os modelos de IA também são conhecidos por lutar com os dentes. Fique atento aos dentes que são anormalmente perfeitos, ou aqueles que não têm contornos para dentes individuais, ou talvez mais dentes do que a dentadura humana comum.
• Partes do corpo desalinhadas, bordas borradas, alguns dedos a mais ou a menos, membros estranhamente contorcidos, movimentos fora de sincronia das partes do corpo e uma voz sem pausas e quebras emocionais são outros sinais aos quais você deve ficar atento. “Gravações de voz ou áudio falsas geralmente têm ruído de fundo, vozes robóticas e pronúncias estranhas”, explica Samulis.

Um problema sério com soluções meio eficazes

Conforme explicado acima, não existe uma rede de segurança infalível contra deepfakes. Mas se você for cuidadoso sobre onde você compartilha fotos, quem pode vê-las e até onde vai o seu acesso à mídia social, você pode ficar em uma zona relativamente segura.

Deve-se também prestar atenção em quem são seus amigos online e também examinar as atividades de novos convidados antes de adicioná-los ao círculo de amigos nas redes sociais. No que diz respeito aos deepfakes, isso é um pouco complicado. Mas se você ficar atento e avaliar as inconsistências em uma foto ou vídeo suspeito, os deepfakes podem ser detectados com um alto grau de precisão.

No final das contas, trata-se de cultivar hábitos on-line higiênicos e manter-se vigilante em um espaço on-line cada vez mais propenso a falsificações.