Três razões pelas quais o Facebook / Meta está fechando seu sistema de reconhecimento de rosto

Meta, a nova controladora do Facebook, anunciou na terça-feira que o Facebook eliminaria seu sistema de reconhecimento de rosto nas próximas semanas. Mais de um terço dos usuários regulares do Facebook aproveita os recursos de reconhecimento facial, portanto, essa mudança afetará várias pessoas.

Se os usuários estiverem atualmente “habilitados” para a configuração de reconhecimento facial, os modelos usados ​​para identificar cada usuário serão excluídos. Também não haverá mais reconhecimento facial automático em fotos ou vídeos. Outra área que isso causará impacto é o Texto Alt Automático, ou AAT, que é usado para descrever imagens para deficientes visuais ou cegos. Assim que o sistema de reconhecimento de rosto acabar, também desaparecerá a capacidade de identificar especificamente cada pessoa em uma foto usando o reconhecimento facial.

Dado que existem benefícios provenientes do reconhecimento facial, por que Meta está se livrando dele? No anúncio , Jerome Pesenti, vice-presidente de inteligência artificial da Meta, cita “crescentes preocupações da sociedade, especialmente porque os reguladores ainda não estabeleceram regras claras”.

Existem três áreas principais de preocupação que discutiremos a seguir.

Questões de privacidade

O Facebook salvou as “impressões faciais” de centenas de milhões de usuários, e nem todos ficarão tão felizes com isso. Não muito tempo atrás, o Facebook resolveu uma ação coletiva que foi movida em 2015 relacionada a questões de privacidade sobre seu recurso de reconhecimento de rosto e sugestões de tags. A empresa pagou mais da metade de um bilhão de dólares como resultado. Ele também interrompeu o recurso confuso de “sugestões de tag” e o renomeou como “reconhecimento de rosto” por uma questão de clareza, além de adicionar um componente opcional para a tecnologia renomeada. Mas mesmo com essas mudanças de privacidade, o sistema de reconhecimento facial parece ser mais problemático do que vale a pena – especialmente agora, quando o Meta está ocupando espaço de destaque nas manchetes por suas práticas questionáveis .

Preocupações com exatidão e justiça

Se você assistiu a qualquer documentário recente sobre investigações policiais, provavelmente está ciente de que a polícia tem cada vez mais contado com a mídia social como ferramenta de investigação, incluindo e especialmente o reconhecimento de rosto do Facebook. Muitos ativistas e defensores se preocupam com o impacto que isso tem sobre a igualdade, a imparcialidade e a justiça em geral.

Claro, o reconhecimento facial pode ser usado para solucionar crimes. Mas também pode ser usado para acusar falsamente, identificar manifestantes pacíficos e como uma ferramenta para a discriminação acidental ou proposital (já que notoriamente tem problemas com o reconhecimento incorreto de BIPOC – Indígenas Negros ou pessoas de cor – indivíduos). São Francisco proibiu o uso de reconhecimento facial por agências locais em 2019, tornando-se a primeira grande cidade dos EUA a fazê-lo, assim como o estado do Maine . O Parlamento Europeu também tem feito barulho nesse sentido e estamos cada vez mais a assistir a uma onda de violência contra a tecnologia, tanto a nível nacional como internacional.

Questões regulatórias

O Facebook também enfrentou questões regulatórias em torno dessa tecnologia. Em 2018, em conjunto com outros grupos de consumidores, o Electronic Privacy Information Center apresentou uma reclamação à Federal Trade Commission (FTC) sobre a tecnologia de reconhecimento facial do Facebook. E, como todos sabemos, o Facebook não é estranho ao FTC.

Na postagem do blog , Pesenti diz: “Olhando para o futuro, ainda vemos a tecnologia de reconhecimento facial como uma ferramenta poderosa, por exemplo, para pessoas que precisam verificar sua identidade ou para evitar fraude e falsificação de identidade. Acreditamos que o reconhecimento facial pode ajudar em produtos como esses com privacidade, transparência e controle, então você decide se e como seu rosto será usado. Continuaremos trabalhando nessas tecnologias e envolvendo especialistas externos. ”

Ele prossegue explicando: “Cada nova tecnologia traz consigo um potencial de benefício e preocupação, e queremos encontrar o equilíbrio certo. No caso do reconhecimento facial, seu papel de longo prazo na sociedade precisa ser debatido abertamente e entre aqueles que serão mais afetados por ele. Continuaremos nos envolvendo nessa conversa e trabalhando com os grupos da sociedade civil e reguladores que estão liderando essa discussão ”.

O que estamos perdendo ou ganhando?

A grande e mais óbvia mudança é que os rostos das pessoas não serão mais reconhecidos e marcados automaticamente em fotos, vídeos e memórias, embora a marcação manual ainda esteja disponível e seja incentivada. Você também não verá mais as tags sugeridas. Talvez a perda mais notável seja para usuários com deficiência visual que não receberão mais nomes de pessoas nas fotos por meio do texto alternativo automático, embora a tecnologia continue a funcionar para texto, apesar de omitir nomes. Nenhuma dessas perdas são enormes, mesmo tomadas em conjunto, e o modelo de reconhecimento de rosto para aqueles que optaram por será excluído, enquanto aqueles que nunca optaram não verão nenhuma alteração.

Resta saber se, quando ou como o reconhecimento facial retornará ao Facebook. Mas, por enquanto, muitos usuários se sentirão mais seguros com o desaparecimento da tecnologia, enquanto outros perderão alguns dos principais recursos e benefícios de que desfrutam.