Microsoft desativa reconhecimento facial, IA pode não pensar no que você expressa

Expressar emoções com expressões faciais é uma habilidade quase inata de todos. As pessoas também estão acostumadas com expressões faciais para adivinhar as emoções de outras pessoas. No entanto, com o rápido desenvolvimento da tecnologia, a IA (inteligência artificial) também pode reconhecer as condições faciais e emoções das pessoas. expressão .

Não muito tempo atrás, a Microsoft, que vem trabalhando no desenvolvimento de tecnologia de reconhecimento facial, lançou um guia sobre o tema "Uma estrutura para construção responsável de sistemas de inteligência artificial". Compartilha abertamente os padrões de IA responsáveis ​​da Microsoft, a estrutura que orienta como a Microsoft cria sistemas de IA.

O artigo menciona que a Microsoft decidiu aposentar os recursos de reconhecimento facial, Azure Face Services, porque esses recursos podem ser usados ​​para tentar inferir estados emocionais e atributos de identidade interna, que, se abusados, podem expor as pessoas a estereótipos, discriminação ou negação injusta. de serviço.

Atualmente, o serviço de rosto está disponível apenas para clientes e parceiros hospedados pela Microsoft, os clientes existentes terão um ano para fazer a transição, mas devem parar de usar esses recursos até 21 de junho de 2023; novos usuários podem usar o formulário de solicitação de reconhecimento facial Solicitar acesso.

Na verdade, a Microsoft não está desativando completamente o recurso, mas integrando a tecnologia em ferramentas de acessibilidade “controladas”, como “Seeing AI” para pessoas com deficiência visual. Ele pode descrever objetos e textos para deficientes visuais, ler sinais, decifrar as expressões faciais de alguém, fornecer navegação e muito mais. Atualmente suporta inglês, holandês, francês, alemão, japonês e espanhol.

A orientação, divulgada pela Microsoft, explica o processo de tomada de decisão da empresa de tecnologia, incluindo foco em princípios como inclusão, privacidade e transparência, e é a primeira grande atualização do padrão desde seu lançamento no final de 2019.

A Microsoft disse que fez uma mudança tão grande no reconhecimento facial porque reconheceu que, para que os sistemas de IA sejam confiáveis, eles precisam resolver adequadamente os problemas que foram projetados para resolver.

Como parte dos esforços para alinhar o serviço Azure Face com os requisitos de padrões de IA responsáveis, a Microsoft também descontinuará a inferência de estados emocionais (feliz, triste, neutro, irritado etc.) e atributos de identidade (como sexo, idade, sorriso, pelos faciais, cabelo e maquiagem).

No caso de estados emocionais, a Microsoft decidiu não fornecer acesso de API aberta a tecnologias que escaneiam o rosto das pessoas e afirmam ser capazes de inferir seu estado emocional com base em suas expressões faciais ou movimentos.

A página da Microsoft mostra que ele pode ser identificado por 27 sinais faciais de pessoas, e há vários atributos faciais que podem ser julgados, como se um determinado rosto está desfocado, se possui acessórios, sexo e idade estimados, se usa óculos, e o tipo de cabelo. , Se você usa óculos, se você tem um sorriso…

Especialistas dentro e fora da Microsoft destacaram a falta de consenso científico sobre a definição de "emoção" e o alto nível de preocupações com a privacidade em torno dessa capacidade. Então, a Microsoft também decidiu que precisava analisar cuidadosamente todos os sistemas de IA projetados para inferir os estados emocionais das pessoas, independentemente de usarem análise facial ou qualquer outra tecnologia de IA.

Vale a pena mencionar que a Microsoft não é a única empresa que levou a sério o reconhecimento facial.O CEO da IBM, Arvind Krishna, também escreveu ao Congresso dos EUA, revelando que a empresa se retirou do negócio de reconhecimento facial. O motivo da decisão das duas empresas é inseparável da "Morte de Floyd" que causou sensação antes.

Por causa do medo de que essa tecnologia possa fornecer ferramentas de monitoramento para agências de aplicação da lei, o que levará a algumas violações de direitos humanos, e também teme que a privacidade dos cidadãos seja vazada, e a legislação atual dos EUA a esse respeito não é muito perfeita.

Portanto, essas empresas com tecnologia decidiram começar por se conter, para que a tecnologia não seja abusada, e a privacidade e os direitos humanos dos cidadãos sejam mais protegidos. Quando o uso de uma tecnologia não é restringido por especificações perfeitas, pode ser uma escolha melhor restringir o próprio desenvolvimento da tecnologia.

#Bem-vindo a prestar atenção à conta oficial do WeChat de Aifaner: Aifaner (WeChat: ifanr), mais conteúdo interessante será trazido para você o mais rápido possível.

Love Faner | Link original · Ver comentários · Sina Weibo