O processo mais bizarro da Meta nos últimos anos fará você repensar seus óculos inteligentes com IA.

Os óculos inteligentes Ray-Ban da Meta estão no centro de mais uma controvérsia. Uma empresa queniana de treinamento em IA chamada Sama, que a Meta utilizava para treinar sua IA, teve seu contrato abruptamente rescindido logo após seus funcionários apresentarem alegações profundamente preocupantes (via BBC ).

Os trabalhadores alegam que foram expostos repetidamente a conteúdo gráfico capturado pelos óculos da Meta, e agora mais de mil deles perderam seus empregos.

As imagens perturbadoras por trás do treinamento de IA da Meta

Os funcionários da Sama eram anotadores de dados, uma função que envolve rotular manualmente o conteúdo de vídeo para ensinar a IA da Meta a interpretar imagens. Eles também revisavam as transcrições das conversas da IA ​​da Meta para garantir que o chatbot estivesse fornecendo respostas precisas.

O que eles não previram, supostamente, foi a revisão de imagens de pessoas fazendo sexo ou usando o banheiro, tudo filmado pelos óculos da Meta sem o conhecimento dos usuários. Em um relato, os óculos de um homem foram deixados gravando em um quarto, capturando sua esposa se despindo.

Os óculos da Meta possuem uma pequena luz indicadora que acende quando a câmera está ativa, embora isso claramente não tenha impedido o uso indevido. A empresa admitiu que funcionários terceirizados podem ocasionalmente revisar o conteúdo compartilhado com a Meta AI, alegando ser uma prática padrão para melhorar a experiência do usuário.

Por que a Meta cancelou o contrato?

Menos de dois meses após a divulgação dessas informações, a Meta rescindiu o contrato com a Sama, deixando 1.108 trabalhadores desempregados. A Sama afirma ter cumprido todos os padrões exigidos pela Meta e que nunca foi informada do contrário. No entanto, a Meta discorda, alegando que a Sama não atendeu às suas expectativas.

Uma organização de trabalhadores quenianos acredita que o verdadeiro motivo foi silenciar funcionários que haviam denunciado publicamente a análise de imagens obtidas por humanos através de óculos inteligentes.

O Gabinete do Comissário de Informação do Reino Unido classificou a situação como "preocupante" em uma carta enviada à Meta. Além disso, a autoridade de proteção de dados do Quênia abriu uma investigação formal.

Este não é o primeiro encontro difícil de Sama com a Meta. Um contrato anterior de moderação de conteúdo do Facebook terminou em controvérsia semelhante, com ex-funcionários descrevendo a exposição a conteúdo traumatizante .

Mais tarde, a Sama afirmou que se arrependeria de ter aceitado aquele trabalho. Com os órgãos reguladores agora investigando o caso e um processo judicial em andamento, a pressão sobre a Meta para explicar sua decisão só aumenta.

Os óculos inteligentes da Meta têm um problema de privacidade muito maior.

Os óculos inteligentes da Meta estão se envolvendo em uma controvérsia cada vez maior, já que relatos sugerem que eles poderão em breve identificar pessoas em tempo real . Isso intensificou as preocupações com a privacidade e os direitos civis em torno do reconhecimento facial em espaços públicos do dia a dia.

Grupos de defesa dos direitos civis estão se opondo à ideia , argumentando que a identificação permanente poderia ocorrer sem consentimento explícito.

Aplicativos como o Godsend estão surgindo em resposta a essa ameaça , alertando as pessoas quando óculos inteligentes próximos podem estar gravando-as secretamente. Isso demonstra o quanto as pessoas estão preocupadas em serem filmadas sem saber.

A tecnologia também está sendo usada de maneiras menos lisonjeiras, incluindo relatos de estudantes que usam óculos inteligentes para colar em provas . Isso adicionou uma nova camada ao debate sobre o uso indevido.

Dito isso, nem tudo é ruim. Os óculos também encontraram usos realmente bons, principalmente para ajudar pessoas com deficiência visual a se locomoverem em espaços com a ajuda de estranhos.