iRobot Roomba viola a privacidade do usuário, fotos na web

Os robôs aspiradores da empresa iRobot são agora muito famosos, especialmente os da série Roomba. Pequenos, cilíndricos e compactos, esses fiéis colaboradores domésticos já há algum tempo infestam as casas de muitos de nós. Além disso, sua tecnologia evoluiu ao longo dos anos para oferecer o melhor serviço possível digno de um ser humano.

A iRobot, maior trader de robôs aspiradores , que foi comprada recentemente pela Amazon, confirmou a notícia. Seus robôs aspiradores roomba tiraram fotos privadas de alguns usuários, mesmo em circunstâncias íntimas . O site MIT Technology Review conseguiu 15 dessas fotos, que também foram postadas em grupos fechados de mídia social. No artigo a seguir, vamos nos aprofundar na história, tentando explicar como ela aconteceu, esclarecendo um mundo aparentemente submerso.

As "vítimas" do Roomba e a resposta da iRobot

O robô Roomba em questão tirou fotos de pessoas de todo o mundo. Em particular, pensamos que o de uma mulher enquanto ela está no banheiro ficará tristemente famoso. Outras retratam um menino que aparenta ter até 8 anos, rosto em claro, deitado no chão. Todas as telas, porém, mostram casas em geral, algumas ocupadas por humanos, uma por cachorro. O que mais caracteriza é o fato de que todos os objetos são rotulados por caixas retangulares, como faria um terminador. Móveis, enfeites e até coisas penduradas na parede trazem as palavras “tv”, “plant_o_fiore”, “candeeiro de teto”, só para citar alguns.

Por seu lado, a iRobot afirma ter entregue o Roombas ofensivo apenas a funcionários e colecionadores. Eles também assinaram um acordo reconhecendo que estavam enviando fluxos de dados, incluindo vídeo, para a empresa. Segundo a empresa, era seu trabalho impedir que o Roomba registrasse informações confidenciais. Por fim, o fabricante especificou que eram robôs com modificações de hardware e software que não estão presentes no Roomba do mercado . Obviamente, nem mesmo os vendidos anteriormente.

Quem realmente está por trás da difusão das imagens

Os dispositivos iRobot Roomba, até o momento, possuem sensores poderosos e, em geral, um componente de hardware de alto desempenho. Sejam câmeras de vídeo muito avançadas ou outras ferramentas, tudo ainda contribui para a coleta de dados para processamento por Inteligência Artificial . Para dar sentido a esses dados, no entanto, os indivíduos humanos devem primeiro ver, categorizar, rotular e, em seguida, dar contexto a cada bit de informação.

Há sempre um grupo de pessoas sentadas em algum lugar fazendo um trabalho de categorização de dados para Inteligência Artificial . São os chamados gig workers que realizam esse processo chamado anotação de dados . A empresa iRobot informou que subcontratou a coisa para a plataforma Scale AI e além. Ele se defende, porém, dizendo que esse conjunto de imagens vazadas representa algo maior do que as ações de qualquer empresa.

É extraordinário pensar até onde os dados vão para "treinar" algoritmos de inteligência artificial. Neste caso, desde residências na América do Norte, Europa, Ásia, até os servidores da iRobot baseados em Massachusettss. De lá para os da Scale AI em San Francisco e, finalmente, para os trabalhadores que discutimos em todo o mundo. Incluindo, neste caso, os trabalhadores venezuelanos que divulgam as imagens em grupos privados de mídia social .

Projeto IO relacionado ao Roomba da iRobot e como nossos dados acabam ao redor do mundo

Entre todas as empresas que surgiram na última década, a Scale AI se tornou a líder em seu setor. Fundada em 2016, construiu todo um negócio de trabalhadores remotos em países menos ricos com a plataforma Remotasks. Bem aqui em 2020 ele atribuiu uma nova tarefa: O Projeto IO. Isso incluía imagens tiradas com uma inclinação ascendente de cerca de 45 graus e mostrava paredes, tetos, pisos e casas. Incluindo, é claro, pessoas cujos rostos eram claramente visíveis.

Os trabalhadores então discutiram a tarefa no Facebook, Discord e outros grupos criados para trocar conselhos de todos os tipos. Desde o gerenciamento de pagamentos atrasados, atribuição de melhores pagamentos ou solicitação de assistência com marcação. Grupos de mídia social têm hospedado tudo isso. Em última análise, se a iRobot manifestou a violação dos acordos por parte da Scale AI, esta culpou os trabalhadores .

O problema básico é que nosso rosto é como uma senha que não pode ser alterada. Depois que alguém grava a 'assinatura' do nosso rosto, pode usá-la para sempre para nos encontrar em fotos ou vídeos. Pior ainda, essas ações de disseminação ilegal são quase impossíveis de regulamentar em plataformas de compartilhamento . Em suma, os trabalhadores são difíceis de controlar um por um.

Então, mais uma vez, a história do iRobot Roomba destaca que a tecnologia tem um potencial enorme (possivelmente prejudicial), é verdade. Mas é sempre conforme os usos que fazemos dela que ela pode se voltar contra nós, ou neste caso, tirar vantagem dos outros.

O artigo iRobot Roomba viola a privacidade do usuário, fotos na web foi escrito em: Tech CuE | Engenharia de close-up .