Prisioneiros finlandeses empregados para treinar IA e outras histórias

A start-up finlandesa Metroc celebrou um acordo com a prisão feminina de segurança máxima de Hämeenlinna (Finlândia) para empregar presidiárias no treinamento de um mecanismo de busca baseado em inteligência artificial , conforme relatado pela Wired . Um dos reclusos, entrevistado pelo correspondente da Wired, definiu o trabalho como “chato e repetitivo”, mas ainda assim melhor do que “ficar numa cela o dia todo”. Não é o primeiro caso em que sujeitos com poucas alternativas de emprego , como refugiados, cidadãos de países pobres e agora prisioneiros , são usados ​​para treinar uma IA , muitas vezes com tarefas alienantes e mecânicas e remunerações insignificantes .

Como treinar uma IA que fala finlandês

Programas baseados em inteligência artificial permitem reconhecer imagens, rostos e executar automaticamente centenas de funções . Para treinar uma IA, as empresas que operam em inglês utilizam trabalhadores do sul global , que vivem em países de baixa renda. Por exemplo, a OpenAI, a empresa que desenvolve o ChartGPT, utiliza uma empresa externa que contrata trabalhadores no Quénia, Uganda e Índia . Esses trabalhadores têm a tarefa de explicar a um programa como distinguir um cachorro de um carro, ou como reconhecer se uma postagem no Instagram incita ao ódio ou ao racismo. Em suma, envolve passar muitas horas no computador catalogando imagens (rotulagem) ou respondendo perguntas simples, a fim de fornecer à IA um banco de dados de informações.

Quando a IA funciona na língua inglesa, não faltam trabalhadores baratos . O Sul global está cheio de cidadãos que falam inglês e estão dispostos a trabalhar por alguns dólares por hora. Mas como treinar uma IA em finlandês? No Sul global há poucas pessoas que falam finlandês; na verdade, não há nenhuma . Além disso, a Finlândia é um dos países mais ricos do mundo, com salários médios muito elevados, pelo que neste caso é difícil encontrar trabalhadores de baixo custo para treinar uma IA.

Os líderes do Metroc encontraram a solução nas prisões. Graças a um acordo, os reclusos de Hämeenlinna permitirão o desenvolvimento de software em finlandês.

Presos treinando inteligência artificial

Metroc é uma start-up finlandesa que desenvolveu software capaz de conectar a oferta e a procura no domínio dos contratos públicos finlandeses. O programa analisa um projeto e entende se ele já possui todos os recursos necessários para ser executado ou se exige a contratação de profissionais. O algoritmo é baseado em inteligência artificial e pode determinar se um hospital já possui um arquiteto responsável pela definição dos ambientes ou um fornecedor de portas e janelas.

Para treinar a IA, a Metroc firmou um acordo com a prisão de segurança máxima de Hämeenlinna . Ao contrário de outras prisões finlandesas, onde os reclusos gozam de uma certa liberdade durante o dia, neste caso os reclusos nunca são autorizados a sair da prisão. Um jornalista da Wired entrevistou um dos presos envolvidos no programa. A menina explicou que o trabalho consiste em tarefas simples, como responder “sim” ou “não” a perguntas referentes a textos exibidos em um computador. Por exemplo, uma pergunta clássica é: “o anúncio exibido se refere ao mercado imobiliário e não a uma oferta de emprego?”. Os turnos duram no máximo 3 horas por dia, com um salário de 1,54€ por hora .

A gestão penitenciária promove o acordo com a Metroc, argumentando que este acordo proporciona um rendimento aos reclusos e os prepara para o mundo do trabalho que os espera lá fora. Contudo, as tarefas são descritas pelo entrevistado como “bastante chatas e repetitivas”. Além disso, a menina também alegou que não tem clareza sobre a finalidade do trabalho que está realizando.

A reação da opinião pública

A iniciativa levada a cabo pela Metroc e pela prisão de Hämeenlinna recebeu algum apoio da opinião pública finlandesa . Pia Puolakka, diretora do projeto Prisão Inteligente na Finlândia, foi uma das primeiras a acolher a iniciativa proposta pelo Metroc. “O objetivo é trazer cada vez mais o mundo da internet para dentro das prisões, para não isolar os presos do mundo” declarou Puokkala; além disso, “ os reclusos têm total liberdade para aderir à iniciativa , podem trabalhar em turnos até 3 horas e ainda ter outras atividades disponíveis”, acrescentou.

No entanto, outras vozes criticaram o projeto . “A narrativa de que estamos a avançar para uma sociedade mais automatizada e eficiente tende a esquecer o facto de que existem seres humanos reais por detrás de muitos dos sistemas digitais ”, disse Amos Toh, investigador da Human Rights Watch especializado em inteligência artificial. Toh lembrou que a forte evolução da tecnologia levou a uma busca frenética por trabalhadores de baixo custo para serem usados ​​no treinamento de uma IA . As empresas também procuram mão de obra de grupos de pessoas que não têm alternativa, como refugiados, requerentes de asilo, cidadãos de países de baixos rendimentos e, neste caso, prisioneiros .

Treinar uma IA permite adquirir habilidades? Não exatamente

Tanto Toh como alguns investigadores da Universidade de Helsínquia também destacaram que ainda não está claro como as tarefas repetitivas e mecânicas executadas para treinar uma IA podem preparar uma pessoa para o mundo do trabalho digital . A Human Rights Watch reiterou que poderiam ser incentivadas iniciativas mais eficazes e comprovadas para fornecer competências aos detidos, tais como programação online e cursos de informática.

A opinião pública finlandesa aceitou de bom grado a iniciativa do Metroc porque confia na qualidade do sistema penitenciário finlandês e está certa de que os presos envolvidos são totalmente livres para escolher quais atividades realizar. Mas é necessário perguntar-nos quais os efeitos que poderia ter um projecto semelhante aplicado em países onde os sistemas prisionais são muito mais severos e menos eficientes. Segundorelatório da ACLU (União Americana pelas Liberdades Civis), nos Estados Unidos 75% dos presos dizem que são forçados a trabalhar . Nessas condições, até mesmo o treino de uma IA poderia efetivamente tornar-se uma forma de exploração.

O Turco Mecânico

O impacto social do funcionamento de uma IA pode ser explicado com a história do Turco Mecânico . Entre o final do século XVIII e o início do século XIX, um inventor húngaro criou um autómato de madeira , com a forma de um humano vestido de médio-oriental (o turco) e operado por uma caixa cheia de engrenagens automatizadas . O turco mecânico era capaz de jogar xadrez graças aos mecanismos secretos da caixa e era um autômato tão forte que venceu muitos jogadores de xadrez da época , um pouco como as IAs de hoje. Diz a lenda que ele também derrotou Napoleão no xadrez .

Todos se perguntavam o segredo do mecanismo. No final, descobriu-se que na caixa que operava o Turco não havia engrenagens automáticas, mas simplesmente um homenzinho , muito bom em jogar xadrez, que operava o autômato. Por trás da automação mecânica não havia nada além do trabalho de um homem, em carne e osso.

Em 2005, a Amazon se inspirou nessa história para nomear sua plataforma de crowdsourcing , Amazon Mechanical Turk . As plataformas de crowdsourcing permitem organizar e direcionar as tarefas executadas por milhares de seres humanos em todo o mundo , e são utilizadas por muitas empresas para treinar e coletar dados utilizados pela IA.

O exército mal pago que dá vida à IA

Simplificando, a plataforma da Amazon permite dividir milhões de operações repetitivas , como classificar imagens ou reconhecer conteúdo social violento, em pequenas ações que podem ser realizadas por milhares de trabalhadores ao mesmo tempo . Essas ações são recompensadas com apenas alguns centavos cada ; isto permite-nos reduzir os custos de desenvolvimento de uma tecnologia como a inteligência artificial, graças aos milhares de trabalhadores que vivem em países de baixos rendimentos ou que não têm alternativas para sobreviver.

As empresas que se orgulham de serem “FullAI” e totalmente digitais são, na verdade, apoiadas por milhares de trabalhadores forçados pelas circunstâncias sociais a realizar tarefas repetitivas e mal remuneradas . Estes trabalhadores não têm total liberdade para escolher outro emprego, como no caso de um detido, e em alguns casos podem ganhar menos de 2 euros por hora , enquanto do outro lado do mundo executivos de empresas digitais recebem investimentos milionários.

O artigo Prisioneiros finlandeses empregados para treinar IA e outras histórias foi escrito em: Tech CuE | Engenharia de perto .