TikTok demite centenas de moderadores de IA, enquanto o Instagram culpa os humanos por seus próprios problemas
A ByteDance, a empresa por trás da plataforma de mídia social de vídeo TikTok , supostamente demitiu centenas de moderadores de conteúdo humano em todo o mundo durante a transição para um esquema de moderação baseado em IA.
A maioria dos cerca de 500 empregos perdidos estava localizada na Malásia, relata a Reuters . De acordo com a empresa, a ByteDance emprega mais de 110.000 pessoas no total. “Estamos fazendo essas mudanças como parte de nossos esforços contínuos para fortalecer ainda mais nosso modelo operacional global de moderação de conteúdo”, disse um porta-voz do TikTok em comunicado.
A empresa atualmente usa uma combinação de moderadores de conteúdo humanos e de IA, com as máquinas cuidando de cerca de 80% do trabalho. A ByteDance planeja investir cerca de US$ 2 bilhões em seus esforços de confiança e segurança em 2024. As demissões ocorrem no momento em que a ByteDance enfrenta um maior escrutínio regulatório no país, que viu um aumento em postagens prejudiciais nas redes sociais e desinformação este ano.
Nos Estados Unidos, o chefe do Instagram, Adam Mosseri, anunciou na sexta-feira que a recente onda de Instagram e Threads bloqueando contas de usuários, rebaixando postagens e marcando-as como spam foram produto de erros cometidos por moderadores humanos, e não do sistema de moderação de IA da empresa. Ele afirma que os funcionários “faziam ligações sem receber o contexto de como as conversas se desenrolavam, o que foi uma falha”.
No entanto, os humanos não eram inteiramente culpados, esclareceu Mosseri. “Uma das ferramentas que construímos quebrou”, admitiu ele, “por isso não lhes mostrava contexto suficiente”.
Nos últimos dias, os usuários de ambos os sites tiveram suas contas bloqueadas e posteriormente desativadas por violarem as restrições de idade das plataformas, que impedem que menores de 13 anos tenham suas próprias contas. De acordo com o The Verge , essas contas permaneceram bloqueadas mesmo depois que os usuários enviaram a verificação de sua idade.
O PR da empresa se separou da posição de Mosseri, dizendo ao TechCrunch que “nem todos os problemas que os usuários do Instagram encontraram estavam relacionados a moderadores humanos”. Segundo o PR, a questão da verificação da idade ainda está sendo investigada.
