A IA de detecção de discurso de ódio do Facebook está valendo a pena
O Facebook está melhorando sua eficiência no reconhecimento e remoção de conteúdo odioso. O Community Standards Enforcement Report da plataforma mostra uma redução significativa na prevalência de discurso de ódio no último trimestre de 2020.
O discurso de ódio no Facebook diminuiu
No Relatório de aplicação dos padrões da comunidade do Facebook de outubro a dezembro de 2020, a plataforma revelou grandes melhorias na maneira como o Facebook está lidando com o discurso de ódio. Guy Rosen, vice-presidente de integridade do Facebook, postou no blog Sobre o Facebook para destacar seu sucesso.
Para cada 10.000 visualizações de conteúdo do Facebook, apenas sete a oito eram visualizações de conteúdo odioso. O Facebook também tomou medidas em 6,3 milhões de postagens de bullying e assédio, um aumento de 2,5 milhões de postagens no terceiro trimestre.
A plataforma também foi capaz de capturar 6,4 milhões de peças de conteúdo de ódio organizado, o que é uma grande melhoria em comparação com os quatro milhões de peças de conteúdo que o Facebook removeu no trimestre anterior.
O relatório de aplicação dos padrões da comunidade mostrou melhorias semelhantes no Instagram. Cinco milhões de postagens relacionadas a assédio e bullying foram removidas do Instagram, junto com 6,6 milhões de peças de conteúdo contendo discurso de ódio e 308 mil peças de conteúdo de ódio organizado. Todos esses números superam as estatísticas registradas no terceiro trimestre.
A taxa proativa do Facebook, também conhecida como a quantidade de conteúdo que o Facebook remove antes que um usuário denuncie, também melhorou. Para intimidação e assédio, a taxa proativa da plataforma disparou de 26% para 49% no Facebook e de 55% para 80% no Instagram.
A IA de detecção de ódio do Facebook tem desempenhado um papel importante em aumentar sua resposta ao discurso de ódio. Rosen observa que a plataforma fez melhorias em sua IA "onde nuance e contexto são essenciais, como discurso de ódio ou intimidação e assédio", o que acabou ajudando a reduzir a quantidade de conteúdo odioso no Facebook.
Mike Schroepfer, diretor de tecnologia do Facebook, fez uma postagem separada no blog Sobre o Facebook para comemorar as conquistas da IA cada vez melhor do Facebook. Apesar de suas conquistas recentes, Schroepfer espera que a IA do Facebook possa melhorar "na visualização de conteúdo em contexto em vários idiomas, culturas e geografias".
A IA do Facebook está ficando mais inteligente
O Facebook começou a confiar mais em seu sistema de IA para ajudar a avaliar o conteúdo odioso devido à pandemia de COVID-19 em andamento. Rosen observou que a equipe do Facebook provavelmente ainda será afetada pela pandemia "até que uma vacina esteja amplamente disponível".
Mesmo que os moderadores do Facebook um dia voltem a trabalhar normalmente, não parece que a IA da plataforma vai a lugar nenhum. O Facebook apenas tornou sua IA mais inteligente e eficiente, e não parece que o Facebook planeja parar de progredir tão cedo.