AI do Facebook enfrenta o aumento de conteúdo odioso

A sofisticada tecnologia de inteligência artificial (IA) do Facebook permitiu à plataforma remover mais discurso de ódio do que nunca. Sua IA de detecção de ódio conseguiu capturar 95 por cento do conteúdo odioso no terceiro trimestre de 2020.

O papel da IA ​​na guerra contra o discurso de ódio

O último relatório de aplicação dos padrões da comunidade do Facebook revelou o papel principal que a IA está desempenhando no combate ao discurso de ódio na plataforma.

Durante o terceiro trimestre de 2020, o Facebook conseguiu "detectar proativamente" cerca de 95 por cento do discurso de ódio. No total, o Facebook removeu 22,1 milhões de peças de conteúdo odioso no Facebook e 6,5 milhões de peças no Instagram.

Este é um grande aumento em comparação com o último trimestre de 2017, um período em que o Facebook detectou proativamente apenas 24% do discurso de ódio no Facebook e Instagram.

Embora a plataforma utilize "uma combinação de relatórios de usuários e tecnologia" para remover conteúdo odioso, o grande salto foi creditado em grande parte à IA avançada do Facebook.

Sua IA não apenas ajuda a detectar e agir em relação a conteúdo odioso antes mesmo de ser denunciado, mas o Facebook também o usa para classificar conteúdo mais complicado que precisa ser revisado. O Facebook explicou ainda o papel da IA, afirmando:

Quer o conteúdo seja detectado de forma proativa ou relatado pelos usuários, frequentemente usamos a IA para agir nos casos simples e priorizar os casos mais diferenciados, onde o contexto precisa ser considerado, para nossos revisores.

Além disso, o Facebook também notou um aumento na prevalência de discurso de ódio durante o terceiro trimestre. De acordo com o Facebook, ele determina "a prevalência do discurso de ódio selecionando uma amostra do conteúdo visto no Facebook e rotulando o quanto dele viola nossas políticas de discurso de ódio".

O relatório mostrou que de cada 10.000 visualizações de conteúdo da plataforma, de 10 a 11 continham discurso de ódio.

Como o Facebook define o discurso de ódio?

Se você está se perguntando como exatamente o Facebook determina o que é e o que não é discurso de ódio, a plataforma ajusta continuamente sua definição. Em agosto de 2020, o Facebook atualizou suas políticas de discurso de ódio para incluir teorias de conspiração anti-semitas e blackface. O Facebook observa que "como a fala continua a evoluir ao longo do tempo, continuamos a revisar nossas políticas para refletir as mudanças nas tendências sociais".

No momento, o Facebook define discurso de ódio "como qualquer coisa que ataca diretamente as pessoas com base em características protegidas, incluindo raça, etnia, nacionalidade, afiliação religiosa, orientação sexual, sexo, gênero, identidade de gênero ou deficiência ou doença grave".

O que esperar daqui para frente

Ao longo de 2020, o Facebook enfrentou uma série de desafios em relação a conteúdo polêmico.

No início do ano, a plataforma teve que lutar contra a desinformação sobre a pandemia COVID-19. Mais tarde, também teve que lidar com informações enganosas sobre a eleição presidencial dos Estados Unidos. Isso fez com que a plataforma colasse etiquetas em certos postes ou removesse-os completamente.

Como a IA do Facebook continua a evoluir, só podemos esperar mais remoções no futuro.