TikTok quer ajustar seu algoritmo para evitar conteúdo problemático

A TikTok anunciou hoje que lançará recursos de personalização adicionais para seu feed “For You”, a página de vídeo de rolagem infinita que tornou o aplicativo tão popular. A empresa reconheceu em um comunicado hoje que seu algoritmo de previsão pode reforçar experiências negativas, repetindo vídeos sobre tópicos emocionalmente voláteis – como rompimentos.

O TikTok ganhou popularidade devido à força de seu algoritmo. Na fronteira com a presciência, o aplicativo recomendaria vídeos de usuários que aderiam tão de perto aos seus gostos, que até se dizia predizer a sexualidade de pessoas que não tinham consciência disso. Ao mesmo tempo, a tendência do algoritmo de dar a você mais daquilo em que você está interessado pode levar a resultados negativos se o que você está interessado está tendo um efeito negativo em sua vida.

Voltando ao exemplo do rompimento, TikTok aponta que alguém que rompeu recentemente com um parceiro pode acabar sendo inundado por vários vídeos de rompimento em seu feed, reforçando as emoções negativas. É um problema com o qual outras plataformas de mídia social têm lutado e que nenhuma delas ainda resolveu de forma eficaz. A abordagem da TikTok não vai apenas banir por atacado esse conteúdo do site. Ele examinará a variação da frequência com que esses vídeos são exibidos no feed, para que eles não “se agrupem” e sejam intercalados com vídeos não relacionados.

“Também estamos trabalhando para reconhecer se nosso sistema pode inadvertidamente recomendar apenas tipos de conteúdo muito limitados que, embora não violem nossas políticas, podem ter um efeito negativo se for a maioria do que alguém assiste, como conteúdo sobre solidão ou perda de peso. Nosso objetivo é que o feed For You de cada pessoa contenha uma variedade de conteúdo, criadores e tópicos ”, disse a equipe do TikTok, consultando especialistas em áreas que vão desde psicologia até ética em IA.

A empresa também vai agora expandir seus recursos de curadoria (principalmente um botão de não interesse no momento) com uma nova ferramenta para “ajudar as pessoas a personalizar sua alimentação – seja para um vegetariano que quer ver menos receitas de carne, ou alguém que está trabalhando na autoestima que prefere ver menos tutoriais de beleza. ”

Ainda não está claro quando essa nova ferramenta estará disponível, mas iremos atualizá-lo quando descobrirmos mais.