O Tinder quer que os usuários adivinhem mensagens prejudiciais

O Tinder espera que seu novo "Are You Sure?" (AYS?) O aviso impedirá os usuários de enviar mensagens que possam ser ofensivas. Se a IA do Tinder detectar linguagem prejudicial em uma mensagem, ele perguntará aos usuários se eles realmente desejam enviar.

Tem certeza de que deseja enviar?

O Tinder anunciou seu novo AYS? notificação em uma postagem na redação do Tinder . Durante os testes, o recurso ajudou a reduzir as mensagens ofensivas em mais de 10 por cento.

A IA de detecção de ódio do Tinder foi construída usando a linguagem mais comumente relatada na plataforma. Sempre que um usuário está prestes a enviar uma mensagem potencialmente prejudicial, a notificação perguntará: "Tem certeza de que deseja enviar? Pense duas vezes – seu parceiro pode achar este idioma desrespeitoso."

Ao longo do uso inicial, o Tinder observa que os usuários que realmente viram o AYS? notificação tinha menos probabilidade de ser denunciada por mensagens inadequadas. Tracey Breeden, chefe de segurança e defesa social do Match Group (empresa-mãe do Tinder), comentou sobre o futuro promissor do AYS? notificação, informando:

Palavras são tão poderosas quanto ações, e hoje estamos assumindo uma posição ainda mais firme de que o assédio não tem lugar no Tinder. Os primeiros resultados desses recursos nos mostram que a intervenção feita da maneira certa pode ser realmente significativa na mudança de comportamento e na construção de uma comunidade onde todos sintam que podem ser eles mesmos.

O AYS? mensagem é outra ferramenta que o Tinder está usando para ajudar a prevenir assédio e intimidação na plataforma de namoro. O Tinder já exibe a mensagem: "Isso te incomoda?" para usuários que recebem mensagens potencialmente prejudiciais. Essa notificação também foi um sucesso – relatos de mensagens ofensivas aumentaram 46% desde sua implantação.

Se o Tinder for AYS? e "Isso incomoda você?" os avisos parecem familiares, porque outras plataformas sociais já começaram a implementar recursos semelhantes. Mais recentemente, o Twitter lançou um recurso que incentiva você a repensar tweets rudes . O YouTube até lançou sua própria versão do recurso e o lembra de comentar com respeito .

Pedir aos usuários que sejam legais realmente funciona?

Parece que as plataformas sociais obtiveram resultados positivos ao alertar os usuários sobre linguagem potencialmente ofensiva. No entanto, a notificação realmente não impede o usuário de dizer o que deseja – é apenas uma sugestão para ser gentil.

Isso pode não impedir que os maiores agressores da internet enviem comentários rudes, mas provavelmente terá um impacto. Mesmo que apenas impeça um pequeno número de comentários rudes de chegar às caixas de entrada dos usuários, isso é definitivamente melhor do que nada.