Facebook pode ter chatbots – e isso pode ser um problema

A Meta, proprietária do Facebook, planeja introduzir chatbots com personalidades distintas em seu aplicativo de mídia social. O lançamento pode ocorrer já em setembro e seria um desafio para rivais como o ChatGPT , mas há preocupações de que possa haver sérias implicações para a privacidade dos usuários.

A ideia vem do Financial Times , que relata que a mudança é uma tentativa de aumentar o engajamento com os usuários do Facebook. A nova ferramenta pode fazer isso fornecendo novos recursos de pesquisa ou recomendando conteúdo, tudo por meio de discussões humanas.

Segundo fontes citadas pelo Financial Times, os chatbots vão assumir diferentes personas, incluindo “uma que emula Abraham Lincoln e outra que aconselha sobre opções de viagens ao estilo de um surfista”.

Esta não seria a primeira vez que vimos chatbots assumirem suas próprias personalidades ou conversarem no estilo de pessoas famosas. O chatbot Character.ai , por exemplo, pode adotar dezenas de personalidades diferentes, incluindo as de celebridades e figuras históricas.

Preocupações com a privacidade

Apesar da promessa que os chatbots da Meta podem mostrar, também surgiram temores sobre a quantidade de dados que eles provavelmente coletarão – especialmente considerando que o Facebook tem um histórico péssimo em proteger a privacidade do usuário.

Ravit Dotan, consultor e pesquisador de ética em IA, foi citado pelo Financial Times como tendo dito: “Uma vez que os usuários interagem com um chatbot, ele realmente expõe muito mais de seus dados para a empresa, para que a empresa possa fazer o que quiser com esses dados. .”

Isso não apenas aumenta a perspectiva de violações de privacidade de longo alcance, mas também permite a possibilidade de “manipulação e cutucada” dos usuários, acrescentou Dotan.

um grande risco

Outros chatbots como ChatGPT e Bing Chat tiveram um histórico de “alucinações” ou momentos em que compartilham informações incorretas – ou mesmo desinformações. O dano potencial causado por desinformação e preconceito pode ser muito maior no Facebook, que tem quase quatro bilhões de usuários, em comparação com os chatbots rivais.

As tentativas anteriores da Meta com chatbots foram ruins, com o BlenderBot 2 e o BlenderBot 3 da empresa rapidamente se transformando em conteúdo enganoso e discurso de ódio inflamatório. Isso pode não dar muita esperança aos usuários para o último esforço do Meta.

Com a aproximação rápida de setembro, talvez não demoremos muito para ver se o Facebook é capaz de superar esses obstáculos ou se teremos outro lançamento repleto de alucinações semelhantes aos sofridos em outras partes do setor. Aconteça o que acontecer, será interessante assistir.