O ChatGPT agora permite que você indique alguém para verificar se está tudo bem caso as coisas fiquem complicadas.

Os chatbots de IA tornaram surpreendentemente fácil conversar sobre qualquer coisa , incluindo alguns dos assuntos mais complexos imagináveis. Essa abertura sempre foi uma faca de dois gumes. A OpenAI está agora dando um passo para resolver isso, com um novo recurso que traz uma pessoa de confiança para a conversa quando os assuntos ficam sérios.

A empresa está lançando um novo recurso chamado Contato de Confiança , que já está aparecendo nas configurações do ChatGPT para usuários adultos. Ele permite que os usuários indiquem uma pessoa que pode ser alertada caso o ChatGPT detecte uma preocupação grave com automutilação.

Como funciona o Contato de Confiança?

A configuração de um Contato de Confiança é opcional, mas, caso decida fazê-lo, certifique-se de que a pessoa indicada tenha pelo menos 18 anos (ou 19 na Coreia do Sul). Após indicar o contato, essa pessoa receberá um convite explicando o que a função significa e terá uma semana para aceitá-lo antes que o recurso seja ativado. Caso recuse, você poderá escolher outra pessoa.

O sistema de alertas em si não é automático. Se os sistemas do ChatGPT sinalizarem uma conversa como potencialmente preocupante, o chatbot primeiro informa ao usuário que seu Contato de Confiança pode ser notificado e também o incentiva a entrar em contato diretamente, com algumas sugestões de temas para iniciar a conversa. Uma pequena equipe de revisores humanos especialmente treinados entra em ação para avaliar a situação. Somente se confirmarem um risco grave é que o contato é notificado, por e-mail, SMS ou notificação no aplicativo. O alerta não compartilha transcrições do chat nem detalhes da conversa. Ele simplesmente informa que a automutilação foi mencionada de uma forma potencialmente preocupante e pede ao contato que entre em contato. A OpenAI afirma que pretende concluir essa revisão humana em menos de uma hora.

Por que a OpenAI está adicionando isso agora?

O recurso Contato de Confiança faz parte de um conjunto mais amplo de funcionalidades de segurança na plataforma. Anteriormente, a OpenAI adicionou recursos que permitem aos pais receber alertas quando uma conta de adolescente vinculada apresenta sinais de sofrimento . O Contato de Confiança é a extensão desse mesmo recurso voltada para adultos. Segundo informações, ele foi desenvolvido com a colaboração de clínicos, pesquisadores e organizações de saúde mental, incluindo a Associação Americana de Psicologia.

Dito isso, vale ressaltar que o Contato de Confiança não substitui linhas de apoio em crises, serviços de emergência ou atendimento profissional de saúde mental. O ChatGPT ainda direcionará os usuários para esses recursos quando necessário. Os usuários podem remover ou alterar seus Contatos de Confiança a qualquer momento, e os contatos podem se remover quando quiserem.

A realidade é que o ChatGPT está sendo usado para conversas profundamente pessoais , independentemente de a OpenAI ter planejado isso ou não. Adicionar um recurso como o Contato de Confiança é um passo na direção certa e também um reconhecimento de que um chatbot tem suas limitações.