O chatbot AI fica desonesto durante a troca de atendimento ao cliente

gurinho

A empresa de entrega internacional DPD está atualizando seu chatbot com tecnologia de IA depois de dar algumas respostas inesperadas durante uma troca com um cliente insatisfeito.

A musicista Ashley Beauchamp recorreu recentemente ao chatbot de atendimento ao cliente do DPD em uma tentativa de rastrear um pacote perdido.

Depois de pouco progresso com o chatbot, ele decidiu se divertir pedindo que escrevesse um poema criticando a empresa, o que ele fez. Ele também pediu que jurasse e, novamente, ele obedeceu, usando a palavra com F em sua resposta.

Beauchamp compartilhou suas frustrações em uma postagem nas redes sociais que já foi vista quase dois milhões de vezes.

“A empresa de entrega de encomendas DPD substituiu seu bate-papo de atendimento ao cliente por um robô de IA”, escreveu o músico. “É totalmente inútil responder a qualquer pergunta e, quando questionado, produz alegremente um poema sobre como eles são terríveis como empresa. Também me xingou.

As capturas de tela mostraram que Beauchamp pediu ao chatbot do DPD para criar um haiku – um poema japonês composto por 17 sílabas, com cinco sílabas na primeira linha, seguidas por sete e cinco. Mas o assistente digital não conseguiu nem acertar, atrapalhando a contagem de sílabas, mesmo que o sentimento estivesse certo.

O poema dizia:
“DPD é um inútil,
Chatbot que não pode ajudá-lo.
Não se preocupe em ligar para eles.

O DPD disse que ocorreu um erro com seu chatbot de IA após uma atualização recente do sistema, acrescentando que estava trabalhando para garantir que isso não acontecesse novamente.

Embora os chatbots tenham sido implantados por muitas empresas ao longo dos anos como parte de sua configuração de atendimento ao cliente, muitas foram criticadas por sua incapacidade de fornecer ajuda significativa. Mas com a IA generativa ganhando grande força no ano passado com ferramentas como ChatGPT , espera-se que esta tecnologia mais avançada seja capaz de transformar chatbots de atendimento ao cliente em assistentes muito mais eficazes. Mas com Beauchamp achando o chatbot de IA do DPD “totalmente inútil” antes de fazê-lo xingar e criticar a empresa, a tecnologia claramente ainda precisa de alguns ajustes.

Beauchamp disse que achou o incidente divertido, mas acrescentou que “esses chatbots deveriam melhorar nossas vidas, mas muitas vezes, quando mal implementados, apenas levam a uma experiência mais frustrante e impessoal para o usuário”.