Criador do ChatGPT busca eliminar as ‘alucinações’ do chatbot
Apesar de toda a empolgação em torno do ChatGPT e de outros chatbots baseados em IA , as ferramentas baseadas em texto ainda apresentam alguns problemas sérios que precisam ser resolvidos.
Entre eles está a tendência de inventar coisas e apresentá-las como fatos quando não sabem a resposta a uma pergunta, um fenômeno que passou a ser conhecido como “alucinação”. Como você pode imaginar, apresentar falsidades como fatos para alguém usando um dos poderosos chatbots da nova onda pode ter sérias consequências.
Esse problema foi destacado em um incidente recente em que um experiente advogado da cidade de Nova York citou casos – sugeridos pelo ChatGPT – que nunca aconteceram. O advogado pode sofrer sanções em decorrência de sua ação.
Outro incidente recebeu ampla atenção em abril, quando o ChatGPT aparentemente reescreveu a história ao dizer que um prefeito australiano havia sido preso por suborno enquanto trabalhava para um banco, quando na verdade ele havia sido o denunciante do caso.
Para tornar sua tecnologia de chatbot mais confiável, os engenheiros da OpenAI revelaram que estão atualmente focados em melhorar seu software para reduzir e, com sorte, eliminar essas ocorrências problemáticas.
Em um trabalho de pesquisa divulgado na quarta-feira e obtido pela CNBC , a OpenAI disse que os chatbots “exibem uma tendência a inventar fatos em momentos de incerteza”, acrescentando: “Essas alucinações são particularmente problemáticas em domínios que exigem raciocínio em várias etapas, pois uma única lógica erro é suficiente para inviabilizar uma solução muito maior.”
Para lidar com os erros do chatbot, os engenheiros da OpenAI estão trabalhando em maneiras de seus modelos de IA se recompensarem por fornecer dados corretos ao avançar em direção a uma resposta, em vez de se recompensarem apenas no ponto de conclusão. O sistema pode levar a melhores resultados, pois incorpora mais um procedimento de cadeia de pensamento humano, de acordo com os engenheiros.
Mas alguns especialistas expressaram dúvidas sobre o trabalho, dizendo à CNBC que é de pouca utilidade até que seja incorporado ao ChatGPT, que enquanto isso continuará alucinando. A OpenAI não disse se e quando pode incorporar seu trabalho em suas ferramentas generativas de IA.
Embora seja bom saber que a OpenAI está trabalhando para resolver o problema, pode demorar um pouco até vermos melhorias. Enquanto isso, como o próprio OpenAI diz, o ChatGPT pode ocasionalmente gerar informações incorretas, portanto, certifique-se de confirmar suas respostas se elas fizerem parte de alguma tarefa importante.
