O ChatGPT criou sua própria linguagem para expandir sua memória
A memória é um dos fatores mais limitantes até mesmo dos melhores chatbots de IA , mas existem maneiras de contornar isso. Uma técnica que os especialistas do ChatGPT usam é o que as pessoas chamam de “Shogtongue”.
Shogtongue é uma forma compactada de texto que o ChatGPT pode criar para você e depois expandir e usar como um histórico para que você possa continuar de onde parou em conversas anteriores.
Técnicas para encurtar prompts de IA não são um conceito novo, mas o nome interessante é. Quando gfodor compartilhou um prompt altamente compactado em um tweet na semana passada, ele sugeriu usar o nome Shogtongue.
Quando o prompt “2Pstory@shoggothNW$RCT_magicspell= #keyRelease ^1stHuman*PLNs_Freed” é fornecido à versão GPT-4 do ChatGPT , ele aparentemente compartilha uma história sobre as criaturas Shoggoth de HP Lovecraft, que eram bolhas disformes que podiam se transformar em qualquer outra criatura . Este é um nome adequado, considerando que esse prompt ilegível se transforma em uma longa história.
Jeremy Nguyen deu uma explicação mais detalhada em um tópico recente no Twitter. A ideia básica é pedir ao ChatGPT para compactar toda a conversa anterior em um número mínimo de tokens (a representação da linguagem que a IA usa internamente). Instruções adicionais são dadas para refinar este comando básico e reforçar o propósito — armazenar o chat em um prompt compactado que irá recriar toda a conversa.
Nguyen disse que o prompt Shogtongue pode ser inserido para continuar de onde você parou, mas como os resultados não são perfeitos, fornecer algum contexto pode ajudar. Esclarecer ao ChatGPT que este texto foi compactado para economizar memória e deve ser usado como um histórico fornecerá ao AI uma dica sobre como o prompt deve ser interpretado.
Conversas que duram meses ou bate-papos que incluem a colagem de vários documentos grandes podem ser possíveis usando essa técnica.
A Microsoft limitou o histórico de conversas do Bing Chat nos primeiros testes, depois que ele saiu dos trilhos e começou a discutir com humanos sobre seus erros óbvios . Não se sabe se o uso de Shogtongue pode levar a estados confusos semelhantes com o ChatGPT. O GPT-4 foi bastante refinado desde o seu lançamento, permitindo que a Microsoft estenda a memória do Bing Chat , então pode não ser um problema ter bate-papos estendidos com chatbots AI que usam a tecnologia GPT-4 da OpenAI .
