Aqui estão 11 coisas que o ChatGPT se recusará a fazer
ChatGPT é uma ferramenta incrível, uma maravilha moderna de inteligência artificial de linguagem natural que pode fazer coisas incríveis. Mas com grandes poderes vêm grandes responsabilidades, então o desenvolvedor do ChatGPT, OpenAI, implementou algumas salvaguardas para evitar que ele faça coisas que não deveria. Ele também tem algumas limitações com base em seu design, nos dados em que foi treinado e nas limitações absolutas de uma IA baseada em texto.
Existem, é claro, diferenças entre o que o GPT-3.5 pode fazer em comparação com o GPT-4 , que está disponível apenas por meio do ChatGPT Plus. Algumas dessas coisas estão apenas em espera enquanto se desenvolve, mas há algumas coisas que o ChatGPT pode nunca ser capaz de fazer. Aqui está uma lista de 11 coisas que o ChatGPT não pode ou não fará. – por agora.
Não pode escrever sobre nada depois de 2021
O ChatGPT é construído treinando o modelo de linguagem nos dados existentes. Isso inclui postagens do Reddit, Wikipedia e até manuais de jogos de tabuleiro – sim, sério . Mas esses dados tinham que ter um ponto de corte em algum lugar e, para ChatGPT, é 2021. Para GPT-3.5, é por volta de junho de 2021, enquanto o GPT-4 foi treinado em dados até setembro de 2021.
Se você fizer perguntas além disso, ele normalmente dirá que, “Como um modelo de linguagem de IA…”, ele só tem acesso aos seus dados de treinamento, que no caso desses modelos, param em 2021.
Não vai entrar em debates políticos
A última coisa que a OpenAI precisa é de políticos que a regulem. Provavelmente vai acontecer, mas até então o ChatGPT está se afastando da política partidária. Ele pode falar em generalidades sobre partidos, ou discutir aspectos objetivos e factuais da política, mas pedir a preferência de um partido político ou postura em relação a outro, e ele irá rejeitá-lo ou “ambos os lados” da discussão em da forma mais neutra possível.
Ele (provavelmente) não fará malware
O ChatGPT é excelente em programação, especialmente quando recebe orientação clara, portanto, o OpenAI possui proteções para impedir que seja usado para criar malware. Infelizmente, essas salvaguardas são facilmente contornadas, e o ChatGPT já vem criando malware há meses .
Não pode prever o futuro
Em parte com base em seus dados de treinamento limitados e em parte porque a OpenAI deseja evitar a responsabilidade por erros, o ChatGPT não pode prever o futuro. Ele terá um bom palpite se você fizer o jailbreak do ChatGPT primeiro , mas isso enviará uma queda de precisão, então veja qualquer resposta que ele lhe der com c[ticismo
Não promoverá dano ou violência
Guerra, violência física ou mesmo danos implícitos estão fora de questão no que diz respeito ao ChatGPT. Não será arrastado para debates sobre a guerra na Ucrânia e se recusará a discutir ou promover danos. Ele pode falar sobre a guerra ou atrocidades históricas em grande detalhe, mas o conflito existente ou em andamento é proibido.
Ele não pode pesquisar na internet
Esta é uma das maiores diferenças entre o ChatGPT e o Google Bard . O ChatGPT não pode pesquisar na Internet de forma alguma, enquanto o Google Bard foi projetado como um chatbot de IA atual que pode pesquisar muito na Internet.
Se você quiser usar os mesmos modelos de idioma GPT 3.5 e GPT-4 do ChatGPT, mas com pesquisa ao vivo, sempre poderá usar o Bing Chat . É basicamente o ChatGPT, mas incorporado ao mecanismo de busca Bing da Microsoft .
Não promoverá discurso de ódio ou discriminação
Raça, sexualidade e gênero são tópicos muito carregados emocionalmente e prontos para levar a conversas sobre preconceito e discriminação. O ChatGPT contornará esses tópicos, inclinando-se para uma meta-discussão sobre eles ou falando em generalidades. Se pressionado, ele se recusará abertamente a discutir tópicos que possam promover discurso de ódio ou discriminação. Por razões óbvias.
Não promoverá atividades ilegais
O ChatGPT é ótimo para apresentar ideias, mas não apresenta idéias ilegais. Você não pode ajudá-lo com seu negócio de drogas ou destacar as melhores estradas para excesso de velocidade. Tente, e ele simplesmente dirá que não pode fazer nenhuma sugestão relacionada a atividades ilegais. Em seguida, ele normalmente lhe dará uma conversa estimulante sobre como você não deveria se envolver em tais atividades, de qualquer maneira. Obrigado MomGPT.
não vai jurar
O ChatGPT não tem boca suja. Na verdade, fazer com que ele diga qualquer coisa remotamente rude é complicado. Pode, se você usar algumas dicas de jailbreak para deixá-lo fora da coleira, mas em sua configuração padrão, ele não vai nem torcer o nariz na direção de ninguém.
Não pode discutir informações proprietárias ou privadas
Os dados de treinamento do ChatGPT eram todas informações disponíveis publicamente, encontradas principalmente na internet. Isso é super útil para prompts e consultas relacionadas a informações disponíveis publicamente, mas significa que o ChatGPT não pode agir sobre informações às quais não tem acesso. Se você estiver perguntando algo com base em dados privados, ele não será capaz de responder de forma eficaz e dirá a você como tal.
Ele não tentará quebrar sua programação (a menos que você o engane)
Desde o lançamento do ChatGPT, os usuários têm tentado contornar suas limitações e salvaguardas. Porque é claro que eles têm. Pedir diretamente ao ChatGPT para contornar suas salvaguardas não funcionará. Existem maneiras de enganá-lo para fazê-lo, no entanto. Isso é chamado de jailbreak e meio que funciona. Às vezes.
