GPTZero: como usar a ferramenta de detecção ChatGPT

Em termos de tecnologias que mudam o mundo, o ChatGPT realmente causou um impacto enorme na maneira como as pessoas pensam sobre escrever e codificar no pouco tempo que está disponível. Ser capaz de inserir um prompt e obter um fluxo de texto quase bom o suficiente é uma proposta tentadora para muitas pessoas que não estão confiantes em suas habilidades de escrita ou que desejam economizar tempo. No entanto, esta capacidade tem uma desvantagem significativa, especialmente na educação, onde os alunos são tentados a usar o ChatGPT para os seus próprios trabalhos ou exames . Isso os impede de aprender o máximo que poderiam, o que deu aos professores uma nova dor de cabeça quando se trata de detectar o uso de IA.

Professores e outros usuários estão agora procurando maneiras de detectar o uso do ChatGPT no trabalho dos alunos, e muitos estão recorrendo a ferramentas como o GPTZero, uma ferramenta de detecção do ChatGPT desenvolvida pelo estudante da Universidade de Princeton, Edward Tian. O software está disponível para todos, então se você quiser experimentá-lo e ver as chances de um determinado texto ter sido escrito usando ChatGPT, veja como você pode fazer isso.

O que é GPTZero?

GPTZero é um aplicativo e serviço da web projetado para detectar se um corpo de texto foi escrito por um ser humano ou por uma inteligência artificial . Tian, ​​um estudante de 22 anos que estuda ciência da computação na Universidade de Princeton e ex-estagiário de engenharia de software na Microsoft, é o desenvolvedor do GPTZero.

O GPTZero foi anunciado pela primeira vez por meio do tweet de Tian em 2 de janeiro de 2023, como uma ferramenta para ajudar a detectar plágio de IA. Tian observou que a análise foi baseada na pesquisa do Ph.D. de Princeton. o candidato Sreejan Kumar e o trabalho do Grupo de Processamento de Linguagem Natural de Princeton.

a análise é baseada em algumas pesquisas em andamento com @sreejan_kumar e @princeton_nlp . esperamos publicar algo empírico em breve. mas, entretanto, este foi um aplicativo divertido de fazer

— Edward Tian (@edward_the6) 3 de janeiro de 2023

O GPTZero é gratuito?

O GPTZero foi desenvolvido para educadores, mas qualquer pessoa pode usá-lo gratuitamente. É improvável que seja sempre assim. Os termos de serviço mencionam que pode haver taxas para alguns serviços . Há também uma menção a um teste gratuito de 30 dias para novos usuários que se registrarem.

GPTZero não é um projeto de código aberto, e Tian enfrentaria altas taxas de hospedagem se não fosse pela ajuda do Streamlit, uma estrutura de aplicativo Python com serviço de nuvem gratuito para aplicativos Streamlit. Embora o tráfego do GPTZero seja uma pequena fração do que o ChatGPT desfruta, até a OpenAI decidiu começar a cobrar para compensar seus custos.

Embora a hospedagem Streamlit seja gratuita, isso geralmente limita a largura de banda e os recursos nesta plataforma compartilhada. Isso teria restringido o uso de um aplicativo popular como o GPTZero.

Streamlit está atualmente auxiliando Tian aumentando a memória do aplicativo e a permissão de hospedagem do GPTZero. Se continuar a crescer a um ritmo rápido, isso poderá mudar.

obrigado @DataChaz e restante da equipe @streamlit por aumentar generosamente a hospedagem e a memória do gptzero :))

— Edward Tian (@edward_the6) 4 de janeiro de 2023

O GPTZero é preciso?

Houve alegações de que o GPTZero pode ser enganado. Seguindo uma sugestão do usuário do Reddit Smellz_Of_Elderberry , pedi ao ChatGPT que escrevesse uma breve história sobre o livro O Velho e o Mar como se fosse um estudante do ensino médio. GPTZero não se deixou enganar.

Tentei novamente, alterando o texto com alguma pontuação mal colocada, tempo verbal incorreto e outros pequenos erros, mas GPTZero ainda afirmou: “é provável que seu texto tenha sido escrito inteiramente por IA”.

A palavra-chave aqui é “provável”, e o desenvolvedor nunca prometeu que o GPTZero era perfeito. A precisão do GPTZero ainda está sendo avaliada, mas, curiosamente, parece estar funcionando bem para a maioria das pessoas.

Se você usa GPTZero, é importante ter em mente que erros são possíveis. Ao usar GPTZero para detectar IA ou ChatGPT para ajudar a escrever um documento, você ainda precisa verificar se há erros no trabalho .

Como funciona o GPTZero?

GPTZero analisa a aleatoriedade do texto, conhecida como perplexidade, e a uniformidade dessa aleatoriedade dentro do texto, que é chamada de explosão nas estatísticas. Uma IA é muito consistente em sua perplexidade e explosão, enquanto os escritores humanos variam essas características sem qualquer consciência.

O trabalho não está concluído e Tian observa que mais testes serão adicionados para melhorar a precisão da detecção de texto por IA. Em particular, o preconceito implícito é uma área que está sendo explorada como outra forma de detectar se o texto é gerado por uma IA.

ainda estamos estudando o viés implícito no texto gerado por LM no momento, então esperamos adicionar mais alguns testes e fatores para melhorar o modelo

— Edward Tian (@edward_the6) 3 de janeiro de 2023

Como posso usar o GPTZero?

O GPTZero está disponível em seu site ou por meio de uma interface de programação de aplicativos (API). Para usar o site, basta copiar o texto que deseja verificar e colá-lo na caixa grande chamada Experimente .

Também é possível fazer upload de um PDF, documento Word ou arquivo de texto e clicar no botão Obter resultados . Você também precisará marcar a caixa que significa que concorda com os termos de serviço.

Por que minha escrita está sendo sinalizada como IA?

Junto com a ascensão do ChatGPT e das ferramentas de detecção de IA, agora tanto escritores quanto leitores têm uma nova preocupação sobre como saber se o conteúdo é criado por IA e se a escrita genuína está sendo rotulada como proveniente de uma IA. Isto é particularmente um problema para os estudantes, que podem enfrentar consequências nas suas escolas ou universidades se forem descobertos que utilizam IA. Alguns alunos agora habitualmente executam seu próprio trabalho original por meio de detectores como o GPTZero e descobrem que ele está sinalizando frases como escritas por IA, mesmo que não o fossem.

Em 2024, um escritor do The Atlantic, Ian Bogost, descreveu a execução do seu próprio trabalho original através de um software de detecção de plágio e descobriu que inicialmente, surpreendentes 74% do seu trabalho foi sinalizado como plágio. Com verificação e eliminação cuidadosas, ele conseguiu reduzir esse número a zero, mas levou várias horas de revisão e ajustes nas configurações para chegar lá.

A detecção de IA é semelhante à detecção de plágio, pois ambas podem refletir apenas as melhores suposições sobre se um texto escrito é original e gerado por humanos ou não. E essas ferramentas exigem muita análise cuidadosa, pois ambas tendem a produzir falsos positivos . Se você descobrir que seu trabalho está sendo sinalizado como gerado por IA no GPTZero quando não era, isso pode ser por motivos tão amplos quanto não ser um falante nativo de inglês, ser muito repetitivo com suas ideias ou ter usado um ferramenta como Grammarly.

Se o seu trabalho estiver sendo sinalizado como IA, verifique se todas as suas citações e citações estão formatadas corretamente e tente evitar o uso de ferramentas automáticas como Grammarly para fazer edições.

Precisamos realmente de verificações de plágio?

Indo muito além do laboratório de pesquisa ao qual muitas IAs de geração de texto estavam vinculadas, a OpenAI lançou o ChatGPT ao público no final de novembro de 2022 . Em janeiro de 2023, o ChatGPT tinha mais de 100 milhões de usuários, tornando-o o aplicativo público de crescimento mais rápido até então.

Isso significa que qualquer preocupação com o plágio só aumentará à medida que a assistência da IA ​​se tornar disponível em todos os aspectos da vida. A Microsoft está incorporando a tecnologia OpenAI na busca do Bing, e o Google está testando sua própria versão, conhecida como Gemini (anteriormente Bard) .

Por outro lado, geradores de imagens de IA como Dall-E e Stable Diffusion estão sob escrutínio por possíveis violações de direitos autorais. Todos esses serviços de inteligência artificial foram treinados na escrita, nas fotografias e nas obras de arte encontradas online e criadas por bilhões de humanos.

De certa forma, a IA está a inspirar-se na inteligência humana e não a criar por si própria. Se eu pedir emprestado a outro ser humano, devo dar crédito e possivelmente pagar uma taxa de licenciamento. Com a IA generativa, torna-se mais difícil citar uma fonte porque cada texto ou imagem é dividido em elementos difusos e depois remontados para criar uma nova peça utilizando milhares ou milhões de fontes.

Precisamos de repensar a forma como nos sentimos em relação aos direitos de autor e ao plágio ou encontrar ferramentas que ajudem a identificar material gerado pela IA e possivelmente desenvolver um método de dar crédito ao grande número de pessoas que contribuem para cada trabalho gerado pela IA.