Seja vigilante! Detectores GPT também podem falsificar
O desenvolvimento da inteligência artificial generativa é como um cavalo selvagem em fuga: se você apenas correr, mais cedo ou mais tarde vai derrubar pessoas que não são boas em equitação.
Em 30 de novembro de 2022, o ChatGPT, um robô de bate-papo com inteligência artificial, foi lançado oficialmente e rapidamente se tornou popular nas mídias sociais. Em apenas 5 dias, o número de usuários registrados ultrapassou 1 milhão. Em dois meses, os usuários ativos mensais do ChatGPT ultrapassaram 100 milhões. Torne-se o usuário consumidor que mais cresce na história.
Claramente, nem todo mundo está pronto para o ataque violento da inteligência artificial generativa.
No início de janeiro deste ano, o Departamento de Educação da cidade de Nova York anunciou que proibiria os alunos de usar o ChatGPT no equipamento e na rede da escola para impedir que os alunos colassem. A Sciences Po em Paris, França, também emitiu oficialmente um aviso no final de janeiro, proibindo todos os alunos e funcionários de cada campus de usar o ChatGPT para concluir tarefas de ensino, tornando-se a primeira escola na Europa a implementar uma "proibição total" do ChatGPT.
Quando chegou a hora de julho, sob o ambiente onde a inteligência artificial generativa estava florescendo e centenas de escolas de pensamento estavam em disputa, alguns educadores estrangeiros começaram a seguir a tendência da época e abraçar ativamente a inteligência artificial generativa.
Os diretores de 24 universidades de pesquisa do Russell Group no Reino Unido recentemente desenvolveram e assinaram em conjunto uma diretriz destinada a apontar claramente para alunos e funcionários onde o uso de inteligência artificial generativa não é adequado, apoiando-os a tomar decisões informadas e capacitando-os a tome as decisões certas. Use essas ferramentas e reconheça seu uso quando necessário.
Agora, na visão deles, desde que a inteligência artificial generativa seja usada corretamente, será de grande benefício para a educação, mas antes disso, talvez eles devam ter cuidado com alguns "pequenos problemas".
No campo da educação, a aplicação do ChatGPT para a conclusão das tarefas dos alunos não é nova, e muitos professores também começaram a ver a detecção de inteligência artificial como: "a principal contramedida para impedir a forma de trapaça do século XXI"
Mas estudos mostraram que alguns detectores de IA são discriminatórios e enganosos.
Recentemente, uma equipe de cientistas liderada por James Zou, professor assistente de ciência de dados biomédicos na Universidade de Stanford, avaliou 91 redações do TOEFL (Test of English Proficiency for Non-Native Speakers of English) escritas por falantes não nativos usando sete detectores GPT populares. .
O estudo descobriu que mais da metade das redações escritas por falantes não nativos de inglês foram rotuladas incorretamente como geradas por IA em todos os 7 detectores GPT, e até mesmo um detector rotulou incorretamente quase 98% das redações como geradas por IA.
O exame de redações escritas por alunos nativos da oitava série que falam inglês descobriu que o mesmo detector de IA rotulou mais de 90% das redações como geradas por humanos.
Ao rastrear essa discriminação inerentemente tendenciosa, os pesquisadores descobriram que a IA generativa pode gerar texto de baixa complexidade após um pré-treinamento maciço, o que significa que, se os humanos escrevem em padrões familiares, o uso de muitas palavras comuns aumenta muito o risco de ser sinalizado como gerado pela IA. , e falantes não nativos de inglês correm maior risco precisamente porque são mais propensos a usar palavras mais simples.
O impacto dessa discriminação merece atenção. Os pesquisadores também alertam que "o impacto dos detectores GPT em escritores não nativos é sério", acrescentando que "na educação, sem dúvida o mercado mais importante para detectores GPT, os riscos não nativos de alegações de trapaça, que podem ser prejudiciais para um carreira acadêmica e saúde mental do aluno".
Portanto, antes de pensar se a inteligência artificial generativa é um "bom remédio" ou um "veneno" para a educação, pode ser necessário resolver primeiro esses "pequenos problemas".
#Bem-vindo a seguir a conta pública oficial do WeChat de Aifaner: Aifaner (ID do WeChat: ifanr), conteúdo mais interessante será apresentado a você o mais rápido possível.
