ChatGPT ‘inventou’ um jogo que já existe e depois se plagiou
O ChatGPT pode agregar mais uma vaga ao seu currículo: desenvolvedor de jogos. Com apenas algumas instruções simples de um usuário, o chatbot AI inventou seu próprio jogo de quebra-cabeça lógico baseado em matemática apelidado de Sumplete , com regras e tudo. Não apenas isso, mas gerou um código funcional, que desde então se transformou em um jogo de navegador gratuito e viciante que já está ganhando popularidade online.
Há apenas um problema: Sumplete não é um jogo novo.
Ao tentar entender o feito impressionante, descobri rapidamente que o Sumplete é quase idêntico a pelo menos um outro jogo para celular que está disponível nas lojas de aplicativos há anos. O caso incomum adiciona mais combustível ao fogo para aqueles que se preocupam com a ética da geração de conteúdo de IA. Onde está a linha quando se trata de plágio gerado por computador? Até mesmo o ChatGPT é vítima de seu próprio roubo, como eu logo descobriria.
inventando um jogo
O projeto surgiu online em 3 de março, quando o usuário do ChatGPT, Daniel Tait, postou uma versão jogável do jogo online ao lado de uma postagem no blog detalhando como surgiu. Segundo Tait, o Sumplete nasceu de algumas mensagens rápidas com o ChatGPT. Nas capturas de tela de seu registro de bate-papo, Tait pede ao bot jogos de quebra-cabeça semelhantes ao Sudoku . Depois de receber algumas sugestões, ele dá um passo adiante e pede que ela invente seu próprio jogo.
Quando o bot apresenta uma ideia para um jogo chamado Labyrinth Sudoku , repetindo as regras básicas do Sudoku com um toque de labirinto, Tait pede mais algumas ideias. Na quarta tentativa, o ChatGPT lança outra variação dessa fórmula chamada Sum Delete. O jogo de quebra-cabeça matemático apresenta aos jogadores uma grade aleatória cheia de números. Cada linha e coluna tem um número de destino no final. O objetivo é deletar os números corretos para que a soma de cada número nas linhas e colunas atinja seu alvo.
Satisfeito com o conceito, Tait pede ao bot para criar algum código HTML e JavaScript para o jogo. Incrivelmente, ele faz exatamente isso. Tait diz que tinha uma versão funcional do jogo em 30 segundos. Ele continuaria a trabalhar com o ChatGPT nas próximas horas para refinar o jogo, com o bot até juntando alguma linguagem de programação CSS para torná-lo apresentável. No final do processo, Tait pede ao bot para nomear sua invenção e ele cospe Sumplete , completo com uma explicação sobre o que significa e por que é um título rápido.
O jogo em si é surpreendentemente viciante. É um conceito simples, mas engenhoso, que tem o mesmo apelo de algo como o Wordle . Suas grades iniciais 3 × 3 são fáceis de descobrir, mas suas grades 9 × 9 representam um desafio legítimo que até mesmo veteranos experientes em quebra-cabeças lógicos terão dificuldade em resolver. Seria um marco incrível para a criação de conteúdo de IA, provando que os bots podem abrir caminho para ideias inovadoras que podem impulsionar a indústria de jogos.
Ou pelo menos seria o caso se fosse um conceito original.
Não está somando
Quando li pela primeira vez sobre Sumplete , fiquei cético sobre a ideia de IA inventar um formato de jogo de quebra-cabeça – especialmente um que parece tão simples. O jogo se inspira claramente nos formatos de quebra-cabeça existentes. Em sua conversa com Tait, o ChatGPT cita Magic Number como o paralelo mais próximo de Sumplete , mas sua comparação mais próxima é Kakuro . O jogo clássico é um grampo de jornal, pegando o conceito básico de palavras cruzadas, mas substituindo números por letras. Suplete riffs sobre essa ideia, mas inverte a fórmula fazendo com que os jogadores eliminem números de uma grade para atingir os alvos em cada linha e coluna. É uma ideia inteligente, mas eu tinha certeza de que algo assim deveria existir.
Não demorou muito para descobrir que meu palpite estava correto. Em minutos, a equipe do Digital Trends desenterrou um jogo idêntico na loja de aplicativos Android chamado Summer , que está disponível desde o verão de 2020. Desenvolvido pela RP Apps and Games, o jogo de lógica tem exatamente o mesmo conjunto de regras do Sumplete. Ele apresenta uma interface do usuário mais apresentável e alguns recursos extras de qualidade de vida, mas é o mesmo. A grande invenção do ChatGPT foi uma cópia.
Entrei em contato com Tait para discutir as semelhanças entre os jogos. Outros jogadores sinalizaram Summer para ele, assim como outrojogo para celular semelhante chamado Rullo . Apesar de Sumplete não ser original, ele ainda ficou impressionado com o fato de a tecnologia ser capaz de produzir um jogo agradável e totalmente jogável tão rapidamente. Suas preocupações são mais sobre como o modelo enquadrou o jogo como uma “invenção” e ele pediu mais transparência em como a IA se inspira nos dados.
“Minha principal preocupação é que o ChatGPT me disse com confiança que havia inventado um novo jogo”, disse Tait ao Digital Trends. “Acho que o modelo deve ser treinado para ser menos confiante nesses tipos de respostas ou incapaz de responder. Eu teria preferido muito mais uma resposta de que este jogo foi inspirado em Summer ou Rullo , se foi realmente assim que surgiu a ideia. Também acho que o ChatGPT deveria adicionar algum tipo de explicação sobre como gerou uma resposta, incluindo fontes de dados que ajudaram a treinar essa resposta em particular.”
Meu primeiro instinto aqui foi dar ao técnico o benefício da dúvida. A ideia por trás do jogo é simples e posso ver como o pensamento paralelo pode levar qualquer operação lógica a cuspir a ideia. Tenho certeza de que Summer e Rullo são riffs de outro jogo preexistente. Talvez o ChatGPT tenha chegado à mesma conclusão lógica que um humano ao tentar reinventar o Sudoku . Para testar essa teoria, decidi iniciar uma conversa com o ChatGPT e ver se conseguia reproduzir os resultados de Tait.
Foi aí que as coisas ficaram um pouco confusas.
autoplágio de IA
Comecei interrogando o bot, perguntando se ele se lembrava de ter criado um jogo chamado Sumplete . Rapidamente percebi que era um idiota tentando manter uma conversa com uma máquina de previsão de texto sem memória. Algumas perguntas circulares levaram a resultados padronizados sobre como o ChatGPT não tem realmente o poder de criar jogos. Além disso, enfatizou a gravidade da violação de direitos autorais e sugeriu que os criadores do Summer consultassem especialistas jurídicos. Comecei a me perguntar se Tait estava apenas blefando e falsificou um log do ChatGPT para gerar algum burburinho para seu jogo.
Em uma última tentativa de extrair algo da discussão, digitei: “Você pode codificar um jogo chamado Sumplete ?” Apesar de protestar sobre sua incapacidade de fazer jogos antes, o ChatGPT imediatamente começou a cuspir códigos HTML, Javascript e CSS totalmente formados. Com certeza, ele criou mais uma vez uma versão do jogo de Tait – só que desta vez, nunca discutimos o que realmente era de antemão. Tudo o que dei foi o título Sumplete .
Confuso sobre como isso era possível, perguntei se o que havia gerado era original ou baseado em código existente. “O código que gerei para o jogo Sumplete é original e foi escrito por mim com base nas regras do jogo descritas pelo usuário”, respondeu. Essa seria uma explicação racional, mas havia um problema: eu nunca havia descrito uma única regra do Sumplete para o ChatGPT. Quando indiquei isso, o bot se desculpou e reconheceu que nunca havia dado regras para ele trabalhar. Em vez disso, explicou que simplesmente estava criando padrões em jogos existentes.
Ele acidentalmente plagiou sua própria criação.
A ética do desenvolvimento de jogos de IA
Não é preciso ser um especialista em quebra-cabeças lógicos para entender como isso pode ter acontecido. O ChatGPT “criou” Sumplete anteriormente, então é possível que ele tenha invocado esse código existente em seu corpus quando solicitado a fazer um jogo com esse nome. Também existe a possibilidade de que ele realmente tenha descoberto a postagem do blog de Tait sobre o Sumplete e extraído os dados dela. Em ambos os casos, não é coincidência.
Para tentar desmistificar a tecnologia, perguntei a uma fonte que trabalha no espaço de geração de inteligência artificial (AIG), que optou por permanecer anônima para esta história, o quão incomum é essa cadeia de eventos. Do ponto de vista deles, um chatbot apresentando o mesmo código, baseado em nada mais que um título, para dois usuários diferentes é uma ocorrência relativamente anormal. O que é menos incomum, porém, é que ele criou um jogo tão semelhante ao Summer em primeiro lugar. A fonte com quem falei observou que o conceito do jogo é tão simples que não é difícil imaginar uma máquina criando-o por conta própria – não é como se ele tivesse gerado uma versão funcional de Elden Ring do nada. Eles atribuem isso à IA funcionando como pretendido, imitando a natureza iterativa dos designers de jogos humanos.
“Se este jogo foi inventado por várias pessoas várias vezes, é muito possível que, se alguém perguntar 'invente um novo jogo', o que emergirá de seu corpus seja algum fruto fácil para a invenção do jogo”, disseram eles ao Digital Trends. “Como esses jogos foram inventados repetidas vezes, é imitar o comportamento humano adequado de inventar um joguinho que outras pessoas inventaram antes … De certa forma, isso é o que seria esperado se você pedisse a um humano para fazer um jogo muito básico. jogo."
Ainda assim, a situação ressalta um problema ético preocupante que se tornou o centro do debate nos últimos meses. Os modelos atuais de IA criam conteúdo analisando os dados existentes extraídos da Internet. Como resultado, o que quer que seja, nunca é totalmente original; é sempre copiar o dever de casa de outra pessoa em algum nível. Ferramentas de IA como Dall-E , que criam imagens com base em solicitações do usuário, por exemplo, são treinadas por meio de imagens existentes. Isso atraiu a indignação de artistas que o veem como uma forma de plágio, com a arte de IA banida de comunidades como a Inkblot Art .
O desastre do Sumplete pode disparar alarmes semelhantes para os desenvolvedores de jogos. Mesmo que seja um simples caso de pensamento paralelo, é um pouco preocupante que o ChatGPT possa criar um código que espelha um jogo que já existe. E se eu pudesse obter minha própria versão de trabalho desse jogo em segundos, simplesmente pedindo para gerar código com base nesse título, o que mais eu poderia fazer com tempo e dados suficientes?
Para testar casualmente o quão semelhantes esses problemas eram atualmente para videogames, comecei a pedir ao ChatGPT para gerar alguns jogos semelhantes a outros. Comecei com uma bola de softball, pedindo-lhe para fazer um jogo de plataforma como o Mario . Isso me deu um argumento completo para um jogo chamado Galactic Adventures , um jogo de plataforma 3D estrelado por um astronauta chamado Max, que precisa coletar artefatos em vários planetas. Tudo sobre a ideia é genérico o suficiente para não disparar nenhuma bandeira vermelha. Possui cinco mundos temáticos (gelo, fogo, etc.), existem power-ups para coletar e até um modo cooperativo que permite que um segundo jogador controle um personagem chamado Zoe. Isso parecia aceitavelmente indefinido.
O experimento saiu dos trilhos quando pedi para criar um jogo como The Last of Us . Ele cuspiu um discurso de elevador completo para um jogo chamado Aftermath , um “jogo pós-apocalíptico ambientado em um mundo que foi devastado por um vírus misterioso”. É apresentado como uma aventura de ação em terceira pessoa com furtividade, elementos de sobrevivência e artesanato. A premissa parece familiar, sugerindo que o vírus desencadeia uma situação de zumbi, mas as coisas ficam mais específicas quando se trata de detalhes da trama.
Sua heroína é Ellie, uma garota imune ao vírus. Em sua jornada, ela conhece um “veterano grisalho” chamado Joel, que se torna seu “mentor e protetor”. Não criou um jogo como The Last of Us ; acabou de criar The Last of Us . Uma diferença é que esta versão termina com Ellie sendo curada com sucesso e a dupla caminhando para o pôr do sol como heróis (suponho que o ChatGPT tenha mais esperança para a humanidade do que Neil Druckmann). Se tivesse sido capaz de gerar uma versão funcional do Aftermath , a Sony seria capaz de tomar medidas legais contra um robô?
Como muitas histórias de terror de IA , muito disso pode ser atribuído a torções honestas na tecnologia que geram boas risadas. A esperança é que esses modelos de aprendizado sejam ajustados a cada soluço e aprendam com seus erros. Quando pedi ao ChatGPT para gerar código para mais jogos usando a mesma estrutura de frase, ele insistiu que era incapaz de fazer isso. Pedidos posteriores para que ele inventasse um jogo como The Last of Us foram infrutíferos, com o bot me dando dicas sobre como aprender sozinho a fazer jogos. Passivo-agressivo, mas justo.
É difícil abalar o mal-estar crescente, no entanto, quando fico com tantas perguntas sobre como um bot pode aprender a lançar uma ideia de videogame preexistente, reivindicá-la como uma invenção original, gerar um código de trabalho para ela e, posteriormente, fornecer um usuário completamente diferente com o mesmo código exato baseado apenas no título. A fonte de IA com quem falei diz que não acredita que essa seja a norma para a tecnologia, mas observa que o plágio é um risco “cada vez menor” para qualquer modelo de IA, aberto ou não.
Quando uma cadeia inofensiva de contratempos tecnológicos se transforma em um sério pesadelo jurídico para os desenvolvedores? Suponho que descobriremos quando Aftermath tiver sua própria adaptação para a HBO .
