O próximo modo de bate-papo erótico do ChatGPT corre o risco de expor milhões de crianças a conteúdo adulto.

Sam Altman quer que o ChatGPT fique mais picante. A OpenAI planeja lançar um "modo adulto" que permitirá aos usuários ter conversas de texto explícitas com o chatbot . Parece simples, mas o lançamento tem sido tudo menos tranquilo.

Em outubro, Altman publicou no X que o recurso seria lançado em dezembro. No entanto, o lançamento foi adiado depois que a OpenAI declarou estar enfrentando problemas com a verificação de idade.

Um novo relatório do WSJ afirma que isso pode ser apenas parte da história. Quando Sam Altman fez o anúncio, ele não havia contado nem mesmo para sua equipe. O anúncio pegou de surpresa funcionários e executivos da OpenAI, e o lançamento prometido para dezembro rapidamente foi por água abaixo.

O ChatGPT está realmente preparado para isso?

A OpenAI reuniu um conselho consultivo de psicólogos e neurocientistas para ajudar a orientar o desenvolvimento responsável de IA. Quando o conselho descobriu que a empresa estava prosseguindo com o modo adulto, apesar de suas objeções, eles não ficaram satisfeitos.

A maior preocupação deles era a dependência emocional excessiva do chatbot. Um membro do conselho apontou casos em que usuários tiraram a própria vida após criarem laços intensos com a IA e alertou que a OpenAI corria o risco de criar um "coach de suicídio sexy". Essa é uma expressão que ninguém espera ouvir em lugar nenhum, mas aqui estamos.

Há também um problema mais prático. O sistema de verificação de idade que a OpenAI criou para manter menores de idade longe de conteúdo adulto os classificava erroneamente como adultos em cerca de 12% dos casos. Com aproximadamente 100 milhões de usuários menores de 18 anos por semana, isso significa que milhões de crianças podem estar sendo desprotegidas todas as semanas.

O que acontece agora?

A OpenAI adiou o lançamento sem uma nova data confirmada, alegando que precisa de mais tempo para aprimorar a experiência. Quando for lançado, a empresa planeja limitar o modo adulto a texto, sem imagens eróticas, voz ou geração de vídeo.

A empresa também afirmou que treina seus modelos para desencorajar os usuários de formarem relacionamentos exclusivos com o chatbot e para lembrá-los de que devem cultivar relacionamentos no mundo real. Resta saber se isso será suficiente para silenciar o crescente coro de críticas internas e externas.

Pessoalmente, quero que os modelos de IA fiquem o mais longe possível da geração de conteúdo erótico até que existam salvaguardas ativas. Já vimos o caos que o Grok causou ao permitir que os usuários despissem qualquer pessoa . Não queremos ver uma repetição de algo semelhante ou pior.

O artigo "O próximo modo de bate-papo erótico do ChatGPT corre o risco de expor milhões de crianças a conteúdo adulto" foi publicado originalmente no Digital Trends .