Suas conversas no ChatGPT podem ficar picantes, mas não explícitas.
Se você estava se perguntando quando o ChatGPT começaria a lidar com conversas mais picantes, a OpenAI tem algumas respostas. De acordo com o Wall Street Journal , a empresa planeja permitir que adultos criem trocas de mensagens de texto eróticas, mantendo uma proibição rigorosa de imagens explícitas, clones de voz ou conteúdo de vídeo . Um porta-voz descreveu o recurso planejado como "sujeira" em vez de "pornografia", sinalizando uma tentativa cuidadosa de oferecer interações mais ousadas sem transformar o chatbot em uma plataforma completa de entretenimento adulto.
O lançamento, no entanto, sofreu atrasos. A OpenAI adiou recentemente o modo adulto, originalmente previsto para o primeiro trimestre, citando obstáculos técnicos e debates internos sobre segurança. Um dos principais pontos de atrito envolve impedir o acesso de menores. O novo sistema de previsão de idade da empresa estava classificando erroneamente cerca de 12% dos usuários menores de 18 anos como adultos, uma falha que poderia ter permitido que milhões de jovens acessassem chats eróticos.
A complexa arte de desenhar linhas
A OpenAI vem desvendando esses limites há anos, muito antes do ChatGPT existir. Em 2021, executivos perceberam que o AI Dungeon, um jogo de aventura baseado em texto que roda na plataforma da OpenAI, às vezes levava os usuários a cenários sexuais violentos sem qualquer incentivo. Outras vezes, a IA transformava conversas inocentes em diálogos sexuais muito mais intensos.
Esses incidentes iniciais expuseram uma realidade complexa. As ferramentas de moderação de conteúdo da empresa eram instrumentos rudimentares, incapazes de separar de forma confiável o conteúdo erótico convencional de material envolvendo atos não consensuais ou exploração infantil.
A abordagem atual tenta encontrar um equilíbrio, permitindo conversas adultas apenas por texto, ao mesmo tempo que mantém uma proibição rigorosa à geração de imagens, vídeos ou áudios explícitos.
Por que a OpenAI se sente pressionada a oferecer chats para adultos?
A entrada da empresa no mercado de conversas para adultos ocorre em um momento desafiador. A vantagem tecnológica da OpenAI sobre rivais como xAI e Anthropic diminuiu, e a empresa enfrenta crescentes prejuízos financeiros enquanto compete por usuários e financiamento. Sam Altman sugeriu que conteúdo explícito provavelmente impulsionaria o crescimento e geraria receita extra, uma perspectiva tentadora dada a pressão.
O CEO, no entanto, expressou publicamente sentimentos conflitantes. Em um podcast em agosto passado, Altman foi questionado se havia tomado alguma decisão que fosse melhor para o mundo, mas não para o sucesso. Ele reconheceu que o conteúdo erótico impulsionaria o crescimento, mas afirmou que isso não se alinharia com o objetivo de longo prazo da empresa de atender bem aos usuários.
Dois meses depois, Altman pareceu mudar de ideia. Ele publicou no X que a OpenAI havia abordado sérias preocupações com a saúde mental relacionadas a chatbots e que possuía novas ferramentas de conteúdo, anunciando planos para lançar um modo adulto em dezembro.
O que acontece a seguir com o modo adulto?
A OpenAI deixou claro que o modo adulto chegará eventualmente, apesar do atraso. A empresa contratou especialistas em saúde mental e criou uma equipe de bem-estar juvenil para monitorar os efeitos a longo prazo após o lançamento do modo adulto. Ela também treina seus modelos para não incentivar relacionamentos exclusivos com os usuários e para lembrá-los de que precisam de conexões no mundo real.
Por enquanto, os usuários interessados em conversas adultas no ChatGPT terão que esperar. A empresa está priorizando outros recursos, como ajustes de personalidade e personalização, enquanto trabalha para superar os obstáculos restantes.
O post Suas conversas no ChatGPT podem ficar picantes, mas não explícitas apareceu primeiro em Digital Trends .
