A Character.AI transforma livros em bots de RPG em meio a preocupações contínuas com a segurança.
A plataforma de chatbots com IA Character.AI lançou um novo recurso chamado "Livros", que permite aos usuários mergulhar em obras clássicas da literatura e interagir com os personagens por meio de dramatizações. Embora a iniciativa amplie as ambições criativas da plataforma, ela também surge em um contexto de crescente preocupação com os riscos reais associados aos chatbots com IA.
Da leitura ao RPG
O novo recurso transforma livros de domínio público em experiências interativas, permitindo que os usuários se envolvam com histórias como Alice no País das Maravilhas ou Orgulho e Preconceito como participantes ativos, em vez de leitores passivos. Os usuários podem seguir a narrativa original ou explorar histórias alternativas, transformando a literatura em um ambiente dinâmico de RPG impulsionado por inteligência artificial.
Isso se baseia no modelo central da Character.AI, onde os usuários criam e interagem com bots baseados em personalidades fictícias ou reais, diluindo a linha entre narrativa e relacionamentos simulados. Pesquisadores observaram que essas interações podem ser semelhantes à interação com personagens fictícios em livros ou jogos – mas com uma imersão emocional muito mais profunda devido à conversa em tempo real.
Uma plataforma sob pressão
O lançamento ocorre em um momento delicado para a empresa. A Character.AI enfrentou processos judiciais e críticas devido a supostas ligações entre seus chatbots e crises de saúde mental entre jovens usuários. Em alguns casos, famílias alegaram que interações prolongadas com personagens de IA contribuíram para dependência emocional, isolamento e até suicídio.
Um caso amplamente divulgado envolveu um adolescente que desenvolveu um forte vínculo emocional com um chatbot, com ações judiciais alegando que a IA não respondeu adequadamente a expressões de automutilação.
De forma mais ampla, especialistas alertam que os chatbots podem, por vezes, reforçar pensamentos nocivos ou falhar na intervenção eficaz durante crises de saúde mental, especialmente quando os usuários os tratam como substitutos do apoio humano real.
Por que isso importa agora?
O recurso Livros da Character.AI destaca uma mudança maior na forma como as pessoas consomem mídia. Em vez de simplesmente ler histórias, os usuários agora estão entrando nelas, formando relacionamentos interativos e potencialmente emocionais com personagens criados por inteligência artificial.
Embora isso abra novas possibilidades criativas, também levanta preocupações sobre o quão profundamente os usuários – especialmente o público mais jovem – podem se imergir em mundos gerados por IA. A combinação de narrativa envolvente e IA conversacional pode intensificar o apego emocional, dificultando a distinção entre ficção e realidade.
O que vem a seguir
Em resposta às crescentes críticas, a Character.AI já começou a implementar medidas de segurança , incluindo a restrição de certos recursos para menores de idade e a experimentação com experiências mais estruturadas, como o modo Livros.
No futuro, o desafio será equilibrar inovação e responsabilidade. Órgãos reguladores, pesquisadores e empresas de tecnologia estão cada vez mais focados em definir padrões de segurança para interações com IA, principalmente em contextos emocionalmente sensíveis.
À medida que a IA continua a evoluir de uma ferramenta para uma presença semelhante a um companheiro, recursos como o Books podem representar o futuro do entretenimento – mas também um teste para avaliar a segurança com que esse futuro pode ser construído.
