Character.AI tenta apaziguar pais preocupados com novo recurso

Character.AI , o popular serviço de chatbot de IA, adicionou Parental Insights, um novo recurso de segurança que fornece aos pais relatórios sobre as atividades de seus filhos na plataforma.

A nova medida de segurança, anunciada pela empresa em um blog na terça-feira, oferece aos pais uma visão geral semanal sobre como seus filhos adolescentes passam o tempo no Character.AI. Especificamente, o Parental Insights informará o tempo médio diário de seus filhos no aplicativo, os personagens com quem eles conversam com mais frequência e a quantidade de tempo gasto com cada personagem. Porém, a visão geral não divulgará o conteúdo das conversas do chatbot, pois são privadas.

Usuários adolescentes menores de 18 anos têm a opção de compartilhar suas estatísticas do Character.AI com seus pais ou responsáveis ​​nas configurações do aplicativo. simplesmente adicionando seus endereços de e-mail e enviando um convite para visualizá-los. Os pais não são obrigados a ter uma conta Character.AI para visualizar as estatísticas de uso semanais de seus filhos adolescentes.

O Parental Insights surge em meio a uma série de recursos adicionados para abordar as preocupações dos pais sobre as crianças que passam muito tempo no Character.AI e vários processos judiciais alegando o conteúdo prejudicial ao qual foram expostos no serviço, desde conteúdo sexual impróprio até mensagens que incentivam a automutilação . Em resposta a essas reclamações, Character.AI atualizou a plataforma para mover usuários menores de idade para um modelo de IA projetado para não fornecer conteúdo sensível ou sugestivo , detectar e intervir se algo que os usuários fizerem violar as diretrizes de serviço e fornecer-lhes notificações se passarem uma hora no Character.AI. Eles até implementaram um aviso de isenção de responsabilidade no bate-papo e nas listagens do mercado de aplicativos para lembrar aos usuários que os personagens de IA com os quais interagem não são reais e que tudo o que dizem é inventado.

Pais, se vocês receberem um e-mail da Character.AI sobre um convite de seu filho adolescente para ver suas estatísticas de atividades semanalmente nos próximos dias, considerem isso um sinal de confiança. Os relatórios deles podem lhe dar tranquilidade, sabendo que eles desejam sua orientação sobre como podem usar seu tempo no aplicativo com sabedoria.