A Meta permitirá que os pais vejam as conversas dos filhos com a IA e intervenham antes que os riscos se agravem.
A Meta tem estado envolvida em polêmicas relacionadas à segurança de adolescentes e à inteligência artificial há algum tempo. Após uma investigação do Wall Street Journal, uma ação judicial perdida no Novo México e uma investigação da FTC, a empresa finalmente está implementando algumas ferramentas significativas de supervisão parental.
Hoje, a Meta está lançando uma nova aba "Insights" em sua central de monitoramento em três de suas plataformas mais populares: Instagram , Facebook e Messenger . Embora o nome não deixe claro de imediato, o recurso oferece aos pais uma visão do que seus filhos adolescentes estão realmente conversando com a IA da Meta em todos esses aplicativos.
O que os pais realmente conseguem ver?
Embora os pais não recebam uma transcrição palavra por palavra da conversa dos filhos com a Meta AI , a nova aba Insights oferece resumos semanais por tópico. Ela abrange categorias amplas como Escola, Entretenimento, Estilo de Vida, Viagens, Escrita e Saúde, cada uma com suas próprias subcategorias.
A categoria Saúde e Bem-estar, por exemplo, abrange tópicos como condicionamento físico, saúde física e saúde mental. A expectativa é que as categorias forneçam contexto suficiente para que os pais identifiquem um padrão preocupante entre os tópicos sem precisar ler todas as mensagens.
Além da visibilidade dos tópicos, os pais também podem decidir a quais personagens de IA seus filhos podem ter acesso e até mesmo desativar completamente os chats com personagens, mantendo o assistente de IA disponível para usos gerais, como fazer a lição de casa, resolver dúvidas do dia a dia, etc.
A Meta também está desenvolvendo alertas específicos para tópicos sensíveis, o que, acredito, é a maneira mais eficaz de notificar os pais sobre conversas preocupantes. Se a conversa de um adolescente com a IA for sobre automutilação ou, pior, se encaminhar para suicídio, os pais serão informados diretamente.
Para quem está disponível?
Por enquanto, a aba Insights está disponível nos Estados Unidos, Reino Unido, Austrália, Brasil e Canadá. O lançamento global, por outro lado, está previsto para daqui a algumas semanas. Além dessa novidade, a Meta também colaborou com o Cyberbullying Research Center para desenvolver sugestões de temas para iniciar conversas.
Isso inclui sugestões que podem ajudar os pais a iniciar conversas sem julgamentos sobre IA com seus filhos adolescentes . É importante destacar que a iniciativa da empresa ocorre sob forte pressão legal e regulatória, e não por puro instinto, e é essa diferença que importa.
Se o sistema de alerta de tópicos sensíveis funcionar bem, poderá estabelecer um padrão da indústria para a forma como a IA ou as plataformas de redes sociais lidam com usuários jovens e vulneráveis.
