A China já está preparando regras para combater os riscos representados por humanos digitais gerados por IA.
A China está intensificando os esforços para regulamentar seu setor de "humanos digitais", que cresce rapidamente, à medida que avatares de IA emocionalmente imersivos — alguns modelados a partir de entes queridos falecidos — ganham ampla aceitação em todo o país. A medida surge em um momento em que tanto o potencial comercial da tecnologia quanto seus riscos éticos se tornam cada vez mais evidentes.
Luto, tecnologia e uma indústria em crescimento
Zhang Xinyu, uma mulher de 47 anos da província de Liaoning, recorreu à inteligência artificial após perder o pai para o câncer. Trabalhando com uma empresa chamada Super Brain, ela criou um avatar digital que se parece e soa como ele, permitindo que ela continue conversas online. A experiência, contou à AFP, a ajudou a lidar com o luto e a recuperar as forças emocionais.
A história dela reflete uma tendência mais ampla na China, onde os "humanos digitais" gerados por IA estão ganhando popularidade rapidamente. Esses avatares — muitas vezes realistas na aparência e no comportamento — são amplamente utilizados nas redes sociais, especialmente no comércio eletrônico e na criação de conteúdo. De acordo com a agência de notícias Xinhua, o setor foi avaliado em cerca de 4,1 bilhões de yuans (US$ 600 milhões) em 2024, com um crescimento de 85% em relação ao ano anterior.
No entanto, nem todos veem a tecnologia de forma positiva. Alguns críticos alertam que esses avatares podem criar dependência emocional ou oferecer o que a própria Zhang descreveu como "conforto falso", mesmo que os sentimentos subjacentes sejam genuínos.
A regulamentação finalmente se atualiza.
Em resposta a essas preocupações, a Administração do Ciberespaço da China publicou um projeto de regras com o objetivo de reforçar a supervisão. As regulamentações propostas exigem a identificação clara do conteúdo gerado por IA e proíbem a criação de réplicas digitais sem o consentimento do indivíduo.
As regras também visam prevenir o uso indevido, incluindo golpes, desinformação e conteúdo que possa ameaçar a estabilidade social ou a segurança nacional. Empresas que violarem essas diretrizes poderão ser multadas em valores que variam de 10.000 yuans (US$ 1.460) a 200.000 yuans (US$ 29.300).
A urgência da regulamentação foi reforçada por um incidente viral envolvendo uma idosa que, sem saber, interagiu com um avatar extremamente realista de seu filho falecido. O vídeo, amplamente compartilhado nas redes sociais chinesas, gerou um debate sobre se tais usos da IA representam conforto ou engano.
Equilibrando Inovação e Risco
Especialistas afirmam que a abordagem da China reflete um padrão já conhecido: rápido desenvolvimento tecnológico seguido de intervenção regulatória imediata. As autoridades estão particularmente preocupadas com a proteção de menores, com propostas de regulamentação que proíbem sistemas de IA que incentivem a dependência emocional ou simulem relacionamentos íntimos para crianças.
Ao mesmo tempo, os participantes do setor reconhecem que a regulamentação é inevitável. O fundador da Super Brain descreveu a minuta das regras como um passo necessário para equilibrar inovação e responsabilidade.
O que nos espera?
O projeto de regulamentação da China está aberto para consulta pública até o início de maio, após o qual espera-se uma aplicação mais rigorosa. O objetivo mais amplo do governo é acelerar a adoção da IA, mantendo, ao mesmo tempo, um controle rígido sobre seu impacto na sociedade.
À medida que os "humanos digitais" evoluem de uma novidade para uma ferramenta comum, o modelo regulatório da China pode se tornar um projeto para outros países que enfrentam questões éticas semelhantes – particularmente em torno da identidade, do consentimento e do poder emocional da IA.
