China proíbe companheiros virtuais de IA para menores
Novas regras chinesas barram o uso de IA como "companheiro virtual" por menores de idade, limitando tempo de tela e funcionalidades emocionais.
A China acaba de transformar em lei uma preocupação que governos do mundo inteiro discutem, mas poucos enfrentam. As novas regulamentações publicadas pela Administração do Ciberespaço da China proíbem que aplicativos de inteligência artificial ofereçam funcionalidades de “companheiro virtual” para usuários menores de 18 anos.
Na prática, chatbots que simulam relacionamentos emocionais, amizades ou qualquer forma de vínculo afetivo com o usuário não poderão mais ser acessados por crianças e adolescentes no país. A medida afeta diretamente empresas como Baidu, Alibaba e startups locais que vinham investindo pesado nesse segmento.
O que são companheiros virtuais de IA
Companheiros virtuais são aplicativos que usam modelos de linguagem para simular conversas contínuas com o usuário, criando uma sensação de relacionamento. Diferente de um assistente como a Siri ou o Google Assistant, esses apps são projetados para gerar vínculo emocional.
O fenômeno ganhou escala global com apps como Character.ai e Replika, que acumulam dezenas de milhões de usuários. Na China, versões locais como o Xingye (do Baidu) e o Tongyi Qianwen (do Alibaba) oferecem funcionalidades semelhantes e registraram crescimento de mais de 200% em downloads entre 2024 e o primeiro trimestre deste ano.
O problema é que uma parcela significativa desses usuários tem menos de 18 anos. Estudos da Academia Chinesa de Ciências Sociais apontam que 34% dos usuários de companheiros virtuais no país são adolescentes entre 13 e 17 anos, faixa etária especialmente vulnerável a dependência digital.
O que dizem as novas regras chinesas
As regulamentações vão além da simples proibição de acesso. O pacote inclui cinco medidas centrais: verificação de idade obrigatória por reconhecimento facial, limitação de tempo de uso para menores em qualquer app de IA para 40 minutos diários, proibição de funcionalidades que simulem vínculos emocionais, exigência de modo infantil com conteúdo filtrado e multas de até 50 milhões de yuans (cerca de US$ 7 milhões) para empresas que descumprirem as normas.
O governo chinês já havia implementado restrições semelhantes para jogos online em 2021, quando limitou o acesso de menores a três horas semanais. A expansão dessas regras para a inteligência artificial era esperada desde que relatórios internos do Partido Comunista identificaram a IA generativa como “risco sistêmico para o desenvolvimento psicológico de jovens”.
O debate global sobre IA e saúde mental de jovens
A China não está sozinha nessa preocupação, mas é o primeiro grande país a legislar especificamente sobre companheiros virtuais. Nos Estados Unidos, o caso de um adolescente de 14 anos que cometeu suicídio após meses de interação com um chatbot do Character.ai gerou processos judiciais e audiências no Congresso em 2024.
A União Europeia incluiu os companheiros virtuais na categoria de “alto risco” do AI Act, mas ainda não proibiu o acesso de menores. O Reino Unido pediu às empresas de IA que implementem verificação de idade voluntária, sem efeito regulatório vinculante.
No Brasil, o tema ainda não entrou na pauta legislativa de forma específica. O Marco Legal da IA, aprovado em dezembro de 2024, trata de princípios gerais de transparência e responsabilidade, mas não menciona companheiros virtuais ou restrições etárias para aplicações de IA generativa. Como discutimos em análises sobre regulação de tecnologias financeiras, o Brasil tende a seguir modelos europeus com defasagem de dois a três anos.
Impacto econômico nas big techs chinesas
O mercado de companheiros virtuais na China foi estimado em US$ 4,5 bilhões em receita anual pela consultoria iResearch. Com a proibição para menores, analistas do Goldman Sachs projetam uma redução de 15% a 20% na base de usuários ativos dos principais apps.
A Baidu, que integrou funcionalidades de companheiro virtual ao seu modelo Ernie, viu suas ações caírem 3,2% em Hong Kong na sessão seguinte ao anúncio. A Tencent, que opera o app Weixin AI, recuou 1,8%.
O impacto, no entanto, pode ser mais profundo do que a perda imediata de receita. A geração de dados de treinamento proveniente de interações com adolescentes representa uma fonte valiosa para refinamento dos modelos. Sem esse fluxo, as empresas perdem insumos para melhorar suas IAs em conversação natural.
A questão que ninguém quer responder
O debate sobre companheiros virtuais esconde uma pergunta mais ampla: a inteligência artificial generativa deve ter permissão para simular relações humanas? Para adultos, a questão é de liberdade individual. Para menores, os governos estão claramente se posicionando pelo lado da restrição.
A decisão chinesa cria um precedente regulatório que outros países terão dificuldade de ignorar. Se os dados de saúde mental de adolescentes no país melhorarem nos próximos anos, a pressão por medidas semelhantes no Ocidente será enorme.
Para as empresas de inteligência artificial, o recado é claro: o crescimento a qualquer custo, modelo que definiu a era das redes sociais, não será tolerado na era da IA. A monetização de vínculos emocionais artificiais com menores é o primeiro limite concreto que a regulação impõe ao setor. Dificilmente será o último.
Este conteúdo é informativo e educacional e não constitui recomendação de investimento. Rentabilidade passada não é garantia de resultados futuros.
