O projeto de regulamentos visa abordar preocupações em torno de chatbots, que ganharam popularidade nos últimos meses.
A China propôs novas regras rigorosas para a inteligência artificial (IA) a fim de fornecer salvaguardas para crianças e evitar que chatbots ofereçam conselhos que possam levar à autolesão ou violência.
De acordo com os regulamentos planejados, os desenvolvedores também precisarão garantir que seus modelos de IA não gerem conteúdo que promova jogos de azar.
O anúncio vem após um aumento no número de chatbots sendo lançados na China e em todo o mundo.
Uma vez finalizadas, as regras se aplicarão a produtos e serviços de IA na China, marcando uma grande mudança para regulamentar a tecnologia de rápido crescimento, que tem sido alvo de intenso escrutínio sobre preocupações de segurança este ano.
As regras provisórias, que foram publicadas no fim de semana pela Administração do Ciberespaço da China (CAC), incluem medidas para proteger crianças. Incluem exigir que as empresas de IA ofereçam configurações personalizadas, tenham limites de tempo de uso e obtenham o consentimento dos responsáveis antes de fornecer serviços de companhia emocional.
Os operadores de chatbots devem ter um humano para assumir qualquer conversa relacionada ao suicídio ou automutilação e notificar imediatamente o responsável do usuário ou um contato de emergência, disse a administração.
Os provedores de IA devem garantir que seus serviços não gerem ou compartilhem "conteúdo que coloque em perigo a segurança nacional, danifique a honra e os interesses nacionais [ou] comprometa a unidade nacional", disse o comunicado.
A CAC disse que incentiva a adoção de IA, como promover a cultura local e criar ferramentas de companhia para os idosos, desde que a tecnologia seja segura e confiável. Também pediu feedback do público.
A empresa chinesa de IA DeepSeek fez manchetes em todo o mundo este ano, depois de liderar as tabelas de downloads de aplicativos.
Este mês, duas startups chinesas Z.ai e Minimax, que juntas têm dezenas de milhões de usuários, anunciaram planos de listagem na bolsa de valores.
A tecnologia rapidamente ganhou um grande número de assinantes, com alguns usando-a para companhia ou terapia.
