As novas regras propostas visam abordar as preocupações em torno dos chatbots, que ganharam popularidade nos últimos meses.
Uma foto de arquivo de uma menina com maria-chiquinhas olhando atentamente para um smartphone. Ela está usando uma blusa azul estampada e sentada em uma sala interna moderna e bem iluminada.
A China propôs novas regras rigorosas para a inteligência artificial (IA) a fim de fornecer salvaguardas para crianças e impedir que chatbots ofereçam conselhos que possam levar a automutilação ou violência.
Sob os regulamentos planejados, os desenvolvedores também precisarão garantir que seus modelos de IA não gerem conteúdo que promova jogos de azar.
O anúncio vem após um aumento no número de chatbots sendo lançados na China e em todo o mundo.
Quando as regras forem finalizadas, elas se aplicarão a produtos e serviços de IA na China, marcando uma grande mudança para regular a tecnologia de rápido crescimento, que tem sido alvo de intenso escrutínio sobre preocupações de segurança este ano.
As regras provisórias, que foram publicadas no fim de semana pela Administração do Ciberespaço da China (CAC), incluem medidas para proteger crianças. Elas incluem exigir que as empresas de IA ofereçam configurações personalizadas, tenham limites de tempo de uso e obtenham o consentimento dos responsáveis antes de fornecer serviços de companhia emocional.
Os operadores de chatbot devem fazer com que um humano assuma qualquer conversa relacionada a suicídio ou automutilação e notifiquem imediatamente o responsável do usuário ou um contato de emergência, disse a administração.
Os provedores de IA devem garantir que seus serviços não gerem ou compartilhem "conteúdo que coloque em perigo a segurança nacional, cause danos à honra e aos interesses nacionais [ou] prejudique a unidade nacional", disse o comunicado.
A CAC disse que incentiva a adoção de IA, como para promover a cultura local e criar ferramentas de companhia para os idosos, desde que a tecnologia seja segura e confiável. Também pediu feedback do público.
A empresa chinesa de IA DeepSeek fez manchetes em todo o mundo este ano, após liderar as tabelas de downloads de aplicativos.
Este mês, as duas startups chinesas Z.ai e Minimax, que juntas têm dezenas de milhões de usuários, anunciaram planos de listar na bolsa de valores.
A tecnologia ganhou rapidamente um grande número de assinantes, com alguns usando-a para companhia ou terapia.
