A China publicou uma nova regulamentação que passa a responsabilizar empresas de inteligência artificial por possíveis danos emocionais causados a usuários de serviços que simulam relações humanas, como namorados virtuais e conselheiros digitais. A medida mira grandes empresas de tecnologia e estabelece limites para sistemas que reproduzem interação afetiva contínua.
As regras foram divulgadas por órgãos como a Administração do Ciberespaço da China e o Ministério da Segurança Pública da China e entram em vigor em julho. Elas se aplicam aos chamados “serviços interativos antropomorfizados”, isto é, sistemas de IA que simulam personalidade humana por texto, voz ou imagem.
Segundo o texto, as empresas deverão adotar mecanismos para evitar dependência emocional, identificar padrões de uso prejudiciais e proteger a saúde mental dos usuários, especialmente menores de idade. Também ficam proibidas práticas como manipulação emocional, incentivo à autolesão, pornografia, violência, discriminação e disseminação de desinformação.
A norma estabelece ainda que as plataformas devem emitir alertas sobre risco de uso excessivo e oferecer orientações quando identificarem situações de “emoções extremas”, podendo até sugerir busca por ajuda humana. O uso desses sistemas como “companhia virtual” será proibido para menores.
As companhias poderão oferecer interações afetivas apenas para adultos, mas sob regras rígidas de transparência, proteção de dados e limitação de conteúdo. O descumprimento pode gerar sanções que vão de advertências e suspensão de serviços até multas de até 200 mil yuans (cerca de R$ 144,8 mil).
O movimento ocorre em meio ao crescimento de aplicativos de “companhia por IA”, nos quais usuários criam vínculos emocionais com personagens virtuais. Pesquisas indicam alta adesão a esses serviços na China, levantando preocupações sobre dependência emocional e impacto psicológico.
(Com informações da Folha de São Paulo por Victoria Damasceno)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
