Entrou em vigor nesta quarta-feira (15) uma nova regulamentação na China que impõe restrições ao funcionamento de sistemas de inteligência artificial capazes de estabelecer vínculos emocionais com os usuários. As medidas atingem os chamados “companheiros virtuais” — ou namorados e namoradas criados por IA — e buscam prevenir a dependência afetiva, especialmente entre públicos vulneráveis.
A regulamentação estabelece que ferramentas de inteligência artificial com interação emocional não poderão estimular apego excessivo, dependência psicológica, vício ou comportamentos que prejudiquem as relações interpessoais no mundo real.
Em razão das novas regras, empresas chinesas do setor, como ByteDance, Alibaba e Tencent, anunciaram a desativação das funcionalidades voltadas à companhia virtual antes mesmo da entrada em vigor da norma.
Regras alcançam diferentes modalidades de IA
As novas disposições foram editadas por cinco órgãos governamentais chineses, entre eles a Administração do Ciberespaço da China (CAC), e aplicam-se a sistemas de inteligência artificial que utilizam texto, voz, vídeo ou outros recursos para simular personalidade, emoções e comportamento humano.
A regulamentação não alcança aplicações destinadas exclusivamente ao atendimento ao cliente, suporte profissional, educação ou outras atividades que não envolvam interação emocional.
Entre as principais exigências previstas estão:
- proibição de funcionalidades que incentivem dependência emocional dos usuários;
- vedação da oferta de companheiros virtuais para menores de idade;
- implementação de mecanismos capazes de identificar sinais de sofrimento emocional extremo;
- adoção de protocolos de intervenção em situações consideradas de risco;
- proibição da geração de conteúdos que atentem contra a segurança ou a ordem estatal.
Debate sobre proteção dos usuários
A decisão ocorre em meio ao crescimento do mercado de assistentes virtuais humanizados, capazes de manter conversas contínuas, simular relacionamentos afetivos e até reproduzir a personalidade de pessoas falecidas.
Nas redes sociais chinesas, diversos usuários manifestaram preocupação com o encerramento dos serviços, relatando que desenvolveram vínculos afetivos duradouros com seus companheiros virtuais e que a interrupção das funcionalidades provocaria sentimentos de perda e abandono.
Especialistas apontam que esse tipo de tecnologia pode contribuir para reduzir a sensação de solidão, mas também apresenta riscos relacionados à dependência emocional, ao isolamento social e à substituição de relações humanas por interações artificiais.
Primeira regulamentação específica
A China torna-se uma das primeiras grandes economias a estabelecer regras específicas para aplicações de inteligência artificial voltadas à criação de vínculos emocionais entre usuários e sistemas computacionais.
O tema vem ganhando relevância internacional diante da crescente popularidade dessas plataformas. Estudos recentes indicam aumento significativo do uso de companheiros virtuais por adolescentes, adultos e idosos em diferentes países, ampliando o debate sobre os limites éticos da inteligência artificial e a necessidade de mecanismos de proteção aos usuários.
Além de restringir determinadas funcionalidades, a regulamentação exige que as empresas mantenham procedimentos para permitir a exportação dos dados dos usuários e adaptem seus sistemas aos novos parâmetros de segurança e responsabilidade.
(Com informações do G1 por France Presse)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
