China regulamenta sistemas de IA com interação emocional e impõe restrições a companheiros virtuais

Data:

China regulamenta sistemas de IA com interação emocional e impõe restrições a companheiros virtuais | JuristasEntrou em vigor nesta quarta-feira (15) uma nova regulamentação na China que impõe restrições ao funcionamento de sistemas de inteligência artificial capazes de estabelecer vínculos emocionais com os usuários. As medidas atingem os chamados “companheiros virtuais” — ou namorados e namoradas criados por IA — e buscam prevenir a dependência afetiva, especialmente entre públicos vulneráveis.

A regulamentação estabelece que ferramentas de inteligência artificial com interação emocional não poderão estimular apego excessivo, dependência psicológica, vício ou comportamentos que prejudiquem as relações interpessoais no mundo real.

Em razão das novas regras, empresas chinesas do setor, como ByteDance, Alibaba e Tencent, anunciaram a desativação das funcionalidades voltadas à companhia virtual antes mesmo da entrada em vigor da norma.

Regras alcançam diferentes modalidades de IA

As novas disposições foram editadas por cinco órgãos governamentais chineses, entre eles a Administração do Ciberespaço da China (CAC), e aplicam-se a sistemas de inteligência artificial que utilizam texto, voz, vídeo ou outros recursos para simular personalidade, emoções e comportamento humano.

A regulamentação não alcança aplicações destinadas exclusivamente ao atendimento ao cliente, suporte profissional, educação ou outras atividades que não envolvam interação emocional.

Entre as principais exigências previstas estão:

  • proibição de funcionalidades que incentivem dependência emocional dos usuários;
  • vedação da oferta de companheiros virtuais para menores de idade;
  • implementação de mecanismos capazes de identificar sinais de sofrimento emocional extremo;
  • adoção de protocolos de intervenção em situações consideradas de risco;
  • proibição da geração de conteúdos que atentem contra a segurança ou a ordem estatal.

Debate sobre proteção dos usuários

A decisão ocorre em meio ao crescimento do mercado de assistentes virtuais humanizados, capazes de manter conversas contínuas, simular relacionamentos afetivos e até reproduzir a personalidade de pessoas falecidas.

Nas redes sociais chinesas, diversos usuários manifestaram preocupação com o encerramento dos serviços, relatando que desenvolveram vínculos afetivos duradouros com seus companheiros virtuais e que a interrupção das funcionalidades provocaria sentimentos de perda e abandono.

Especialistas apontam que esse tipo de tecnologia pode contribuir para reduzir a sensação de solidão, mas também apresenta riscos relacionados à dependência emocional, ao isolamento social e à substituição de relações humanas por interações artificiais.

Primeira regulamentação específica

A China torna-se uma das primeiras grandes economias a estabelecer regras específicas para aplicações de inteligência artificial voltadas à criação de vínculos emocionais entre usuários e sistemas computacionais.

O tema vem ganhando relevância internacional diante da crescente popularidade dessas plataformas. Estudos recentes indicam aumento significativo do uso de companheiros virtuais por adolescentes, adultos e idosos em diferentes países, ampliando o debate sobre os limites éticos da inteligência artificial e a necessidade de mecanismos de proteção aos usuários.

Além de restringir determinadas funcionalidades, a regulamentação exige que as empresas mantenham procedimentos para permitir a exportação dos dados dos usuários e adaptem seus sistemas aos novos parâmetros de segurança e responsabilidade.

(Com informações do G1 por France Presse)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Brasil e Colômbia ampliam cooperação na área da Justiça do Trabalho

O TST e a Corte Suprema de Justiça da Colômbia firmaram um memorando de cooperação para compartilhar jurisprudência trabalhista e promover a formação de magistrados e servidores. O acordo prevê a criação de um perfil colombiano na plataforma LaborNexus, além de cursos, seminários e estudos sobre temas como trabalho por aplicativos, liberdade sindical e saúde ocupacional. A parceria terá duração de cinco anos e respeitará a independência judicial das instituições.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo