Presidente do STF aponta vulnerabilidades da IA e cobra mecanismos de controle

Data:

Inteligência Artificial advogados
Créditos: Phonlamai Photo | iStock

O presidente do Supremo Tribunal Federal (STF) e do Conselho Nacional de Justiça (CNJ), Edson Fachin, defendeu a necessidade de ampliar os mecanismos de controle e transparência sobre sistemas de inteligência artificial durante a abertura das Jornadas Internacionais da Associação Henri Capitant, realizadas nesta segunda-feira (1º), no Rio de Janeiro.

Em sua exposição, o ministro abordou os impactos da inteligência artificial e dos sistemas automatizados de tomada de decisão sobre áreas como insolvência, proteção de dados e garantia de direitos fundamentais. Segundo ele, a crescente utilização de algoritmos para classificação de riscos, definição de perfis de crédito e acesso a bens, serviços e financiamentos pode influenciar diretamente a vida econômica de cidadãos e empresas.

Fachin destacou que o Direito deve estar preparado para enfrentar situações de opacidade algorítmica, evitando que decisões com potencial de gerar consequências relevantes sejam tomadas sem mecanismos adequados de controle jurídico e institucional.

Durante a palestra, o presidente do STF apontou três categorias centrais de vulnerabilidade algorítmica: o viés algorítmico, a opacidade dos processos decisórios e a concentração de poder tecnológico. Na avaliação do ministro, esses fatores podem reproduzir desigualdades, dificultar a revisão de decisões automatizadas e ampliar a influência de grandes empresas que concentram dados e recursos tecnológicos.

Ao tratar dos desafios regulatórios, Fachin ressaltou a importância de princípios como transparência, auditabilidade, prevenção, precaução e supervisão humana efetiva na utilização de ferramentas de inteligência artificial. Ele também mencionou iniciativas adotadas pelo Poder Judiciário para disciplinar o uso dessas tecnologias, incluindo a Resolução CNJ nº 615/2025, que estabelece diretrizes para a aplicação de sistemas de IA no âmbito judicial.

O ministro ainda defendeu o fortalecimento do direito à autodeterminação informacional, a criação de mecanismos eficientes para revisão de decisões automatizadas e o aprofundamento do diálogo entre profissionais do Direito, cientistas de dados, engenheiros e especialistas de diferentes áreas do conhecimento.

Ao encerrar sua participação, Fachin ressaltou que a inteligência artificial não possui consciência moral nem capacidade de substituir integralmente a responsabilidade humana. Para ele, o principal desafio contemporâneo consiste em construir estruturas de governança capazes de garantir transparência, responsabilização e proteção dos direitos fundamentais diante do avanço das novas tecnologias.

(Com informações do STF por Cecília Malheiros)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

STF afasta obrigatoriedade de cartórios na comunicação de compra e venda de veículos

O STF declarou inconstitucional uma lei do Ceará que obrigava cartórios a comunicar eletronicamente ao Detran estadual operações de compra, venda e transferência de veículos. Para a Corte, a norma invadiu a competência privativa da União para legislar sobre trânsito e registros públicos.

Loja é condenada por exigir roupa social de cobrador motociclista

A Quarta Turma do Tribunal Superior do Trabalho (TST) manteve a condenação das Lojas Cem S.A. ao pagamento de R$ 18 mil por danos morais a um cobrador motociclista obrigado a trabalhar usando roupa social e impedido de utilizar equipamentos de proteção adequados. A empresa também deverá ressarcir o trabalhador pelo uso, desgaste e manutenção de sua motocicleta particular, utilizada durante o serviço. O entendimento considerou que o empregador não pode transferir ao empregado os custos e os riscos da atividade econômica.

TRT-2 autoriza consulta a plataformas digitais para localizar bens e créditos de devedores

A 1ª Turma do TRT-2 autorizou a expedição de ofícios a plataformas digitais, como Uber, iFood, Amazon e Mercado Livre, para identificar possíveis cadastros, créditos e rendimentos de devedores em uma execução trabalhista superior a R$ 800 mil. O processo tramita desde 1992 e já passou por diversas tentativas de localização de patrimônio. O colegiado considerou que as informações das empresas podem contribuir para a efetividade da execução judicial.

Morre aos 81 anos Paulo Gallotti, ministro aposentado do STJ

O ministro aposentado do Superior Tribunal de Justiça (STJ) Paulo Gallotti morreu nesta quarta-feira (18), aos 81 anos, em Florianópolis, Santa Catarina. Com uma trajetória de mais de quatro décadas no Judiciário, integrou o STJ entre 1999 e 2009, presidiu a Sexta Turma e a Terceira Seção da Corte e também esteve à frente da Associação dos Magistrados Brasileiros (AMB). Após a aposentadoria, voltou a exercer a advocacia e atuava como diretor jurídico e institucional da NSC.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo