Laliani C. de Arruda
A concessão de crédito, motor fundamental para o desenvolvimento econômico, sofreu uma transformação radical nas últimas décadas. A histórica análise humana, subjetiva e baseada na confiança pessoal, cedeu lugar a complexos sistemas automatizados de Machine Learning.
Se, por um lado, essa transição proporcionou ganhos exponenciais de eficiência e escalabilidade, por outro, inaugurou a era da “opacidade algorítmica”, popularmente conhecida como “Black Box”. Neste cenário, o consumidor que vê seu pleito de crédito recusado depara-se, invariavelmente, com respostas genéricas fundamentadas em “políticas internas”, sem acesso à lógica real que determinou a negativa.
Tal justificativa, contudo, mostra-se cada vez mais insustentável sob a ótica jurídica brasileira. A intersecção entre o microssistema consumerista e a iminente regulação da Inteligência Artificial no Brasil aponta para uma mudança de paradigma: a explicabilidade (explainability) deixa de ser uma mera boa prática de governança corporativa para constituir um requisito de validade dos atos negociais. O Código de Defesa do Consumidor (CDC), em seu artigo 6º, inciso III, é cristalino ao garantir o direito à informação adequada e clara. Algoritmos de Deep Learning, que operam identificando correlações não lineares em vastos volumes de dados, desafiam frontalmente esse princípio, criando uma assimetria informacional onde a instituição detém todo o conhecimento das regras, mantendo o cliente em uma vulnerabilidade técnica absoluta.
A Lei Geral de Proteção de Dados (LGPD – Lei nº 13.709/2018) reforçou essa proteção ao disciplinar, em seu artigo 20, o direito à revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais. O dispositivo assegura que o titular tem o direito de solicitar informações claras a respeito dos critérios e procedimentos utilizados. Portanto, o argumento do segredo algorítmico não possui força suficiente para anular o direito do titular de compreender a lógica do tratamento de seus próprios dados.
A ausência de transparência não é apenas uma questão formal; ela oculta riscos materiais severos, como a discriminação algorítmica. Dados históricos utilizados no treinamento dessas IAs podem refletir preconceitos sociais pretéritos. Sem a devida auditoria e explicabilidade, variáveis aparentemente neutras — como o CEP de residência — podem atuar como substitutos (proxies) para discriminação de renda ou raça. A transparência torna-se, assim, uma garantia essencial de isonomia e dignidade da pessoa humana.
O horizonte regulatório brasileiro, consubstanciado no Projeto de Lei nº 2338/2023 (Marco Legal da IA), inspirado no AI Act da União Europeia, consolida essa tendência ao classificar os sistemas de IA para avaliação de crédito de pessoas naturais como de alto risco. Essa classificação impõe um regime de conformidade rigoroso, onde a explicabilidade é mandatória. As instituições financeiras deverão ser capazes de traduzir a decisão matemática em linguagem humana inteligível. A doutrina aponta para as chamadas “explicações contrafactuais” como solução ideal: ao invés de expor o código-fonte, o sistema informa ao consumidor quais variáveis precisariam ser alteradas para que o resultado fosse positivo (por exemplo, “se a renda fosse 10% maior, o crédito seria aprovado”).
Supera-se, dessa forma, a falsa dicotomia entre segredo de negócio e transparência. A proteção à propriedade industrial e ao segredo empresarial não é absoluta e não pode servir de escudo para práticas abusivas ou discriminatórias. A solução jurídica reside na “explicabilidade significativa”, criando uma verdadeira “caixa de vidro” quanto aos efeitos da decisão para o cidadão, enquanto a engenharia proprietária do software permanece protegida.
Em suma, a era da avaliação de crédito baseada na pura intuição acabou, mas a tecnologia não pode operar em um vácuo jurídico. A interpretação sistemática do CDC, da LGPD e do futuro Marco Legal da IA converge para o dever de justificar decisões automatizadas. Para o mercado financeiro, a explicabilidade representa o novo custo de fazer negócios na economia digital. A adoção de princípios de privacy and ethics by design é imperativa para garantir que o sistema financeiro continue sendo um instrumento de cidadania e fomento econômico, e não uma ferramenta de exclusão silenciosa e automatizada.
Referências Bibliográficas
BRASIL. Lei nº 8.078, de 11 de setembro de 1990 (Código de Defesa do Consumidor).
BRASIL. Lei nº 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais).
BRASIL. Senado Federal. Projeto de Lei nº 2338, de 2023.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho (AI Act).
PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Harvard University Press, 2015.
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
