Cuidados no uso de IA com agência em licitações

Data:

Inteligência Artificial advogados
Créditos: Phonlamai Photo | iStock

As promessas de eficiência e precisão associadas à inteligência artificial continuam a ocupar lugar central no debate público, reforçadas pelo surgimento constante de novas gerações de sistemas cada vez mais sofisticados. No campo das contratações públicas, esse otimismo chega ao extremo no caso da Albânia, que “nomeou” Diella — um mecanismo de IA — como ministra encarregada da execução e do monitoramento das contratações estatais [1]. Antes de assumir tal posição simbólica [2], Diella já atuava, desde janeiro de 2025, como assistente virtual da plataforma digital do governo, respondendo a consultas de cidadãos e agentes do mercado relacionadas a compras públicas.

O êxito inicial do projeto motivou sua “promoção” a ministra, com a justificativa de ampliar a transparência e aprimorar o controle sobre todos os processos licitatórios. Trata-se, ao que tudo indica, de um sistema de IA dotado de agência, isto é, autonomia decisória — característica que, apesar de sedutora, tem provocado críticas e debates jurídicos sobre a legalidade da iniciativa.

O governo albanês vem explorando o apelo quase mítico da IA: recentemente, anunciou que Diella estaria “grávida” de 83 bebês — uma estratégia comunicacional para apresentar 83 novos assistentes de IA destinados aos membros do Parlamento, concebidos como ferramentas estruturadas de informação e apoio à tomada de decisões.

Os “bebês” ainda não nasceram.
Não se sabe se haverá chá revelação.

Apesar da curiosidade da experiência albanesa, o fenômeno revela uma confiança — nem sempre justificada — no potencial da IA para qualificar licitações e reduzir riscos de corrupção. Multiplicam-se iniciativas que incorporam mecanismos de IA nas etapas do processo licitatório, tanto para auxiliar as entidades públicas [3] quanto para facilitar a atuação de particulares interessados [4], ampliando sua participação no ecossistema das contratações públicas.

O avanço da IA nesse ambiente parece inevitável, especialmente porque os órgãos de controle, como os Tribunais de Contas, já utilizam amplamente essa tecnologia. O desafio consiste em desenvolver uma abordagem crítica, que compreenda tanto seu potencial quanto seus riscos, e que permita um uso efetivamente responsável.

IA com agência e seus desafios

A primeira questão consiste em decidir se a IA utilizada nas contratações públicas deve ou não possuir agência — isto é, autonomia para tomar decisões sem intervenção humana ou com intervenção mínima. Mecanismos de IA agêntica já são capazes de interagir de modo intermodal e executar tarefas complexas de forma autônoma. Mas é preciso indagar: a licitação se beneficia desse tipo de autonomia?

Essa decisão pode variar conforme a etapa do processo licitatório. Em qualquer cenário, porém, ela envolve impactos relevantes: define-se o grau de confiabilidade exigido da IA e os métodos adequados de monitoramento e controle.

A atratividade da IA com agência aumenta em contextos de redução de quadros de servidores, uma vez que tarefas operacionais podem ser transferidas ao agente digital, reservando os humanos à supervisão. Mas essa autonomia exige maior precisão na definição da entrega esperada. O sistema precisa compreender perfeitamente seus objetivos e as possíveis externalidades — positivas e negativas — associadas às escolhas estratégicas que realizará.

Âmbito de ação e transferência de conhecimento

Outro cuidado essencial consiste em evitar que se pressuponha, no desenho ou uso da IA, o conhecimento tácito acumulado pelos agentes humanos ao longo da carreira. Se a IA possuir agência, esse conhecimento precisa ser explicitado e transferido, seja na etapa de desenvolvimento [5], seja na formulação dos prompts que orientam sua atuação.

Também é determinante delimitar o âmbito de ação da IA e identificar os atores que devem contribuir para o desenvolvimento ou a customização da solução. Um exemplo ajuda a ilustrar.

Se a agência da IA se limitar ao tratamento de dados relativos aos preços ofertados, o principal interlocutor será o pregoeiro ou o agente de contratação. A IA poderia, nesse cenário, examinar propostas, identificar irregularidades, desclassificar ofertas e ordenar o julgamento conforme o critério eleito.

Mas, se a IA for encarregada de analisar a coerência entre o documento de formalização da demanda, o estudo técnico preliminar e o termo de referência, será necessário integrar ao processo de desenvolvimento um conjunto maior de especialistas, conforme o princípio da especialização previsto no artigo 7º, § 1º, da Lei nº 14.133/2021. A visão multidisciplinar aumenta a qualidade da entrega e a robustez das decisões.

Rastreabilidade, transparência e responsabilidade

Um benefício relevante da IA com agência é a rastreabilidade das decisões. Não se trata, aqui, de explicabilidade algorítmica — exigência frequentemente inflada e nem sempre necessária [6] —, mas da capacidade de reconstruir os elementos informacionais considerados e o percurso lógico da deliberação. Isso pode fortalecer a motivação dos atos administrativos e ampliar o aprendizado institucional, especialmente quando instâncias de controle identificam inadequações.

Outros cuidados são igualmente indispensáveis. É fundamental assegurar transparência, bem como atribuir responsabilidade a um agente público humano, uma vez que a IA ainda não possui personalidade jurídica [7]. Além disso, a incorporação da IA deve ocorrer sob uma perspectiva institucional [8], dado que suas operações se tornam cada vez mais sofisticadas.

Considerações finais

O salto da IA descritiva para a IA generativa com agência foi rápido e profundo. O cenário aponta para uma integração crescente entre diferentes tipos de IA, ampliando seu impacto sobre atividades humanas — inclusive, e especialmente, sobre as contratações públicas.

A multiplicação de sistemas de IA ao longo de todo o ciclo da contratação não é mera possibilidade: é tendência.

Diella, “grávida”, anuncia a chegada de 83 novas IAs.

Reconhecer o potencial transformador da tecnologia é fundamental, mas deve vir acompanhado da atenção aos riscos e requisitos de desenvolvimento, implementação e monitoramento. É esse equilíbrio que permitirá que a IA cumpra, de fato, as promessas de qualidade que a cercam.

(Com informações do ConJur)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

Deixe um comentário

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Defesa de Daniel Vorcaro aponta alterações em arquivos de celular apreendido pela Polícia Federal

A defesa de Daniel Vorcaro apresentou ao STF um laudo particular que identificou alterações em 657 arquivos e a criação de outros 436 no celular do empresário enquanto o aparelho estava sob custódia da Polícia Federal. O documento questiona procedimentos de preservação e extração de provas digitais e fundamenta o pedido de acesso aos dados originais do dispositivo.

Justiça nega pedido de Willer Tomaz para obrigar Richarlison a apagar publicações sobre ilha

A Justiça de Brasília negou pedido de Willer Tomaz e da empresa WT Administração de Imóveis e Bens para obrigar Richarlison a apagar publicações sobre a disputa por uma ilha em Angra dos Reis. O processo continua em andamento.

Maior corretora de criptomoedas do mundo sofre invasão e perde bilhões

A Binance sofreu um ataque hacker que resultou no desvio estimado de US$ 6,3 bilhões em criptomoedas. A corretora suspendeu temporariamente os saques, afirmou que os recursos dos clientes estão protegidos e prometeu cobrir os prejuízos. Empresas do setor conseguiram bloquear parte dos ativos, enquanto as investigações sobre a autoria do ataque continuam.

Presidente do TRF-1 decide em processo envolvendo empresa representada pela própria filha

A presidente do Tribunal Regional Federal da 1ª Região...

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo