Cuidados no uso de IA com agência em licitações

Data:

Inteligência Artificial advogados
Créditos: Phonlamai Photo | iStock

As promessas de eficiência e precisão associadas à inteligência artificial continuam a ocupar lugar central no debate público, reforçadas pelo surgimento constante de novas gerações de sistemas cada vez mais sofisticados. No campo das contratações públicas, esse otimismo chega ao extremo no caso da Albânia, que “nomeou” Diella — um mecanismo de IA — como ministra encarregada da execução e do monitoramento das contratações estatais [1]. Antes de assumir tal posição simbólica [2], Diella já atuava, desde janeiro de 2025, como assistente virtual da plataforma digital do governo, respondendo a consultas de cidadãos e agentes do mercado relacionadas a compras públicas.

O êxito inicial do projeto motivou sua “promoção” a ministra, com a justificativa de ampliar a transparência e aprimorar o controle sobre todos os processos licitatórios. Trata-se, ao que tudo indica, de um sistema de IA dotado de agência, isto é, autonomia decisória — característica que, apesar de sedutora, tem provocado críticas e debates jurídicos sobre a legalidade da iniciativa.

O governo albanês vem explorando o apelo quase mítico da IA: recentemente, anunciou que Diella estaria “grávida” de 83 bebês — uma estratégia comunicacional para apresentar 83 novos assistentes de IA destinados aos membros do Parlamento, concebidos como ferramentas estruturadas de informação e apoio à tomada de decisões.

Os “bebês” ainda não nasceram.
Não se sabe se haverá chá revelação.

Apesar da curiosidade da experiência albanesa, o fenômeno revela uma confiança — nem sempre justificada — no potencial da IA para qualificar licitações e reduzir riscos de corrupção. Multiplicam-se iniciativas que incorporam mecanismos de IA nas etapas do processo licitatório, tanto para auxiliar as entidades públicas [3] quanto para facilitar a atuação de particulares interessados [4], ampliando sua participação no ecossistema das contratações públicas.

O avanço da IA nesse ambiente parece inevitável, especialmente porque os órgãos de controle, como os Tribunais de Contas, já utilizam amplamente essa tecnologia. O desafio consiste em desenvolver uma abordagem crítica, que compreenda tanto seu potencial quanto seus riscos, e que permita um uso efetivamente responsável.

IA com agência e seus desafios

A primeira questão consiste em decidir se a IA utilizada nas contratações públicas deve ou não possuir agência — isto é, autonomia para tomar decisões sem intervenção humana ou com intervenção mínima. Mecanismos de IA agêntica já são capazes de interagir de modo intermodal e executar tarefas complexas de forma autônoma. Mas é preciso indagar: a licitação se beneficia desse tipo de autonomia?

Essa decisão pode variar conforme a etapa do processo licitatório. Em qualquer cenário, porém, ela envolve impactos relevantes: define-se o grau de confiabilidade exigido da IA e os métodos adequados de monitoramento e controle.

A atratividade da IA com agência aumenta em contextos de redução de quadros de servidores, uma vez que tarefas operacionais podem ser transferidas ao agente digital, reservando os humanos à supervisão. Mas essa autonomia exige maior precisão na definição da entrega esperada. O sistema precisa compreender perfeitamente seus objetivos e as possíveis externalidades — positivas e negativas — associadas às escolhas estratégicas que realizará.

Âmbito de ação e transferência de conhecimento

Outro cuidado essencial consiste em evitar que se pressuponha, no desenho ou uso da IA, o conhecimento tácito acumulado pelos agentes humanos ao longo da carreira. Se a IA possuir agência, esse conhecimento precisa ser explicitado e transferido, seja na etapa de desenvolvimento [5], seja na formulação dos prompts que orientam sua atuação.

Também é determinante delimitar o âmbito de ação da IA e identificar os atores que devem contribuir para o desenvolvimento ou a customização da solução. Um exemplo ajuda a ilustrar.

Se a agência da IA se limitar ao tratamento de dados relativos aos preços ofertados, o principal interlocutor será o pregoeiro ou o agente de contratação. A IA poderia, nesse cenário, examinar propostas, identificar irregularidades, desclassificar ofertas e ordenar o julgamento conforme o critério eleito.

Mas, se a IA for encarregada de analisar a coerência entre o documento de formalização da demanda, o estudo técnico preliminar e o termo de referência, será necessário integrar ao processo de desenvolvimento um conjunto maior de especialistas, conforme o princípio da especialização previsto no artigo 7º, § 1º, da Lei nº 14.133/2021. A visão multidisciplinar aumenta a qualidade da entrega e a robustez das decisões.

Rastreabilidade, transparência e responsabilidade

Um benefício relevante da IA com agência é a rastreabilidade das decisões. Não se trata, aqui, de explicabilidade algorítmica — exigência frequentemente inflada e nem sempre necessária [6] —, mas da capacidade de reconstruir os elementos informacionais considerados e o percurso lógico da deliberação. Isso pode fortalecer a motivação dos atos administrativos e ampliar o aprendizado institucional, especialmente quando instâncias de controle identificam inadequações.

Outros cuidados são igualmente indispensáveis. É fundamental assegurar transparência, bem como atribuir responsabilidade a um agente público humano, uma vez que a IA ainda não possui personalidade jurídica [7]. Além disso, a incorporação da IA deve ocorrer sob uma perspectiva institucional [8], dado que suas operações se tornam cada vez mais sofisticadas.

Considerações finais

O salto da IA descritiva para a IA generativa com agência foi rápido e profundo. O cenário aponta para uma integração crescente entre diferentes tipos de IA, ampliando seu impacto sobre atividades humanas — inclusive, e especialmente, sobre as contratações públicas.

A multiplicação de sistemas de IA ao longo de todo o ciclo da contratação não é mera possibilidade: é tendência.

Diella, “grávida”, anuncia a chegada de 83 novas IAs.

Reconhecer o potencial transformador da tecnologia é fundamental, mas deve vir acompanhado da atenção aos riscos e requisitos de desenvolvimento, implementação e monitoramento. É esse equilíbrio que permitirá que a IA cumpra, de fato, as promessas de qualidade que a cercam.

(Com informações do ConJur)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

Deixe um comentário

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

Ministros do STJ completam 13 anos de atuação com precedentes relevantes em diversas áreas do Direito

Moura Ribeiro, Regina Helena Costa e Rogerio Schietti Cruz completam 13 anos no STJ com atuação marcada por julgamentos relevantes e formação de precedentes. Os ministros se destacam, respectivamente, em matérias de Direito Privado, Direito Público e Direito Penal e Processual Penal.

Cobranças judiciais de dívidas privadas atingem recorde histórico no Brasil em 2025

As cobranças judiciais de dívidas privadas atingiram recorde histórico em 2025, com 1,23 milhão de novos processos de execução de títulos extrajudiciais não fiscais, alta de aproximadamente 60% em relação a 2020. O crescimento ocorre em meio ao aumento do endividamento das famílias e às dificuldades de renegociação extrajudicial. Especialistas apontam fatores como excesso de crédito, juros elevados e dificuldades financeiras de consumidores, empresas e produtores rurais como elementos que contribuem para o aumento da judicialização.

MC Pipokinha é condenada por expor adolescentes a conteúdo sexual durante show em MS

A Justiça de Mato Grosso do Sul condenou MC Pipokinha e outras quatro pessoas ao pagamento conjunto de R$ 162,1 mil por danos morais coletivos, após um show em Corumbá que, segundo o processo, expôs adolescentes a cenas de nudez parcial e simulações de atos sexuais. A cantora deverá pagar R$ 100 mil, enquanto os demais condenados deverão desembolsar R$ 15.525 cada. Os valores serão destinados ao Fundo Municipal dos Direitos da Criança e do Adolescente. Cabe recurso.

Homem é condenado em Taiwan por usar robô aspirador para filmar esposa sem consentimento

Um homem em Taiwan foi condenado a cinco meses de prisão e multado após usar remotamente um robô aspirador com câmera para filmar a esposa em momentos íntimos com outro homem. Embora as imagens tenham sido utilizadas em uma ação civil sobre infidelidade, a Justiça considerou ilegal a gravação por violar o direito à privacidade da mulher, ressaltando que o casamento não elimina a proteção à intimidade.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo