Cuidados no uso de IA com agência em licitações

Data:

Inteligência Artificial advogados
Créditos: Phonlamai Photo | iStock

As promessas de eficiência e precisão associadas à inteligência artificial continuam a ocupar lugar central no debate público, reforçadas pelo surgimento constante de novas gerações de sistemas cada vez mais sofisticados. No campo das contratações públicas, esse otimismo chega ao extremo no caso da Albânia, que “nomeou” Diella — um mecanismo de IA — como ministra encarregada da execução e do monitoramento das contratações estatais [1]. Antes de assumir tal posição simbólica [2], Diella já atuava, desde janeiro de 2025, como assistente virtual da plataforma digital do governo, respondendo a consultas de cidadãos e agentes do mercado relacionadas a compras públicas.

O êxito inicial do projeto motivou sua “promoção” a ministra, com a justificativa de ampliar a transparência e aprimorar o controle sobre todos os processos licitatórios. Trata-se, ao que tudo indica, de um sistema de IA dotado de agência, isto é, autonomia decisória — característica que, apesar de sedutora, tem provocado críticas e debates jurídicos sobre a legalidade da iniciativa.

O governo albanês vem explorando o apelo quase mítico da IA: recentemente, anunciou que Diella estaria “grávida” de 83 bebês — uma estratégia comunicacional para apresentar 83 novos assistentes de IA destinados aos membros do Parlamento, concebidos como ferramentas estruturadas de informação e apoio à tomada de decisões.

Os “bebês” ainda não nasceram.
Não se sabe se haverá chá revelação.

Apesar da curiosidade da experiência albanesa, o fenômeno revela uma confiança — nem sempre justificada — no potencial da IA para qualificar licitações e reduzir riscos de corrupção. Multiplicam-se iniciativas que incorporam mecanismos de IA nas etapas do processo licitatório, tanto para auxiliar as entidades públicas [3] quanto para facilitar a atuação de particulares interessados [4], ampliando sua participação no ecossistema das contratações públicas.

O avanço da IA nesse ambiente parece inevitável, especialmente porque os órgãos de controle, como os Tribunais de Contas, já utilizam amplamente essa tecnologia. O desafio consiste em desenvolver uma abordagem crítica, que compreenda tanto seu potencial quanto seus riscos, e que permita um uso efetivamente responsável.

IA com agência e seus desafios

A primeira questão consiste em decidir se a IA utilizada nas contratações públicas deve ou não possuir agência — isto é, autonomia para tomar decisões sem intervenção humana ou com intervenção mínima. Mecanismos de IA agêntica já são capazes de interagir de modo intermodal e executar tarefas complexas de forma autônoma. Mas é preciso indagar: a licitação se beneficia desse tipo de autonomia?

Essa decisão pode variar conforme a etapa do processo licitatório. Em qualquer cenário, porém, ela envolve impactos relevantes: define-se o grau de confiabilidade exigido da IA e os métodos adequados de monitoramento e controle.

A atratividade da IA com agência aumenta em contextos de redução de quadros de servidores, uma vez que tarefas operacionais podem ser transferidas ao agente digital, reservando os humanos à supervisão. Mas essa autonomia exige maior precisão na definição da entrega esperada. O sistema precisa compreender perfeitamente seus objetivos e as possíveis externalidades — positivas e negativas — associadas às escolhas estratégicas que realizará.

Âmbito de ação e transferência de conhecimento

Outro cuidado essencial consiste em evitar que se pressuponha, no desenho ou uso da IA, o conhecimento tácito acumulado pelos agentes humanos ao longo da carreira. Se a IA possuir agência, esse conhecimento precisa ser explicitado e transferido, seja na etapa de desenvolvimento [5], seja na formulação dos prompts que orientam sua atuação.

Também é determinante delimitar o âmbito de ação da IA e identificar os atores que devem contribuir para o desenvolvimento ou a customização da solução. Um exemplo ajuda a ilustrar.

Se a agência da IA se limitar ao tratamento de dados relativos aos preços ofertados, o principal interlocutor será o pregoeiro ou o agente de contratação. A IA poderia, nesse cenário, examinar propostas, identificar irregularidades, desclassificar ofertas e ordenar o julgamento conforme o critério eleito.

Mas, se a IA for encarregada de analisar a coerência entre o documento de formalização da demanda, o estudo técnico preliminar e o termo de referência, será necessário integrar ao processo de desenvolvimento um conjunto maior de especialistas, conforme o princípio da especialização previsto no artigo 7º, § 1º, da Lei nº 14.133/2021. A visão multidisciplinar aumenta a qualidade da entrega e a robustez das decisões.

Rastreabilidade, transparência e responsabilidade

Um benefício relevante da IA com agência é a rastreabilidade das decisões. Não se trata, aqui, de explicabilidade algorítmica — exigência frequentemente inflada e nem sempre necessária [6] —, mas da capacidade de reconstruir os elementos informacionais considerados e o percurso lógico da deliberação. Isso pode fortalecer a motivação dos atos administrativos e ampliar o aprendizado institucional, especialmente quando instâncias de controle identificam inadequações.

Outros cuidados são igualmente indispensáveis. É fundamental assegurar transparência, bem como atribuir responsabilidade a um agente público humano, uma vez que a IA ainda não possui personalidade jurídica [7]. Além disso, a incorporação da IA deve ocorrer sob uma perspectiva institucional [8], dado que suas operações se tornam cada vez mais sofisticadas.

Considerações finais

O salto da IA descritiva para a IA generativa com agência foi rápido e profundo. O cenário aponta para uma integração crescente entre diferentes tipos de IA, ampliando seu impacto sobre atividades humanas — inclusive, e especialmente, sobre as contratações públicas.

A multiplicação de sistemas de IA ao longo de todo o ciclo da contratação não é mera possibilidade: é tendência.

Diella, “grávida”, anuncia a chegada de 83 novas IAs.

Reconhecer o potencial transformador da tecnologia é fundamental, mas deve vir acompanhado da atenção aos riscos e requisitos de desenvolvimento, implementação e monitoramento. É esse equilíbrio que permitirá que a IA cumpra, de fato, as promessas de qualidade que a cercam.

(Com informações do ConJur)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

CCJ do Senado aprova projeto que aumenta penas para motoristas que causarem mortes sob efeito de álcool ou drogas

A CCJ do Senado aprovou o PL 4.668/2020, que aumenta as penas para motoristas que causarem mortes ou lesões graves no trânsito sob efeito de álcool ou drogas. A punição por homicídio culposo passa para seis a dez anos de reclusão, enquanto a pena por lesão grave ou gravíssima será de três a seis anos. A proposta segue para a Câmara dos Deputados, caso não haja recurso.

STJ revoga prisão preventiva de réu não localizado mais de quatro anos após o crime

A Quinta Turma do Superior Tribunal de Justiça (STJ) revogou, por unanimidade, a prisão preventiva de um homem acusado de tentativa de homicídio qualificado. O colegiado entendeu que a ausência de localização do acusado para citação, mais de quatro anos após os fatos, não permite presumir automaticamente que ele tenha fugido da Justiça. Os ministros também identificaram erros nas premissas utilizadas para justificar a prisão, entre eles a afirmação de que teria ocorrido flagrante e posterior conversão em preventiva, o que não correspondia aos registros do processo. A decisão determinou a soltura, salvo se houvesse outra razão para a manutenção da custódia.

Trabalhadora é multada por apresentar atestado médico falso em processo trabalhista

Trabalhadora foi condenada a pagar multa de R$ 2 mil por litigância de má-fé após apresentar atestado médico falso para justificar sua ausência em audiência trabalhista. A unidade de saúde informou que não havia registro de atendimento na data indicada e que a médica mencionada no documento não possuía vínculo com a cooperativa responsável. A reclamação trabalhista também foi arquivada por falta de justificativa válida para o não comparecimento.

STJ suspende decisões judiciais sobre programa Passe para Motoristas da Uber

O ministro Raul Araújo, do Superior Tribunal de Justiça (STJ), concedeu liminar para suspender o andamento de três processos judiciais relacionados ao programa Passe para Motoristas, da Uber, além dos efeitos das decisões proferidas nessas ações. A medida também suspende os efeitos da decisão da Justiça do Trabalho que havia determinado a interrupção nacional de novas adesões, cobranças e renovações do programa. A providência busca evitar decisões judiciais conflitantes enquanto o STJ define se a competência para julgar as controvérsias é da Justiça comum ou da Justiça do Trabalho. A decisão é provisória e não representa julgamento definitivo sobre a legalidade do programa.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo