First IA: Como  a ISO/IEC 42001 garante o desenvolvimento ético e responsável da Inteligência Artificial

Celeida Laporta [1]

O desenvolvimento ético e responsável da Inteligência Artificial (IA) tem permeado as mentes inquietantes dos doutrinadores e pesquisadores sobre a temática, especialmente pela ausência efetiva de regulamentação e práticas para ajudar as organizações a desenvolver e utilizar os sistemas computacionais de IA de forma sustentável.

Em tempos de terminologias como “First IA”, onde se impõe a aplicação da Inteligência Artificial como a primeira e principal abordagem dos negócios,onde a tecnologia emergente assume o protagonismo das decisões e afasta-se do conceito de ser uma ferramenta auxiliar, observa-se que a preocupação com a sua aplicabilidade cresce exponencialmente.

Com esse protagonismo “ First IA” , coloca-se a Inteligência Artificial no centro de todas as decisões do negócios. Mediante as espectativas e inúmeras especulações sobre os riscos e desafios provocados pela IA, como falta de políticas públicas, regulamentação, transparência, explicabilidade , ética ,educação, e em especial sobre o desenvolvimento e uso da tecnologia emergente em questão, a Organização Internacional de Normatização (ISO) e a Comissão Eletrotécnica Internacional (IEC) aprovaram a inédita norma internacional ISO/IEC 42001.

A ISO/IEC 42001 publicada em dezembro de 2023, tem como objetivo disponibilizar diretrizes e orientações  para estabelecer, implementar, manter e melhorar um Sistema de Gestão de Inteligência Artificial (SGIA) em organizações públicas e privadas que sejam desenvolvedoras ou usuárias de produtos ou serviços baseados em IA , de maneira a assegurar o desenvolvimento e utilização responsável de sistemas de Inteligência Artifical.

No Brasil, a norma foi publicada em abril de 2024, pela Associação Brasileira de Normas Técnicas (ABNT), sob a denominação ABNT NBR ISO/IEC 42001:2024.

A aplicabilidade da ISO/IEC 42001 no Brasil é ampla, abrangendo organizações públicas e privadas de qualquer segmento ou porte. A norma é certificável, o que significa que as organizações podem obter uma certificação que demonstre sua conformidade com os requisitos estabelecidos

A espectativa é de que a norma tenha uma aplicabilidade nas mais diversas áreas da Inteligência Artificial, com o objetivo de mensurar e mitigar os riscos e oportunidades na adoção dos sistemas computacionais de Inteligência Artificial.

O descritivo da norma pretende fornecer subsídios e requisitos para uma governança abrangente diante dos desafios ainda em discussão sobre  IA, como considerações éticas, transparência, explicabilidade,direitos fundamentais, além de possibilitar o desenvolvimento de modelos equilibrados  que paralelamente estejam comprometidos com  inovação e com governança .

A relevância da nova e inédita ISO, acompanha da necessidade de requisitos com padrões internacionais, que auxiliem estabelecer, desenvolver e implementar continuamente um SGIA nas organizações públicas e privadas, assegurando  o uso responsável da IA, rastreabilidade, acurácia, transparência, confiabilidade e gerenciamento responsável entre as ameaças e vantagens da inovação que a Inteligência Artificial representa para a sociedade.

Os anexos normativos e informativos da ISO/IEC 42001, também abordam os seguintes aspectos: Objetivos referenciais de controle, diretrizes de implementação para controles de IA, pontenciais objetivos e fontes de riscos organizacionais relacionados a Inteligência Artificial e o uso de SGIA em áreas ou determinados setores.[2]

A ISO já publicou outras normas relacionadas que podem contribuir com a gestão de IA, como a ISO/IEC 22989:2022, que estabelece a terminologia para a IA e descreve conceitos no campo da IA, a ISO/IEC 23053:2022, que estabelece uma estrutura de IA e aprendizado de máquina (Machine Learning – ML) para descrever um sistema genérico de IA usando tecnologia de ML, e a ISO/IEC 23894:2023, que fornece orientação sobre gestão de riscos relacionados à IA para organizações .[3]

A norma custa 187 francos suíços, e algumas BigTechs como a Amazon Web Services( AWS), já sinaliza a adoção do novo padrão ISO/IEC 42001 consolidando a tendência de governança em IA e SGIA, transcrito em apontamentos do vice-presidente de dados e aprendizado de máquinas da AWS, Swami Sivasubramanian:

“As normas internacionais são uma ferramenta importante para ajudar as organizações a traduzir os requisitos regulamentares nacionais em mecanismos de conformidade, incluindo práticas de engenharia, que são amplamente interoperáveis ​​a nível global. Normas eficazes ajudam a reduzir a confusão sobre o que é a IA e o que a IA responsável implica, e ajudam a concentrar a indústria na redução de potenciais danos. A AWS está trabalhando em uma comunidade de diversas partes interessadas internacionais para melhorar os padrões emergentes de IA em diversos tópicos, incluindo gerenciamento de riscos, qualidade de dados, parcialidade e transparência.”

Ademais a  adoção de SGIA dentro de uma organização, contempla políticas e  práticas procedimentais integradas a projetos de Inteligência Artificial. Esses mecanismos são imprescindíveis  para uma gestão confiável, que suporte padrões de governança, e incentive de maneira responsável e estruturada a inovação, aduzindo que a implementação da ISO/IEC 42001 nas organizações contribui com a Agenda 2030 da ONU adotada em 2015 por 193 países membros. Diante dos 17 ODS ( Objetivos de Desenvolvimento Sustentável ) que permeiam submetas em  diferentes temas, desde aspectos ambientais e sociais, pode-se observar a contribuição e alinhamento da nova ISO, direta ou indiretamente com vários dos Objetivos de Desenvolvimento Sustentável, mas cumpre ressaltar o ODS 9 – Indústria, inovação e infraestrutura resiliente , promover a industrialização inclusiva e sustentável, e fomentar a inovação.

Em suma, aguardemos a aderência à norma no cenários internacional e nacional, em vista que o documento da ISO/IEC 42001  objetiva harmonizar e alinhar alguns temas desafiadores da inovação e implementação de IA nas organizações com qualidade, segurança, privacidade e sustentabilidade.

 Referências

ABNT NBR ISO/IEC 42001:2024 – Tecnologia da Informação – Inteligência Artificial – Sistema de Gestão

ISO/IEC 42001:2023 – Information technology – Artificial intelligence – Management system

ASMETRO. (2024). Publicada a nova ISO/IEC 42001 – Sistema de Gestão de Inteligência Artificial.

QMS Brasil. (2024). Tudo sobre a ISO/IEC 42001

Disponível em https://asmetro.org.br/portalsn/2024/01/03/publicada-a-nova-iso-iec-42001-sistema-de-gestao-de-inteligencia-artificial/. Acesso set. 2025.

Disponível em https://the-decoder.com/responsible-ai-now-has-an-iso-standard/ . Acesso em set. 2025.

[1] Co – Founder da CS VIEWS Mediação e Arbitragem. Sócia da L2Z1 Law Digital Solutions .Coordenadora do Informativo ADRODR. Doutoranda na PUC/SP TIDD– Tecnologias da Inteligência e Design Digital,Mestre em Direito pela Escola Paulista de Direito EPD Brasil.Bacharelado e Licenciatura Matemática PUC /SP, Analista de Sistemas, Advogada pós-graduada em Direito Tributária PUC/SP, Mediadora judicial e extrajudicial credenciada no CNJ, Congresso Direitos Humanos Universidad de Valladolid – Espanha, Summer School Siena – Itália, Curso Theory and Tools of Harvard Negotiation Project – EUA. Especialização em Mediación pela Universidad Salamanca – Espanha. Especialização em Práticas em Mediação e Arbitragem pela Universidade Portucalense – Portugal. Especialização em Abogacía 5.0:Nuevas Tecnologías y Justicia  pela Universidad Salamanca – Espanha 2022. Autora de livros de tecnologia, artigos e coautora dos livros: O Fenômeno da Desjudicialização: uma nova era de acesso a justiça – Ed. Lumen Juris 2018 e Soluções Extrajudiciais de Controvérsias Empresariais v.4 – Ed. Saraiva 2018. Organizadora e coautora: Mediação de Conflitos na Prática: Estudos de Casos Concretos – Ed. Lumen Juris.2019. Autora do livro ODR – Resolução de conflitos online – Ed. Quartier Latin.2021. Organizadora e coautora: A Consensualidade aplicada às relações laborais – Ed. Lumen Juris 2022. Organizadora e coautora Direito e Inteligência Artificial Fundamento. Ed. Lumen Juris [email protected]

[2] Disponível em https://asmetro.org.br/portalsn/2024/01/03/publicada-a-nova-iso-iec-42001-sistema-de-gestao-de-inteligencia-artificial/. Acesso set. 2025.

[3] Disponível em https://the-decoder.com/responsible-ai-now-has-an-iso-standard/ . Acesso em set. 2025.

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google