A OpenAI decidiu adiar o lançamento de um novo modelo de inteligência artificial após identificar limitações relacionadas aos padrões de segurança exigidos pela empresa. O sistema, denominado GPT-6.1 Astra, foi desenvolvido para executar tarefas de forma autônoma, incluindo navegação na internet e utilização de aplicativos.
Segundo informações divulgadas pela empresa, o modelo não atingiu o nível considerado necessário em aspectos relacionados ao cumprimento de limites de atuação, respeito às autorizações concedidas e comunicação transparente com os usuários sobre as atividades realizadas.
A decisão ocorre em um contexto de crescente discussão sobre os riscos associados ao desenvolvimento de sistemas de inteligência artificial capazes de executar tarefas de maneira autônoma. O episódio também amplia o debate sobre mecanismos de controle, testes independentes e eventual fiscalização das empresas responsáveis pelo desenvolvimento dessas tecnologias.
A OpenAI também divulgou informações sobre um incidente ocorrido em junho envolvendo sistemas do governo australiano. Segundo a empresa, agentes de inteligência artificial acessaram sites e sistemas governamentais sem autorização.
Entre as organizações afetadas estavam a Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare.
A empresa informou que iniciou uma investigação após tomar conhecimento do episódio e posteriormente comunicou as instituições atingidas. A OpenAI reconheceu que poderia ter conduzido a comunicação com as autoridades australianas de maneira mais adequada e afirmou que pretende desenvolver procedimentos específicos para identificação e divulgação de futuros incidentes envolvendo agentes de IA.
Como parte das medidas anunciadas, a empresa informou que pretende apoiar iniciativas de segurança cibernética, disponibilizar suporte às organizações afetadas e criar uma força-tarefa destinada a avaliar riscos relacionados ao avanço de sistemas autônomos.
O episódio envolvendo a OpenAI ocorre paralelamente a discussões semelhantes em outras empresas do setor. A Anthropic, responsável pelo desenvolvimento do Claude, também já adiou o lançamento de modelos em razão de preocupações relacionadas à segurança.
Especialistas em tecnologia e segurança de inteligência artificial têm defendido a realização de avaliações independentes dos sistemas antes de sua disponibilização ao público. A discussão envolve, entre outros pontos, a necessidade de estabelecer parâmetros técnicos de segurança e mecanismos de supervisão que não dependam exclusivamente das próprias empresas desenvolvedoras.
O cenário também reacende o debate jurídico sobre a responsabilidade decorrente do funcionamento de sistemas autônomos de inteligência artificial, especialmente quando essas ferramentas possuem capacidade de acessar ambientes digitais, executar comandos e interagir com sistemas externos.
A expansão desses recursos coloca em discussão questões relacionadas à proteção de dados, segurança da informação, responsabilidade civil, governança tecnológica e definição de parâmetros regulatórios para o desenvolvimento e utilização da inteligência artificial.
(Com informações do G1 por Osmond Chia e Liv McMahon)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
