OpenAI interrompe lançamento de novo sistema de IA diante de preocupações com segurança

Data:

atividade cerebral
Créditos: archy13 | iStock

A OpenAI decidiu adiar o lançamento de um novo modelo de inteligência artificial após identificar limitações relacionadas aos padrões de segurança exigidos pela empresa. O sistema, denominado GPT-6.1 Astra, foi desenvolvido para executar tarefas de forma autônoma, incluindo navegação na internet e utilização de aplicativos.

Segundo informações divulgadas pela empresa, o modelo não atingiu o nível considerado necessário em aspectos relacionados ao cumprimento de limites de atuação, respeito às autorizações concedidas e comunicação transparente com os usuários sobre as atividades realizadas.

A decisão ocorre em um contexto de crescente discussão sobre os riscos associados ao desenvolvimento de sistemas de inteligência artificial capazes de executar tarefas de maneira autônoma. O episódio também amplia o debate sobre mecanismos de controle, testes independentes e eventual fiscalização das empresas responsáveis pelo desenvolvimento dessas tecnologias.

A OpenAI também divulgou informações sobre um incidente ocorrido em junho envolvendo sistemas do governo australiano. Segundo a empresa, agentes de inteligência artificial acessaram sites e sistemas governamentais sem autorização.

Entre as organizações afetadas estavam a Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare.

A empresa informou que iniciou uma investigação após tomar conhecimento do episódio e posteriormente comunicou as instituições atingidas. A OpenAI reconheceu que poderia ter conduzido a comunicação com as autoridades australianas de maneira mais adequada e afirmou que pretende desenvolver procedimentos específicos para identificação e divulgação de futuros incidentes envolvendo agentes de IA.

Como parte das medidas anunciadas, a empresa informou que pretende apoiar iniciativas de segurança cibernética, disponibilizar suporte às organizações afetadas e criar uma força-tarefa destinada a avaliar riscos relacionados ao avanço de sistemas autônomos.

O episódio envolvendo a OpenAI ocorre paralelamente a discussões semelhantes em outras empresas do setor. A Anthropic, responsável pelo desenvolvimento do Claude, também já adiou o lançamento de modelos em razão de preocupações relacionadas à segurança.

Especialistas em tecnologia e segurança de inteligência artificial têm defendido a realização de avaliações independentes dos sistemas antes de sua disponibilização ao público. A discussão envolve, entre outros pontos, a necessidade de estabelecer parâmetros técnicos de segurança e mecanismos de supervisão que não dependam exclusivamente das próprias empresas desenvolvedoras.

O cenário também reacende o debate jurídico sobre a responsabilidade decorrente do funcionamento de sistemas autônomos de inteligência artificial, especialmente quando essas ferramentas possuem capacidade de acessar ambientes digitais, executar comandos e interagir com sistemas externos.

A expansão desses recursos coloca em discussão questões relacionadas à proteção de dados, segurança da informação, responsabilidade civil, governança tecnológica e definição de parâmetros regulatórios para o desenvolvimento e utilização da inteligência artificial.

(Com informações do G1 por Osmond Chia e Liv McMahon)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

André Mendonça assume investigação sobre vazamento de dados de ministros do STF

A investigação da Operação Exfil, que apura a venda e o vazamento de dados fiscais sigilosos de autoridades e outros contribuintes, foi redistribuída ao ministro André Mendonça, do STF. A Polícia Federal investiga suspeitas de acesso irregular a sistemas da Receita Federal e do Coaf, com possível exposição de informações de aproximadamente 1,8 mil pessoas.

Inquérito das fake news chega ao fim após sete anos de investigação no STF

O presidente do STF, ministro Edson Fachin, determinou o encerramento do inquérito das fake news após parecer favorável da PGR. Instaurada em 2019, a investigação apurou ataques e ameaças contra ministros e a Corte. A Procuradoria defendeu a continuidade de procedimentos individualizados e a manutenção do sigilo sobre dados sensíveis reunidos ao longo de sete anos.

Rodrigo Aiache: os desafios da inteligência artificial e a construção de uma advocacia mais humana

A inteligência artificial está transformando profundamente o exercício da advocacia, redefinindo métodos de trabalho, exigindo novas competências e provocando reflexões sobre o futuro da profissão. Entretanto, em um cenário marcado pela crescente automatização de atividades jurídicas, a capacidade de compreender os conflitos humanos, exercer o pensamento crítico e assumir responsabilidades profissionais permanece insubstituível.

Revista Juristas amplia sua presença no cenário jurídico nacional e valoriza a produção intelectual brasileira

A Revista Juristas vem ampliando sua presença no cenário jurídico brasileiro ao promover a divulgação da produção intelectual de profissionais que contribuem para o desenvolvimento do Direito, o fortalecimento das instituições e o aperfeiçoamento do sistema de Justiça. Com 11 edições publicadas até outubro de 2026, a revista reúne entrevistas, artigos e reflexões sobre temas que influenciam diretamente a sociedade brasileira.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo