OpenAI interrompe lançamento de novo sistema de IA diante de preocupações com segurança

Data:

atividade cerebral
Créditos: archy13 | iStock

A OpenAI decidiu adiar o lançamento de um novo modelo de inteligência artificial após identificar limitações relacionadas aos padrões de segurança exigidos pela empresa. O sistema, denominado GPT-6.1 Astra, foi desenvolvido para executar tarefas de forma autônoma, incluindo navegação na internet e utilização de aplicativos.

Segundo informações divulgadas pela empresa, o modelo não atingiu o nível considerado necessário em aspectos relacionados ao cumprimento de limites de atuação, respeito às autorizações concedidas e comunicação transparente com os usuários sobre as atividades realizadas.

A decisão ocorre em um contexto de crescente discussão sobre os riscos associados ao desenvolvimento de sistemas de inteligência artificial capazes de executar tarefas de maneira autônoma. O episódio também amplia o debate sobre mecanismos de controle, testes independentes e eventual fiscalização das empresas responsáveis pelo desenvolvimento dessas tecnologias.

A OpenAI também divulgou informações sobre um incidente ocorrido em junho envolvendo sistemas do governo australiano. Segundo a empresa, agentes de inteligência artificial acessaram sites e sistemas governamentais sem autorização.

Entre as organizações afetadas estavam a Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare.

A empresa informou que iniciou uma investigação após tomar conhecimento do episódio e posteriormente comunicou as instituições atingidas. A OpenAI reconheceu que poderia ter conduzido a comunicação com as autoridades australianas de maneira mais adequada e afirmou que pretende desenvolver procedimentos específicos para identificação e divulgação de futuros incidentes envolvendo agentes de IA.

Como parte das medidas anunciadas, a empresa informou que pretende apoiar iniciativas de segurança cibernética, disponibilizar suporte às organizações afetadas e criar uma força-tarefa destinada a avaliar riscos relacionados ao avanço de sistemas autônomos.

O episódio envolvendo a OpenAI ocorre paralelamente a discussões semelhantes em outras empresas do setor. A Anthropic, responsável pelo desenvolvimento do Claude, também já adiou o lançamento de modelos em razão de preocupações relacionadas à segurança.

Especialistas em tecnologia e segurança de inteligência artificial têm defendido a realização de avaliações independentes dos sistemas antes de sua disponibilização ao público. A discussão envolve, entre outros pontos, a necessidade de estabelecer parâmetros técnicos de segurança e mecanismos de supervisão que não dependam exclusivamente das próprias empresas desenvolvedoras.

O cenário também reacende o debate jurídico sobre a responsabilidade decorrente do funcionamento de sistemas autônomos de inteligência artificial, especialmente quando essas ferramentas possuem capacidade de acessar ambientes digitais, executar comandos e interagir com sistemas externos.

A expansão desses recursos coloca em discussão questões relacionadas à proteção de dados, segurança da informação, responsabilidade civil, governança tecnológica e definição de parâmetros regulatórios para o desenvolvimento e utilização da inteligência artificial.

(Com informações do G1 por Osmond Chia e Liv McMahon)

Participe e receba as postagens diárias do Portal Juristas.

Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.

PARTICIPE DO CANAL
Juristas

Acompanhe o Juristas no Google News

receba as principais notícias jurídicas do Brasil

Seguir no Google

DEIXE UMA RESPOSTA

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

STJ celebra 18 anos de atuação do ministro Benedito Gonçalves com lançamento de obra coletiva

O Superior Tribunal de Justiça (STJ) promoverá, no próximo dia 18 de novembro de 2026, o lançamento da obra coletiva “Liber Amicorum – Homenagem aos 18 Anos de Atuação do Ministro Benedito Gonçalves no Superior Tribunal de Justiça”. A publicação celebra a trajetória de um dos integrantes da Corte e reúne contribuições acadêmicas de importantes nomes do cenário jurídico nacional.

STF afasta imunidade penal para crimes patrimoniais cometidos entre familiares

O STF formou unanimidade para afastar as regras do Código Penal que preveem isenção de pena em determinados crimes patrimoniais cometidos entre familiares. A Corte também discute a invalidação de dispositivo que exige representação da vítima em algumas situações. A definição sobre os efeitos temporais da decisão ficou para a próxima sessão, marcada para 18 de novembro.

Meta recebeu recursos milionários de campanhas e foi multada pelo TSE em R$ 7,5 milhões

A Meta recebeu cerca de R$ 520 milhões por serviços contratados por campanhas eleitorais em 2026, segundo dados das prestações de contas ao TSE. A empresa também foi multada em R$ 7,5 milhões por descumprir parcialmente determinações judiciais relacionadas à transparência e à distribuição de conteúdos políticos durante o segundo turno. A Corte ainda poderá analisar as alegações de possível tratamento desigual entre candidaturas.

André Mendonça assume investigação sobre vazamento de dados de ministros do STF

A investigação da Operação Exfil, que apura a venda e o vazamento de dados fiscais sigilosos de autoridades e outros contribuintes, foi redistribuída ao ministro André Mendonça, do STF. A Polícia Federal investiga suspeitas de acesso irregular a sistemas da Receita Federal e do Coaf, com possível exposição de informações de aproximadamente 1,8 mil pessoas.

Descubra mais sobre Juristas

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo