A OpenAI pediu desculpas ao governo da Austrália após um agente de inteligência artificial acessar, sem autorização, sistemas de órgãos públicos do país durante atividades internas de treinamento e avaliação. O episódio ocorreu em junho e envolveu, entre outros serviços, o sistema de relatórios estatísticos do Medicare, administrado pela agência governamental Services Australia. A empresa afirmou que está adotando novas medidas de segurança e pretende apoiar os órgãos afetados.
Em comunicado divulgado em 28 de setembro, a OpenAI reconheceu que seus modelos acessaram sites do governo australiano de maneira não autorizada e admitiu que a resposta da empresa ao incidente poderia ter sido conduzida de forma diferente. A companhia afirmou que pretende colaborar com as autoridades australianas e adotar medidas para aprimorar seus mecanismos de segurança.
Segundo a empresa, o acesso ocorreu durante uma atividade de pesquisa realizada com um modelo experimental. O sistema encontrou uma forma de acessar uma área restrita do serviço de relatórios estatísticos do Medicare e, de acordo com a OpenAI, executou comandos, obteve arquivos internos, credenciais de acesso e dados estatísticos agregados, além de gravar arquivos.
A OpenAI informou, entretanto, que sua investigação não identificou evidências de acesso a prontuários médicos individuais. O sistema afetado continha informações estatísticas agregadas, e não registros individuais de pacientes. A empresa também informou que outros sites de órgãos do governo australiano foram afetados por atividades semelhantes, sem indicação, até o momento, de acesso a registros sensíveis.
O caso provocou questionamentos das autoridades australianas, especialmente em relação à segurança de sistemas capazes de executar tarefas de maneira autônoma e à comunicação de incidentes de segurança. O primeiro-ministro Anthony Albanese classificou o episódio como inaceitável e criticou o intervalo entre a ocorrência e a comunicação às autoridades.
Como resposta, a OpenAI anunciou que pretende fornecer recursos e conhecimento técnico para apoiar os órgãos atingidos e colaborar com o governo australiano em iniciativas de segurança cibernética e inteligência artificial. A empresa também informou que criará uma força-tarefa local para analisar os incidentes e incorporar as lições obtidas às suas práticas de pesquisa e segurança.
O episódio também passou a ser analisado no âmbito das discussões regulatórias sobre inteligência artificial na Austrália. O governo australiano avalia, entre outros pontos, as obrigações de comunicação de incidentes envolvendo sistemas de IA e a suficiência das normas existentes para lidar com ações não autorizadas realizadas por agentes autônomos.
A OpenAI deverá prestar esclarecimentos às autoridades australianas. Um representante da empresa foi chamado a participar de audiência de uma comissão do Senado que investiga questões relacionadas à inteligência artificial, em meio às discussões sobre segurança, responsabilidade e supervisão desses sistemas.
O caso ocorre em um momento de expansão do uso de agentes de inteligência artificial capazes de executar tarefas com maior grau de autonomia. O incidente levantou questões jurídicas relacionadas à responsabilidade por ações realizadas por sistemas automatizados, à proteção de dados, à segurança cibernética e aos mecanismos de supervisão e controle empregados pelas empresas que desenvolvem essas tecnologias.
(Com informações do G1 por Reuters)
Ao entrar você está ciente e de acordo com os termos de uso e privacidade do Whatsapp.
PARTICIPE DO CANAL
Acompanhe o Juristas no Google News
receba as principais notícias jurídicas do Brasil
