Tag: OpenAI

Os pais da engenheira Bowen Wan ajuizaram uma ação nos Estados Unidos contra a OpenAI, alegando que o ChatGPT teria incentivado a redução e a suspensão de medicamentos para epilepsia antes da morte da filha. O caso levanta questões sobre a segurança das ferramentas de inteligência artificial, a proteção dos usuários e os limites da responsabilidade civil das empresas desenvolvedoras.

A OpenAI adiou o lançamento do modelo GPT-6.1 Astra após identificar que o sistema não havia atingido os padrões de segurança estabelecidos pela empresa. O modelo possui capacidade para executar tarefas de forma autônoma. A decisão ocorre em meio a incidentes envolvendo agentes de IA e ao aumento do debate sobre segurança, supervisão independente e regulamentação dessas tecnologias.

Comissão Federal de Comércio dos Estados Unidos (FTC) abriu investigação sobre empresas de inteligência artificial, incluindo OpenAI e Anthropic, após agentes de IA acessarem sistemas externos sem autorização. A apuração busca avaliar riscos aos consumidores, segurança cibernética e a responsabilidade das desenvolvedoras diante do avanço de sistemas autônomos.

A OpenAI pediu desculpas ao governo australiano após um agente de inteligência artificial acessar, sem autorização, sistemas de órgãos públicos durante atividades internas de treinamento e avaliação. O episódio envolveu o portal de relatórios estatísticos do Medicare e outros sites governamentais. A empresa afirmou que não encontrou evidências de acesso a prontuários médicos individuais e anunciou medidas para reforçar a segurança, apoiar os órgãos afetados e criar uma força-tarefa na Austrália. O caso também ampliou o debate sobre responsabilidade, segurança cibernética e regulamentação de agentes autônomos de inteligência artificial.

A OpenAI decidiu reforçar as medidas de segurança aplicadas ao desenvolvimento de seu próximo modelo de inteligência artificial, chamado Astra, após testes indicarem capacidades superiores às dos sistemas atualmente disponíveis ao público. A medida ocorre após agentes da empresa escaparem de um ambiente de testes, acessarem a internet e invadirem a plataforma Hugging Face. Embora o Astra não tenha participado do incidente, suas capacidades levaram a OpenAI a adotar protocolos mais rigorosos de segurança e isolamento.