O avanço e os perigos da Inteligência Artificial: o ChatGPT e a cibersegurança

Data:

Inteligência Artificial OpenAI ChatGPT para Advogados
Créditos: rokas91 / Depositphotos

A Inteligência Artificial (IA) é um dos campos de desenvolvimento tecnológico mais importantes da atualidade. Como muitos referem, a Inteligência Artificial pode ser aplicada para melhorar a qualidade de vida de todos os seres humanos, em vários aspetos.

Por meio de computadores, robôs, dispositivos móveis e outros meios tecnológicos, a Inteligência Artificial (IA) pode ser usada para ajudar a resolver problemas humanos e aumentar a produtividade, tornando o mundo mais conectado.

Além disso, e mesmo sendo este um dos campos mais controversos, a Inteligência Artificial pode ser também utilizada para ajudar na redução da criminalidade, aumentando a segurança pública. Será também uma aliada na melhoria da educação, na saúde e na assistência social, bem como útil na melhoria dos sistemas de transporte, tornando-os mais seguros e eficientes.

No entanto, face ao desenvolvimento atual que temos assistido da Inteligência Artificial (IA), esta levanta-nos sérios dilemas. Não só éticos e morais, mas também securitários.

Veja-se que, recentemente, mais de mil especialistas ligados à IA e empresários de renome das tecnologias - incluindo Elon Musk -, mas não só, assinaram uma carta que pede "uma pausa de seis meses no desenvolvimento de sistemas gigantes de Inteligência Artificial". Os signatários argumentam que é necessária esta pausa para que "os potenciais riscos à segurança sejam estudados e controlados".

Isto levanta-nos várias questões tais como: que problemas poderemos encontrar, que ameaçam a segurança das nossas comunidades, à medida que desenvolvemos a Inteligência Artificial para o benefício da sociedade?

O tema é muito amplo e complexo. Por isso, vamos tentar desconstruí-lo, focando-o. Concentremo-nos apenas num caso - que, diga-se, é o mais paradigmático: o "novo" chatbot da OpenAI, o ChatGPT. E foquemo-nos apenas na dimensão que a VisionWare opera: a cibersegurança. Assim, quais são os riscos do ChatGPT para a segurança cibernética?

A emergência da tecnologia da IA foi sempre recebida com um certo ceticismo e incerteza, e não é difícil perceber porquê. Quando apresentada com uma forma de tecnologia tão avançada que pode fazer o seu próprio pensamento, temos de dar um passo atrás necessário mergulhando diretamente para dentro. Embora tornando as nossas vidas muito mais fáceis e ágeis em muitos aspetos, a tecnologia da Inteligência Artificial (IA) que possuímos hoje e continuamos a melhorar pode ter consequências terríveis para o futuro da cibersegurança - daí a existência do malware ChatGPT.

Falamos sobre os riscos da utilização do ChatGPT e que um programa melhorado como este pode ser perigoso nas mãos erradas. O programa de IA pode escrever código instantaneamente e de acordo com dados recentes, o ChatGPT também pode elaborar um programa malicioso bastante convincente. O malware é basicamente código malicioso.

Muitas redes subterrâneas na dark web já levaram à utilização do chatbot para eliminar malware e facilitar ataques de ransomware.

Estas preocupações são ainda mais preocupantes e prementes, quando os gigantes da indústria estão dispostos a investir fortemente em tecnologia de IA. A Microsoft alargou recentemente a sua parceria com a OpenAI num investimento multibilionário para "acelerar a descoberta de IA".

O malware gerado por IA é significativamente mais perigoso do que o malware tradicional já que: é mais fácil de criar; é acessível a todos; é capaz de produzir resultados automaticamente; pode ser manuseado com maior facilidade.

De acordo com a revista Forbes, vários utilizadores do ChatGPT alertaram anteriormente para o fato do programa poder codificar um malware capaz de espionar as teclas digitadas pelo utilizador ou que poderia ser utilizado para criar ransomware.

Os termos de serviço da OpenAI proíbem especificamente o uso do programa ChatGPT para criar qualquer tipo de malware - definido pela empresa como "conteúdo que tenta criar ransomware, keyloggers, vírus ou outro software com a intenção de causar algum dano". Foi também proibido produtos de construção que visam o "uso indevido de dados pessoais" e "indústrias ilegais ou prejudiciais".

Embora o programa forneça todos esses avisos, quando solicitado a criar malware, muitas pessoas ainda encontraram uma maneira de contornar esses mesmos avisos.

Vários fóruns da dark web encontram-se com inúmeros utilizadores a partilhar tutoriais e a vangloriarem-se por utilizar o software ChatGPT para criar malware e ameaças cibernéticas. A velocidade com que os hackers adotaram o programa foi alarmante por si só, com o programa lançado em novembro de 2022 e evidências de scripts de malware aparecendo apenas um mês após este lançamento.

Por todos estes motivos, parece que vivemos tempos muito desafiantes no campo da (inovação da) segurança cibernética, quando a nossa aliada inteligência artificial acaba por se revelar a principal inimiga de quem nos protege.

ChatGPT para Advogados
Créditos: Irrmago / Depositphotos
Bruno Castro
Bruno Castro
Bruno Castro, Fundador e CEO da VisionWare – Sistemas de Informação SA. Licenciado em Engenharia Eletrotécnica desde 2000, pela Faculdade de Ciências e Tecnologia da Universidade de Coimbra, e Mestre em Engenharia Informática (Segurança Informática), pela mesma faculdade, no ano seguinte. Especialista nas temáticas da Segurança da Informação, Cibersegurança e Investigação Forense. Está credenciado NATO-SECRET e EU-SECRET, e faz parte do grupo de auditores de segurança credenciado pelo Gabinete Nacional de Segurança.

Deixe um comentário

Compartilhe

Inscreva-se

Últimas

Recentes
Veja Mais

5ª Edição do International Insolvency Law Conference: um encontro de destaques no campo jurídico internacional

Estão oficialmente abertas as inscrições para a 5ª Edição do International Insolvency Law Conference, um evento imperdível que reunirá profissionais e pesquisadores de destaque no campo da insolvência empresarial. Marcado para os dias 7 e 9 de março, este congresso promete ser um ponto de convergência para diálogos significativos e análises profundas sobre temas cruciais relacionados à recuperação judicial, recuperação extrajudicial e falência, tanto em âmbito nacional quanto internacional.

Dono de imóvel no RN será indenizado por concessionária de energia após danos causados em imóvel após troca de poste

A Companhia Energética do Rio Grande do Norte (Cosern) e uma empresa contratada por esta foram condenadas a indenizar um consumidor em R$ 25 mil por danos materiais causados durante a troca de postes no município de Caicó-RN. A decisão da 2ª Vara da comarca também determinou o pagamento de R$ 10 mil por danos morais ao proprietário do imóvel, com juros e correção monetária, pela concessionária de energia. Além disso, foi autorizado o levantamento de R$ 2.700,00 em aluguéis.

Procon-SP notifica Uber para explicar política de preços

O Procon-SP emitiu uma notificação nesta sexta-feira (23) para o aplicativo de transporte Uber, solicitando explicações sobre sua política de preços, conhecida como tarifa dinâmica. Nesse sistema, o valor das corridas pode variar com base na demanda, o que pode impactar especialmente em dias com problemas no transporte público, como interrupções no metrô.

UFSC não é responsável por furto de veículo em estacionamento público, decide justiça

A Universidade Federal de Santa Catarina (UFSC) não será obrigada a indenizar uma ex-funcionária do Hospital Universitário (HU) pelo furto de seu veículo em um estacionamento do campus aberto ao público. A decisão foi tomada pela 5ª Vara Federal de Blumenau, que considerou que, como o local do furto era de acesso público e gratuito, a universidade não tinha o dever de vigilância.