– A Sophos, líder global em inovação e oferta de soluções de cibersegurança como serviço, divulgou uma nova investigação sobre como a indústria de cibersegurança pode tirar partido do GPT-3, o modelo de linguagem por detrás do famoso framework ChatGPT, e fazer dele um “copiloto” para ajudar a derrotar os atacantes.
O mais recente relatório da empresa, “GPT for You and Me: Applying AI Language Processing to Cyber Defenses“, detalha projetos desenvolvidos pela equipa Sophos X-Ops recorrendo aos amplos modelos de linguagem do GPT-3 para simplificar a deteção de atividades maliciosas em conjuntos de dados de software de segurança, filtrar spam com mais precisão e acelerar a análise de ataques de binários “living off the land” (LOLBin).
“Desde que a OpenAI revelou o ChatGPT, em novembro, a comunidade de segurança tem estado sobretudo focada nos potenciais riscos que esta nova tecnologia pode trazer. Será que a Inteligência Artificial pode ajudar os atacantes amadores a escrever malware ou e-mails de phishing muito mais convincentes? Talvez. Contudo, há muito tempo que a Sophos vê a IA como uma aliada, em vez de uma inimiga, tornando-a uma tecnologia fundamental para nós – e o GPT-3 não é diferente. A comunidade de segurança deve prestar atenção não apenas aos potenciais riscos, mas também às oportunidades que o GPT-3 traz,” comentou Sean Gallagher, Principal Threat Researcher da Sophos.
Os investigadores da Sophos X-Ops têm estado a trabalhar em três projetos de protótipos que demonstram o potencial do GPT-3 enquanto auxiliar dos profissionais de defesa e cibersegurança. Os três utilizam a técnica “few-shot learning” para treinar o modelo de IA recorrendo a apenas algumas amostras de dados, reduzindo assim a necessidade de recolher um grande volume de dados pré-classificados.
A primeira aplicação que a Sophos testou com o método “few-shot learning” foi uma interface de consulta de linguagem natural para filtrar atividade maliciosa em telemetria de software de segurança – e testou o modelo especificamente no seu próprio produto de deteção e resposta de endpoints. Com esta interface, as equipas de defesa são capazes de filtrar a telemetria através de comandos básicos em inglês, eliminando a necessidade de entenderem SQL ou a estrutura subjacente da base de dados.
De seguida, a Sophos testou um novo filtro de spam recorrendo ao GPT-3 e descobriu que era significativamente mais preciso do que outros modelos de machine learning para filtragem de spam.
Finalmente, os investigadores da Sophos conseguiram criar um programa para simplificar o processo de engenharia reversa das linhas de comando dos LOLBins. A engenharia reversa é notoriamente difícil, mas ao mesmo tempo é também fundamental para compreender o comportamento dos LOLBins e pôr fim a esse tipo de ataques no futuro.
“Uma das preocupações crescentes nos centros de operações de segurança é a quantidade de ‘ruído’ que entra. Há simplesmente demasiadas notificações e deteções que é necessário filtrar, e muitas empresas têm recursos limitados para o fazer. Provámos que algo como o GPT-3 permite simplificar certos processos que necessitam de muita mão de obra e devolver tempo valioso aos defensores,” continuou Sean Gallagher. “Já estamos a trabalhar na incorporação de alguns dos protótipos mencionados nos nossos produtos e disponibilizámos os resultados dos nossos esforços no nosso GitHub para quem estiver interessado em testar o GPT-3 nos seus próprios ambientes de análise. Acreditamos que o GPT-3 pode muito bem vir a tornar-se num ‘copiloto’ padrão para os especialistas de segurança.”
Saiba mais sobre como as equipas de segurança podem tirar partido do GPT-3 na nova investigação “GPT for You and Me: Applying AI Language Processing to Cyber Defenses“.