Num relatório recente publicado pelo Grupo NCC, a intersecção entre inteligência artificial (IA) e segurança cibernética foi cuidadosamente examinada, lançando luz sobre as promessas e limitações da IA generativa no contexto da detecção de vulnerabilidades de código. O relatório, intitulado “Segurança, proteção, privacidade e dicas: resiliência cibernética na era da inteligência artificial”, oferece uma análise abrangente de vários casos de uso de segurança cibernética de IA.
IA generativa e vulnerabilidades de código
O crescimento explosivo da tecnologia generativa de IA no final de 2022 suscitou discussões e preocupações relativamente às suas implicações para a segurança cibernética. Um ponto focal desta discussão gira em torno dos potenciais riscos de segurança apresentados pelos chatbots generativos de IA. Estes riscos vão desde a exposição inadvertida de informações comerciais sensíveis até à possibilidade de agentes mal-intencionados explorarem estes algoritmos avançados de autoaprendizagem para reforçar os seus ataques cibernéticos.
Uma das principais áreas de interesse do relatório é a viabilidade do uso de chatbots generativos de IA para avaliação de vulnerabilidade de código. Esses sistemas de IA , quando fornecidos com código-fonte, podem conduzir uma forma interativa de análise estática e identificar com precisão os pontos fracos de segurança? As conclusões do relatório indicam um conjunto misto de conclusões. Embora a IA generativa seja promissora e ofereça ganhos de produtividade no desenvolvimento de código e software, sua eficácia na detecção de vulnerabilidades de código permanece variável.
Por outro lado, o relatório destaca uma aplicação promissora de modelos de aprendizagem automática (ML) no domínio da segurança cibernética. Especificamente, os modelos de ML podem ser fundamentais na identificação de novos ataques de dia zero, permitindo uma resposta automatizada para proteger os utilizadores contra ficheiros maliciosos. Para validar este conceito, o Grupo NCC patrocinou um estudante de mestrado no Centro de Treinamento Doutoral em Ciência Intensiva de Dados (CDT DIS) da University College London para desenvolver um modelo de classificação para identificação de malware.
Os resultados deste esforço são convincentes. O modelo de classificação alcançou uma impressionante taxa de precisão de 98,9%. Este sucesso destaca o potencial dos modelos de ML para fortalecer as defesas de segurança cibernética, identificando e mitigando rapidamente ameaças emergentes.
Aproveite a inteligência de ameaças com inteligência artificial
Outro aspecto crítico explorado no relatório envolve a inteligência contra ameaças, um componente crítico da segurança cibernética proativa. A inteligência contra ameaças envolve o monitoramento contínuo de diversas fontes de dados on-line, que fornecem insights valiosos sobre vulnerabilidades recém-identificadas, explorações em evolução e tendências emergentes no comportamento dos invasores. Esses dados, muitas vezes na forma de texto não estruturado de fóruns, mídias sociais e dark web, podem ser uma mina de ouro de informações.
Os modelos de aprendizado de máquina podem desempenhar um papel crítico no processamento desses dados, extraindo nuances importantes de segurança cibernética e identificando padrões e tendências nas táticas, técnicas e procedimentos (TTPs) dos invasores. Armados com esta informação, os defensores podem adotar uma abordagem proativa e preventiva para implementar sistemas adicionais de monitorização ou controlo, especialmente quando novas ameaças representam um risco significativo para o seu negócio ou cenário tecnológico.
Numa era caracterizada pelo rápido avanço tecnológico, o papel da inteligência artificial na segurança cibernética continua a evoluir. Embora os chatbots generativos de IA sejam promissores em alguns aspectos do desenvolvimento de código, sua confiabilidade na detecção de vulnerabilidades continua sendo uma questão de exploração contínua. Por outro lado, os modelos de ML demonstram um elevado potencial na identificação e combate de novas ameaças cibernéticas, tornando-os um ativo valioso no arsenal do defensor.
É fundamental reconhecer que a IA na segurança cibernética não é uma solução única para todos. Pelo contrário, complementa a experiência e a vigilância humanas. A parceria entre profissionais de segurança cibernética humanos e sistemas de IA é essencial para encontrar um equilíbrio entre aproveitar o poder da automação e manter a supervisão humana crítica necessária para navegar no cenário de ameaças em constante evolução.