Especialistas em segurança cibernética ofensiva falharam em integrar a IA em seus serviços, expressando reservas significativas sobre seus possíveis benefícios, de acordo com um novo estudo do governo.
Em dezembro de 2024, o Departamento de Ciência, Inovação e Tecnologia (DSIT) contratou a Prism Infosec para pesquisar como os especialistas da equipe vermelha estão integrando tecnologias emergentes em seus produtos e serviços.
Ele descobriu que a adoção da nuvem teve um impacto muito maior nos tipos desses serviços oferecidos do que a IA.
“Surpreendentemente, nossas entrevistas demonstraram que o setor continua profundamente cético em relação às promessas da IA, considerando muitas de suas capacidades exageradas e usadas em excesso em produtos, criando um ambiente confuso quanto ao seu verdadeiro potencial e capacidades”, observou o relatório.
“Percebeu-se que o uso mais comum pelos agentes de ameaças para IA neste momento era para realizar ataques de engenharia social mais sofisticados. Além das questões éticas de tal uso, os entrevistados destacaram os riscos de privacidade de dados, grandes custos e a segurança de modelos públicos como razões para dificultar a adoção em larga escala da tecnologia em suas ofertas atuais.
Leia mais sobre a adoção da IA: Revisão das tendências da IA cibernética: preparando-se para 2025
Os entrevistados estavam esperançosos de que a situação mudará no futuro, à medida que “modelos mais acessíveis” chegarem ao mercado. Isso deve permitir que as empresas de segurança cibernética os hospedem e ajustem para uso em ofertas comerciais tão diversas quanto monitoramento de superfície de ataque, pesquisa de vulnerabilidades e priorização, observou o relatório.
“Até que a tecnologia atinja esse nível de maturidade, no entanto, o elemento da equipe vermelha do setor continuará a se concentrar nos esforços humanos especializados manuais para a prestação de serviços cibernéticos ofensivos comerciais”, acrescentou.
Escrevendo em Segurança da informaçãojá em 2023, o fundador da Prism Infosec, Phil Robinson, afirmou que a IA poderia ser uma benção para os red teamers – ajudando-os não apenas no reconhecimento de vítimas e no desenvolvimento de técnicas de evasão, mas também em tarefas mais mundanas, como desenvolver documentos de apólices e relatórios de bugs para clientes.
Os entrevistados da pesquisa da Prism Infosec também desprezaram a computação quântica, argumentando que a tecnologia ainda é “muito abstrata e viável apenas para ambientes de laboratório”.
O relatório acrescentou: “Em vez disso, mais esforços estavam sendo focados na exploração de ambientes que antes eram considerados muito arriscados para testar, como aqueles que contêm tecnologia operacional ou veículos automatizados, que incluem ativos terrestres, aéreos e marítimos ao lado de drones não tripulados”.