Table of Contents
Introdução
A avaliação dos riscos relevantes de linguagens artificiais para os ativos corporativos está se tornando uma prioridade crescente nas organizações. Como resultado, há uma demanda significativa por candidatos a empregos que possuam habilidades em machine learning (ML) e grandes modelos de linguagem (LLM) para atuar em funções relacionadas à segurança cibernética. De acordo com o relatório 2024 State of Cybersecurity da ISACA, perto de um quarto dos respondentes (24%) declarou que LLM SecOps e ML SecOps são as maiores lacunas de habilidades na área de cibersegurança.
Demanda por Habilidades LLM e ML
As competências em LLM SecOps e ML SecOps ainda são relativamente novas, mas têm se tornado omnipresentes na segurança da informação. O ML SecOps é a disciplina que integra a segurança no desenvolvimento e na implementação de sistemas de aprendizado de máquina. Essa prática abrange:
- Segurança dos dados utilizados para treinar modelos;
- Prevenção de viés através da transparência;
- Aplicação de tarefas padrão de operações de segurança, como codificação segura, modelagem de ameaças e resposta a incidentes.
Por outro lado, LLM SecOps refere-se à elaboração de um conjunto de procedimentos para proteger todo o ciclo de vida dos LLMs, que abrange:
- Revisões éticas na fase de design;
- Sanitização de dados de treinamento;
- Monitoramento e análise de decisões do sistema;
- Bloqueio da geração de conteúdos prejudiciais;
- Monitoramento contínuo do modelo após a implementação.
Recursos para Profissionais de Segurança
A crescente demanda por habilidades em ML SecOps tem levado à criação de diversos recursos para ajudar os profissionais de segurança a aprimorar suas competências. Um exemplo é o repositório do GitHub de Benjamin Kereopa-Yorke, categorizado por nível de conhecimento prévio e classificado como vendor-agnostic ou vendor-centric.
Além disso, o Open Worldwide Application Security Project (OWASP) possui uma lista Machine Learning Security Top Ten que descreve ataques de ML e suas respectivas contramedidas. A OWASP também mantém o OWASP Top Ten para LLMs, que aborda tópicos relacionados à LLM SecOps, incluindo:
Perfil de Habilidades em Cibersegurança
As organizações têm buscado habilidades específicas para preencher as vagas em cibersegurança. Após as habilidades interpessoais, a computação em nuvem se destaca como a segunda maior lacuna de habilidade (42%), seguida pela implementação de controles de segurança (35%) e desenvolvimento de software (28%).
Com grande parte da carga de trabalho agora na nuvem, torna-se pertinente a necessidade de profissionais de cibersegurança com habilidades em computação em nuvem, pois a proteção de ativos em nuvem requer mentalidades e habilidades técnicas diferentes daquela utilizada em redes tradicionais.
A implementação de controles de segurança envolve a proteção de endpoints, redes e aplicações, enquanto a lacuna de habilidades em desenvolvimento de software se relaciona mais com teste e implantação, evidenciando os desafios que as organizações enfrentam para assegurar suas pipelines e integrações de desenvolvimento de software.
#Cibersegurança #MachineLearning #LLMSecOps #MLSecOps #HabilidadesTecnológicas #SegurançaDaInformação #Trabalho #Carreira #Tecnologia
autor ref: Dark Reading Staff
ref:https://www.darkreading.com/cybersecurity-careers/ai-hype-drives-demand-ml-secops-skills