O rápido crescimento da IA ​​pressiona os CISOs para que se adaptem aos novos riscos de segurança

O impacto da GenAI na responsabilidade do CISO

A GenAI foi implementada a uma velocidade imensa, apresentando um desafio para os CISOs protegerem dados críticos dentro das suas organizações.

“GenAI e IA têm o potencial de interromper e aprimorar as operações de segurança. Como guardiões atuantes – os CISOs estão sob imensa pressão”, disse Harold Rivas , CISO da Trellix. “A função do CISO é vital para a saúde da organização. Descobrir como adotar a IA e, ao mesmo tempo, apoiar os profissionais que lideram nossas defesas cibernéticas é de missão crítica para todas as organizações e para a segurança nacional.”

A democratização da GenAI significa que pode ser utilizada por profissionais de todos os níveis de qualificação, trazendo consigo uma série de benefícios, bem como potenciais riscos e desafios. Essa mesma democratização torna os recursos da GenAI fáceis de acessar e econômicos para atores cibernéticos mal-intencionados. O papel do CISO tornou-se ainda mais essencial à medida que eles são considerados para navegar neste cenário em evolução.

76% dos CISOs já utilizam GenAI nas suas organizações, com a maioria dos restantes 24% a planear fazê-lo. 70% utilizam atualmente IA tradicional, com 26% a reportar que planeiam fazê-lo nos próximos 12 meses, sendo as aplicações mais comuns software de análise preditiva e ferramentas de processamento de linguagem natural (PNL).

O conhecimento do CISO sobre GenAI tem o poder de revolucionar a forma como as organizações operam. 100% dos entrevistados de organizações que já usam GenAI acreditam que ela está melhorando/aumentando processos e/ou tecnologias de segurança cibernética.

Equilibrando riscos e oportunidades

Com o aumento dos ataques cibernéticos, as pressões sobre a IA aumentando e as responsabilidades aumentando , não é surpresa que 90% dos CISOs se encontrem sob pressão crescente. Acompanhar o ritmo da IA ​​e da GenAI é vital e quase todos os entrevistados afirmaram que as suas organizações poderiam fazer mais.

O aumento do risco é equilibrado com o potencial reconhecido da GenAI para reforçar e preparar melhor as suas próprias medidas de segurança cibernética, com 91% dos CISOs a expressarem entusiasmo com as perspectivas e oportunidades. Abrindo caminho para o sucesso, quase metade dos CISOs inquiridos já estão a trabalhar para proteger as suas ferramentas de IA, com 45% a desenvolver um comité de IA para rever as ferramentas de IA, bem como para implementar a governação, incluindo estruturas e padrões de segurança.

A IA pode oferecer vantagens significativas, mas 99,8% dos CISOs inquiridos acreditam que há múltiplas áreas que exigem maiores níveis de regulamentação, especialmente em torno da privacidade e proteção de dados e da utilização ética.

Os CISOs já estão a notar estas ameaças e lacunas nas suas organizações, com 62% dos entrevistados a concordar que não têm total confiança na força de trabalho da sua organização para identificar com sucesso ataques cibernéticos que incorporam GenAI. Isto é especialmente preocupante, considerando que 99% dos entrevistados relataram ter sofrido um ataque cibernético nos últimos seis meses, com 82% experimentando um aumento geral nos ataques cibernéticos. As principais preocupações estão relacionadas com a velocidade, frequência e escala dos ataques cibernéticos que a GenAI permitirá.

Há também uma responsabilidade crescente por parte do papel do CISO, com violações cibernéticas de alto perfil a tornarem-se parte do ciclo diário de notícias, aumentando o perfil público dos CISOs e, por sua vez, colocando-os sob intenso escrutínio. A introdução da IA ​​e da GenAI nestas organizações também trouxe um maior escrutínio dos CISOs, e 90% dos entrevistados concordam que isso os expôs a uma maior responsabilidade no seu papel.

89% dos CISOs concordam que a adoção e integração de ferramentas GenAI ajudarão a resolver problemas de pessoal de operações de segurança em sua organização. Todos os CISOs também concordaram que quaisquer redundâncias resultantes da GenAI seriam reaproveitadas dentro da organização focada no gerenciamento e supervisão das ferramentas GenAI.

As exigentes cargas de trabalho atuais fazem com que 91% dos CISOs expressem que não têm tempo suficiente para se concentrarem na ameaça destas tecnologias.

Em média, os CISOs acreditam que a GenAI melhorou ou pode melhorar a produtividade da força de trabalho da sua organização em 38%.

Futuro da função CISO

O cenário regulatório em mudança em torno da IA ​​e a adoção comercial da GenAI colocam em questão até que ponto os CISOs e as suas organizações estão bem equipados para se adaptarem a estas políticas em mudança e a fatores externos. No geral, 97% dos entrevistados estão preocupados com as mudanças nas regulamentações sobre o uso da IA, sendo uma das principais áreas de preocupação o uso da IA ​​para encorajar os Estados-nação a implantar ameaças persistentes avançadas (APTs) nas suas infra-estruturas.

92% dos CISOs expressaram que a IA e a GenAI os fizeram contemplar o seu futuro na função, colocando seriamente em questão a forma como a política e a regulamentação precisam de se adaptar para reforçar o papel do CISO e permitir que as organizações protejam os seus sistemas de forma eficaz. O principal fator para o aumento dos níveis de estresse são as lacunas nas competências de segurança cibernética e a necessidade de recrutar novos funcionários com experiência e conhecimento em IA (48%), e 38% dos CISOs relataram níveis aumentados de estresse devido à necessidade de treinar os funcionários atuais em IA.

“As preocupações dos CISOs com a mudança nas regulamentações de IA fazem com que eles peçam aos legisladores uma maior regulamentação em torno de seu uso, com quase todos concordando que isso é necessário nos próximos seis meses”, disse James Lewis, vice-presidente sênior, presidente do Pritzker e diretor do Programa de Tecnologias Estratégicas, CSIS. “Isso não é surpreendente, dados os riscos inerentes e o potencial atual de maior exposição e responsabilidade em sua função. É preciso haver regras regulatórias claras e padrões de conformidade aplicáveis ​​em todos os setores para ajudar a permitir que os CISOs e suas organizações desenvolvam soluções escaláveis ​​para adoção global.”