Líderes de TI receiam impacto dos erros da GenAI

Apesar de 65% dos líderes de TI revelar que adotaram capacidades de IA generativa (GenAI), 89% receia que os erros nas ferramentas de cibersegurança com GenAI possam colocar a sua organização em risco.

Os valores surgem no mais recente relatório da Sophos, “Beyond the Hype: The Businesses Reality of AI for Cybersecurity”, para o qual a empresa inquiriu 400 líderes de TI sobre a utilização que fazem da Inteligência Artificial (IA) na segurança.

Para além disso, de acordo com uma nova investigação, também lançada hoje, da equipa Sophos X-Ops, “Update: Cybercriminals still not fully on board the AI train (yet)”, regista-se uma mudança ligeira, mas relevante, na forma como os cibercriminososutilizam a IA.

Depois de investigar vários fóruns clandestinos, a Sophos X-Ops descobriu que, embora ainda haja ceticismo em relação à GenAI, alguns criminosos estão a utilizá-la para automatizar tarefas comuns, como a criação de e-mails em massa e a análise de dados. Outros estão a incorporá-la em kits de ferramentas de SPAM e de engenharia social.

“Tal como noutros aspetos da vida, no que toca às ferramentas de IA generativa o nosso mantra deve ser ‘confiar, mas verificar’. Na verdade, não ensinámos as máquinas a pensar; simplesmente fornecemos-lhes o contexto para acelerarem o processamento de grandes quantidades de dados,” notou Chester Wisniewski, Global Field CTO da Sophos.

No inquérito da Sophos, 98% das organizações afirmou ter algum tipo de IA incorporada na sua infraestrutura de cibersegurança, e os líderes de TI expressaram preocupação com o potencial excesso de confiança na IA.

Efetivamente, 87% dos inquiridos estão preocupados com a falta de responsabilidade de cibersegurança que advém desse excesso de confiança.

Por outro lado, organizações de diferentes dimensões expressaram diferentes prioridades para a utilização da GenAI. Enquanto as grandes empresas (com mais de 1.000 colaboradores) dão prioridade à proteção melhorada, as de menor dimensão (com 50-99 colaboradores) classificaram a redução do burnout como o principal benefício que desejam obter das ferramentas de GenAI.

No entanto, para complicar o cenário, 84% dos líderes de todas as empresas disseram estar preocupados com a pressão para reduzir o número de profissionais de ciberegurança devido a expectativas irrealistas relativamente às capacidades da IA para substituir os operadores humanos.

Os custos da GenAI são difíceis de quantificar: 75% dos líderes de TI concorda que os custos da GenAI nos produtos de cibersegurança são difíceis de quantificar.

As empresas estão a contar com poupanças derivadas da GenAI: embora 80% dos líderes de TI acredite que a GenAI vai aumentar significativamente o custo das ferramentas de cibersegurança, a maioria acredita que ela oferece um caminho para reduzir as despesas gerais de cibersegurança – de facto, 87% acredita mesmo que as poupanças da GenAI vão compensar os custos.