Resumo:
A Agência de Cibersegurança da União Europeia (ENISA) publicou recentemente um relatório de alerta político afirmando que a nova geração de grandes modelos de Frontier AI está subvertendo completamente o paradigma tradicional de defesa de segurança de rede. Este tipo de modelo de IA com capacidades de raciocínio avançadas comprimiu o intervalo de tempo desde a "descoberta" até à "exploração armada" de vulnerabilidades do sistema a um limite sem precedentes, forçando o sistema de defesa de segurança da rede global a responder a ameaças automatizadas cada vez mais graves com "velocidades de resposta ao nível da máquina".
No ciclo tradicional de gerenciamento de vulnerabilidades, geralmente há um período de semanas ou até meses desde a divulgação da vulnerabilidade, prova de conceito até a exploração maliciosa real. As equipes de segurança têm um “período de carência” relativamente amplo para avaliar o impacto, verificar patches e implantá-los online. No entanto, a ENISA destacou no relatório que os modelos de IA de ponta podem gerar autonomamente caminhos de ataque de alta ordem em virtude das suas capacidades de raciocínio aprofundadas para lógicas de aplicações complexas, falhas de configuração e cadeias de chamadas de vários passos. A diferença de tempo entre a descoberta de uma vulnerabilidade e a transformação de ferramentas de ataque em armas tem se aproximado de zero. Os dados de monitorização da indústria mostram que os atacantes podem usar meios automatizados para completar a armamento dentro de 15 minutos após a divulgação da vulnerabilidade, e o tempo médio desde a penetração inicial até ao roubo de dados foi comprimido para cerca de 72 minutos.
Este efeito de compressão extremo desencadeou múltiplas crises profundas. A ENISA alerta que os invasores que usam IA provavelmente dominarão códigos de exploração de vulnerabilidades prontos para uso antes que os desenvolvedores de software liberem correções, fazendo com que o fenômeno chamado “Tempo de exploração negativo” se torne cada vez mais comum. Além disso, para acompanhar o ritmo dos ataques, os fabricantes podem ser forçados a aplicar intensamente patches de emergência com uma frequência mais elevada, o que aumenta enormemente o risco de perturbar operações comerciais importantes devido a conflitos de compatibilidade de patches. Ao mesmo tempo, um grande número de mantenedores independentes de software de código aberto está enfrentando o impacto de uma torrente de relatórios automatizados de vulnerabilidades de IA, e “sistemas legados” que estão prestes a ou encerraram o suporte técnico tornaram-se mais vulneráveis à varredura interminável da IA.
Confrontada com a aceleração exponencial da cadeia de ataques, a ENISA apela às autoridades competentes, aos decisores políticos e às equipas de defesa corporativa de todos os países membros para que acelerem a transformação dos modelos tradicionais de governação de segurança. O relatório enfatiza que os mecanismos de defesa lineares que dependem demasiado da revisão manual, da aprovação atrasada e da aplicação regular de patches já não conseguem lidar com ataques à velocidade das máquinas. As organizações devem mudar para uma arquitetura "Assume-Breached" e de confiança zero, concentrando-se na redução do raio de explosão (Blast Radius) por meio de segmentação de rede, isolamento estrito de permissão e outros meios.
Em termos de estratégias de implementação específicas, a ENISA recomenda que as empresas integrem profundamente as ferramentas defensivas de IA no ciclo de vida de desenvolvimento de software e no centro de resposta a ameaças (SOC), e utilizem meios automatizados para alcançar uma classificação de vulnerabilidades de altíssima velocidade e contenção de emergência. Ao mesmo tempo, o relatório apela ao estabelecimento da segurança da rede como a direcção estratégica central do investimento europeu em tecnologia de IA para promover a construção de capacidades autónomas de defesa da IA e evitar a perda de iniciativa estratégica na próxima geração de confrontos ofensivos e defensivos em redes autónomas.
Comentários