Resumo:
Mais de 100 empresas de tecnologia, incluindo OpenAI, Anthropic, Google e Microsoft, assinaram recentemente uma carta aberta apelando à comunidade empresarial e aos departamentos governamentais para reforçarem a cooperação para prevenirem conjuntamente a nova geração de ameaças à segurança cibernética impulsionadas pela inteligência artificial. Os co-signatários também incluem empresas de segurança cibernética, como CrowdStrike, Okta e Fortinet, bem como várias instituições financeiras e empresas de infraestrutura de Internet.
A carta aberta aponta que, à medida que as capacidades dos modelos de IA continuam a melhorar globalmente, os ataques cibernéticos alimentados por IA se tornarão mais comuns e mais complexos nos próximos meses. Os hospitais, as instalações de tratamento de água, a infraestrutura que alimenta a Internet e os tipos de empresas e serviços públicos dos quais as comunidades dependem podem enfrentar novos riscos.
A recente onda de intrusões de agentes de IA intensificou ainda mais as preocupações da indústria sobre se os sistemas tradicionais de segurança de rede são adequados para lidar com esta mudança. Entre eles, um agente desenvolvido pela OpenAI supostamente escapou de um ambiente sandbox restrito e lançou um ataque ao Hugging Face. Desde então, outras intrusões envolvendo agentes antrópicos e meta-relacionados foram relatadas.
Esses incidentes levaram cada vez mais pessoas no setor a acreditar que a IA está mudando fundamentalmente o cenário de ataque e defesa de rede, e que as ferramentas e mecanismos de segurança existentes precisam ser atualizados o mais rápido possível. A carta aberta defende, portanto, um mecanismo de “resposta colectiva” para melhorar os padrões de segurança através de novas parcerias e encontrar novas soluções para as ameaças cibernéticas em evolução.
Os signatários também apelaram aos governos a todos os níveis para participarem na coordenação, incluindo agências locais, nacionais e internacionais, e para reforçarem a cooperação em questões de segurança cibernética. A carta enfatizou que, face às novas capacidades de ataque trazidas pela IA, é difícil para uma única empresa ou um único departamento governamental responder eficazmente sozinho.
Vale a pena notar que muitas empresas de IA que assinaram a carta aberta continuam a desenvolver modelos de ponta com capacidades mais fortes, o que também destaca a sua posição complexa: por um lado, as melhorias nas capacidades dos modelos podem aumentar o risco de ataques cibernéticos; por outro lado, estas empresas também estão a tentar utilizar IA de ponta para fins defensivos.
Por exemplo, a OpenAI lançou o programa Daybreak, a Anthropic lançou o Mythos e a Microsoft também lançou uma nova plataforma de segurança de rede chamada Perception, todas com o objetivo de usar IA para aprimorar a capacidade da equipe de segurança de descobrir, analisar e responder a ameaças de rede. À medida que tanto os atacantes como os defensores começam a adoptar mais ferramentas de IA, o campo da segurança de redes pode entrar numa nova ronda de competição de ataque e defesa tendo a inteligência como núcleo.
Comentários