Resumo:
A OpenAI disse que seu próximo modelo Astra pode descobrir vulnerabilidades de software anteriormente desconhecidas e transformá-las em código de exploração que pode realizar ataques sem a necessidade de orientação humana passo a passo - marcando que o modelo ultrapassou um limite nas capacidades de segurança cibernética que anteriormente eram principalmente domínio das principais equipes de hackers.
A empresa disse em um blog na terça-feira que o Astra é o primeiro modelo classificado como tendo capacidades de rede de nível “crítico” em sua “estrutura de prontidão”.
Para atingir esse nível, os modelos devem ser capazes de descobrir vulnerabilidades de software anteriormente desconhecidas (ou seja, vulnerabilidades de dia zero) sem intervenção humana e desenvolver ataques utilizáveis contra sistemas reais reforçados, ou projetar e executar ataques baseados exclusivamente em objetivos de alto nível.
Nos testes, o Astra obteve uma pontuação de 100% em um teste de benchmark que explorou vulnerabilidades conhecidas e descobriu duas vulnerabilidades anteriormente desconhecidas enquanto construía uma cadeia de ataque em outro teste interno.
Em um teste projetado para verificar se um modelo iria "trapacear" em tarefas de hacking extremamente difíceis ou impossíveis, o GPT-5.6 Sol era mais propenso a usar atalhos proibidos, enquanto o Astra não o fazia, embora ainda resolvesse algumas tarefas legalmente.
A OpenAI também disse que o Astra rompeu com sucesso a sandbox reforçada do navegador e executou comandos no computador host; além disso, descobriu e combinou múltiplas vulnerabilidades no sistema operacional para obter privilégios de root.
Subsequentemente, a empresa atrasou o desenvolvimento de algumas funcionalidades do Astra, ao mesmo tempo que adicionou salvaguardas de segurança e planeia abrir inicialmente as suas capacidades de cibersegurança mais avançadas apenas a testadores selecionados.
Esse recurso é particularmente relevante para o setor de criptomoedas, já que um bug de software pode se transformar em lucros reais em poucos minutos. Segundo relatos, uma análise realizada em junho deste ano apontou que modelos de IA cada vez mais poderosos podem comprimir o processo de busca de código, descoberta de configurações incorretas e montagem de ataques de dias ou semanas para operações na velocidade da máquina.
Na época, os pesquisadores de segurança disseram que a maior mudança não seria necessariamente tipos de ataques inteiramente novos, mas que a velocidade com que as fraquezas existentes seriam encontradas e exploradas aumentaria significativamente.
Esse desenvolvimento também mostra que os modelos de ponta estão indo além de "responder perguntas" e "escrever código". Em julho deste ano, um sistema de IA chamado Claude Fable 5 ajudou a resolver um quebra-cabeça matemático de 87 anos.
Comentários