Resumo:
Um porta-voz da OpenAI revelou que o presidente da OpenAI, Greg Brockman, fará em breve um anúncio para expandir a autoridade para abrir as ferramentas de IA da empresa para infraestruturas críticas e agências do setor público. A intrusão acidental do Hugging Face pela OpenAI, juntamente com vários ataques cibernéticos aos sistemas de água dos EUA suspeitos de usar IA, despertou grande preocupação do mundo exterior sobre o quão vulneráveis são várias instalações públicas a futuros ataques de hackers conduzidos por IA.
O porta-voz disse que Brockman anunciará oficialmente as informações acima na Cúpula de Segurança Cibernética realizada na sede da OpenAI na quinta-feira.
Espera-se que cerca de 300 líderes de segurança corporativa e diretores de segurança da informação de empresas da Fortune 100 participem desta reunião.
O tema central desta cúpula: como empresas, governos e fornecedores de segurança de rede permitem que os defensores (agências de infraestrutura crítica, departamentos de serviço público) usem ferramentas de IA.
Esta reunião e o próximo anúncio são a resposta da OpenAI aos riscos de segurança do modelo. Hugging Face já foi hackeado antes, e o próximo modelo Astra da OpenAI já possui capacidades de ataque cibernético de “nível crítico”.
No início desta semana, um relatório mencionou que a OpenAI estava desenvolvendo uma nova tecnologia de treinamento, o que também causou preocupações na indústria: se os profissionais de segurança ainda conseguem ver claramente a lógica de raciocínio do modelo.
A OpenAI emitiu uma carta aberta na semana passada, alertando que as organizações têm apenas meses para responder à ameaça de ataques cibernéticos viabilizados pela IA.
O próprio Brockman emitiu um aviso semelhante em um artigo no mês passado.
A sensibilização para a protecção de infra-estruturas críticas é apenas o primeiro passo e não pode resolver os problemas práticos de insuficiência de fundos e escassez de talentos nas equipas de segurança normalmente enfrentados por estas instituições.
Comentários