Em 12 de março, a Academia Chinesa de Tecnologia da Informação e Comunicação lançou oficialmente a preparação de uma série de padrões para agentes assistentes inteligentes (Garra) e promoveu sistematicamente a construção de sistemas de padrões relacionados a agentes assistentes inteligentes. "Requisitos de capacidade de credibilidade do produto de agente assistente inteligente (garra),", como uma parte importante desta série de padrões, está agora aberto à indústria para solicitar unidades participantes e especialistas para este padrão. O padrão classificará os requisitos relevantes em torno da qualidade controlável e do comportamento confiável dos produtos Claw, incluindo direitos de usuário gerenciáveis, processos de execução transparentes, riscos comportamentais controláveis e recursos confiáveis de plataforma e ferramenta.
Ontem, a Academia Chinesa de Tecnologia da Informação e Comunicação (CAICT) publicou uma postagem no blog apontando que a ferramenta de agente de IA de código aberto OpenClaw tem sido extremamente popular na Internet recentemente.Mas também levanta sérios desafios de segurança.
Wei Liang, vice-diretor da Academia Chinesa de Tecnologia da Informação e Comunicação, analisou que o agente "Lobster" está sendo atualizado e iterado muito rapidamente, e a versão oficial mais recente realmente corrigiu vulnerabilidades conhecidas.Mas isto não significa que os riscos de segurança sejam completamente eliminados.
Esta ferramenta possui recursos de alta autoridade, como tomada de decisão autônoma e chamada de recursos do sistema.Além disso, os limites da confiança no sistema são confusos e o mercado de pacotes de habilidades carece atualmente de auditorias de segurança rigorosas, e há muitos perigos ocultos à espreita.
Wei Liang disse que quando o agente chama o modelo de linguagem grande, é fácil interpretar mal o conteúdo das instruções do usuário e realizar operações prejudiciais irreversíveis, como a exclusão de arquivos.
Depois que os usuários usarem pacotes de habilidades de terceiros implantados com código malicioso, eles enfrentarão o risco de vazamento de dados principais ou até mesmo de todo o sistema ser controlado por hackers. Portanto, mesmo que o usuário atualize para a versão mais recente,Se não forem tomadas medidas preventivas específicas, ainda será difícil resistir a ataques externos à rede.
Wei Liang recomendou que, no uso diário, os usuários não apenas atualizem e atualizem o software em tempo hábil, mas também sigam rigorosamente os princípios de proteção de segurança de "permissões mínimas, defesa ativa e auditoria contínua".
Além disso, assim que os usuários descobrirem vulnerabilidades de segurança ou encontrarem ataques a esses agentes, eles poderão denunciá-los imediatamente à Plataforma de Compartilhamento de Informações sobre Vulnerabilidades e Ameaças à Segurança Cibernética do Ministério da Indústria e Tecnologia da Informação. A plataforma organizará prontamente pesquisas, julgamento e descarte de segurança de acordo com as leis e regulamentos.