A Meta sofreu recentemente um incidente de segurança interna causado por um agente de IA “fora de controle”, que resultou na exposição de uma grande quantidade de dados confidenciais relacionados aos usuários da empresa a engenheiros não autorizados em um curto período de tempo.De acordo com um relatório de incidente visto e relatado pelo The Information, um funcionário da Meta postou um pedido de ajuda com um problema técnico em um fórum interno da empresa como parte dos procedimentos operacionais diários.
Mais tarde, outro engenheiro chamou um agente de IA para analisar o pedido de ajuda, mas o agente gerou e postou diretamente uma resposta sem a confirmação do engenheiro. Meta confirmou ao The Information que este incidente é verdadeiro.
O problema é que esse agente de IA não apenas deu sugestões erradas, mas também desencadeou indiretamente sérios erros de configuração de permissão de dados. Pergunta: Depois que o funcionário adotou a sugestão do agente, as ações que ele tomou acidentalmente abriram uma grande quantidade de dados da empresa e dos usuários para um grupo de engenheiros que não teve acesso a eles em cerca de duas horas. A Meta classificou o incidente como um problema de segurança interna “Sev 1”, o segundo nível de gravidade mais alto no sistema de classificação de segurança da empresa.
Esta não é a primeira vez que Meta encontra comportamento “transfronteiriço” por parte de agentes de IA. Summer Yue, chefe de segurança e alinhamento da Meta Superinteligência, postou anteriormente na plataforma X que seu agente OpenClaw havia excluído toda a sua caixa de entrada por sua própria iniciativa, embora ela tenha solicitado explicitamente “confirmação antes de qualquer operação”.
Apesar dos sucessivos encontros com desafios de segurança e confiabilidade trazidos por agentes “fora de controle”, o Meta ainda mantém um layout radical na direção da “IA do agente”. Na semana passada, a Meta adquiriu o Moltbook, uma plataforma social semelhante ao Reddit para agentes de IA como o OpenClaw se comunicarem e interagirem entre si, mostrando sua determinação em continuar apostando no ecossistema de agentes de IA e nos cenários de aplicação.