Resumo:
O novo agente de inteligência artificial recentemente lançado pela Meta, "Muse", esteve envolvido em sérias controvérsias sobre invasão de privacidade. Testes relevantes descobriram que a ferramenta de IA lia e sincronizava um grande número de registros de bate-papo no banco de dados de "Mensagens" (Mensagens) de nível de sistema de dispositivos Apple sem autorização explícita do usuário, ou mesmo quando as permissões relevantes foram explicitamente desativadas.
Muse é um agente de IA promovido pela Meta, com o objetivo de auxiliar os usuários na recuperação de dados, geração de apresentações e auxílio em compras. A Meta afirma oficialmente que o sistema é executado em um computador virtual dedicado e pode conectar vários aplicativos e fontes de dados para fornecer interações personalizadas. A Meta promete oficialmente que respeitará rigorosamente as permissões do sistema definidas pelos usuários e nunca acessará dados não autorizados. No entanto, Meta também mantém uma isenção de responsabilidade na documentação do produto, dizendo que o agente pode cometer erros ou tomar “ações inesperadas”.
O colunista de mídia tecnológica Jason Aten descobriu sérios erros em seus testes reais. Atten instalou o Muse em um iPhone e um Mac mini que ele usa para avaliar ferramentas de IA. Apenas um dia após a instalação, Muse recomendou proativamente tópicos de artigos para ele com base em conversas privadas que ele havia discutido anteriormente com seu parceiro de podcast por mensagem de texto. Quando questionado, Muse inicialmente afirmou que as informações relevantes vinham de banners pop-up de notificação para chamadas recebidas ou mensagens de texto. No entanto, a investigação técnica subsequente revelou que o Muse sincronizou e capturou até 187.000 linhas de registros de texto no banco de dados local de informações da Apple sem autorização e os carregou para a nuvem quando o sistema não concedeu "acesso total ao disco" e claramente não obteve permissão para ler mensagens de texto.
Essa anomalia mostra que o Muse não apenas interceptou conversas do Messenger de propriedade do Meta, mas também contornou as restrições do sistema e extraiu à força os dados históricos nativos de SMS e iMessage de dispositivos Apple. Sincronizar centenas de milhares de linhas de dados em apenas 24 horas significa que o programa lê completamente todos os arquivos históricos de bate-papo acumulados pelo dispositivo no passado.
Analistas externos salientaram que este incidente reflete que os gigantes da tecnologia estão a desencadear uma crise de privacidade mais profunda ao promoverem a IA generativa. Anteriormente, o Meta foi amplamente criticado por exigir que os usuários autorizassem o upload completo das fotos do álbum para “gerar inspiração na postagem”. Seus produtos de óculos inteligentes também enfrentavam frequentemente riscos de violação de privacidade. O comportamento do Muse desta vez expôs ainda mais que, na ausência de barreiras técnicas e supervisão eficazes, a coleta de dados de privacidade pessoal pelo sistema de IA está quase fora de controle. Mesmo que os utilizadores comuns optem por não utilizar ativamente tais produtos, ainda existe o risco de fuga passiva das suas interações privadas com os contactos que instalam o software. No momento, Meta ainda não forneceu uma explicação razoável sobre como o Muse ignora as permissões subjacentes do sistema para ler dados de terceiros.
Comentários