Resumo:
O aplicativo de mensagens criptografadas de ponta a ponta Signal anunciou na sexta-feira que limitará o acesso a capturas de tela em telefones celulares para evitar que agentes de IA leiam os bate-papos privados dos usuários. A empresa alertou que a tendência da indústria tecnológica de incorporar profundamente a inteligência artificial nos dispositivos de consumo está a enfraquecer a sua capacidade de proteger a privacidade dos utilizadores.

A Signal é considerada há muito tempo pelos defensores da privacidade como líder em comunicações seguras. A empresa disse que as novas medidas de proteção introduzidas desta vez estão incompletas e apelou aos fornecedores de sistemas operativos como a Apple, a empresa-mãe do Google, Alphabet e a Microsoft, para fornecerem aos programadores de aplicações meios mais específicos e eficazes para impedir que agentes de IA acedam a dados sensíveis.
A Signal também exige que essas empresas divulguem melhor como seus agentes de IA operam, permitindo que os desenvolvedores avaliem quais dados esses programas estão acessando e ajustem seus sistemas de acordo. A mudança reflete uma rivalidade crescente entre aplicativos focados na privacidade e grandes empresas de tecnologia. Estes últimos estão correndo para lançar agentes de IA que possam visualizar o conteúdo da tela de um usuário e executar ações em nome do usuário de acordo.
A Signal apontou especificamente que os recursos de IA integrados diretamente no sistema operacional, como o Siri AI da Apple e o Gemini Intelligence do Google, são particularmente preocupantes porque estão profundamente integrados aos dispositivos do usuário. A empresa disse que o sistema operacional fornece um ambiente de execução para Signal e outros aplicativos, e a integração desses “agentes AI” está tornando esse ambiente cada vez mais desfavorável para a proteção da privacidade. Signal disse em uma postagem de blog fornecida à Reuters que isso representava uma “ameaça existencial” para a empresa e sua capacidade de cumprir sua missão com responsabilidade.
Para evitar que agentes de IA verifiquem mensagens do Signal, o serviço está lançando novas configurações que bloqueiam o acesso a capturas de tela em celulares e ativarão essas restrições por padrão. Quando o Signal detecta uma tentativa de captura de tela ou o assistente de IA tenta acessar a tela, o usuário receberá um prompt pop-up e poderá escolher se deseja suspender a restrição com base nas condições do dispositivo.
A Signal bloqueou a Recall AI da Microsoft de fazer capturas de tela em sistemas Windows no ano passado. A empresa afirma que não pode fornecer proteção semelhante de forma confiável nos sistemas macOS da Apple.
Agentes de IA que podem realizar operações em nome dos usuários são promovidos como a próxima grande onda de tecnologia de IA. Eles podem extrair informações relevantes de diferentes aplicativos e realizar tarefas que economizam tempo, como responder e-mails, marcar compromissos e fazer compras on-line, sem exigir que os usuários forneçam instruções passo a passo. No entanto, esta capacidade também pode contornar os mecanismos de proteção que aplicações como o Signal construíram para si mesmas.
A Reuters informou no início desta semana que o agente Muse AI da Meta conseguiu contornar sua ferramenta oficial "Connector" e acessar mensagens do Signal em computadores Apple e telefones rodando o sistema Android do Google. Em ambos os casos, o Muse aproveitou as amplas permissões em nível de sistema operacional concedidas quando o aplicativo foi inicialmente configurado para obter mensagens e usar essas permissões de maneiras que o usuário talvez não tenha previsto.
Por exemplo, no sistema macOS da Apple, o Muse usa uma combinação de acessibilidade de computador e ferramentas de captura de tela, reutiliza as configurações da Apple para pessoas com deficiência, navega até a interface do Signal, captura de tela do conteúdo do bate-papo, extrai texto de imagens e reproduz mensagens no aplicativo Muse. Uma atualização de sistema lançada pela Apple esta semana bloqueia efetivamente esse caminho específico, mas também introduz um novo conjunto de permissões para agentes de IA que fornecem recursos semelhantes e vem com mais avisos ao usuário.
Em resposta ao relatório da Reuters, Meta afirmou que o agente de IA precisa visualizar e operar o computador do usuário para concluir tarefas em nome do usuário; O Muse só pode acessar outros aplicativos por meio de permissões concedidas explicitamente pelo usuário.
Signal disse que os desenvolvedores devem ter uma maneira direta para o aplicativo sair completamente do processo de processamento de dados do assistente de IA, especialmente em aspectos como leitura de tela, notificações e acesso ao sistema de arquivos. Como serviço de propriedade de uma fundação sem fins lucrativos, o Signal promete aos usuários uma experiência de mensagens segura, limitando os dados armazenados em seus próprios servidores, recusando-se a veicular anúncios e fornecendo criptografia de ponta a ponta; o que significa que a empresa não pode acessar e ler as conversas dos usuários em seu aplicativo.
Signal apontou que um sistema de IA capaz de escanear a tela de um usuário pode extrair mensagens do ambiente seguro do Signal e transmiti-las para outros servidores usados pelo agente, destruindo assim o mecanismo de proteção acima.
Comentários