O Google divulgou recentemente como usará vários meios técnicos para estabelecer proteções de segurança para os usuários antes de implantar a função “Agentic” no navegador Chrome para lidar com dados potenciais e riscos financeiros por trás de novos recursos, como compra automática de ingressos e compras online. Depois de visualizar os recursos relacionados em setembro, o Google disse que esses recursos de navegação baseados em proxy baseados no modelo Gemini serão gradualmente abertos aos usuários nos próximos meses.
O Google disse que introduziu uma variedade de “modelos de observação” no Chrome para realizar análises e restrições em tempo real nas operações realizadas pelo agente. Um dos principais mecanismos é usar o Gemini para construir um "User Alignment Critic" (User Alignment Critic), que verifica especificamente se a sequência de ações gerada pelo modelo de planejamento para uma determinada tarefa realmente atende à intenção do usuário. Se o censor acreditar que certas etapas se desviam dos objetivos do utilizador, pede ao modelo de planeamento para reajustar a política, um processo que depende apenas de metadados operacionais, em vez de conteúdo completo da web, para reduzir a exposição à privacidade.
Em termos de controle de fonte de acesso, o Google introduziu o mecanismo "Agent Origin Sets" para classificar estritamente as fontes do site que podem ser lidas e escritas pelo agente para evitar que o modelo execute operações em sites não confiáveis ou elementos de página irrelevantes. Por exemplo, num website de comércio eletrónico, a lista de produtos é considerada como conteúdo legível relacionado com a tarefa, enquanto os anúncios de banner na página são excluídos da gama legível e os agentes só podem clicar ou entrar dentro da área iframe específica permitida, reduzindo assim o risco de fuga de dados entre fontes.
O Google também usa outro conjunto de modelos de observação para monitorar o comportamento de salto de página do proxy para interceptar URLs gerados pelo modelo, mas que podem ser arriscados, e evitar que processos automatizados entrem acidentalmente em sites maliciosos. Ao lidar com sites que envolvem informações confidenciais, como bancos e assistência médica, o Chrome abrirá uma janela para pedir permissão ao usuário antes que o agente tente acessar e solicitará autorização do usuário quando um gerenciador de senhas precisar ser usado para fazer login.
No que diz respeito à realização de operações altamente sensíveis, a Google sublinha que a decisão final caberá ao utilizador, incluindo etapas importantes como pagamento online, envio de informações ou envio de mensagens, devendo o agente obter antecipadamente uma confirmação clara. O Google também implantou classificadores de injeção imediata para identificar e bloquear instruções maliciosas e continua a realizar testes de segurança dessas funções de proxy por meio de amostras de ataque projetadas por pesquisadores.
Além do Google, outros fabricantes de navegadores também estão fortalecendo os recursos de segurança de proxy de IA. Recentemente, a Perplexity lançou um novo modelo de detecção de conteúdo de código aberto para identificar e defender contra ataques de injeção de proxy em cenários de navegação, demonstrando a alta sensibilidade e o investimento da indústria em questões de segurança na era da navegação automatizada.