A Perplexity Computer dará início a uma atualização importante neste verão: suporte para alocação automática de tarefas entre modelos de IA locais e em nuvem para obter capacidades de raciocínio híbrido que equilibram melhor a proteção da privacidade e o desempenho da computação.
Perplexity afirma que Perplexity Computer é o sistema de agente da empresa que “faz um trabalho real para os usuários”, automatizando a orquestração de diferentes modelos e ferramentas para lidar com tarefas complexas. Novos recursos em breve permitirão que o sistema alterne de forma inteligente entre um modelo compacto que roda localmente no dispositivo e um modelo mais poderoso e de ponta na nuvem, dependendo do tipo de tarefa e da sensibilidade dos dados. De acordo com a introdução oficial, este design pretende permanecer o mais local possível ao processar dados sensíveis e, ao mesmo tempo, pode chamar perfeitamente o modelo de nuvem quando for necessário um forte poder de computação, atingindo assim um equilíbrio entre segurança e eficiência.
Segundo relatos, no novo modo de "inferência agente híbrida", o trabalho que envolve conteúdo confidencial, como registros financeiros, informações de saúde e arquivos pessoais, será priorizado por um pequeno modelo local executado no dispositivo do usuário para determinar quais dados devem ser estritamente retidos para processamento local. Ao mesmo tempo, tarefas que não exigem muita privacidade, mas exigem raciocínio mais forte e recursos de grande contexto, serão automaticamente atribuídas a modelos de ponta na nuvem para execução. Perplexity enfatiza que a maioria das tarefas do mundo real geralmente contém partes sensíveis e não sensíveis, de modo que o sistema divide automaticamente a tarefa em várias subtarefas e coordena o agendamento entre local e nuvem, em vez de exigir que os usuários escolham entre o modo "local" ou "nuvem" com antecedência.
A Perplexity demonstrou ainda mais o conceito dessa arquitetura híbrida em um vídeo divulgado na plataforma social. De acordo com fontes oficiais, o recurso de orquestração híbrida de IA está programado para ser lançado oficialmente para usuários do Perplexity Computer em julho.