A Apple está testando um novo sistema de inteligência artificial chamado “Live Notes” em algumas lojas de varejo, que visa ajudar os funcionários do Genius Bar a reduzir sua carga de trabalho gravando, transcrevendo e resumindo automaticamente as conversas, permitindo que se concentrem mais na comunicação cara a cara com os clientes.

O sistema usa tecnologia de IA para capturar conversas entre funcionários e clientes, depois as converte em resumos de texto e os salva em registros de manutenção nos iPads dos funcionários. Para garantir a privacidade e a conformidade, a Apple criou um mecanismo de "guarda-corpo" claro: o projeto está atualmente em fase piloto e não apenas adota plenamente o princípio da participação voluntária, mas deve ser lançado com o consentimento mútuo de funcionários e clientes. Além disso, a Apple deixou claro internamente que os arquivos de gravação de áudio não serão salvos permanentemente e que o gerenciamento da loja não poderá acessar essas transcrições. Os funcionários também têm autoridade para editar e modificar o resumo e o texto gerados pela IA antes que o registro seja oficialmente armazenado no sistema.

No entanto, mesmo com as proteções acima em vigor, a medida ainda levantou preocupações sobre privacidade e vigilância entre os funcionários do varejo da Apple. Muitos funcionários estão preocupados com o fato de que, mesmo que as permissões definidas atualmente sejam limitadas, essas ferramentas de monitoramento digital provavelmente evoluirão para um meio de a administração avaliar o desempenho dos funcionários, fornecer orientação de trabalho ou monitorar o comportamento no futuro. Esta preocupação não é infundada. Com a crescente popularidade de várias "ferramentas de produtividade" na indústria de tecnologia, não é incomum na indústria transformar sistemas de IA originalmente usados ​​para melhorar a eficiência em métodos de monitoramento interno.

Até o momento, a Apple não divulgou o cronograma específico de implementação ou planos de expansão subsequentes para esse recurso, e não tem certeza se ajustará sua política de uso ou tornará esse recurso obrigatório após o término do piloto. No contexto da crescente preocupação da indústria com o monitoramento digital corporativo dos funcionários, o piloto de ponta da Apple não é apenas uma prática técnica, mas também traz mais uma vez os limites da aplicação da inteligência artificial na área de atendimento ao cliente e a questão da confiança trabalhista e gerencial para o primeiro plano da discussão.