O Google lançou recentemente uma nova biblioteca JavaScript - LiteRT.js, projetada para melhorar significativamente a velocidade de processamento de cargas de trabalho de aprendizado de máquina e inteligência artificial no navegador da web. Essa mudança sinaliza que o Google está trazendo seu tempo de execução LiteRT otimizado para dispositivos móveis para a plataforma Web, permitindo que modelos de IA sejam executados com eficiência diretamente no ambiente do navegador local, sem depender do processamento do lado do servidor.
Comparado com o TensorFlow.js existente, o LiteRT.js mostra vantagens óbvias de desempenho. É relatado que a biblioteca utiliza a tecnologia WebAssembly e integra profundamente interfaces de aceleração de hardware, como WebGPU e WebNN, para substituir o TensorFlow.js anterior baseado no kernel JavaScript, alcançando assim capacidades de computação mais eficientes. Testes realizados pelo Google no MacBook Pro 2024 equipado com o chip M4 mostram que a velocidade de processamento deste novo tempo de execução é três vezes maior que a da solução existente.
Anteriormente, o tempo de execução LiteRT atendia principalmente às plataformas móveis Android e iOS. Com esta atualização, os desenvolvedores agora podem obter recursos de implantação de IA mais poderosos na web por meio do WebAssembly. Para desenvolvedores que usam TensorFlow.js, o processo de migração é relativamente tranquilo. Se você já possui um arquivo .tflite, basta mudar o tempo de execução do JavaScript para LiteRT.js; se você estiver usando o formato TensorFlow/Keras SavedModel, poderá adaptá-lo por meio do conversor LiteRT integrado no pacote Python TensorFlow.
O lançamento despertou interesse na indústria, com muitos começando a especular se o Google eliminaria ou despriorizaria o suporte para TensorFlow.js e ansiava por como a biblioteca realmente funcionaria em uma gama mais ampla de dispositivos além do hardware da Apple.