Depois que a Red Hat adquiriu a Neural Magic no ano passado para fortalecer seus recursos de IA de código aberto, ela anunciou hoje que adquiriu outra empresa de inteligência artificial e continua a aumentar seu layout de negócios de IA de nível empresarial. O alvo desta aquisição é a Chatterbox Labs, uma empresa privada fundada em 2011 que se concentra em testes de modelos de IA e recursos de proteção de segurança ("guarda-corpos") para IA generativa.
Chatterbox Labs fornece uma plataforma chamada AIMI, que pode fornecer indicadores quantitativos para riscos de IA e fornecer uma série de funções em torno do comportamento do modelo e gerenciamento de risco para ajudar as empresas a avaliar e controlar resultados inadequados e riscos potenciais de modelos em aplicações práticas.
A Red Hat disse que à medida que as empresas empurram os projetos de IA do estágio experimental para o ambiente de produção, o monitoramento contínuo do viés do modelo, da toxicidade e de várias vulnerabilidades se tornou uma obrigação. Os testes de segurança de IA e os recursos de "proteção" estão se tornando o "limiar básico" das plataformas modernas de MLOps e LLMOps.
A Red Hat afirmou em um comunicado que a aquisição foi projetada para responder diretamente ao rápido aumento na demanda por "segurança de IA" e espera que, ao integrar a tecnologia do Chatterbox Labs, forneça aos clientes uma plataforma de IA de código aberto de nível empresarial mais completa para que eles possam "executar cargas de trabalho de IA em ambientes de produção com confiança". Ao incorporar a tecnologia do Chatterbox Labs em sua matriz de produtos existente, a Red Hat espera ajudar as empresas a promover de maneira mais tranquila a implementação de grandes modelos e IA generativa, garantindo ao mesmo tempo segurança e conformidade.
Em termos de roteiro de produtos, a Red Hat disse que a tecnologia do Chatterbox Labs complementará o recentemente lançado Red Hat AI 3, adicionando testes de segurança mais completos e recursos de gerenciamento de risco à plataforma.
A empresa também reiterou a sua linha consistente de código aberto: no futuro, planeia abrir gradualmente o código da tecnologia de IA relevante adquirida a partir desta aquisição para expandir a adoção pela comunidade e promover a inovação.
A Red Hat disse no anúncio que seu modelo de longa data é primeiro adquirir tecnologia proprietária e depois promover a evolução tecnológica e a prosperidade ecológica por meio de código aberto. Esta transação também dará continuidade a este “modelo padrão de desenvolvimento de código aberto”. Como a tecnologia do Chatterbox Labs é de código aberto em fases, essas ferramentas críticas de segurança de IA serão gradualmente disponibilizadas para a comunidade em geral, permitindo que mais organizações se beneficiem dos recursos de controle de preconceitos, revisão de segurança e quantificação de riscos.