Resumo:
Algumas semanas antes de o departamento de inteligência artificial da SpaceX lançar o Grok Bot, um produto de agente pessoal de IA, em agosto, os engenheiros da Cursor descobriram uma vulnerabilidade potencial. Naquela época, a SpaceX estava adquirindo a Cursor, uma startup de código de IA, e o Grok Bot foi desenvolvido pela Cursor. Durante o processo de desenvolvimento, todos os funcionários do Cursor utilizaram extensivamente esta ferramenta para testes e trabalho diário.
No final de julho, os engenheiros levantaram preocupações de que o Cursor pudesse ter enviado dados gerados por testes internos, que podem conter informações confidenciais de clientes, fornecedores e parceiros de negócios, para o departamento de inteligência artificial da SpaceX. De acordo com comunicações internas analisadas pela mídia, um advogado da Cursor alertou que, uma vez que pessoas de fora saibam que a empresa usa os dados para treinamento de modelos, isso poderá desencadear uma “séria crise de confiança”.
O Cursor lançou imediatamente uma investigação interna para descobrir quais dados confidenciais, se houver, foram enviados para a unidade de inteligência artificial da SpaceX, agora conhecida como SpaceX SI, de acordo com documentos internos revisados pela mídia e por duas pessoas familiarizadas com o projeto. A conclusão desta investigação interna não é clara, mas a empresa tomou medidas para garantir que o modelo de formação subsequente já não incorpore dados gerados pela utilização dos funcionários.
O incidente destaca um desafio enfrentado pelas empresas de pesquisa e desenvolvimento de IA, que se tornou cada vez mais proeminente à medida que ferramentas de agentes como o Grok Bot se tornam mais populares. Este tipo de agente foi projetado para receber permissões mais altas e pode percorrer vários arquivos e aplicativos no computador do usuário para concluir tarefas de forma autônoma.
Mas esse alto grau de liberdade traz novos riscos de segurança, incluindo o fornecimento inadvertido de informações confidenciais ao modelo para treinamento. Em geral, as principais empresas de IA declararam que não utilizarão dados obtidos de ferramentas da Internet, como Gmail e Google Cloud Disk, para realizar treinamento de modelos. Por exemplo, nos termos de serviço do Grok Bot, a SpaceX SI afirma que a empresa não usará dados do Google Cloud Disk para treinar modelos, e os usuários podem optar por se recusar a compartilhar seus próprios dados para essa finalidade.
A investigação de dados relacionada ao Grok Bot não é o único incidente de segurança de dados que o Cursor encontrou. As comunicações internas analisadas pela mídia mostraram que neste verão, os funcionários da empresa vazaram acidentalmente algumas informações de clientes através de um site de acesso público criado para uso interno.
A SpaceX SI não respondeu a um pedido de comentário.
Mesmo antes de a SpaceX concluir a aquisição da Cursor por US$ 60 bilhões em meados de agosto, a Cursor estava expandindo seus negócios e não estava mais limitada a ferramentas de codificação. Após a conclusão da aquisição, Grok Bot, um assistente de colaboração de IA para todos os climas que pode lidar com várias tarefas, tornou-se o principal produto da SpaceX SI na competição pelo lucrativo mercado de ferramentas de IA de nível empresarial.
Duas pessoas familiarizadas com o assunto revelaram que, para otimizar a versão inicial do Grok Bot, a Cursor providenciou para que a empresa, os funcionários da SpaceX SI e indivíduos e empresas externas testassem o produto, enquanto coletavam registros de comportamento do usuário ao usar o agente. O Cursor pode usar esses dados para treinar o modelo de IA, permitindo que o modelo aprenda como o agente executa as tarefas, incluindo as operações realizadas e as informações recuperadas durante a tarefa.
Romain Ugarte, ex-chefe de crescimento da Cursor, mencionou em uma entrevista em podcast que, por volta de junho, os funcionários internos da Cursor foram os primeiros a usar o Grok Bot, então codinome Sand. O produto rapidamente se tornou popular dentro da empresa, com os funcionários utilizando-o para lidar com vendas, recrutamento, pesquisa e outras tarefas. Freqüentemente, autorizavam o software a acessar os sistemas da empresa, permitindo-lhes trabalhar de forma independente. Pessoas familiarizadas com o assunto disseram que isto significa que os funcionários utilizarão o agente em cenários em que interagem com clientes externos e entrevistam potenciais candidatos, expondo-o potencialmente a informações sensíveis em conversas de vendas, ficheiros de clientes e comunicações de recrutamento.
Mas em julho, pouco antes do Cursor lançar o Grok Bot, alguns engenheiros alertaram no canal de relatórios de incidentes do Slack: os dados de treinamento coletados pela empresa nos cenários de uso interno do Sand podem conter informações confidenciais, e esse lote de dados pode ter sido transferido para a SpaceX SI.
Como parte da investigação, a Cursor analisou a gama de usuários incluídos no conjunto de dados de treinamento, com base em comunicações internas e em pessoas familiarizadas com o assunto. Uma pessoa familiarizada com o assunto disse que alguns funcionários da Cursor usavam e-mails pessoais para fazer login no Sand, o que dificultava a identificação de tais usuários pela empresa e a eliminação de seus dados em treinamentos posteriores.
Para isso, a Cursor fez restrições: os funcionários devem usar o e-mail da empresa para fazer login no Sand, e decidiu não incluir nenhum dado gerado pelos funcionários da Cursor em treinamentos futuros.
O advogado do Cursor escreveu no canal Slack da empresa: "Do ponto de vista jurídico, o Sand é uma ferramenta geral e seu conjunto de dados contém informações confidenciais sobre clientes, parceiros, fornecedores, etc. Estritamente falando, não temos autoridade legal para usar esses dados para treinamento de modelos."
Esta não é a primeira vez que o Cursor teve que limpar a bagunça causada pelo manuseio incorreto dos dados do usuário.
As comunicações internas analisadas pela mídia mostraram que um incidente anteriormente não relatado ocorreu no início deste ano: o pessoal de vendas e marketing da Cursor expôs acidentalmente informações de clientes na Internet. O problema estava nos sites que a equipe construiu com base na plataforma de desenvolvimento de sites Vercel, que eram utilizados pelas equipes de vendas e marketing para manter relacionamentos com clientes existentes e potenciais.
Os documentos mostram que um dos sites é usado para gerenciar a conexão de clientes com a Verizon. O site contém um organograma de parte do gerenciamento técnico da Verizon, listando vários usuários principais da ferramenta Cursor interna da Verizon, quantidades de consumo de produtos e o endereço de e-mail de cada usuário.
Os registros de comunicação interna do Cursor mostram que, embora o site relacionado à Verizon tenha uma senha, a senha, juntamente com todas as informações do cliente, foi escrita diretamente no código subjacente. Qualquer internauta que visualizar o código poderá obter a senha e as informações do cliente.
As comunicações internas também mostram que a empresa encontrou problemas semelhantes com dados de outras empresas, como Bosch e Coupa. Depois de descobrir a vulnerabilidade, os engenheiros do Cursor colocaram o site relevante off-line com urgência. Eles até deram um nome longo ao canal Slack dedicado a discutir esse problema interminável: "Um grande número de sites GTM vazaram dados internos/de clientes" (GTM significa Go to Market).
A Bosch encaminhou as perguntas ao Cursor, a Coupa se recusou a comentar, a Verizon não respondeu aos pedidos de entrevista e a Vercel se recusou a comentar.
Muito antes de o Cursor ser incorporado à SpaceX SI, o departamento de IA da empresa aeroespacial havia encontrado incidentes semelhantes de segurança de dados. Em março de 2025, um funcionário da SpaceX SI carregou por engano um script de teste no repositório de código público do GitHub, vazando a chave da interface do programa aplicativo Grok. Pessoas de fora podem usar a chave para acessar o modelo xAI que não foi divulgado ao público.Neste verão, um pesquisador descobriu que a ferramenta de desenvolvimento da SpaceX, Grok Build, carregaria o repositório de código Git completo para o Google Cloud Storage da SpaceX, potencialmente vazando código-fonte proprietário ou credenciais de identidade que os desenvolvedores não tinham intenção de tornar públicas. Em resposta, xAI fechou a função de upload do warehouse e tornou a ferramenta de código aberto. Elon Musk postou na plataforma X: "Todos os dados do usuário previamente carregados na SpaceX AI serão completa e completamente excluídos."
Comentários