Resumo:
Em 4 de novembro, segundo a Reuters, a OpenAI divulgou em outubro deste ano que a empresa descobriu um dispositivo de gravação que havia sido colocado secretamente em uma sala de conferências executiva. Muitos ex-funcionários da OpenAI tiveram a mesma reação: não ficaram surpresos.
Alfzan é acusado de instalar equipamento de escuta
O Departamento de Justiça dos EUA disse em 13 de outubro que autoridades federais dos EUA prenderam um saudita, Abdulrahman Alfozan, e o acusaram de instalar um dispositivo de gravação oculto em uma sala de conferências executivas. O dispositivo foi escondido em papel higiênico para evitar detecção. Alfzan, agora com 35 anos, era engenheiro da OpenAI na época.
De acordo com cinco pessoas familiarizadas com o assunto, mesmo antes da OpenAI lançar o ChatGPT no final de 2022, alguns funcionários da empresa já haviam levantado preocupações internamente sobre suas práticas de segurança. Esses funcionários expressaram preocupações à liderança sênior e ao conselho de administração da OpenAI. No entanto, alguns funcionários, após conversarem com a administração e o conselho de administração, concluíram que a administração estava mais focada em acompanhar concorrentes como Google e Anthropic do que na segurança em si.
Esses funcionários acreditam que os controles de segurança da OpenAI são muito frouxos, permitindo que pessoas de fora, incluindo governos estrangeiros, obtenham com relativa facilidade informações técnicas confidenciais da empresa, disseram pessoas familiarizadas com o assunto. Por exemplo, qualquer funcionário da OpenAI com acesso ao código da empresa pode visualizar os detalhes técnicos por trás de muitos dos projetos da empresa.
De acordo com duas pessoas familiarizadas com o assunto, a OpenAI começou a ajustar sua estratégia para lidar com questões de segurança. Thibault Sottiaux, membro da administração sênior que supervisiona o desenvolvimento de produtos, assumiu recentemente o comando de uma iniciativa interna para fortalecer a segurança dos sistemas internos da OpenAI. Em agosto, a Sotio realocou um quarto dos engenheiros de produção da OpenAI para melhorar a sua infraestrutura de segurança.
Esses alertas internos, que incluem anos de reclamações de funcionários à liderança sobre vulnerabilidades internas, algumas das quais não foram relatadas anteriormente, revelam uma tensão no campo da IA. Desde o lançamento do ChatGPT no final de 2022, a tecnologia de IA tornou-se um ativo estratégico para os Estados Unidos, o que pressionou as empresas americanas para protegerem a sua tecnologia de concorrentes estrangeiros.
No entanto, adicionar camadas de proteções de segurança também poderia retardar o progresso no avanço da tecnologia de IA e complicar os planos para IPOs massivos da OpenAI e da Anthropic. Estes IPOs irão colocá-las entre as empresas mais valiosas do mundo.
A velocidade de desenvolvimento da IA é mais importante
Will DePue, ex-pesquisador que se demitiu da OpenAI em abril deste ano, postou em
Quando questionada sobre as preocupações dos funcionários e sua percepção de que a administração não está tomando medidas em relação a essas questões, a porta-voz da OpenAI, Elana Widmann, disse que a OpenAI é uma das organizações mais visadas do mundo. É por isso que as empresas investem fortemente nos seus programas de segurança para se protegerem contra ataques de pessoas internas, cibercriminosos e intervenientes estatais, disse ela.
"Proteger nossa tecnologia, dados e funcionários é uma responsabilidade que levamos muito a sério e é um trabalho de importância nacional. Nossas ações recentes demonstram que esse mecanismo de segurança está funcionando: identificando riscos e respondendo de forma decisiva. À medida que as tecnologias e ameaças continuam a evoluir, continuaremos a fortalecer nossas capacidades de defesa." Weidman disse.
Comentários