Caitlin Kalinowski, chefe de engenharia de hardware e robótica da OpenAI, anunciou recentemente que renunciou à empresa. Ela liderará a equipe de robótica da OpenAI a partir de novembro de 2024. Ela postou no X e no LinkedIn: "Eu me demiti da OpenAI. Preocupo-me profundamente com a equipe de robótica e com o trabalho que realizamos juntos. Esta não foi uma decisão fácil. A IA tem um papel importante na segurança nacional. Mas monitorar os americanos sem supervisão judicial e alcançar autonomia letal sem autorização humana são duas linhas vermelhas que deveriam ter recebido uma discussão mais cuidadosa do que realmente receberam."

Ela enfatizou que sua decisão foi “uma questão de princípios, não de indivíduos”, e disse que ainda tem profundo respeito por Sam Altman e pela equipe e está orgulhosa dos resultados que alcançamos juntos.

A saída de Kalinowski ocorre em meio a um crescente debate na indústria sobre até que ponto as empresas de IA deveriam apoiar o uso de sua tecnologia pelos militares dos EUA. As negociações entre o Departamento de Defesa dos EUA e a Anthropic fracassaram recentemente devido à insistência da empresa em restrições estritas à vigilância doméstica e ao uso de armas autônomas. Pouco depois de as negociações fracassarem, a OpenAI chegou a um acordo com o Pentágono para implantar os seus modelos de IA numa rede governamental confidencial. Esta medida gerou críticas de alguns funcionários e observadores, que acreditavam que a OpenAI estava assumindo o controle depois que a Anthropic rejeitou as condições relevantes. Em resposta, o CEO da OpenAI, Sam Altman, admitiu mais tarde que a apresentação externa do acordo “parecia oportunista”, e desde então a empresa começou a esclarecer melhor as limitações de como os seus sistemas de IA podem ser usados ​​pelos militares.

Um porta-voz da OpenAI emitiu um comunicado ao confirmar a saída de Kalinowski, dizendo que a empresa acredita que o acordo alcançado com o Pentágono fornece um caminho viável para o “uso responsável da IA ​​no domínio da segurança nacional” e traça claramente a linha vermelha: não para vigilância doméstica e não para armas autónomas. O comunicado destacou que a empresa reconhece que o público tem fortes diferenças sobre essas questões e continuará a manter o diálogo com funcionários, governos, sociedade civil e comunidades em todo o mundo.

Antes de ingressar na OpenAI, Kalinowski estava envolvido há muito tempo no desenvolvimento de produtos de hardware em grandes empresas de tecnologia. Ela atuou como executiva de hardware na Meta por mais de dois anos e meio, liderando o projeto de óculos de realidade aumentada com o codinome "Projeto Nazare" e mais tarde oficialmente chamado de "Orion", um produto que Meta chama de "os óculos AR mais avançados já feitos". Em setembro de 2024, Meta demonstrou um protótipo desses óculos AR. Antes de assumir o comando do projeto Orion, ela trabalhou na Oculus da Meta por mais de nove anos, com foco no desenvolvimento de headsets de realidade virtual. Antes disso, ela trabalhou na Apple por quase seis anos, participando do design de produtos MacBook, incluindo modelos Pro e Air.

A saída de Kalinovsky destaca a atração e o desacordo sobre os limites éticos no campo da IA ​​no que diz respeito ao uso militar e civil de dupla utilização, especialmente vigilância e armas autónomas letais. Por um lado, existe uma forte procura de capacidades avançadas de IA por parte das agências de segurança nacionais e, por outro lado, existem preocupações contínuas entre técnicos e empresas sobre a protecção da privacidade, o controlo humano e os riscos da automatização na guerra. À medida que avançam as negociações entre o Departamento de Defesa dos EUA e as principais empresas de IA, conflitos de valores e fluxos de pessoal semelhantes podem continuar a remodelar as rotas técnicas e os limites éticos desta indústria emergente.