O custo de construção de um produto de IA como o ChatGPT é difícil de medir. A tecnologia OpenAI apoiada pela Microsoft requer grandes quantidades de água, provenientes das bacias dos rios Raccoon e Des Moines, no centro de Iowa, para arrefecer um poderoso supercomputador que ajuda o seu sistema de inteligência artificial a aprender como imitar a escrita humana.

À medida que os principais desenvolvedores de tecnologia, como Microsoft, OpenAI e Google, correm para capitalizar o boom generativo da IA, eles também reconhecem que a crescente demanda por suas ferramentas de IA acarretará custos elevados, desde semicondutores caros até o aumento do consumo de água.

Mas eles tendem a manter os detalhes em segredo. Poucas pessoas em Iowa sabiam que era o berço do modelo de linguagem de grande escala mais avançado da OpenAI, o GPT-4, até que um executivo da Microsoft disse em uma apresentação que o modelo foi “literalmente desenvolvido próximo a um milharal a oeste de Des Moines”.

A construção de modelos de linguagem em grande escala requer a análise dos padrões de grandes quantidades de texto escrito por humanos. Todos esses cálculos consomem muita eletricidade e geram muito calor. Para se refrescarem em dias quentes, os data centers bombeiam água, geralmente para torres de resfriamento fora de edifícios do tamanho de armazéns.

A Microsoft divulgou em seu último relatório ambiental que seu consumo global de água aumentou 34% de 2021 a 2022 (para quase 1,7 bilhão de galões, ou mais de 2.500 piscinas olímpicas), um aumento acentuado em comparação com anos anteriores que pesquisadores externos acreditam estar relacionado à pesquisa de inteligência artificial da Microsoft.

Shaolei Ren, pesquisador da Universidade da Califórnia, Riverside, disse: "Pode-se dizer que a maior parte do aumento no consumo de água é causada pela inteligência artificial, incluindo seu grande investimento em inteligência artificial generativa. financiamento e colaboração com OpenAI. "

Em um artigo que será lançado ainda este ano, a equipe de Ren Shaolei estima que o ChatGPT bebe 500 mililitros de água (quase a capacidade de uma garrafa de água de 16 onças) cada vez que você faz de 5 a 50 perguntas ou perguntas. Esse intervalo varia dependendo da localização e da temporada do servidor. A estimativa também inclui o uso indireto de água que a empresa não mede, como o resfriamento das usinas que alimentam os data centers.

“A maioria das pessoas não entende o uso de recursos do ChatGPT”, disse Ren. “Se você não sabe como os recursos estão sendo usados, não há como ajudá-lo a economizar recursos.”

O consumo de água do Google aumentou 20% durante o mesmo período, o que Ren também atribuiu principalmente ao trabalho de inteligência artificial. O crescimento do uso de água no Google tem sido desigual – permaneceu estável em Oregon, um estado onde o uso de água atraiu a atenção do público, enquanto dobrou fora de Las Vegas. Em Iowa, as instalações do Google também têm sede de água, com o data center de Council Bluffs consumindo mais água potável do que qualquer outro lugar.

Em resposta a perguntas da Associated Press, a Microsoft disse em comunicado esta semana que estava investindo em pesquisas para medir a pegada energética e de carbono da inteligência artificial “enquanto procurava como tornar grandes sistemas mais eficientes no treinamento e na aplicação”.

“Continuaremos monitorando nossas emissões e acelerando o progresso enquanto aumentamos o uso de energia limpa para abastecer data centers, comprando energia renovável e fazendo outros esforços para atingir nossas metas de sustentabilidade de emissões negativas de carbono, emissões positivas de água e desperdício zero até 2030”, disse o comunicado da empresa.

OpenAI ecoou o sentimento em seu próprio comunicado na sexta-feira, dizendo que estava “pensando seriamente” sobre como utilizar melhor o poder da computação. “Reconhecemos que o treinamento de grandes modelos pode consumir muita energia e água” e estamos trabalhando para melhorar a eficiência, afirmou.

A Microsoft investiu pela primeira vez US$ 1 bilhão na OpenAI, com sede em São Francisco, em 2019, mais de dois anos depois que a startup lançou o ChatGPT e despertou a atenção global para os avanços na inteligência artificial. Como parte do acordo, a gigante do software fornecerá o poder computacional necessário para treinar modelos de inteligência artificial.

Para realizar pelo menos parte desse trabalho, as duas empresas estão de olho em West Des Moines, Iowa, uma cidade de 68.000 habitantes que abriga data centers para os serviços de computação em nuvem da Microsoft há mais de uma década. O quarto e o quinto data centers da Microsoft serão inaugurados aqui ainda este ano.

Steve Gaer disse: “Eles estão construindo esses data centers o mais rápido que podem”. O que atraiu a empresa foi o compromisso da cidade em construir infra-estruturas públicas e em contribuir com uma quantia “incrível” de dinheiro através de impostos para apoiar o investimento. “Mas, você sabe, eles são bastante reservados sobre o que estão fazendo lá”, acrescentou.

Microsoft diz pela primeira vez que está desenvolvendo o supercomputador mais poderoso do mundo para o OpenAI de 2020 A empresa se recusou a revelar sua localização na época, mas o descreveu como um “sistema único” com mais de 285.000 núcleos semicondutores tradicionais e 10.000 processadores gráficos – o tipo de chips que se tornaram a chave para a inteligência artificial cargas de trabalho.

Especialistas dizem que faz sentido “pré-treinar” modelos de IA em um único local devido às grandes quantidades de dados que precisam ser transferidos entre núcleos de computação.

Somente no final de maio o presidente da Microsoft, Brad Smith, revelou que a Microsoft havia estabelecido um “data center avançado de supercomputação de inteligência artificial” em Iowa especificamente para a OpenAI treinar seu modelo de quarta geração GPT-4. O modelo agora alimenta uma versão avançada do ChatGPT e alguns dos próprios produtos da Microsoft, e acelerou as discussões sobre como reduzir os riscos da inteligência artificial para a sociedade. É feito por engenheiros extraordinários na Califórnia, mas na verdade é feito em Iowa.

Até certo ponto, West Des Moines é um lugar relativamente eficiente para treinar poderosos sistemas de inteligência artificial, especialmente em comparação com o data center da Microsoft no Arizona, que consome muito mais água para as mesmas necessidades de computação.

“Portanto, se você estiver desenvolvendo um modelo de IA na Microsoft, deverá agendar o treinamento em Iowa, não no Arizona”, disse Ren. “Não há diferença em termos de treino. Mas em termos de consumo de água ou de energia, a diferença é enorme.”

Com o clima frio em Iowa durante a maior parte do ano, a Microsoft pode usar o ar externo para manter os supercomputadores funcionando e para retirar o calor do prédio. A Microsoft só retirará água quando a temperatura ultrapassar 29,3 graus Celsius (cerca de 85 graus Fahrenheit), disse a empresa em um documento divulgado publicamente.

Isso ainda consome muita água, principalmente no verão. Em julho de 2022, um mês antes da OpenAI anunciar que concluiu o treinamento em GPT-4, a Microsoft bombeou cerca de 11,5 milhões de galões de água em seu cluster de data center em Iowa, de acordo com West Des Moines WaterWorks. Isso representa aproximadamente 6% do consumo total de água da região, que também fornece água potável aos moradores da cidade.

Em 2022, um documento da West Des Moines Water Works dizia que se os projetos de data center da Microsoft puderem "demonstrar e implementar tecnologia que reduza significativamente o pico de uso de água nos níveis atuais" para proteger o abastecimento de água residencial e outro comercial, a West Des Moines Water Works e a cidade "considerarão esses projetos".

A Microsoft disse na quinta-feira que estava trabalhando diretamente com a Autoridade de Água para resolver as preocupações relatadas. A estação de tratamento de água disse em comunicado por escrito que a Microsoft tem sido uma grande parceira e tem trabalhado com autoridades locais para reduzir sua pegada hídrica e, ao mesmo tempo, atender às necessidades de água.