A IA está deixando os data centers sedentos
O boom da inteligência artificial não está apenas pressionando o uso de energia dos data centers, mas também os forçando a consumir milhões de galões de água adicionais.
O poder computacional por trás de tecnologias generativas de IA, como ChatGPT e Bard do Google, está ajudando a aumentar o já significativo uso de água pela indústria de data centers. Apenas cinco consultas ao ChatGPT podem resultar no consumo de cerca de 16 onças de água, segundo um estudo da Universidade da Califórnia, em Riverside, o mesmo que uma garrafa padrão de Dasani.
Mas mesmo que a IA se torne uma parte maior do ecossistema dos centros de dados, os especialistas dizem que existe um caminho realista para moderar a sede crescente da indústria e o impacto potencial nas regiões sensíveis à água.
“Isso é algo em que as organizações precisam pensar agora. Eles percebem que não se pode simplesmente fazer uma lavagem verde completa e esquecer de ser eficiente”, disse Bill Kleyman, executivo de longa data de data center que faz parte do conselho da startup de infraestrutura de IA Neu.ro. “Existem algumas boas opções para ser eficiente.”
Mesmo antes do advento da IA ​​generativa, o consumo massivo de água pelos data centers era um dos desafios de sustentabilidade mais proeminentes que a indústria enfrentava.
Data halls repletos de milhares de processadores e equipamentos de rede que produzem calor precisam ser resfriados. Isso pode ser feito de várias maneiras, mas o processo normalmente envolve o chamado resfriamento evaporativo, que utiliza milhões de galões de água em todos os data centers mais novos, exceto em alguns. Em 2022, o Google consumiu mais de 5,2 bilhões de galões de água para resfriar seus data centers autônomos – um total que a empresa estima ser equivalente à operação de 34 campos de golfe durante o mesmo período.
O equipamento de TI que suporta IA generativa necessita frequentemente de um consumo de água ainda maior em comparação com os servidores tradicionais que estão alojados em centros de dados há anos. Isso ocorre porque os servidores de alto desempenho usados ​​para computação de IA usam significativamente mais energia e, portanto, produzem significativamente mais calor.
“Como a IA geralmente tem uma densidade de energia muito maior, seria necessário mais resfriamento para o mesmo espaço”, disse Shaolei Ren, professor de engenharia elétrica e de computação na UC Riverside e principal autor do estudo. “Se considerarmos a pegada hídrica mais ampla, ela é ainda maior porque a geração de eletricidade requer água.”
Ren disse que a água usada pelas usinas de energia que produzem os megawatts de energia que a IA exige deve ser incluída na avaliação do consumo de água da IA.
De acordo com Kleyman, embora a eletricidade necessária para uma pesquisa padrão no Google possa alimentar uma lâmpada de 100 watts por 11 segundos, a energia usada pelo ChatGPT para responder a uma única pergunta poderia carregar um celular mais de uma dúzia de vezes. Hoje, a maior parte desta energia provém de fontes de energia não renováveis ​​que consomem grandes quantidades de água para refrigeração.
Essa pegada hídrica externa geralmente excede a água usada no próprio data center. De acordo com o estudo da UC Riverside, embora o treinamento do ChatGPT-3 nos data centers da Microsoft consumisse diretamente 700.000 litros de água doce, ele foi responsável por uma pegada hídrica externa de 2,8 milhões de litros devido ao seu consumo de energia.
Embora a IA generativa represente atualmente uma pequena fração das cargas de trabalho dos data centers, a tecnologia está ainda na sua infância. Espera-se que o papel da IA ​​no espaço dos data centers cresça dramaticamente, com os hiperscaladores já construindo e alugando nova capacidade o mais rápido possível para dar suporte a aplicações de IA que são cada vez mais centrais para seus negócios.
Embora não existam dados fiáveis ​​sobre a percentagem da utilização global de água da indústria dos centros de dados que pode ser atribuída especificamente às aplicações de IA, Ren disse que estas desempenham um papel desproporcional e crescente nos números de utilização comunicados por gigantes da tecnologia como a Microsoft e a Google.
“Acho que a IA generativa é certamente um grande contribuidor”, disse Ren. “A taxa de crescimento da IA ​​generativa é definitivamente maior do que a de outros serviços regulares que existiam no passado.”
Mas mesmo no meio deste crescimento, uma crise hídrica impulsionada pela IA não é uma inevitabilidade, afirmam especialistas do setor. Embora a maioria tenha enfatizado a necessidade de maior urgência, alguns hiperscaladores de Big Tech e fornecedores terceirizados de data centers deram os primeiros passos em direção a um uso mais eficiente da água para a computação de IA.
No campus do data center de Des Moines, Iowa, onde a Microsoft treinou o ChatGPT, o uso de água despencou, com seu uso de janeiro a julho caindo 20% ano a ano e 43% em relação aos mesmos meses de 2021, de acordo com dados de a concessionária de água local. Esta grande melhoria na eficiência foi provavelmente o resultado de uma mudança simples, de acordo com Ren: ajustar as diretrizes operacionais para aumentar a temperatura na qual o resfriamento evaporativo é usado.
A Microsoft se recusou a responder perguntas sobre seu data center em Iowa, mas a empresa forneceu uma declaração a Bisnow sobre seus esforços de eficiência.
“Como parte do nosso compromisso de criar um futuro mais sustentável, a Microsoft está investindo em pesquisas para medir o uso de energia e o impacto de carbono da IA, enquanto trabalha em maneiras de tornar os grandes sistemas mais eficientes, tanto no treinamento quanto na aplicação”, diz o comunicado da Microsoft. “Continuaremos monitorando nossas emissões, acelerando o progresso e aumentando ao mesmo tempo nosso uso de energia limpa para abastecer datacenters, comprando energia renovável e outros esforços para cumprir nossas metas de sustentabilidade de ser negativo em carbono, positivo em água e desperdício zero até 2030”.
Em outros lugares, fornecedores terceirizados de data centers, como a Nautilus Data Technologies, estão adotando abordagens inovadoras de resfriamento para melhorar a eficiência hídrica, desde data centers flutuantes e instalações que usam água naturalmente fria de rios e oceanos até a utilização de “água cinza” residual.
Embora essas abordagens dispersas ofereçam ferramentas potenciais para mitigar o aumento do uso de água, os autores do estudo da UC Riverside argumentam que a mitigação significativa do consumo de água exigirá que hiperscaladores, fornecedores terceirizados de data centers e seus clientes priorizem a sustentabilidade quando se trata de onde e quando. eles executam as cargas de trabalho de IA que consomem mais energia.
Isso significa evitar o treinamento de modelos de IA em lugares como Phoenix, onde os recursos hídricos são escassos e onde as altas temperaturas exigem um resfriamento com uso mais intensivo de água do que em climas mais frios. Como a latência e a conectividade de rede são de pouca importância para o treinamento em IA, as enormes tarefas de computação podem ser executadas em locais com resfriamento eficiente e alimentadas por energia limpa.
“É intensivo em computação, mas não é sensível à latência, então você pode treiná-lo no meio de Idaho ou Nebraska e ser supereficiente”, disse Kleyman. “Isso é algo que estamos absolutamente fazendo.”
Não se trata apenas da localização: o tempo também é importante. Especialistas disseram que as empresas que treinam modelos de IA poderiam reduzir significativamente a quantidade de água necessária para resfriamento, executando apenas cargas de trabalho de treinamento durante os meses mais frios ou à noite. O consumo de água fora do local também pode ser limitado evitando-se a formação durante períodos de elevada procura de energia, quando as redes eléctricas normalmente têm uma percentagem menor de energia proveniente de fontes renováveis.
“Para a geração de eletricidade, o mix de combustíveis muda dependendo da demanda”, disse Ren. “Se houver uma mistura maior de energia térmica, nuclear ou hidrelétrica, o consumo de água para geração provavelmente também será maior.”
Neu.ro empregou esse conceito, segundo Kleyman. A plataforma da empresa oferece um “agendador verde” que ajuda os usuários a localizar e cronometrar cargas de trabalho com base em critérios de sustentabilidade. O Google também experimentou essa abordagem em pequena escala, implementando um programa piloto de gerenciamento de computação inteligente de carbono que ajustou o agendamento de tarefas flexíveis, como treinamento em IA, com base em fatores de sustentabilidade.
Mas embora essas ferramentas existam, elas não são difundidas. Isso pode ter que mudar à medida que a corrida armamentista da IA ​​continua.
“Acho que nos próximos cinco a 10 anos veremos uma maior adoção dessas tecnologias em mais empresas maiores”, disse Ren.