Novo relatório do MIT revela custos de energia de ferramentas de IA como ChatGPT

Você provavelmente já ouviu essa estatística que todas as pesquisas no chatgpt usa o equivalente a uma garrafa de água. E embora isso seja tecnicamente verdadeiro, erra algumas das nuances.

O O MIT Technology Review lançou um relatório enorme Isso revela como a indústria de inteligência artificial usa energia – e exatamente quanta energia custa usar um serviço como o ChatGPT.

O relatório determinou que o custo energético de modelos de grande língua, como o ChatGPT, custa entre 114 joules por resposta a 6.706 joules por resposta-essa é a diferença entre executar um microondas por um décimo de segundo para executar um microondas por oito segundos. Os modelos de energia inferior, de acordo com o relatório, usam menos energia porque eles usam menos parâmetros, o que também significa que as respostas tendem a ser menos precisas.

Faz sentido, então, que o vídeo produzido pela AI exige muito mais energia. De acordo com a investigação do relatório de tecnologia do MIT, para criar um vídeo de cinco segundos, um modelo de IA mais recente usa “cerca de 3,4 milhões de joules, mais de 700 vezes a energia necessária para gerar uma imagem de alta qualidade”. Esse é o equivalente a administrar um microondas por mais de uma hora.

Os pesquisadores registraram a quantidade de energia que custaria se alguém, hipoteticamente, fizesse uma AI Chatbot 15 perguntas, pedisse 10 imagens e três vídeos de cinco segundos. A resposta? Aproximadamente 2,9 quilowatt-hora de eletricidade, que equivale a executar um microondas por mais de 3,5 horas.

A investigação também examinou os crescentes custos de energia dos data centers que alimentam a indústria da IA.

O relatório constatou que, antes do advento da IA, o uso de eletricidade dos data centers era em grande parte graças ao aumento da eficiência. No entanto, devido à tecnologia de IA intensiva em energia, a energia consumida pelos data centers nos Estados Unidos dobrou desde 2017. E de acordo com dados do governometade da eletricidade usada pelos data centers será destinada à alimentação de ferramentas de IA até 2028.

Este relatório chega a um momento em que as pessoas estão usando IA generativa para absolutamente tudo. O Google anunciou em seu evento anual de E/S que está se inclinando para a IA com fervor. Pesquisa do Google, Gmail, Docs e Meet estão todos vendo integrações de IA. As pessoas estão usando a IA para liderar entrevistas de emprego, criar modelos DeepFakes of OnlyFans e trapacear na faculdade. E tudo isso, de acordo com este novo relatório aprofundado, tem um custo bastante alto.

Divulgação: Ziff Davis, empresa controladora da Mashable, em abril entrou com uma ação contra o Openai, alegando que ele violou a Ziff Davis Copyrights em treinamento e operação de seus sistemas de IA.