中國儲(chǔ)能網(wǎng)訊:最近《紐約客》報(bào)道,ChatGPT 每日耗電量或超過 50 萬千瓦時(shí),相當(dāng)于美國家庭平均用電量的 1.7 萬倍。埃隆·馬斯克也曾預(yù)言,未來兩年內(nèi)電能短缺將成為制約 AI 發(fā)展的主要因素。然而,事實(shí)真的是這樣嗎?
目前關(guān)于 AI 耗電量的觀點(diǎn)主要源自估算結(jié)果,而非真實(shí)的測(cè)量數(shù)據(jù)。美國信息技術(shù)與創(chuàng)新基金會(huì)(ITIF)發(fā)布的報(bào)告認(rèn)為,個(gè)別不準(zhǔn)確的研究大大高估了 AI 的能耗,這樣的言論可能對(duì) AI 發(fā)展造成不利影響,阻礙 AI 在促進(jìn)節(jié)能減排、應(yīng)對(duì)環(huán)境挑戰(zhàn)方面發(fā)揮潛力。業(yè)界人士呼吁,應(yīng)當(dāng)促進(jìn)行業(yè)信息透明,同時(shí)減少 AI 技術(shù)的濫用。
AI 能耗評(píng)估難題:影響因素眾多
ITIF 是一家非營利智庫,總部位于美國華盛頓。在這份題為《重新審視對(duì)人工智能能耗的擔(dān)憂》的報(bào)告中,ITIF 指出,不同 AI 模型的能耗和碳排放存在巨大差異,受到諸多因素的影響,包括芯片設(shè)計(jì)、冷卻系統(tǒng)、數(shù)據(jù)中心設(shè)計(jì)、軟件技術(shù)、工作負(fù)擔(dān)、電能來源等。
所以,在估算 AI 的能耗方面,不同研究的結(jié)論出現(xiàn)了較大分歧。2019 年馬薩諸塞大學(xué)阿默斯特分校團(tuán)隊(duì)發(fā)布的一項(xiàng)預(yù)印本研究估算,當(dāng)時(shí)領(lǐng)先的谷歌公司大語言模型 BERT 在 79 小時(shí)的訓(xùn)練過程中排放了約 1438 磅二氧化碳(約合 652 千克),量級(jí)相當(dāng)于一名乘客乘坐飛機(jī)往返于紐約和舊金山一次。研究也對(duì) AI 神經(jīng)架構(gòu)搜索(NAS)等技術(shù)得出了類似結(jié)論。這篇論文在谷歌學(xué)術(shù)被引用接近 3000 次,并得到了大量媒體報(bào)道。
然而,從事 AI 研發(fā)的企業(yè)和機(jī)構(gòu)得出了截然不同的分析結(jié)論。2021 年,谷歌公司與加州大學(xué)伯克利分校發(fā)布一項(xiàng)預(yù)印本研究認(rèn)為,前述研究將谷歌的 AI 碳排放數(shù)值高估了 88 倍。但是這項(xiàng)研究得到的關(guān)注遠(yuǎn)不如前者,被引數(shù)僅有 500 左右。
由于媒體和公眾關(guān)注負(fù)面信息的傾向,結(jié)論驚人的研究更容易得到傳播??萍夹袠I(yè)名人的言行也在放大“ AI 能耗巨大”的信息,馬斯克曾預(yù)言“制約 AI 發(fā)展的因素將由‘缺硅’變成‘缺電’”;Open AI CEO 薩姆·阿爾特曼也表示 AI 將消耗更多電力,并高調(diào)投資核聚變。
從全生命周期視角評(píng)估 AI 能耗
ITIF 報(bào)告指出,目前許多研究和政策都關(guān)注 AI 訓(xùn)練(training)階段,但多項(xiàng)研究表明 AI 在推理(inference)過程中,也即人們使用 AI 輸出結(jié)果的過程能耗更高。此外,不同 AI 模型處理不同類型的推理任務(wù),能耗的差異也很大。例如 1000 次請(qǐng)求計(jì)算,圖片分類任務(wù)的耗電量是 0.007 千瓦時(shí),而圖片生成任務(wù)耗電 2.907 千瓦時(shí)。
報(bào)告作者指出,AI 的訓(xùn)練是一次性事件,而它的使用是長(zhǎng)期過程,討論 AI 能耗問題時(shí)應(yīng)該關(guān)注的不是爆發(fā)式增長(zhǎng),而是長(zhǎng)期的影響。并且,從技術(shù)史的視角看來,AI 及其能耗的增長(zhǎng)還將受到以下 4 個(gè)因素的限制:
1.基礎(chǔ)設(shè)施建設(shè)成本將制約 AI 的快速增長(zhǎng)
“ChatGPT 每日耗電量或超過 50 萬千瓦時(shí)”的結(jié)論,出自技術(shù)博客 Digiconomist 作者亞歷克斯·德·弗里斯(Alex de Vries)的估算。德·弗里斯還曾預(yù)測(cè),在最糟糕的情況下,谷歌的 AI 用電量將與整個(gè)愛爾蘭相當(dāng),達(dá)到每年 29.3 TWh(太瓦時(shí))。但他同時(shí)也指出,要想達(dá)到這樣的規(guī)模,谷歌需要在芯片上投入 1000 億美元,此外還要數(shù)據(jù)中心的運(yùn)營和電費(fèi)投入數(shù)十億美元。如果AI的運(yùn)營成本居高不下,逐利的商業(yè)公司自然會(huì)放慢腳步,減少投入。
2.AI 性能增長(zhǎng)存在邊際效應(yīng)
近年來 AI 連續(xù)在許多領(lǐng)域取得了突破性進(jìn)展,這也意味著它可能很快迎來一個(gè)瓶頸期。研發(fā)、運(yùn)營更大的模型帶來的回報(bào)將越來越低,在提升準(zhǔn)確性上精益求精也將變得更困難。所以,優(yōu)化 AI 模型可能是接下來的研發(fā)方向。
3.軟件和硬件的性能提升將減少 AI 能耗
AI 模型的優(yōu)化,以及硬件技術(shù)的進(jìn)步,都有望減少 AI 的能耗。一項(xiàng)發(fā)表于《科學(xué)》期刊的研究指出,在 2010~2018 年間,全球數(shù)據(jù)中心的運(yùn)算量增長(zhǎng)了 550%,存儲(chǔ)空間增長(zhǎng)了 2400%,但耗電量?jī)H增長(zhǎng) 6%。硬件、虛擬技術(shù)和數(shù)據(jù)中心設(shè)計(jì)方面的創(chuàng)新提升了能效,也使得云計(jì)算的規(guī)模化成為可能。
同樣,剪枝(pruning)、量化(quantization)、蒸餾(distillation)等技術(shù)有望帶來更好的算法,讓 AI 模型更快、更節(jié)能。谷歌公司和加州大學(xué)伯克利分校研究團(tuán)隊(duì)指出,有賴于各項(xiàng)技術(shù)進(jìn)步,近年來在谷歌公司內(nèi)部 AI 的能耗占比保持穩(wěn)定,盡管機(jī)器學(xué)習(xí)增長(zhǎng)到運(yùn)算量的 70%~80%。
4.AI 的應(yīng)用最終將在某些方面減少碳排放
整體上,當(dāng)人們用電子郵件替代傳統(tǒng)書信,用觀看 DVD 或流媒體頻道替代去電影院看電影,這些活動(dòng)的數(shù)字化都減少了碳排放。AI 有望在這方面繼續(xù)發(fā)揮作用,例如通過改進(jìn)視頻通話體驗(yàn),使更多的會(huì)議轉(zhuǎn)向遠(yuǎn)程進(jìn)行。此外,AI 技術(shù)還可用于進(jìn)行電網(wǎng)調(diào)度、分析氣候數(shù)據(jù),從而成為應(yīng)對(duì)氣候變化的助力。
準(zhǔn)確評(píng)估 AI 能耗 促進(jìn)領(lǐng)域健康發(fā)展
從歷史的角度看,關(guān)于 AI 碳排放的擔(dān)憂并不新鮮。90 年代曾有人預(yù)測(cè),未來發(fā)電量的一半將用于滿足互聯(lián)網(wǎng)活動(dòng);在流媒體出現(xiàn)的時(shí)候,同樣有人提出類似觀點(diǎn)。如今我們知道,這些擔(dān)憂都并未成為現(xiàn)實(shí)。ITIF 報(bào)告認(rèn)為,如果沒有完全理解 AI 能耗問題就急于進(jìn)行管控,可能會(huì)阻礙 AI 的性能提升,限制其發(fā)展?jié)摿?。例如,?AI 消除偏見和仇恨言論、避免輸出有害信息,都需要進(jìn)行更多的推斷,從而提升能耗。
報(bào)告建議,應(yīng)對(duì)大眾關(guān)于 AI 能耗問題的擔(dān)憂,決策者應(yīng)當(dāng):
① 制定相應(yīng)標(biāo)準(zhǔn),使 AI 模型能耗公開透明;
② 鼓勵(lì)業(yè)界主動(dòng)公開 AI 模型能耗信息,以便公眾進(jìn)行知情選擇;
③ 考慮 AI 法規(guī)對(duì)能源使用的意外后果;
④ 利用 AI 實(shí)現(xiàn)政府運(yùn)作的低碳化。
一些機(jī)構(gòu)已經(jīng)在推動(dòng) AI 的信息公開。2023 年 12 月,歐盟通過《人工智能法案》,這是全球首部 AI 監(jiān)管法案。法案督促 AI 開發(fā)者致力于使模型高能效、可持續(xù),并要求進(jìn)行相應(yīng)的信息公開。
德·弗里斯同樣呼吁進(jìn)行信息公開,同時(shí)他希望及時(shí)限制 AI 的發(fā)展,就像限制加密貨幣技術(shù)一樣。數(shù)字經(jīng)濟(jì)學(xué)家(Digiconomist)博客指出:“ AI和先前的區(qū)塊鏈等新興技術(shù)的發(fā)展,伴隨著大量的狂熱和錯(cuò)失恐懼(FOMO),這通常會(huì)催生對(duì)終端用戶沒什么益處的應(yīng)用 ?!?
而在《紐約客》報(bào)道中,著名科學(xué)記者伊麗莎白·科爾伯特(Elizabeth Kolbert)的原話是:“每當(dāng) ChatGPT 吐出信息(或給某人寫高中作文),都需要進(jìn)行大量運(yùn)算。據(jù)估計(jì),ChatGPT 每天要響應(yīng)約 2 億次請(qǐng)求,同時(shí)消耗超過 50 萬千瓦時(shí)電力?!币簿褪钦f,要應(yīng)對(duì) AI 能耗危機(jī),或許可以從限制使用 AI 寫作業(yè)開始。