中國(guó)儲(chǔ)能網(wǎng)訊:AI的盡頭是能源?除了行業(yè)應(yīng)用本身外,AI大模型是近兩年能源圈和人工智能行業(yè)最緊密的連接點(diǎn)。2024年12月31日,國(guó)家發(fā)展改革委、國(guó)家數(shù)據(jù)局、工信部聯(lián)合印發(fā)《國(guó)家數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)指引》,提出推進(jìn)算力與綠色電力融合,加強(qiáng)大型風(fēng)光基地和算力樞紐節(jié)點(diǎn)協(xié)同聯(lián)動(dòng),把綠色電力轉(zhuǎn)換成綠色算力。在發(fā)展數(shù)字經(jīng)濟(jì)和碳中和目標(biāo)任務(wù)的雙重驅(qū)動(dòng)下,加強(qiáng)綠色電力和算力的協(xié)同融合發(fā)展,正在從概念走向?qū)嵺`。
結(jié)合當(dāng)前AI大模型的技術(shù)發(fā)展路線,《南方能源觀察》(以下簡(jiǎn)稱“eo”)專訪了香港中文大學(xué)(深圳)理工學(xué)院教授、英國(guó)工程技術(shù)學(xué)會(huì)會(huì)士(IET Fellow)、深圳人工智能與機(jī)器人研究院研究員趙俊華。他認(rèn)為,AI大模型未來(lái)最重要的“戰(zhàn)場(chǎng)”必然是在各行各業(yè),當(dāng)前算力的缺口仍然較大,特別是綠電需求,正在成為核心城市發(fā)展AI產(chǎn)業(yè)面臨的痛點(diǎn),而已有的省內(nèi)和跨省跨區(qū)電力市場(chǎng)、綠證及CCER等機(jī)制與工具值得加強(qiáng)利用,促進(jìn)算力消費(fèi)綠電。
01
AI大模型就像第二次工業(yè)革命的內(nèi)燃機(jī)
eo:自O(shè)penAI和DeepSeek等AI大模型上線后,技術(shù)研發(fā)領(lǐng)域的競(jìng)爭(zhēng)仍在持續(xù)。目前有哪些發(fā)展路徑?
趙俊華:大模型的形成通常有固定步驟。首先是預(yù)訓(xùn)練,這是構(gòu)建底層能力的核心,需要互聯(lián)網(wǎng)公開(kāi)數(shù)據(jù)等組成的海量語(yǔ)料和萬(wàn)卡級(jí)別的超大規(guī)模算力。例如,GPT-4訓(xùn)練成本約為6300萬(wàn)美元,依賴5萬(wàn)張以上高端顯卡。但在基礎(chǔ)底座形成后,數(shù)據(jù)質(zhì)量開(kāi)始遇到瓶頸,一味擴(kuò)大算力規(guī)??赡茉斐傻托畔⒚芏鹊恼Z(yǔ)料降低模型精度。
這個(gè)時(shí)候有三種方法可推進(jìn)迭代:一是“微調(diào)”,這是提升大模型在垂直領(lǐng)域精度的關(guān)鍵。例如,電力調(diào)度場(chǎng)景需要構(gòu)建“問(wèn)題—答案”的配對(duì)語(yǔ)料庫(kù),通過(guò)監(jiān)督微調(diào)優(yōu)化模型。二是“強(qiáng)化學(xué)習(xí)”,依賴獎(jiǎng)勵(lì)模型(Reward Model)模擬人類反饋,即針對(duì)模型給予的回答,用獎(jiǎng)勵(lì)模型來(lái)判斷反饋其回答的質(zhì)量,降低人工標(biāo)注成本。三是推理技術(shù),通過(guò)思維鏈(Chain-of-Thought)、搜索增強(qiáng)(如GPT-4聯(lián)網(wǎng)檢索)等技術(shù),在不調(diào)整模型參數(shù)的前提下提升推理能力,成本僅為預(yù)訓(xùn)練的1/100。
目前我們可以看到的開(kāi)源模型技術(shù)突破包括以下幾種:以DeepSeek(670億參數(shù))為代表的模型采用混合專家架構(gòu)(MoE),可以把訓(xùn)練效率提升10倍;低精度浮點(diǎn)運(yùn)算(FP16/FP8)優(yōu)化顯存占用,使千億級(jí)模型可在千卡集群運(yùn)行;通義千問(wèn)等通過(guò)算法優(yōu)化,將訓(xùn)練成本從百億級(jí)壓縮至十億級(jí),推動(dòng)行業(yè)應(yīng)用落地。
個(gè)人預(yù)計(jì),短期內(nèi),技術(shù)突破會(huì)集中在小樣本微調(diào)和輕量化推理,如模型蒸餾,而不是參數(shù)規(guī)模的擴(kuò)張。長(zhǎng)期來(lái)看,需要突破Transformer架構(gòu)的限制,探索類腦計(jì)算、脈沖神經(jīng)網(wǎng)絡(luò)等新范式。
AI就像第二次工業(yè)革命時(shí)期的內(nèi)燃機(jī),只有投入實(shí)際使用,才能產(chǎn)生效益。因此,大模型加入一個(gè)完整的系統(tǒng),結(jié)合智能體在各個(gè)行業(yè)落地,是必然趨勢(shì)。
02
算力總體緊缺,電算協(xié)同仍處于初級(jí)階段
eo:我們可否推測(cè),大模型算力需求增量可能將從訓(xùn)練轉(zhuǎn)向推理?
趙俊華:從訓(xùn)練側(cè)看,按目前國(guó)外用得比較多的英偉達(dá)A100來(lái)估算,單卡功率為400瓦,1萬(wàn)張的日能耗約為96兆瓦時(shí),數(shù)據(jù)中心PUE1.5測(cè)算,單日預(yù)訓(xùn)練算力需求約為15萬(wàn)千瓦時(shí),行業(yè)應(yīng)用還會(huì)導(dǎo)致訓(xùn)練頻次增加,總需求仍然會(huì)攀升。而推理側(cè)將成為耗能主力,但尚未測(cè)算出權(quán)威可信的具體數(shù)據(jù)。
eo:您如何看待美國(guó)科技公司為了支撐大模型發(fā)展和應(yīng)用,與能源新創(chuàng)公司聯(lián)手開(kāi)發(fā)核電?
趙俊華:個(gè)人認(rèn)為這是由于美國(guó)電網(wǎng)本身不夠強(qiáng)大,在基礎(chǔ)設(shè)施方面遠(yuǎn)不如中國(guó),需要借助核電提供比較穩(wěn)定的電力供應(yīng)。如果大電網(wǎng)足夠強(qiáng)大、穩(wěn)定、便宜,沒(méi)必要單獨(dú)“綁定”電源直供,而且目前核電技術(shù)和成本并沒(méi)有新的重大突破,聯(lián)手開(kāi)發(fā)核電可能只是迫不得已的選擇。
eo:早在大模型“火”起來(lái)之前,國(guó)內(nèi)就提到“電力—算力協(xié)同”,現(xiàn)在如何理解它?
趙俊華:我們主要的能源資源在西部,產(chǎn)業(yè)和算力需求主要在東部。站在AI需求的角度講,實(shí)時(shí)性要求不高的一部分算力確實(shí)是可以移動(dòng)到西部的,比如,訓(xùn)練模型的網(wǎng)絡(luò)通信時(shí)延容忍度較高,大于100毫秒,可以在西部部署算力。但具體的行業(yè)應(yīng)用有不同的算力需求,例如,金融交易對(duì)時(shí)延的容忍度很低,小于1毫秒,就需要在東部部署算力。
華北電力大學(xué)和阿里云合作的項(xiàng)目已經(jīng)試點(diǎn)了“算力負(fù)載遷移”,在京津唐電網(wǎng)夏季高峰時(shí)段,將非緊急任務(wù)遷移至張家口數(shù)據(jù)中心,降低東部峰值負(fù)荷5%—10%,同時(shí)提高了綠電占比。寧夏風(fēng)電光伏直供數(shù)據(jù)中心通過(guò)“儲(chǔ)能+算力”動(dòng)態(tài)調(diào)節(jié),提高了新能源利用率。
不過(guò),總體來(lái)說(shuō),電算協(xié)同還停留在初級(jí)階段,根本原因在于,算力無(wú)論在哪個(gè)應(yīng)用領(lǐng)域都仍處于緊缺狀態(tài),可調(diào)節(jié)的空間十分有限。算力供給從短缺進(jìn)入整體過(guò)剩的階段后,調(diào)節(jié)的空間就會(huì)變大。
03
需打通現(xiàn)有機(jī)制,支持高載能產(chǎn)業(yè)發(fā)展
eo:國(guó)家加速推進(jìn)經(jīng)濟(jì)社會(huì)綠色發(fā)展,對(duì)電解鋁等高耗能行業(yè)提出了強(qiáng)制使用綠電的要求,數(shù)據(jù)中心對(duì)綠電的需求越發(fā)迫切。您認(rèn)為在這方面,數(shù)據(jù)中心面臨哪些瓶頸?
趙俊華:像“北上廣深”這樣的核心城市,要新建一個(gè)數(shù)據(jù)中心特別難,原因除土地資源稀缺之外,更重要的是能耗指標(biāo)稀缺。2024年,國(guó)務(wù)院辦公廳印發(fā)《加快構(gòu)建碳排放雙控制度體系工作方案》,“十五五”時(shí)期,碳排放總量和強(qiáng)度將代替能耗總量和強(qiáng)度作為國(guó)民經(jīng)濟(jì)和發(fā)展的約束性指標(biāo)。碳排放“雙控”政策有望于今年在各地落地。
對(duì)數(shù)據(jù)中心來(lái)說(shuō),這意味著提升綠電使用比例成為其落地建設(shè)的決定性因素。部分省區(qū),如江蘇、山東等,綜合考慮歐盟電池法案等國(guó)際貿(mào)易約束條件和國(guó)內(nèi)當(dāng)前的能耗約束,先后出臺(tái)綠電直連政策,但綠電直連面臨物理、經(jīng)濟(jì)和權(quán)責(zé)等諸多方面的挑戰(zhàn),推進(jìn)起來(lái)難度不小。
從實(shí)現(xiàn)國(guó)內(nèi)經(jīng)濟(jì)社會(huì)綠色發(fā)展目標(biāo)來(lái)看,我們不應(yīng)該局限于歐盟的思路,而需著眼于轉(zhuǎn)化、銜接、推廣已有的工具。相比于綠電直連,跨省跨區(qū)或者省內(nèi)綠電交易、強(qiáng)制配額或者CCER、綠證交易等一系列機(jī)制應(yīng)用來(lái)支撐高載能負(fù)荷發(fā)展,試錯(cuò)成本更低,像深圳等本地新能源資源相對(duì)匱乏的城市正在高度關(guān)注其可行性。