中國(guó)儲(chǔ)能網(wǎng)訊：算力集群Scaling Law（尺度規(guī)律）還奏效嗎？萬(wàn)卡級(jí)智算集群還是全球AI大模型競(jìng)爭(zhēng)的“入場(chǎng)券”嗎？十萬(wàn)卡智算集群仍然是算力備戰(zhàn)的目標(biāo)嗎？
今年年初，DeepSeek-V3訓(xùn)練只使用了2048張H800GPU的消息傳出，就像一顆核彈，給長(zhǎng)期信奉規(guī)模取勝的智能算力市場(chǎng)帶來(lái)了不小的震撼。智算行業(yè)曾經(jīng)堅(jiān)信的尺度規(guī)律——智算集群規(guī)模將沿著千卡、萬(wàn)卡、十萬(wàn)卡順序部署的路線發(fā)展，也因此產(chǎn)生了動(dòng)搖。幾個(gè)月過(guò)去，記者發(fā)現(xiàn)，DeepSeek的出現(xiàn)的確給算力芯片市場(chǎng)帶來(lái)了不小的變化，但業(yè)界對(duì)尺度規(guī)律的認(rèn)可度仍然堅(jiān)挺。
推理算力市場(chǎng)迎激增
毫無(wú)疑問(wèn)，DeepSeek給推理芯片和推理算力市場(chǎng)注入了一針強(qiáng)心劑。
某業(yè)內(nèi)人士表示，2024年，多地建設(shè)的智算中心普遍存在空置的現(xiàn)象。但在DeepSeek發(fā)布后，各地算力中心資源的利用率實(shí)現(xiàn)了大幅提升。
中國(guó)人工智能服務(wù)器工作負(fù)載預(yù)測(cè)（2024—2028年）
來(lái)源：2025 中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告
市場(chǎng)分析機(jī)構(gòu)發(fā)布的數(shù)據(jù)顯示，中國(guó)人工智能服務(wù)器工作負(fù)載中，推理算力的占比將在未來(lái)幾年大幅增長(zhǎng)，預(yù)計(jì)到2028年中國(guó)推理算力的市場(chǎng)份額將從2024年的65%增長(zhǎng)到73%。
浪潮高級(jí)副總裁劉軍也表示：“在DeepSeek發(fā)布后，推理算力的需求量正在迅速超過(guò)訓(xùn)練算力，市場(chǎng)結(jié)構(gòu)發(fā)生了根本性變化?！?/span>
感受到市場(chǎng)需求的牽引，多家國(guó)產(chǎn)算力芯片公司今年將業(yè)務(wù)發(fā)展重點(diǎn)放在了推理領(lǐng)域。例如，今年2月，燧原科技宣布其慶陽(yáng)智算中心部署的萬(wàn)卡集群為美圖AI推理業(yè)務(wù)提供算力；今年3月，沐曦科技宣布聯(lián)合清華大學(xué)KVCache.AI團(tuán)隊(duì)加速DeepSeek滿血版單卡C500異構(gòu)推理等。
但截至目前，推理市場(chǎng)實(shí)際上并不存在對(duì)“真萬(wàn)卡集群”的剛需。根據(jù)阿里研究院副院長(zhǎng)安筱鵬的理解，只有一萬(wàn)張AI加速卡部署在同一個(gè)數(shù)據(jù)中心，并且能通過(guò)大規(guī)模資源調(diào)度技術(shù)，讓萬(wàn)卡作為“一臺(tái)”計(jì)算機(jī)，支持單一模型在一萬(wàn)張卡上同時(shí)進(jìn)行訓(xùn)練，才能被認(rèn)為是“真萬(wàn)卡集群”。但推理任務(wù)更多是通過(guò)分布式實(shí)現(xiàn)的，其算力規(guī)模需求遠(yuǎn)低于萬(wàn)卡。
萬(wàn)卡集群跟不上大模型腳步？
“大模型本地部署有望成為國(guó)產(chǎn)算力芯片的重要增長(zhǎng)拉動(dòng)力。” 聯(lián)通元景大模型負(fù)責(zé)人在接受《中國(guó)電子報(bào)》記者采訪時(shí)如是說(shuō)。
DeepSeek之所以能撬動(dòng)巨大的推理算力市場(chǎng)，本質(zhì)上得益于其底層基礎(chǔ)模型V3的高質(zhì)量訓(xùn)練。而強(qiáng)大的算力，是支撐該模型乃至后續(xù)其他模型迭代的基礎(chǔ)。
聯(lián)通云相關(guān)負(fù)責(zé)人介紹，大模型參數(shù)規(guī)模從千億級(jí)邁向萬(wàn)億級(jí)，訓(xùn)練數(shù)據(jù)量也呈指數(shù)級(jí)增長(zhǎng)。大規(guī)模訓(xùn)練集群能夠通過(guò)并行計(jì)算和分布式處理，顯著縮短訓(xùn)練周期，為模型快速迭代提供基礎(chǔ)設(shè)施支撐。但從當(dāng)前的情況來(lái)看，萬(wàn)卡集群在訓(xùn)練效率上已經(jīng)不足以支持大模型的迭代速度。而十萬(wàn)卡集群，能夠通過(guò)更高的并行度和分布式優(yōu)化，在萬(wàn)卡集群基礎(chǔ)上實(shí)現(xiàn)訓(xùn)練效率的再度提升。
但建設(shè)大規(guī)模訓(xùn)練集群，仍存在諸多待解的技術(shù)問(wèn)題。多地域部署、多芯混訓(xùn)、集群穩(wěn)定性都給集群建設(shè)帶來(lái)了挑戰(zhàn)。集群穩(wěn)定性要求高，快速容錯(cuò)和恢復(fù)是關(guān)鍵；能耗與散熱、數(shù)據(jù)管理和運(yùn)維管理等問(wèn)題同樣重要——集群每日能耗甚至將高達(dá)300萬(wàn)千瓦時(shí)，與一個(gè)小型機(jī)械廠一年的用電量相當(dāng)。
在中國(guó)聯(lián)通相關(guān)業(yè)務(wù)人員看來(lái)，綜合考慮企業(yè)需求、行業(yè)應(yīng)用和區(qū)域分布，中國(guó)可能需要3~5個(gè)“真十萬(wàn)卡集群”，這些集群應(yīng)具備高效能、低能耗、高穩(wěn)定性的特點(diǎn)，并支持多任務(wù)并發(fā)和動(dòng)態(tài)資源調(diào)度，以最大化利用算力。
算力集群部署“雙軌并行”
可以預(yù)見(jiàn)，未來(lái)的算力集群部署，將以訓(xùn)練與推理為界，形成巨大分野，呈現(xiàn)出“雙軌并行”新格局：
一方面，頭部企業(yè)持續(xù)加碼超大規(guī)模集群，集中力量實(shí)現(xiàn)訓(xùn)練性能突破。調(diào)度方面，百度、騰訊等企業(yè)開(kāi)發(fā)了面向超大集群的自動(dòng)切分、任務(wù)容錯(cuò)系統(tǒng)；能源管理上，液冷、浸沒(méi)式等新型冷卻技術(shù)成為數(shù)據(jù)中心標(biāo)配，PUE（能源利用效率）持續(xù)優(yōu)化；多芯融合層面，一些平臺(tái)已實(shí)現(xiàn)“國(guó)產(chǎn)+進(jìn)口”GPU、NPU、ASIC的調(diào)度統(tǒng)一，個(gè)別廠商甚至宣布支持六芯異構(gòu)協(xié)同訓(xùn)練。
與此同時(shí)，“以訓(xùn)練反哺調(diào)度優(yōu)化”成為技術(shù)演進(jìn)的新方向。通過(guò)AI自身參與任務(wù)調(diào)度、負(fù)載均衡，集群可以實(shí)現(xiàn)自動(dòng)化資源編排——這正是AI基礎(chǔ)設(shè)施向“智能化操作系統(tǒng)”演進(jìn)的表現(xiàn)。某種意義上，十萬(wàn)卡不再只是“計(jì)算力的集合”，而是“算力+AI控制力”的聯(lián)合體。“十萬(wàn)卡集群”的比拼，最終將落腳于如何將堆卡用好、用足、用出性價(jià)比。
另一方面，各地方、中小企業(yè)在智算賽道的著眼點(diǎn)將轉(zhuǎn)向算法高效化與推理優(yōu)化。越來(lái)越多的企業(yè)開(kāi)始選擇用數(shù)百?gòu)埧?gòu)建私有化小型訓(xùn)練集群，結(jié)合開(kāi)源模型做定制化微調(diào)。通過(guò)模型蒸餾、芯片定制和邊緣算力部署，在特定場(chǎng)景下以更低成本參與競(jìng)爭(zhēng)，推動(dòng)AI技術(shù)下沉至垂直領(lǐng)域。
