隨著AI大模型的迅猛發(fā)展，算力市場迎來了前所未有的爆發(fā)期。自2022年ChatGPT問世以來，科技巨頭們紛紛投身于算力“軍備競賽”，以搶占未來AGI時代的先機。從千卡到萬卡，再到十萬卡級別的算力集群建設(shè)，這一趨勢在中國尤為明顯。

據(jù)研究機構(gòu)Omdia報告，2024年字節(jié)跳動訂購了約23萬片英偉達芯片，成為英偉達的第二大客戶。字節(jié)跳動計劃在2025年投入1600億元用于資本開支，其中900億元將用于購買AI算力。阿里、百度、中國電信等大廠也在積極推進十萬卡級別的算力集群建設(shè)，進一步推動了中國AI算力市場的熱潮。

然而，在巨頭們瘋狂擴大算力規(guī)模的同時，中國算力市場卻出現(xiàn)了供需結(jié)構(gòu)性失衡。大量算力資源閑置，甚至有聲音認為中國整體算力資源供過于求。云軸科技ZStack CTO王為表示，2023年算力市場非?；鸨?，但到了2024年市場明顯冷淡，許多顯卡甚至還未拆封。

算力市場的火爆主要得益于AI大模型的迅猛發(fā)展。AI的需求如同抽水泵，激活了原本穩(wěn)定的算力市場。然而，隨著AI大模型的發(fā)展逐漸從預訓練走向推理應用，市場對算力的需求也在悄然變化。越來越多的玩家開始放棄超大模型的預訓練，轉(zhuǎn)而專注于推理應用市場的開發(fā)。

零一萬物創(chuàng)始人兼CEO李開復曾公開表示，零一萬物不會停止預訓練，但不再追逐超大模型。他認為，如果追求AGI，不斷訓練超大模型將需要更多GPU和資源，而當預訓練結(jié)果已經(jīng)不如開源模型時，每個公司都不應該執(zhí)著于預訓練。

隨著AI大模型賽道的分化，算力需求也呈現(xiàn)出分化趨勢。大模型預訓練需要大規(guī)模的算力資源池，而推理應用則對算力性能的要求相對較低，更注重低功耗和實時處理。中國電信大模型首席專家劉敬謙表示，目前算力供應商的客戶主要集中在頭部企業(yè)，且往往要求簽訂長期的算力租賃協(xié)議。

盡管如此，AI推理應用市場并未如預期中迎來爆發(fā)。洪銳認為，目前行業(yè)中尚未出現(xiàn)一款能夠在企業(yè)中大規(guī)模鋪開的應用，大模型本身的技術(shù)能力還有缺陷。不過，隨著AI應用的逐漸滲透，推理算力需求的增長是一個確定趨勢。英偉達管理層也表示，未來推理算力的收入將持續(xù)提升。

在算力市場供需錯配的背景下，如何提高算力利用率成為關(guān)鍵。當前，中國算力市場的計算效率并不高，即使是OpenAI在GPT-4的訓練中，算力利用率也只有32%-36%。中國工程院院士鄔賀銓坦言，我國算力的利用率只有30%。

為了提高算力利用率，各類玩家紛紛入局，通過軟件算法等方式提升計算效率。這些玩家大致可以分為三類：一是大型國資央企，如中國電信，通過構(gòu)建算力資源池和整合社會算力閑置資源，提高算力利用率；二是以互聯(lián)網(wǎng)公司為主的云廠商，如阿里云、百度智能云等，積極從CPU云轉(zhuǎn)型至GPU云，形成全棧技術(shù)能力；三是基于算法提升算力計算效率的創(chuàng)業(yè)公司，如圖靈新智算、趨鏡科技等，通過單點技術(shù)突圍，在行業(yè)中占據(jù)一席之地。

中國電信通過息壤·智算一體化平臺，整合社會算力閑置資源，實現(xiàn)跨服務(wù)商、跨地域、跨架構(gòu)的統(tǒng)一管理和調(diào)度。云軸科技則發(fā)布了新一代AI Infra基礎(chǔ)設(shè)施ZStack AIOS平臺智塔，幫助企業(yè)客戶進行大模型新應用的落地部署。圖靈新智算則希望搭建獨立的整合算力閑置資源的平臺，進行算力的調(diào)度、出租和服務(wù)。

盡管算力租賃市場同質(zhì)化嚴重，但專業(yè)化、精細化運營的算力服務(wù)將成為未來的發(fā)展趨勢。IDC發(fā)布的報告顯示，2024年上半年中國智算服務(wù)整體市場同比增長79.6%，市場規(guī)模達到146.1億元人民幣。洪銳認為，智算3.0時代的終局一定是專業(yè)化、精細化運營的算力服務(wù)。

然而，中國算力市場仍面臨巨大挑戰(zhàn)。高端GPU芯片短缺，國內(nèi)GPU市場過于碎片化，且各家GPU都有獨立的生態(tài)體系，導致適配成本非常高。盡管如此，智算的20年長周期才剛剛開始，未來充滿機遇和挑戰(zhàn)。