在人工智能領(lǐng)域,一個曾經(jīng)相對小眾的產(chǎn)品——一體機(jī),正經(jīng)歷著前所未有的變革與關(guān)注。這一切的源頭,無疑是指向DeepSeek大模型的崛起,它不僅點燃了市場的熱情,更推動了大模型一體機(jī)成為業(yè)界的新寵。
科大訊飛智算業(yè)務(wù)部副總經(jīng)理許昀表示,以往行業(yè)對一體機(jī)的需求寥寥無幾,但如今這一局面已徹底改變。據(jù)IDC統(tǒng)計,市場上已有近百家廠商推出了AI一體機(jī)產(chǎn)品,參與者涵蓋了服務(wù)器廠商如新華三、云服務(wù)提供商如京東云和百度智能云、以及行業(yè)應(yīng)用開發(fā)商和大模型技術(shù)供應(yīng)商等。
大模型一體機(jī),專為人工智能大模型的部署和應(yīng)用而生,集成了CPU、GPU、存儲器、操作系統(tǒng)、AI平臺軟件及多種模型算法等軟硬件組件。它如同一個獨立的小型服務(wù)器,既便于大模型的快速部署,又能確保數(shù)據(jù)安全。這些廠商推出的各類大模型一體機(jī),大多集成了DeepSeek大模型,如32B、70B及671B滿血版等,價格區(qū)間從十幾萬元到百萬元不等。
一位大模型一體機(jī)銷售商透露,華為推出的一款四卡機(jī)器,售價約15萬元,底層硬件基于鯤鵬CPU和昇騰芯片,內(nèi)置DeepSeek-70B大模型,具備問答助手、知識庫等功能,支持30人并發(fā)使用。而配備DeepSeek-671B大模型的一體機(jī),價格則超過200萬元。
盡管一體機(jī)并非全新產(chǎn)品,此前已有數(shù)據(jù)庫一體機(jī)等存在,但市場需求始終不溫不火。此次大模型一體機(jī)的爆發(fā),得益于DeepSeek的推動,以及大模型和小型化算力的發(fā)展趨勢。它通過“軟硬協(xié)同、開箱即用”的特點,滿足了企業(yè)在特定業(yè)務(wù)場景中低成本使用大模型的需求,解決了數(shù)據(jù)安全、算力成本和場景適配三大難題。
然而,盡管市場熱度高漲,但大模型一體機(jī)的行業(yè)落地仍需時間。許昀指出,目前大多數(shù)企業(yè)仍處于試點階段,行業(yè)適配需要時間,預(yù)計半年左右市場需求才會真正爆發(fā)。Gartner研究總監(jiān)張吟鈴也表示,許多企業(yè)尚未明確大模型一體機(jī)的投資回報比,因此大型企業(yè)對大模型一體機(jī)的投資并不多,整體行業(yè)仍處于初期階段。
2025年被視為大模型落地應(yīng)用的關(guān)鍵一年,一體機(jī)作為底層算力支持的服務(wù)器,成為企業(yè)拓展大模型應(yīng)用的關(guān)鍵一環(huán)。據(jù)浙商證券測算,預(yù)計2025年至2027年,一體機(jī)的需求量將分別達(dá)到15萬臺、39萬臺和72萬臺,央國企市場空間有望達(dá)到數(shù)千億元。
硬件廠商中,新華三發(fā)布了多種大模型一體機(jī)產(chǎn)品,包括集成DeepSeek大模型的靈犀Cube大模型一體機(jī),以及為特定行業(yè)定制的城市治理、協(xié)同辦公和醫(yī)療大模型一體機(jī)等。作為服務(wù)器廠商,新華三在硬件方面優(yōu)勢明顯,自主研發(fā)的服務(wù)器能夠支持高性能GPU,提供靈活的拓?fù)浼軜?gòu),兼容多種模型。
國產(chǎn)化成為大模型一體機(jī)的重要趨勢,以華為昇騰、海光、寒武紀(jì)等為主的國產(chǎn)芯片,成為眾多行業(yè)客戶打造大模型一體機(jī)的首選底層硬件配置。在華為中國合作伙伴大會上,華為董事、ICT BG CEO楊超斌表示,已有超過80家伙伴基于昇騰打造開箱即用的大模型一體機(jī)。
云廠商也是大模型一體機(jī)市場的重要參與者。包括三大運(yùn)營商云、百度智能云、京東云等眾多云廠商都已推出相關(guān)產(chǎn)品。云廠商的大模型一體機(jī)主要分為適配DeepSeek標(biāo)準(zhǔn)版和滿血版兩大類,并以此為基礎(chǔ)適配不同行業(yè)場景。云廠商不僅能推出針對各種細(xì)分場景的大模型一體機(jī),還能結(jié)合自身的云服務(wù)生態(tài)和彈性算力,為用戶提供更多支持。
在大模型一體機(jī)市場中,還有一類以科大訊飛為代表的行業(yè)應(yīng)用及大模型技術(shù)廠商。他們的核心競爭力在于技術(shù)和行業(yè)理解,不僅有自己的基座大模型能力,還能根據(jù)行業(yè)特定對開源大模型進(jìn)行微調(diào),并沉淀出細(xì)分場景的行業(yè)大模型。
科大訊飛推出了針對政務(wù)、警務(wù)、司法、醫(yī)療、高教等應(yīng)用場景的一體機(jī)產(chǎn)品。許昀表示,一體機(jī)需要與行業(yè)軟件做深度結(jié)合,對于同類型的大模型廠商來說,誰能具有更深的行業(yè)理解,誰就能實現(xiàn)差異化競爭優(yōu)勢。
大模型一體機(jī)的市場需求主要來自于金融、政企、醫(yī)療、教育等對數(shù)據(jù)安全要求較高和對延時較為敏感的應(yīng)用場景。然而,一體機(jī)所能提供的大模型能力和算力支持有限,目前主要應(yīng)用在細(xì)分場景中。許昀表示,一體機(jī)的應(yīng)用可能是在一些非常細(xì)分的領(lǐng)域,因為每個細(xì)分領(lǐng)域?qū)δP蛥?shù)量的要求和需求都不同。
對于中小企業(yè)來說,更多使用便宜彈性的公有云,而對于一些存在長期需求且對隱私敏感的企業(yè),則會選擇部署一體機(jī)。對于大型企業(yè)來說,一般會構(gòu)建自己獨立的智算平臺,而想要在細(xì)分場景中部署一體機(jī),還需要考慮與自身其他智能算力平臺的協(xié)同管理問題。
盡管大模型一體機(jī)市場火爆,但張吟鈴對未來一體機(jī)賽道持謹(jǐn)慎態(tài)度。她認(rèn)為,現(xiàn)階段企業(yè)部署DeepSeek一體機(jī)后,更多用于效能提升,而非增長業(yè)務(wù)場景。當(dāng)企業(yè)使用大模型進(jìn)入成熟期后,需要擴(kuò)展資源用于更多場景部署,可能會面臨使用同一軟件平臺納管不同種類一體機(jī)的挑戰(zhàn)。
然而,從商業(yè)化邏輯來看,像科大訊飛這樣的廠商,與硬件廠商的本質(zhì)區(qū)別在于不依靠硬件掙錢,而是賺取軟件服務(wù)費(fèi)用以及帶動客戶從細(xì)分市場向其他項目轉(zhuǎn)換的營收。目前,行業(yè)客戶對一體機(jī)的評價存在兩極分化,一方面認(rèn)為一體機(jī)能夠滿足細(xì)分行業(yè)需求,整體效果良好;另一方面則認(rèn)為沒有找到與行業(yè)深度結(jié)合的點,且部署價格不菲,效果不佳。
大模型一體機(jī)的應(yīng)用主要聚焦在細(xì)分行業(yè)中的細(xì)場景下,其是否真的能夠給企業(yè)帶來降本增效以及未來市場潛力如何,都仍存疑。許昀直言,雖然目前看到了市場需求,但很多仍處于試點階段,行業(yè)適配需要時間。
盡管如此,許昀仍然堅定看好大模型一體機(jī)賽道。他認(rèn)為,隨著越來越多小版本大模型的推出,一體機(jī)將更適合部署這些模型,性價比優(yōu)勢明顯。未來,一體機(jī)的未來發(fā)展必然是在行業(yè)上縱深發(fā)展,只有在降低模型尺寸的同時將效果做到最優(yōu),才能真正滿足企業(yè)的需求。