摩爾線程近日宣布了一項重要的技術(shù)進展，其自主研發(fā)的訓(xùn)推一體計算卡MTT S4000成功通過了中國信息通信研究院的AI芯片與模型適配驗證項目。這一成果標志著MTT S4000與杭州深度求索公司研發(fā)的DeepSeek-R1 671B大模型在推理場景下的適配結(jié)果達到了“AI芯片和大模型通過性適配要求”。
據(jù)官方透露，MTT S4000在測試過程中表現(xiàn)出色，不僅實現(xiàn)了穩(wěn)定、正常的運行，還完全滿足了推理使用的各項需求。因此，摩爾線程成功獲得了由中國信通院頒發(fā)的檢測證書。目前，該系列計算卡正在進一步優(yōu)化性適配驗證工作，預(yù)計將在未來公布更多相關(guān)結(jié)果。
MTT S4000是摩爾線程基于全功能GPU架構(gòu)專為大型模型設(shè)計的訓(xùn)推一體通用計算卡。它支持包括FP64、FP32、TF32、FP16、BF16和INT8在內(nèi)的多種計算精度，并配備了高達48GB的高性能顯存。憑借摩爾線程自研的MTLink 1.0技術(shù)，MTT S4000能夠?qū)崿F(xiàn)多卡互聯(lián)和千卡集群部署，為大型模型的訓(xùn)練、微調(diào)和推理提供強大的算力支持。
除了強大的計算能力，MTT S4000還具備圖形渲染、視頻編解碼和超高清8K HDR顯示能力，能夠滿足人工智能、科學(xué)計算和多媒體處理等復(fù)雜場景的需求。這使得MTT S4000在多個領(lǐng)域都具有廣泛的應(yīng)用前景。
摩爾線程表示，此次能夠快速完成DeepSeek R1-671B大模型的適配驗證，主要得益于其完善的MUSA生態(tài)軟件棧和快捷的開發(fā)實踐。這包括vLLM-MUSA推理框架、MUTLASS和Triton-MUSA等組件，它們共同為MTT S4000提供了強大的軟件支持。
摩爾線程還推出了搭載MTT S4000的MCCX DeepSeek大模型一體機。這款產(chǎn)品深度融合了國產(chǎn)全功能GPU、深度優(yōu)化的高性能推理引擎和軟件棧，全面支持從蒸餾版到671B參數(shù)全量版的DeepSeek模型部署需求。據(jù)稱，該一體機能夠靈活適配廣泛的行業(yè)、場景和應(yīng)用，為用戶提供更加便捷、高效的解決方案。
