歐洲RISC-V IP領(lǐng)域的先鋒企業(yè)Semidynamics近日宣布了一項重大突破,他們推出了名為Cervell的全新NPU(神經(jīng)處理單元)IP產(chǎn)品。這款基于RISC-V架構(gòu)的NPU,旨在滿足從邊緣推理到大型語言模型等廣泛AI應(yīng)用的需求。
Cervell的設(shè)計理念獨特,它將CPU、矢量和張量計算能力巧妙融合于一個統(tǒng)一的架構(gòu)之中,實現(xiàn)了前所未有的靈活性和可擴展性。Semidynamics透露,Cervell的最小配置C8在1GHz頻率下,可提供高達8 TOPS的INT8算力,或16 TOPS的INT4算力。而最大配置的C64,在2GHz頻率下,INT4算力更是驚人地達到了256 TOPS。
這款NPU不僅性能卓越,更在內(nèi)存管理方面有著顯著優(yōu)勢。Cervell能夠與Semidynamics的Gazillion Misses內(nèi)存管理子系統(tǒng)緊密集成,最多可同時發(fā)出128個內(nèi)存請求,從而實現(xiàn)了大規(guī)模并行訪問片外存儲的能力。這一特性極大地消除了傳統(tǒng)數(shù)據(jù)瓶頸,為芯片設(shè)計人員提供了構(gòu)建高性能AI解決方案的堅實基礎(chǔ)。
Cervell NPU還具備完全可編程的特性。得益于開放的RISC-V指令集架構(gòu)(ISA),用戶可以對Cervell進行深度定制,包括添加指令、定義存儲接口等。這種靈活性使得Cervell能夠更好地適應(yīng)不同應(yīng)用場景的需求,為AI計算的新時代帶來了前所未有的可能性。
Semidynamics的首席執(zhí)行官Roger Espasa對此表示:“Cervell是專為AI計算的新時代而設(shè)計的。在這個時代,現(xiàn)成的解決方案已經(jīng)無法滿足日益增長的需求。Cervell作為一個完全可編程、可擴展的NPU,能夠為芯片設(shè)計人員提供從邊緣推理到大型語言模型等一切所需的性能。它的構(gòu)建方式獨特,沒有鎖定,可以深度定制到指令級,這是它與其他解決方案相比的最大優(yōu)勢。”
Cervell的推出,無疑為Semidynamics在RISC-V IP領(lǐng)域樹立了新的里程碑。隨著AI技術(shù)的不斷發(fā)展,Cervell有望在未來成為推動AI應(yīng)用創(chuàng)新的重要力量。