谷歌近日宣布，其第六代TPU Trillium已正式向Google Cloud的客戶開(kāi)放。這一舉措旨在借助Trillium強(qiáng)大的計(jì)算能力、卓越的性能以及可持續(xù)性，進(jìn)一步推動(dòng)AI模型的發(fā)展。

作為Google Cloud AI超級(jí)計(jì)算機(jī)的核心組件，Trillium TPU代表了一種革命性的超級(jí)計(jì)算機(jī)架構(gòu)。它融合了性能優(yōu)化的硬件、開(kāi)放的軟件環(huán)境、前沿的機(jī)器學(xué)習(xí)框架以及靈活的消費(fèi)模型，共同構(gòu)成了一個(gè)高度集成的系統(tǒng)。

早在今年5月的I/O開(kāi)發(fā)者大會(huì)上，谷歌便已經(jīng)宣布了Trillium TPU。據(jù)官方介紹，與上一代相比，Trillium TPU在訓(xùn)練性能上實(shí)現(xiàn)了4倍以上的提升，推理吞吐量提升高達(dá)3倍，峰值計(jì)算性能更是提升了4.7倍。

在效率方面，Trillium TPU同樣表現(xiàn)出色。其能源效率提高了67%，每美元訓(xùn)練性能提升高達(dá)2.5倍，推理性能也有1.4倍的提升。這一顯著的效率提升，無(wú)疑將為用戶帶來(lái)更加經(jīng)濟(jì)實(shí)惠且高效的AI計(jì)算體驗(yàn)。

在規(guī)模擴(kuò)展方面，Trillium TPU同樣具備強(qiáng)大的能力。單個(gè)Jupiter網(wǎng)絡(luò)結(jié)構(gòu)可容納多達(dá)10萬(wàn)個(gè)Trillium芯片，同時(shí)配備了雙倍的HBM容量和ICI帶寬，支持大規(guī)模AI訓(xùn)練。谷歌官方表示，Trillium的近乎線性擴(kuò)展能力，配合高速芯片互連和Jupiter數(shù)據(jù)中心網(wǎng)絡(luò)，可以顯著加快大型模型的訓(xùn)練速度。

舉例來(lái)說(shuō)，在訓(xùn)練gpt3-175b模型時(shí)，即使跨數(shù)據(jù)中心網(wǎng)絡(luò)運(yùn)行，24個(gè)Pod（共6144個(gè)芯片）也能達(dá)到94%的擴(kuò)展效率。這一成績(jī)充分展示了Trillium TPU在大型模型訓(xùn)練方面的卓越表現(xiàn)。

Trillium TPU還具備出色的靈活性和可擴(kuò)展性。用戶可以根據(jù)實(shí)際需求，靈活調(diào)整計(jì)算資源和配置，以滿足不同規(guī)模和復(fù)雜度的AI計(jì)算任務(wù)。這一特點(diǎn)使得Trillium TPU成為眾多企業(yè)和研究機(jī)構(gòu)在AI領(lǐng)域的首選計(jì)算平臺(tái)。

隨著谷歌正式向Google Cloud客戶開(kāi)放第六代TPU Trillium，我們有理由相信，這一先進(jìn)的計(jì)算平臺(tái)將在未來(lái)為AI領(lǐng)域的發(fā)展注入更加強(qiáng)勁的動(dòng)力。