近日，知名基準測試工具3DMark的開發(fā)者UL Solution對外宣布了一項重要進展：他們正式推出了名為Procyon AI的文本生成基準測試。這一測試旨在全面評估AI加速器硬件在文本生成任務中的性能，通過運用多種不同參數(shù)規(guī)模的大語言AI模型，實現(xiàn)更為精準的評估。
據(jù)悉，Procyon AI文本生成基準測試支持通過DirectML通用API調用本地的英偉達、AMD以及英特爾的GPU。同時，它也支持通過英特爾的OpenVINO平臺調用英特爾自家的GPU，無論是獨立顯卡還是集成顯卡，均可得到支持，不過對于顯存或內(nèi)存容量的需求存在差異。
在測試內(nèi)容方面，Procyon AI基準測試涵蓋了四種不同規(guī)模的AI模型，包括Phi-3.5-mini、Mistral-7B、Llama-3.1-8B和Llama-2-13B。這些模型在參數(shù)數(shù)量上有所不同，能夠充分展現(xiàn)AI GPU在多樣化大語言模型文本生成場景中的實際表現(xiàn)，從而為用戶提供更為公正和全面的比較。
在完成測試后，用戶可以看到詳細的成績頁面，其中包含了AI加速器在各項測試中的具體表現(xiàn)。這不僅有助于用戶了解硬件的性能水平，還能為他們提供關于系統(tǒng)資源使用情況的寶貴信息。
UL Solution強調，Procyon AI文本生成基準測試在操作上更加簡便，與直接使用完整AI模型進行測試相比，其安裝體積更小，同時能夠為用戶提供更為詳盡的系統(tǒng)資源使用情況展示。這使得它成為了一款既實用又高效的測試工具，能夠滿足用戶在評估AI加速器硬件性能方面的需求。
