華為技術(shù)有限公司近期在人工智能技術(shù)領(lǐng)域取得了一項新進(jìn)展,一項名為“一種AI模型的生成方法及裝置”的專利被正式公布。這項專利的推出,標(biāo)志著華為在提升AI模型生成效率和降低資源消耗方面邁出了重要一步。
據(jù)專利摘要介紹,該方法的核心在于通過精細(xì)的操作優(yōu)化,實現(xiàn)AI模型訓(xùn)練過程的高效管理。具體而言,該方法首先利用第一處理器,基于AI模型中各個算子的執(zhí)行時長、內(nèi)存占用大小以及內(nèi)存卸載時長等信息,構(gòu)建一個以操作指示信息為優(yōu)化變量的目標(biāo)優(yōu)化函數(shù)。這一步驟旨在全面評估每個算子在運(yùn)行過程中的資源消耗情況。
隨后,該方法對構(gòu)建好的目標(biāo)優(yōu)化函數(shù)進(jìn)行全局尋優(yōu),以確定每個算子是否需要進(jìn)行重計算操作或內(nèi)存卸載操作。這些操作指示信息的生成,為后續(xù)的AI模型訓(xùn)練提供了明確的指導(dǎo)。
在確定了操作指示信息后,第一處理器將這些信息以調(diào)整指令的形式發(fā)送給第二處理器。第二處理器根據(jù)這些操作指示信息,執(zhí)行相應(yīng)的算子操作,從而完成AI模型的訓(xùn)練過程,最終得到目標(biāo)AI模型。這一流程的設(shè)計,不僅提高了AI模型的生成效率,還有效降低了資源消耗。
華為此次公布的專利,無疑為其在人工智能領(lǐng)域的競爭力增添了新的砝碼。隨著AI技術(shù)的不斷發(fā)展,如何在保證模型性能的同時,提高生成效率和降低資源消耗,已成為業(yè)界關(guān)注的焦點(diǎn)。華為的這一專利成果,無疑為解決這一問題提供了新的思路和方法。