亚洲精品,日韩av,亚洲国产一区二区三区亚瑟,玩弄寡妇丰满肉体,香蕉久久夜色精品升级完成,亚洲av无码成人精品区一区

網(wǎng)界科技資訊 手機網(wǎng)站 站內(nèi)搜索
  • 助力產(chǎn)業(yè)數(shù)字化 推動數(shù)字產(chǎn)業(yè)化

Meta AI新成果LIGER:混合檢索模型,如何兼顧效率與精度?

   時間:2025-01-02 15:45 來源:ITBEAR作者:趙云飛

meta AI的研究團隊近期揭曉了一項創(chuàng)新成果——LIGER模型,這一突破性的人工智能模型巧妙融合了密集檢索與生成檢索的優(yōu)勢,顯著提升了生成式推薦系統(tǒng)的整體性能。

在現(xiàn)代數(shù)字世界中,推薦系統(tǒng)作為連接用戶與各類內(nèi)容、產(chǎn)品或服務(wù)的橋梁,扮演著至關(guān)重要的角色。傳統(tǒng)的密集檢索方法,通過序列建模來計算項目和用戶的表示,雖然在一定程度上有效,但因其需要為每個項目生成嵌入,導(dǎo)致計算資源和存儲需求巨大。隨著數(shù)據(jù)集的日益龐大,這些限制愈發(fā)明顯,影響了系統(tǒng)的可擴展性。

另一方面,新興的生成檢索方法試圖通過生成模型預(yù)測項目索引來降低存儲需求。然而,這種方法在性能上有所欠缺,特別是在處理冷啟動項目時,即那些用戶交互有限的新項目,表現(xiàn)尤為不佳。

為了解決這些挑戰(zhàn),meta AI攜手威斯康星大學(xué)麥迪遜分校、ELLIS Unit、LIT AI Lab、機器學(xué)習(xí)研究所及JKU Linz等機構(gòu),共同推出了LIGER模型。LIGER,即“LeveragIng dense retrieval for GEnerative Retrieval”的縮寫,它巧妙地將生成檢索的計算效率與密集檢索的精確度相結(jié)合。

LIGER模型的工作原理是,首先利用生成檢索生成候選集,以及包含語義ID和文本屬性的項目表示。隨后,通過密集檢索技術(shù)對這些候選集進(jìn)行進(jìn)一步精煉,從而在效率和準(zhǔn)確性之間找到了完美的平衡點。LIGER采用了雙向Transformer編碼器和生成解碼器,其密集檢索部分整合了項目文本表示、語義ID和位置嵌入,并通過余弦相似度損失進(jìn)行優(yōu)化;而生成部分則使用波束搜索,根據(jù)用戶交互歷史預(yù)測后續(xù)項目的語義ID。

通過這種混合推理過程,LIGER不僅降低了計算需求,還保持了高質(zhì)量的推薦。更重要的是,LIGER能夠很好地泛化到未見過的項目,這一特性解決了先前生成模型在處理新項目時的關(guān)鍵限制。

在Amazon Beauty、Sports、Toys以及Steam等多個基準(zhǔn)數(shù)據(jù)集上的評估結(jié)果顯示,LIGER的性能持續(xù)優(yōu)于現(xiàn)有的最先進(jìn)模型,如TIGER和UniSRec。例如,在Amazon Beauty數(shù)據(jù)集上,LIGER對冷啟動項目的Recall@10得分為0.1008,而TIGER的得分為0。

同樣,在Steam數(shù)據(jù)集上,LIGER的Recall@10達(dá)到了0.0147,也明顯優(yōu)于TIGER的0。隨著生成方法檢索的候選數(shù)量增加,LIGER與密集檢索的性能差距逐漸縮小,這進(jìn)一步證明了其強大的適應(yīng)性和高效性。

LIGER的成功不僅為構(gòu)建更高效、更精準(zhǔn)的推薦系統(tǒng)提供了新的思路,也為解決傳統(tǒng)推薦系統(tǒng)在計算資源、存儲需求和冷啟動項目處理上的難題提供了有效方案。

 
 
更多>同類內(nèi)容
全站最新
熱門內(nèi)容