近日,企查查APP公布了一項(xiàng)引人注目的專利授權(quán)信息,北京月之暗面科技有限公司,一家與知名人士Kimi有所關(guān)聯(lián)的企業(yè),成功獲得了一項(xiàng)名為“一種大語(yǔ)言推理系統(tǒng)及方法”的專利授權(quán)。
該專利詳細(xì)描述了一種創(chuàng)新的大語(yǔ)言推理系統(tǒng)架構(gòu),其核心組件包括預(yù)填充計(jì)算單元、生成計(jì)算單元以及緩存單元。預(yù)填充計(jì)算單元在接收到當(dāng)前的推理請(qǐng)求后,會(huì)結(jié)合歷史推理資源,進(jìn)行數(shù)據(jù)的預(yù)處理,生成當(dāng)前推理數(shù)據(jù),并將這些數(shù)據(jù)同時(shí)發(fā)送給生成計(jì)算單元和緩存單元。生成計(jì)算單元?jiǎng)t負(fù)責(zé)接收這些預(yù)處理后的數(shù)據(jù),利用預(yù)先設(shè)定的大語(yǔ)言模型,生成推理結(jié)果中的文字內(nèi)容,并將這些結(jié)果字組裝成完整的推理結(jié)果,一部分發(fā)送至緩存單元保存,另一部分則直接輸出至用戶端展示。
緩存單元在這一系統(tǒng)中扮演著重要角色,它根據(jù)當(dāng)前的推理請(qǐng)求,保存相關(guān)的推理數(shù)據(jù)、請(qǐng)求信息以及最終的推理結(jié)果。這一設(shè)計(jì)不僅優(yōu)化了數(shù)據(jù)處理流程,還極大地提升了推理效率。
據(jù)專利摘要揭示,這一創(chuàng)新的大語(yǔ)言推理系統(tǒng)旨在減少推理過程中的計(jì)算負(fù)擔(dān),同時(shí)增強(qiáng)推理結(jié)果中自然語(yǔ)言的流暢性和連貫性。通過優(yōu)化內(nèi)部數(shù)據(jù)處理機(jī)制,該系統(tǒng)能更高效地生成符合邏輯且易于理解的推理結(jié)果,為用戶帶來更佳的體驗(yàn)。
北京月之暗面科技有限公司此次獲得的專利授權(quán),不僅是對(duì)其技術(shù)創(chuàng)新能力的肯定,也為公司在人工智能領(lǐng)域的發(fā)展注入了新的動(dòng)力。隨著技術(shù)的不斷迭代升級(jí),這一大語(yǔ)言推理系統(tǒng)有望在更多領(lǐng)域發(fā)揮重要作用,推動(dòng)相關(guān)行業(yè)的智能化進(jìn)程。