買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜重慶理工大學申請的專利融合稀疏圖和多跳注意力的會話推薦系統獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN114817508B 。

龍圖騰網通過國家知識產權局官網在2025-04-15發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202210592414.2，技術領域涉及：G06F16/3329；該發明授權融合稀疏圖和多跳注意力的會話推薦系統是由張宜浩;王昱昊設計研發完成，并于2022-05-27向國家知識產權局提交的專利申請。

本融合稀疏圖和多跳注意力的會話推薦系統在說明書摘要公布了：本發明提出了一種融合稀疏圖和多跳注意力的會話推薦系統，包括：對話狀態跟蹤模塊：采用基于多跳注意力網絡的編碼器來對對話上下文進行編碼，再利用TopicRNN模型捕捉文檔中的全局語義信息；推薦模塊：利用稀疏圖注意力網絡SGAT對知識圖譜進行特征捕捉并正則化稀疏圖，根據圖生成的項目嵌入，以計算與對話上下文匹配的分數；最后，得到物品的概率；整合機制模塊：根據對話上下文，通過對話狀態跟蹤模塊預測下一個單詞，并利用基于SGAT的推薦模型獲得推薦項。本發明能夠降低稀疏圖的計算復雜度，并捕獲局部語義依賴關系和全局語義依賴關系。

本發明授權融合稀疏圖和多跳注意力的會話推薦系統在權利要求書中公布了：1.一種融合稀疏圖和多跳注意力的會話推薦系統，其特征在于，包括：對話狀態跟蹤模塊、推薦模塊、整合機制模塊，對話狀態跟蹤模塊的數據輸出端與推薦模塊的數據輸入端相連，推薦模塊的數據輸出端與整合機制模塊的數據輸入端相連；對話狀態跟蹤模塊：采用基于多跳注意力網絡的編碼器來對對話上下文進行編碼，再利用TopicRNN模型捕捉文檔中的全局語義信息；所述采用基于多跳注意力網絡的編碼器來對對話上下文進行編碼包括：將Uh＝{Wh,1,Wh,2,...,Wh,Mh}中每個單詞Wh,j映射到單詞向量θh,j，將對話D編碼為高階表示β＝{β1,β2,...,βN}，其中Uh表示對話D中的第h句話，βN表示對話D中第N句話的張量形式，β被稱為記憶張量，Wh,j表示Uh中的第j個單詞，j＝1,2,...，Mh；然后，將查詢向量Q作為讀取的頭部，以跳數l進行迭代，并計算記憶張量第l跳的注意力權重，計算公式為：Ql+1＝Ql+OlQl+1表示第l+1跳的查詢向量Q；Ql表示第l跳的查詢向量Q；Ol表示第l跳的記憶向量； 表示第k個記憶分量第l跳的注意力權重； 表示第k個記憶分量第l跳的內容；·Τ表示轉置；Softmax·為Softmax激活函數；再采用以下公式用于衡量記憶內容和查詢向量Ql之間的關聯度： 其中e表示自然底數；zk表示數組z中第k個位置的元素；zu表示數組z中第u個位置的元素；然后，該模型通過將加權到求和來讀取記憶向量Ol： 表示第k個記憶分量第l+1跳的內容；所述TopicRNN模型包括：輸入全局語義信息，全局語義信息包括用戶輸入U和上下文C，用戶輸入U為一句話，上下文C為之前的對話；數據處理：S-1，將數據輸入分層遞歸編碼-解碼模型HRED，得到h＝HREDU,C，h表示隱藏狀態；S-2，然后從用戶輸入U和上下文C得到一個主題向量φ，φ服從正態分布；S-3，再初始化解碼器，即將h賦值給H0，H0為解碼器初始化狀態；S-4，C中包含T＝t1,t2,...,tn-1，其中T代表C中的一個單詞序列，t1表示第1個單詞，t2表示第2個單詞，tn-1表示第n-1個單詞，S-5，為計算單詞tn進入循環：計算解碼器的隱藏狀態Hn＝fwHn-1,T，其中fw為解碼器，Hn-1為解碼器第n-1輪的隱藏狀態；S-6，從上下文C中得到一個停止詞指示器ln，ln～BernoullisigmoidWTHn-1，Bernoulli表示伯努利分布，sigmoid為sigmoid激活函數，WT為權重矩陣的轉置，ln即ln,s，表示第n輪第s步的停用詞指示器；S-7，最后得到tn～ptn|Hn,φ,ln,B，此時ptn＝j|Hn,φln,B其中B即BernoullisigmoidWTHn-1，～表示服從，Hn為即解碼器第n輪的隱藏狀態，φ為主題向量，ln為停止詞指示器，B表示伯努利分布，wj表示第j個單詞，表示wj的轉置；S-8，輸出預測標記tn，tn表示第n個單詞；推薦模塊：利用稀疏圖注意力網絡SGAT對知識圖譜進行特征捕捉并正則化稀疏圖，根據圖生成的項目嵌入，以計算與對話上下文匹配的分數；最后，得到物品的概率；所述稀疏圖注意力網絡SGAT包括：采用了多層卷積模塊聚集一階鄰域節點的特征信息，得到一個包含知識圖信息的項目的高階表示；然后給每條邊eij分配一個二進制門bij∈{0,1}來識別每個將參與聚合操作的邊，并剪裁與任務無關的邊，其中eij表示連接節點i、j的邊，bij表示邊eij的二進制門；如果bij等于1，則該邊參與聚合操作；如果bij等于0，則該邊不參與聚合操作，這相當于將一組二進制掩碼加到鄰接矩陣A： 其中表示加入二進制掩碼B的鄰接矩陣A；B表示二進制掩碼；⊙表示拼接操作；N是圖G中的邊數；{0,1}N表示二進制掩碼的集合，一共有N個；通過最小化L0范數化與經驗風險的和來訓練模型參數P和二進制掩碼B，過程如下： 其中RP,B表示模型風險；n表示訓練樣本的個數；L·表示經驗風險；fi·,·,·表示第i個節點的預測值；X表示節點特征矩陣；A表示鄰接矩陣；B表示二進制掩碼；||·||0表示L0范數；P表示模型訓練參數；yi表示第i個樣本的標簽；λ是一個正則化的超參數；||B||0表示二進制掩碼B的l0范數，即B中非零元素的個數；1[zij≠0]是一個指示器，滿足條件zij≠0值為1，否則為0；zij表示二進制掩碼B第i行j列的元素；對于求取預測值的編碼器函數fX,A⊙B,P，則將基于注意力系數的聚合函數定義為： 表示節點i在第l+1層的隱藏狀態；σ·為Softmax激活函數；Ni表示節點i的鄰居節點集合；aij是邊eij的注意力系數，eij表示連接節點i、j的邊； 表示節點j在第l層的隱藏狀態；wl表示第l層的權重；注意力系數aij的計算公式如下： Aij表示鄰接矩陣第i行第j列的元素；bij表示二進制掩碼矩陣第i行第j列的元素；Ni表示節點i的鄰居節點集合；整合機制模塊：根據對話上下文，通過對話狀態跟蹤模塊預測下一個單詞，并利用基于SGAT的推薦模型獲得推薦項。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人重慶理工大學，其通訊地址為：400054 重慶市巴南區紅光大道69號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。