恭喜西安長天長軟件股份有限公司曹翔獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜西安長天長軟件股份有限公司申請的專利一種環保領域文本詞向量化方法及相關系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119990127B 。
龍圖騰網通過國家知識產權局官網在2025-06-13發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510485995.3,技術領域涉及:G06F40/289;該發明授權一種環保領域文本詞向量化方法及相關系統是由曹翔;李茂鵬;劉坤;陳黎明;趙若雨設計研發完成,并于2025-04-17向國家知識產權局提交的專利申請。
本一種環保領域文本詞向量化方法及相關系統在說明書摘要公布了:本發明提供了一種環保領域文本詞向量化方法及相關系統,屬于自然語言處理領域。包括如下步驟:獲取環保領域文本數據并建立詞匯庫;基于建立的詞匯庫構建共現列表,利用動態權重函數計算共現列表中每個單詞對的權重值,通過GLOVE模型對權重值高的單詞對進行詞向量化,生成初始的詞向量;基于生成的初始的詞向量訓練M3E模型,通過In?batch負采樣對比學習和跨模態損失函數聯合優化M3E模型,對M3E模型進行優化訓練;將文本數據輸入訓練好的M3E模型,生成文本詞向量。通過使用GLOVE模型和M3E模型綜合進行詞向量化,提供了更豐富的語義信息,能夠捕捉單詞間的統計關系和單詞在不同語境的細微差別。
本發明授權一種環保領域文本詞向量化方法及相關系統在權利要求書中公布了:1.一種環保領域文本詞向量化方法,其特征在于,包括如下步驟: 獲取環保領域文本數據并建立詞匯庫; 基于建立的詞匯庫構建共現列表,利用動態權重函數計算共現列表中每個單詞對的權重值,通過GLOVE模型對權重值高的單詞對進行詞向量化,生成初始的詞向量; 具體方法如下: 遍歷詞匯庫,統計單詞對共現次數,生成共現矩陣X;共現矩陣X的元素為,表示單詞與單詞在一個窗口內的共現次數; 遍歷詞匯庫,將每個單詞及其出現的頻率存儲到字典D中,返回一個字典D→a,f,映射為專業詞匯的ID和專業詞匯的出現頻率;其中,a表示專業詞匯的ID,f表示該專業詞匯出現的頻率; 從共現矩陣X中提取每個單詞對及其對應的共現次數,基于單詞對的共現次數及其字典D的內容,建立共現列表; 設計動態權重函數,對共現列表中出現次數高的單詞對賦予更高的權重,并補充出現次數低的但是與環保領域相關的單詞對的共現關系,得到每個單詞對的權重值; 對共現列表中的權重值高的單詞對初始化一個隨機的詞向量表示,作為GLOVE模型的初始參數,定義GLOVE模型的損失函數; 基于GLOVE模型的初始參數,采用梯度下降法最小化損失函數,當損失函數的收斂不再改變時,得到訓練好的GLOVE模型; 從訓練好的GLOVE模型中提取權重值高的單詞對的詞向量表示,作為初始的詞向量; 其中,出現次數高的單詞對是指出現次數大于50次的單詞對,出現次數低的單詞對是指出現次數小于10次的單詞對,對出現次數高的單詞對賦予更高的權重值為2,權重值高的單詞對是指權重值排名前10%的單詞對; 基于生成的初始的詞向量訓練M3E模型,通過In-batch負采樣對比學習和跨模態損失函數聯合優化M3E模型,對M3E模型進行優化訓練; 具體的,所述跨模態損失函數為: 其中,表示跨模態損失函數,為模態平衡系數且∈[0.6,0.8],為文本詞向量對比損失函數,為表格數據向量對比損失函數; 將文本數據輸入訓練好的M3E模型,生成文本詞向量。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人西安長天長軟件股份有限公司,其通訊地址為:710065 陜西省西安市高新區丈八東路匯鑫IBC B座16層內;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。