南京信息工程大學韓進獲國家專利權
買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！
龍圖騰網獲悉南京信息工程大學申請的專利一種基于RoBERTa知識蒸餾的相似度文本挖掘方法及系統獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119227665B 。
龍圖騰網通過國家知識產權局官網在2025-04-18發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202411755041.1，技術領域涉及：G06F40/194；該發明授權一種基于RoBERTa知識蒸餾的相似度文本挖掘方法及系統是由韓進;楊良設計研發完成，并于2024-12-03向國家知識產權局提交的專利申請。
本一種基于RoBERTa知識蒸餾的相似度文本挖掘方法及系統在說明書摘要公布了：本發明公開了一種基于RoBERTa知識蒸餾的相似度文本挖掘方法及系統，包括：將句子嵌入映射到概率分布空間以轉化為概率分布，利用KL散度衡量句子嵌入之間的語義差異，調整嵌入向量的參數，減小相似句子對的KL散度的同時增加不相似句子的KL散度；基于KL散度優化后的損失函數進行反向傳播，更新詞向量參數，保存優化后的句子向量，生成詞向量空間；對基于RoBERTa的知識蒸餾嵌入模型進行訓練，將深層模型中的豐富語義信息遷移至輕量化的學生模型；采用訓練完成的學生模型執行相似度文本挖掘任務。本發明能夠更好地捕捉句子之間的細微語義差異，顯著提升了語義相似度計算的精度和計算效率。
本發明授權一種基于RoBERTa知識蒸餾的相似度文本挖掘方法及系統在權利要求書中公布了：1.一種基于RoBERTa知識蒸餾的相似度文本挖掘方法，其特征在于，所述方法包括以下步驟：S1，將句子嵌入映射到概率分布空間以轉化為概率分布，利用KL散度衡量句子嵌入之間的語義差異，調整嵌入向量的參數，減小相似句子對的KL散度的同時增加不相似句子的KL散度；基于KL散度優化后的損失函數進行反向傳播，更新詞向量參數，保存優化后的句子向量，生成詞向量空間；S2，基于生成的詞向量空間，對基于RoBERTa的知識蒸餾嵌入模型進行訓練，將深層模型中的豐富語義信息遷移至輕量化的學生模型；在訓練過程中，定期驗證學生模型在語義相似度任務上的性能指標，直至性能指標趨于穩定并滿足預設要求，完成訓練；S3，采用訓練完成的學生模型執行相似度文本挖掘任務。
如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人南京信息工程大學，其通訊地址為：210044 江蘇省南京市浦口區寧六路219號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
免責聲明
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
開放平臺
擔保交易
惠及多方
會員特惠
專屬平臺
適合多方
數據共享
功能齊全
皖公網安備 34010402703815號