買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜深圳大學申請的專利基于注意力機制的自蒸餾中文分詞方法、終端及存儲介質獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN114386409B 。

龍圖騰網通過國家知識產權局官網在2025-05-23發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202210051393.3，技術領域涉及：G06F40/284；該發明授權基于注意力機制的自蒸餾中文分詞方法、終端及存儲介質是由蔡樹彬;何日安;明仲設計研發完成，并于2022-01-17向國家知識產權局提交的專利申請。

本基于注意力機制的自蒸餾中文分詞方法、終端及存儲介質在說明書摘要公布了：本發明公開了基于注意力機制的自蒸餾中文分詞方法、終端及存儲介質，其中，方法包括：將預處理后的訓練集引入預訓練模型；通過迭代訓練獲得教師模型；通過所述教師模型與學生模型獲取注意力權重矩陣；將所述注意力權重矩陣引入知識蒸餾過程，對所述學生模型進行有針對性的學習訓練；通過驗證集對學習訓練所獲得的整個模型進行驗證，得到蒸餾后的中文分詞模型。本發明通過自蒸餾可以達到優化模型自身結構的目標，且進一步利用注意力機制有側重點地學習被蒸餾的知識，提高了模型識別未登錄詞的能力，從而較好地解決了現有中文分詞模型無法準確處理未登錄詞的問題。

本發明授權基于注意力機制的自蒸餾中文分詞方法、終端及存儲介質在權利要求書中公布了：1.一種基于注意力機制的自蒸餾中文分詞方法，其特征在于，所述基于注意力機制的自蒸餾中文分詞方法包括以下步驟：將預處理后的訓練集引入預訓練模型；通過迭代訓練獲得教師模型；通過所述教師模型與學生模型獲取注意力權重矩陣，具體包括：計算所述學生模型輸出的預測分詞結果與真實分詞結果之間的第一差異信息；計算所述教師模型輸出的預測分詞結果與真實分詞結果之間的第二差異信息；通過所述第一差異信息和所述第二差異信息獲得所述注意力權重矩陣；將所述注意力權重矩陣引入知識蒸餾過程，對所述學生模型進行有針對性的學習訓練，具體包括：通過所述注意力權重矩陣計算所述學生模型的整體損失，具體包括：將所述注意力權重矩陣分別與所述學生模型輸出的預測分詞結果和所述教師模型輸出的預測分詞結果進行交互，得到交互信息；根據所述交互信息進行知識蒸餾，計算蒸餾損失；通過所述蒸餾損失與常規交叉熵損失計算所述學生模型的整體損失；將所述整體損失反向傳播至所述學生模型，以更新所述學生模型中各節點的參數信息；通過驗證集對學習訓練所獲得的整個模型進行驗證，得到蒸餾后的中文分詞模型。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人深圳大學，其通訊地址為：518060 廣東省深圳市南山區南海大道3688號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。