恭喜昆明理工大學高盛祥獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜昆明理工大學申請的專利融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN113901843B 。
龍圖騰網通過國家知識產權局官網在2025-05-30發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202111042653.2,技術領域涉及:G06F40/58;該發明授權融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法是由高盛祥;劉演;余正濤;毛存禮設計研發完成,并于2021-09-07向國家知識產權局提交的專利申請。
本融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法在說明書摘要公布了:本發明涉及融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法,屬于自然語言處理技術領域。本發明使用預訓練語言模型和詞嵌入分別對源語言序列進行表示學習,通過注意力機制建立兩種表征之間的聯系后進行拼接操作得到雙重表征向量,再經過線性變換和自注意力機制,使詞嵌入表征和預訓練語言模型表征完全自適應融合在一起,得到對輸入文本的充分表征,以此提高神經機器翻譯模型性能。本發明提出的融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法,解決了因為越南語是低資源語言而導致漢語與越南語的神經機器翻譯的性能并不理想的問題,顯著提高漢越神經機器翻譯模型的質量。
本發明授權融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法在權利要求書中公布了:1.融合BERT與詞嵌入雙重表征的漢越神經機器翻譯方法,其特征在于:所述方法包括:Step1、收集用于訓練平行句對抽取模型的漢越平行語料;Step2、收集已經預訓練的中文BERT預訓練語言模型參數以及詞典;Step3、對源語言序列分別進行BERT預訓練語言模型預訓練表征與詞嵌入表征;Step4、使用交叉注意力機制使經過BERT預訓練語言模型預訓練的源語言序列表征受到詞嵌入表征的約束,將經過BERT預訓練語言模型訓練后的源語言序列表征和詞嵌入表征進行拼接融合得到融合表征作為編碼器的輸入;Step5、使用編碼器使得融合表征中兩種不同來源的表征達到深層動態交互融合;Step6、利用BERT預訓練語言模型與詞嵌入雙重表征進行神經機器翻譯模型的訓練。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人昆明理工大學,其通訊地址為:650093 云南省昆明市五華區學府路253號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。