恭喜華潤數字科技有限公司王偉獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜華潤數字科技有限公司申請的專利自然語言處理方法、語言模型訓練方法及其相關設備獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114781611B 。
龍圖騰網通過國家知識產權局官網在2025-05-06發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210423601.8,技術領域涉及:G06F40/30;該發明授權自然語言處理方法、語言模型訓練方法及其相關設備是由王偉;張黔;陳煥坤;鄭毅設計研發完成,并于2022-04-21向國家知識產權局提交的專利申請。
本自然語言處理方法、語言模型訓練方法及其相關設備在說明書摘要公布了:本申請涉及人工智能技術領域,揭露了自然語言處理方法、語言模型訓練方法及其相關設備,所述語言模型訓練方法包括:獲取語料集;利用多種特征提取模型對語料集進行特征提取,得到語料集中各文檔對應的多個特征向量;基于各文檔對應的多個特征向量,得到各文檔對應的語義向量;將語料集中各文檔對應的語義向量利用聚類模型進行聚類,得到多個語義簇;根據各語義簇分別對語言模型采用強化學習進行訓練,最終得到各語義簇對應的訓練后的語言模型的參數;根據各語義簇對應的訓練后的語言模型的參數,以確定最終語言模型。本申請實現了提高語言模型的訓練效率以及降低了訓練過程中的資源消耗。
本發明授權自然語言處理方法、語言模型訓練方法及其相關設備在權利要求書中公布了:1.一種語言模型訓練方法,其特征在于,所述方法包括:獲取語料集;利用多種特征提取模型對所述語料集進行特征提取,得到所述語料集中各文檔對應的多個特征向量;基于各所述文檔對應的多個所述特征向量,得到各所述文檔對應的語義向量;將所述語料集中各文檔對應的語義向量利用聚類模型進行聚類,得到多個語義簇;根據各語義簇分別對語言模型采用強化學習進行訓練,最終得到各語義簇對應的訓練后的語言模型的參數;根據各語義簇對應的訓練后的語言模型的參數,以確定最終語言模型;其中,所述多種特征提取模型包括隱含特征提取模型、主題特征提取模型和實體特征提取模型,所述利用多種特征提取模型對所述語料集進行特征提取,得到所述語料集中各文檔對應的多個特征向量包括:通過所述隱含特征提取模型對所述語料集中的各所述文檔進行隱含特征提取,得到各所述文檔對應的第一特征向量;利用所述主題特征提取模型對所述語料集中的各文檔進行主題特征提取,得到各所述文檔對應的第二特征向量;利用所述實體特征提取模型對所述語料集中的各文檔進行實體特征提取,得到各所述文檔對應的第三特征向量;所述基于各所述文檔對應的多個所述特征向量,得到各所述文檔對應的語義向量包括:根據各所述文檔對應的所述第一特征向量、所述第二特征向量和所述第三特征向量進行加權求和,得到各所述文檔對應的語義向量。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人華潤數字科技有限公司,其通訊地址為:518000 廣東省深圳市福田區梅林街道梅都社區中康路136號深圳新一代產業園2棟801;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。