恭喜平安科技(深圳)有限公司李志韜獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜平安科技(深圳)有限公司申請的專利文本模型的訓練方法、識別方法、裝置、設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN112734050B 。
龍圖騰網通過國家知識產權局官網在2025-05-23發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202011446681.6,技術領域涉及:G06N20/20;該發明授權文本模型的訓練方法、識別方法、裝置、設備及存儲介質是由李志韜;王健宗;程寧設計研發完成,并于2020-12-11向國家知識產權局提交的專利申請。
本文本模型的訓練方法、識別方法、裝置、設備及存儲介質在說明書摘要公布了:本發明涉及人工智能技術領域,公開了一種基于聯邦學習的文本模型的訓練方法、文本模型的識別方法、裝置、計算機設備及計算機可讀存儲介質,該方法包括:通過獲取待訓練集數據,基于所述待訓練集數據訓練預置語言模型,得到所述預置語言模型的模型參數信息;將所述模型參數信息加密并上傳至預置聚合聯邦模型,以獲取所述預置聚合聯邦模型對所述模型參數信息進行聯邦學習后返回的聚合模型參數信息;基于所述聚合模型參數信息更新所述預置語言模型,得到對應的文本模型,實現保護數據隱私的基礎上聯合訓練多個模型,并提高預測違規文本的準確率以及減少模型的訓練時間。
本發明授權文本模型的訓練方法、識別方法、裝置、設備及存儲介質在權利要求書中公布了:1.一種基于聯邦學習的文本模型的訓練方法,其特征在于,包括:獲取待訓練集數據,基于所述待訓練集數據訓練預置語言模型,得到所述預置語言模型的模型參數信息;將所述模型參數信息加密并上傳至預置聚合聯邦模型,以獲取所述預置聚合聯邦模型對所述模型參數信息進行聯邦學習后返回的聚合模型參數信息;基于所述聚合模型參數信息更新所述預置語言模型,得到對應的文本模型;其中,所述預置語言模型包括預置預訓練語言模型和預置雙重傳播模型,所述聚合模型參數信息包括第一聚合模型參數信息和第二聚合模型參數信息;所述基于所述聚合模型參數信息更新所述預置語言模型,得到對應的文本模型,包括:基于所述第一聚合模型參數信息更新所述預置預訓練語言模型的第一模型參數信息,以及基于所述第二聚合模型參數信息更新所述預置雙重傳播模型的第二模型參數信息;確定更新后的所述預置預訓練語言模型和或更新后的所述預置雙重傳播模型是否處于收斂狀態;若確定所述預置預訓練語言模型和或預置雙重傳播模型處于收斂狀態,則將所述預置預訓練語言模型作為文本編碼模型和或將所述預置雙重傳播模型作為文本識別模型,其中,所述文本編碼模型用于確定待預測文本的第二文本語義向量信息,所述文本識別模型用于根據所述第二文本語義向量信息確定所述待預測文本的標簽信息;若所述預置預訓練語言模型和或所述預置雙重傳播模型未處于收斂狀態,則根據預置待訓練樣本數據訓練所述預置預訓練語言模型和或所述預置雙重傳播模型,得到訓練后所述預置預訓練語言模型的第三模型參數信息和或所述預置雙重傳播模型的第四模型參數信息,并將所述第三模型參數信息和或所述第四模型參數信息上傳至所述預置聚合聯邦模型進行聯邦學習。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人平安科技(深圳)有限公司,其通訊地址為:518000 廣東省深圳市福田區福田街道福安社區益田路5033號平安金融中心23樓;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。