恭喜平安科技(深圳)有限公司陳浩獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜平安科技(深圳)有限公司申請的專利基于人工智能的文本分類方法、裝置、設備及存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114416984B 。
龍圖騰網通過國家知識產權局官網在2025-05-13發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210033719.X,技術領域涉及:G06F16/353;該發明授權基于人工智能的文本分類方法、裝置、設備及存儲介質是由陳浩設計研發完成,并于2022-01-12向國家知識產權局提交的專利申請。
本基于人工智能的文本分類方法、裝置、設備及存儲介質在說明書摘要公布了:本申請涉及人工智能技術領域,揭示了一種基于人工智能的文本分類方法、裝置、設備及存儲介質,其中方法包括:將所述目標文本輸入預設的文本分類模型進行文本分類預測得到所述目標文本對應的目標文本分類結果;所述文本分類模型通過如下步驟得到:采用獲取的多個訓練樣本、情感詞詞典和同義詞詞典對初始模型進行掩碼訓練,所述初始模型是基于Bert模型和分類預測層得到的模型,所述情感詞詞典和所述同義詞詞典用于對所述訓練樣本中的初始文本樣本進行詞語替換;將訓練結束的所述初始模型作為所述文本分類模型。實現在微調階段將掩碼訓練和文本分類預測訓練同時進行,有效緩解Bert模型的兩個訓練階段的差異性,增加訓練得到的模型的魯棒性。
本發明授權基于人工智能的文本分類方法、裝置、設備及存儲介質在權利要求書中公布了:1.一種基于人工智能的文本分類方法,其特征在于,所述方法包括:獲取目標文本;將所述目標文本輸入預設的文本分類模型進行文本分類預測;獲取所述文本分類模型輸出的文本分類結果作為所述目標文本對應的目標文本分類結果;其中,所述文本分類模型通過如下步驟得到:采用獲取的多個訓練樣本、情感詞詞典和同義詞詞典對初始模型進行掩碼訓練,其中,所述初始模型是基于Bert模型和分類預測層得到的模型,所述情感詞詞典和所述同義詞詞典用于對所述訓練樣本中的初始文本樣本進行詞語替換;將訓練結束的所述初始模型作為所述文本分類模型;所述將所述目標文本輸入預設的文本分類模型進行文本分類預測的步驟之前,還包括:獲取多個所述訓練樣本;從各個所述訓練樣本中依次獲取所述訓練樣本作為待訓練樣本;從所述待訓練樣本的初始文本樣本中按照預設比例獲取詞語,得到待替換詞語集,并將所述待替換詞語集作為詞語標定值;采用所述情感詞詞典判斷所述待替換詞語集中的每個詞語是否為情感詞,得到情感詞集和非情感詞集;根據預設的掩碼符、所述同義詞詞典、所述待替換詞語集、所述情感詞集和所述非情感詞集,對所述待訓練樣本的所述初始文本樣本進行詞語替換,得到目標文本樣本;將所述目標文本樣本輸入所述初始模型分別進行掩碼位置的詞語預測和文本分類預測,得到詞語預測值和文本分類預測值;根據所述待訓練樣本的文本分類標定值、所述詞語標定值、所述詞語預測值和所述文本分類預測值訓練所述初始模型;重復執行確定所述待訓練樣本的步驟,直至達到預設的訓練目標;將達到所述訓練目標的所述初始模型作為所述文本分類模型;所述根據預設的掩碼符、所述同義詞詞典、所述待替換詞語集、所述情感詞集和所述非情感詞集,對所述待訓練樣本的所述初始文本樣本進行詞語替換,得到目標文本樣本的步驟,包括:采用所述掩碼符,對所述待訓練樣本的所述初始文本樣本中的與所述非情感詞集對應的各個詞語進行替換,得到待處理文本樣本;采用所述同義詞詞典,對所述待處理文本樣本中的與所述情感詞集對應的各個詞語進行替換,得到所述目標文本樣本;所述根據所述待訓練樣本的文本分類標定值、所述詞語標定值、所述詞語預測值和所述文本分類預測值訓練所述初始模型的步驟,包括:將所述待訓練樣本的文本分類標定值、所述詞語標定值、所述詞語預測值和所述文本分類預測值輸入預設的目標損失函數進行損失值計算,得到目標損失值;根據所述目標損失值對所述初始模型的網絡參數進行更新;所述將所述待訓練樣本的文本分類標定值、所述詞語標定值、所述詞語預測值和所述文本分類預測值輸入預設的目標損失函數進行損失值計算,得到目標損失值的步驟,包括:將所述待訓練樣本的所述詞語標定值和所述詞語預測值輸入預設的詞語預測損失函數進行損失值計算,得到第一損失值;將所述待訓練樣本的所述文本分類標定值和所述文本分類預測值輸入預設的文本分類預測損失函數進行損失值計算,得到第二損失值;將所述第一損失值和所述第二損失值進行加權求和,得到所述目標損失值;其中,所述詞語預測損失函數和所述文本分類預測損失函數均采用交叉熵損失函數,將詞語預測的損失和文本分類預測的損失進行加權求和作為目標損失函數,根據詞語預測的損失和文本分類預測的損失同時更新所述初始模型的網絡參數。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人平安科技(深圳)有限公司,其通訊地址為:518000 廣東省深圳市福田區福田街道福安社區益田路5033號平安金融中心23樓;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。