恭喜北京火山引擎科技有限公司楊力源獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜北京火山引擎科技有限公司申請的專利分類模型訓練方法、文本分類方法、介質、設備及產品獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119046691B 。
龍圖騰網通過國家知識產權局官網在2025-03-25發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411525748.3,技術領域涉及:G06F18/214;該發明授權分類模型訓練方法、文本分類方法、介質、設備及產品是由楊力源;李文波;本妍妍設計研發完成,并于2024-10-29向國家知識產權局提交的專利申請。
本分類模型訓練方法、文本分類方法、介質、設備及產品在說明書摘要公布了:一種分類模型訓練方法、文本分類方法、介質、設備及產品。文本分類模型包括第一模型和激活函數層,第一模型是經過預訓練的大語言模型,訓練方法包括:獲取訓練樣本集和提示文本,訓練樣本集中的訓練樣本包括文本樣本和文本樣本對應的分類標簽;通過將提示文本和文本樣本作為第一模型的輸入,將第一模型輸出的第一個生成詞的第一嵌入向量矩陣作為激活函數層的輸入,并將文本樣本對應的分類標簽作為激活函數層的目標輸出的方式對文本分類模型進行訓練。這樣,能支持長文本的分類,提升長文本的分類效果。將第一模型輸出的第一個生成詞的第一嵌入向量矩陣作為激活函數層的輸入,可保證文本分類模型的輸出內容的可控性,進一步提升模型的分類能力。
本發明授權分類模型訓練方法、文本分類方法、介質、設備及產品在權利要求書中公布了:1.一種文本分類模型訓練方法,其特征在于,所述文本分類模型包括第一模型和激活函數層,所述第一模型是經過預訓練的大語言模型,所述文本分類模型訓練方法包括:獲取訓練樣本集和提示文本,其中,所述訓練樣本集中的訓練樣本包括文本樣本和所述文本樣本對應的分類標簽,所述提示文本包括所述文本分類模型的分類任務描述信息;通過將所述提示文本和所述文本樣本作為所述第一模型的輸入,將所述第一模型輸出的第一個生成詞的第一嵌入向量矩陣作為所述激活函數層的輸入,并將所述文本樣本對應的分類標簽作為所述激活函數層的目標輸出的方式對所述文本分類模型進行訓練,以得到目標文本分類模型;其中,所述文本分類模型還包括第一全連接層、拼接層以及第二全連接層;所述文本分類模型訓練方法還包括:獲取所述文本樣本的第一統計特征;其中,所述第一模型,用于根據所述提示文本和所述文本樣本,生成所述第一嵌入向量矩陣,并將所述第一嵌入向量矩陣輸入至所述拼接層;所述第一全連接層,用于將所述第一統計特征升維至所述第一嵌入向量矩陣的大小,并將升維后所得的第一統計特征輸入至所述拼接層;所述拼接層,用于將所述升維后所得的第一統計特征與所述第一嵌入向量矩陣進行拼接,得到第一拼接特征,并將所述第一拼接特征輸入至所述第二全連接層;所述第二全連接層,用于對所述第一拼接特征進行特征融合,得到第一融合特征,并將所述第一融合特征輸入至所述激活函數層;所述激活函數層,用于根據所述第一融合特征,生成所述文本樣本的分類結果。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人北京火山引擎科技有限公司,其通訊地址為:100190 北京市海淀區紫金數碼園4號樓13層1309;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。