買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜北京熵簡科技有限公司申請的專利一種面向少樣本領域的輕量級半監督模型框架獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN113920395B 。

龍圖騰網通過國家知識產權局官網在2025-05-13發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202111166569.1，技術領域涉及：G06F18/214；該發明授權一種面向少樣本領域的輕量級半監督模型框架是由張夢超;付志兵;李漁;費斌杰設計研發完成，并于2021-09-30向國家知識產權局提交的專利申請。

本一種面向少樣本領域的輕量級半監督模型框架在說明書摘要公布了：本發明公開了一種面向少樣本領域的輕量級半監督模型框架，涉及深度學習自然語言處理技術領域，包括：作為預訓練的激勵網絡；作為訓練的目標網絡，所述目標網絡連接于所述激勵網絡，并與所述激勵網絡完成若干特征蒸餾；其中，所述激勵網絡利用一致性正則化和數據增強技術從無監督數據和監督數據中挖掘信息和特征，為后續的所述目標網絡的訓練提供多級正則化約束。本發明提供的上述框架采用半監督的學習方法，在文本分類中，只需要少量的標注數據，也能達到很好的效果；本發明提供的上述框架采用激勵網絡來引導目標網絡的兩階段訓練方法，因為最終的目標網絡是輕量級的卷積神經網絡，因此，參數量更小，運行時所需資源更少，速度更快。

本發明授權一種面向少樣本領域的輕量級半監督模型框架在權利要求書中公布了：1.一種用于文本分類中的面向少樣本領域的輕量級半監督模型系統，其特征在于，包括：作為預訓練的激勵網絡；作為訓練的目標網絡，所述目標網絡連接于所述激勵網絡，并與所述激勵網絡完成若干特征蒸餾；其中，所述激勵網絡利用一致性正則化和數據增強技術從無監督數據和監督數據中挖掘信息和特征，為后續的所述目標網絡的訓練提供多級正則化約束；所述激勵網絡包括先后依次連接的第一文本編碼器、第一文本分類器和第一特征投影；其中，所述第一文本編碼器是一個預先訓練的語言模型，包括若干堆疊設置的transformer層，所述無監督數據和所述監督數據作為輸入，經過所述第一文本編碼器提供的預先訓練，輸出為第一向量；所述第一文本分類器包括第一多層感知器，接收所述第一向量并微調下游分類任務；所述第一特征投影包括單層感知機和非線性激活函數，用于對齊所述激勵網絡和所述目標網絡的特征維度；所述目標網絡包括先后依次連接的第二文本編碼器、第二文本分類器和第二特征投影；其中，所述第二文本編碼器包括若干卷積神經網絡TextCNN，所述無監督數據和所述監督數據作為輸入，經過所述第二文本編碼器提供的訓練，輸出為第二向量；所述第二文本分類器包括第二多層感知器和接收的所述第二向量；所述第二特征投影的結構與所述第一特征投影的結構相同，還包括特征映射層。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人北京熵簡科技有限公司，其通訊地址為：100085 北京市海淀區上地三街9號D座3層D408；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。