恭喜重慶理工大學王宇鍵獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜重慶理工大學申請的專利一種融合不確定性估計與主動學習的表情識別方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119049113B 。
龍圖騰網通過國家知識產權局官網在2025-04-18發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411235694.7,技術領域涉及:G06V40/16;該發明授權一種融合不確定性估計與主動學習的表情識別方法是由王宇鍵;張建勛;孫仁浩;廖丹丹設計研發完成,并于2024-09-04向國家知識產權局提交的專利申請。
本一種融合不確定性估計與主動學習的表情識別方法在說明書摘要公布了:本發明涉及深度學習和圖像處理技術領域,公開了一種融合不確定性估計與主動學習的表情識別方法。所述融合不確定性估計與主動學習的表情識別方法包括步驟:1、對比自監督預訓練;2、融合不確定性估計的動態重標注模塊DRMDynamicRe?labelingModule;3、基于預訓練模型的模型微調。本發明提供的融合不確定性估計與主動學習的表情識別方法,首先利用對比學習基于整體未標記數據集的底層特征表示,并通過改進的不確定性估計方法,進一步增強模型的特征提取能力;隨后,主動學習基于預訓練模型進行模型微調,以更高效地選擇和標記最具信息量的樣本,其結果相較于現有技術,在識別準確率上實現了顯著提升。
本發明授權一種融合不確定性估計與主動學習的表情識別方法在權利要求書中公布了:1.一種融合不確定性估計與主動學習的表情識別方法,其特征在于,包括如下步驟:步驟1、構建第一階段:對比預訓練學習框架,所述步驟1包括子步驟:步驟1.1、數據采樣:選定數據集并通過隨機采樣人臉圖像得到人臉圖象數據集,表示第個人臉圖像,并將其人臉所對應的標簽值單獨保存為,表示第個人臉圖像所對應的標簽值;步驟1.2、分別對數據集中的每張人臉做調整圖像大小,歸一化像素值操作,接著應用隨即變換來得到數據增強圖像,,其中和分別表示第個樣本的隨機數據增強視圖,并將這兩個視圖作為正樣本對;步驟2、構建SimCLR:對比預訓練表情識別網絡,是由骨干網絡、全局平均池化層、投影頭、動態重標注模塊構成,所述步驟2包括子步驟:步驟2.1、所述骨干網絡是ResNet18網絡,并依次包括第一卷積塊、第二卷積塊、第三卷積塊、第四卷積塊、第五卷積塊、第六全連接塊;第一卷積塊的卷積核為,第二卷積塊的由一個殘差塊構成,第三卷積塊由一個殘差塊構成;第四卷積塊由二個殘差塊構成;第五卷積塊由二個殘差塊構成;第六全連接塊包含全局平均池化和全連接層;每個殘差塊中包含兩個的卷積核;步驟2.2、將,分別輸入所述骨干網絡中進行處理,并依次經過五個卷積塊的處理后,分別輸出第張增強圖形特征圖、,全局平均池化層將每個特征圖的空間維度壓縮到單個數值,從而得到兩個定長的特征向量;步驟2.3、對比損失計算和訓練,計算正樣本對的余弦相似度;從當前批次中選擇負樣本;每個視圖的特征向量對其他視圖的特征向量都是負樣本;利用公式(1)對于每個正樣本對,最大化其相似度,同時最小化其與所有負樣本對的相似度,(1)式(1)中分別是樣本和正樣本的嵌入表示,為負樣本的嵌入表示,是溫度參數,是一個指示函數,當時為1,否則為0;為正樣本集;步驟3、構建基于不確定性估計的重標注模塊,主要包括自注意力權重模塊,對數加權交叉熵損失,正則化排序和動態閾值重標注,所述步驟3包括子步驟:步驟3.1、計算自注意力權重:將輸入Softmax分類器中進行反向傳播后,提取全連接FC層的特征權重,并與樣本進行特征加權,通過公式(2)得到每一個圖像樣本所對應的特征權值;(2)式(2)中,是第個樣本的特征權重,是全連接層的權重系數,是Sigmod函數;步驟3.2、利用公式(3)計算對數加權交叉熵損失(3)其中是第j個分類器的權重;步驟3.3、正則化排序:首先對注意力權重進行降序排序,然后比例將其分為高標準差注意力權重組和低標準差注意力權重組兩組;接著使用公式(4)和(5)的秩正則化來確保高重要性組的標準差注意力權重略高于低重要性組的標準差注意力權重;(4)式(4)中,其中為控制低重要性群體總數所占比例的邊際值,訓練時,將綜合損失函數定義為:(5)式(5),中γ是權衡比;步驟3.4、動態閾值重新標記:不確定樣本通常表現出較低的重要權重,即,重標注模塊將中的樣本數據使用Softmax概率的方法來評估具有較低重要權重的樣本;使用公式(6)和(7)在最高預測概率和分配給原始標簽的概率之間進行比較;當前者超過后者時,樣本被重新分配一個新的偽標簽;動態閾值重標記過程的操作如下:(6) (7)式(6)中,為閾值,為預測概率最大的值,表示給定標簽值的概率;和分別是原始給定標簽的索引和最大預測值的索引;式(7)中,increase和decrease表示每次調整的幅度大小;步驟3.5、基于總體損失函數對對比監督預訓練網絡進行訓練,當訓練迭代次數達到設定的次數或總體損失函數收斂時,訓練停止,從而得到最優的人臉表情特征提取網絡模型,用于后續主動學習;步驟4、主動學習,所述步驟4包括子步驟:步驟4.1、將人臉數據集劃分為一個小規模的已標注數據集,和一個大量的未標注數據集;所在數據集中的最后位置initial_points為區分有無標注數據的起始點;步驟4.2、最小置信度法:設置學習輪數為7,在每一輪主動學習中,模型從未標注數據集中選擇樣本的批處理大小,對于中的每個樣本都通過Softmax分類器分別對其特征值進行表情類別的判斷,得到對應的表情類別預測概率,按照最高置信度從小到大對所有未標注樣本進行排序,選擇最高置信度排序最低的樣本為主動學習所選擇的樣本,記做,其中表示第個最高置信度在批次中最小的被挑選的樣本;將新標注的數據添加到已標注數據集中,并從未標注數據集中移除這些樣本;步驟4.3、使用更新后的已標注數據集重新訓練或微調模型,生成新模型;評估模型在驗證集上的性能,直到達到預算或完成7輪。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人重慶理工大學,其通訊地址為:400054 重慶市巴南區紅光大道69號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。