買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜浙江大學申請的專利一種基于孿生知識蒸餾與自監督學習的小樣本分類方法獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN114298160B 。

龍圖騰網通過國家知識產權局官網在2025-03-21發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202111482687.3，技術領域涉及：G06V10/764；該發明授權一種基于孿生知識蒸餾與自監督學習的小樣本分類方法是由于云龍;靳莉莎設計研發完成，并于2021-12-07向國家知識產權局提交的專利申請。

本一種基于孿生知識蒸餾與自監督學習的小樣本分類方法在說明書摘要公布了：本發明公開了一種基于孿生知識蒸餾與自監督學習的小樣本分類小樣本方法，將孿生知識蒸餾與自監督學習相結合用于下游小樣本分類任務。具體包括如下步驟：獲取用于訓練孿生知識蒸餾模型的圖像數據集；利用圖像數據集從頭訓練預先定義好的孿生知識蒸餾網絡，優化目標是孿生知識蒸餾與自監督相結合的損失函數；獲得了訓練好的特征提取器F，并將它應用于小樣本分類任務。本發明在3個小樣本分類任務基miniImageNet，tieredImageNet和CIFAR?FS上均有很好的表現，證明了本發明在性能上的有效性與優越性。

本發明授權一種基于孿生知識蒸餾與自監督學習的小樣本分類方法在權利要求書中公布了：1.一種基于孿生知識蒸餾與自監督學習的小樣本分類方法，其特征在于，包括以下步驟：S1、獲取用于訓練孿生知識蒸餾網絡模型與測試小樣本分類任務的圖像數據集；S2、建立由特征提取網絡和分類器網絡構成的孿生知識蒸餾網絡模型，并使用孿生知識蒸餾與自監督學習相結合的方法訓練所述孿生知識蒸餾網絡模型；具體包括：S21、從用于訓練孿生知識蒸餾網絡的圖像數據集中隨機采樣一個批量的圖像樣本其中批量大小Nbs預先給定；S22、對于基類中的一個樣本x,通過特征提取網絡與分類器網絡得到它的類別預測向量，即z＝[z1,…,zi,…,zm]，再經過softmax分類器得到它屬于第i類的預測概率 其中，τ0是溫度縮放參數，它控制softmax輸出的歸一化概率分布的平滑性；M為類別個數；對于多分類任務，目標損失函數為LCEx＝Hy,Px其中，H表示交叉熵損失，Px是輸入x的預測的概率分布，y是類別真實標簽；S23、將相同類別的一對樣本作為所述孿生知識蒸餾網絡模型的輸入，得到各自的概率分布PSxi與PSxj，讓PTx＝PSxi+PSxj2作為教師，分別去蒸餾兩個學生分布；同時，兩個學生概率分布也要受類別真實標簽的監督LTwinKdxi,xj＝Hαy+βPTx,PSxi+Hαy+βPTx,PSxj，其中，α和β是平衡教師監督與類別真實標簽監督的兩個超參數，并且有α+β＝1；PTx不進行梯度傳播；S24、使用自監督學習中的2D圖像旋轉來增強數據，旋轉角度分別為R＝{90°,180°,270°}，由于樣本本身可以看作0°旋轉，因此合起來的旋轉集可以表示為R′＝{0°,90°,180°,270°}；對于一個輸入樣本，先創建它的三個旋轉圖像其中表示把樣本xi旋轉r角度；然后用特征提取器F提取它們的特征表示，之后正則化輸入樣本對和它們的增強樣本的特征表示 分類器網絡G把特征表示映射入標簽空間來預測標簽，之后從平均概率值蒸餾知識到旋轉的樣本；相應的自監督知識蒸餾定義為 其中PTx是輸入樣本對預測概率PSxi與PSxj的均值；同時，由輸入樣本與它的旋轉樣本提取到的logit向量GFx，旋轉分類器去預測它們的旋轉角度標簽r；因此自監督損失公式為 其中Qx＝[q1x,…,qRx]是旋轉預測概率向量，通過下式獲得 其中，u表示樣本x旋轉向量；綜上所述，本網絡的整個優化目標為 S26、根據得到的優化目標，使用帶動量的隨機梯度下降優化器，以及反向傳播算法訓練所述孿生知識蒸餾網絡模型；S27、重復步驟S21至S26直至模型收斂；S3、將訓練好的孿生知識蒸餾網絡模型應用于小樣本分類任務。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人浙江大學，其通訊地址為：310058 浙江省杭州市西湖區余杭塘路866號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。