買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)恭喜浙江工業(yè)大學(xué)申請(qǐng)的專利一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法獲國(guó)家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN114842257B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-05-13發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202210488306.0，技術(shù)領(lǐng)域涉及：G06V10/764；該發(fā)明授權(quán)一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法是由宣琦;王張偉;陳壯志;徐東偉;凌書揚(yáng)設(shè)計(jì)研發(fā)完成，并于2022-05-06向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法在說(shuō)明書摘要公布了：本發(fā)明提供一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法，包括以下步驟：S1：獲取數(shù)據(jù)集，對(duì)復(fù)雜模型預(yù)訓(xùn)練得到模型T2；S2：根據(jù)訓(xùn)練數(shù)據(jù)集，通過(guò)對(duì)抗樣本生成方法生成對(duì)應(yīng)對(duì)抗樣本數(shù)據(jù)；S3：將對(duì)抗樣本輸入復(fù)雜模型進(jìn)行對(duì)抗訓(xùn)練，得到模型T2；S4：選擇與復(fù)雜模型任務(wù)相同的輕量化模型作為學(xué)生模型S，通過(guò)多模型的知識(shí)蒸餾框架對(duì)學(xué)生模型進(jìn)行蒸餾訓(xùn)練。本發(fā)明通過(guò)對(duì)抗訓(xùn)練和知識(shí)蒸餾的方法，實(shí)現(xiàn)了一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法，實(shí)現(xiàn)了通過(guò)知識(shí)蒸餾使學(xué)生充分學(xué)習(xí)不同教師模型的特性，在提高對(duì)抗魯棒性時(shí)兼顧精度。

本發(fā)明授權(quán)一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法在權(quán)利要求書中公布了：1.一種基于多模型對(duì)抗蒸餾的魯棒性圖像分類方法，其特征在于：所述提取方法包括以下步驟：S1：預(yù)訓(xùn)練復(fù)雜模型；在給定訓(xùn)練數(shù)據(jù)集X下正常訓(xùn)練復(fù)雜模型，得到模型T1；復(fù)雜模型應(yīng)根據(jù)先驗(yàn)知識(shí)選擇分類能力優(yōu)秀的復(fù)雜模型；S2：產(chǎn)生對(duì)抗訓(xùn)練樣本；在給定數(shù)據(jù)集X下，根據(jù)損失函數(shù)的梯度通過(guò)多次迭代對(duì)每個(gè)樣本添加擾動(dòng)，得到對(duì)抗訓(xùn)練樣本對(duì)抗樣本根據(jù)公式1生成； 其中xt為原始樣本；α為擾動(dòng)系數(shù)，確定每次迭代中的步長(zhǎng)；sign·為符號(hào)函數(shù)，指定圖像像素改變方向；Jx,y為模型的損失函數(shù)；是損失函數(shù)關(guān)于圖像像素值的梯度；S3：對(duì)抗訓(xùn)練復(fù)雜模型；使用步驟S2中產(chǎn)生的擾動(dòng)樣本和正確標(biāo)簽作為對(duì)抗訓(xùn)練數(shù)據(jù)；選取一個(gè)復(fù)雜的模型框架，直接采取對(duì)抗訓(xùn)練，生成教師模型T2；步驟S3中，對(duì)抗訓(xùn)練過(guò)程中每一次新的迭代都根據(jù)公式1重新生成一批新的擾動(dòng)樣本作為這一輪對(duì)抗訓(xùn)練的訓(xùn)練樣本；S4：使用多個(gè)教師模型進(jìn)行知識(shí)蒸餾獲得輕量化學(xué)生模型；步驟S4具體包括：S4.1：選擇輕量化模型結(jié)構(gòu)作為學(xué)生模型S；S4.2：將訓(xùn)練樣本x，x∈X，輸入學(xué)生模型S和教師模型T1中，分別得到兩個(gè)模型的Logit輸出；其中真實(shí)標(biāo)簽作為學(xué)生模型訓(xùn)練硬標(biāo)簽，教師模型的輸出作為學(xué)生模型軟標(biāo)簽；根據(jù)公式2計(jì)算得到lossT1，其中l(wèi)amba為衡量損失函數(shù)重要性的權(quán)重，并根據(jù)交叉熵?fù)p失計(jì)算得到lossnat；lossT＝outs-outT2*lamba2S4.3：在知識(shí)蒸餾過(guò)程中利用公式1根據(jù)學(xué)生模型S生成對(duì)抗樣本與步驟S4.2操作相同，將對(duì)抗數(shù)據(jù)集輸入教師模型T2和學(xué)生模型S得到lossT2和lossadv；S4.4：根據(jù)公式3計(jì)算總損失值；LOSS＝lossnat+lossadv+lossT1+lossT23所述步驟S4.2中，使用者根據(jù)所需生成模型的功能來(lái)確定lamba權(quán)值的具體大小，使用者可通過(guò)權(quán)值分配的不同來(lái)生成強(qiáng)對(duì)抗魯棒性模型或是高分類精度模型。

如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人浙江工業(yè)大學(xué)，其通訊地址為：310014 浙江省杭州市拱墅區(qū)潮王路18號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。