買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜常州大學申請的專利一種基于Transformer神經網絡的圖像分類方法獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN114743022B 。

龍圖騰網通過國家知識產權局官網在2025-05-30發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202210464982.4，技術領域涉及：G06V10/44；該發明授權一種基于Transformer神經網絡的圖像分類方法是由屈霞;田晨陽設計研發完成，并于2022-04-29向國家知識產權局提交的專利申請。

本一種基于Transformer神經網絡的圖像分類方法在說明書摘要公布了：本發明涉及圖像分類技術領域，尤其涉及一種基于Transformer神經網絡的圖像分類方法，包括：利用大型數據集對Transformer神經網絡進行預訓練；使用自制的數據集對Transformer神經網絡進行微調；對采集的圖像分塊處理；將張量在通道維度上對每個像素做線性變換，并對變換后的張量在通道維度上進行LayerNorm操作；將處理好的圖像送入訓練好的Transformer神經網絡進行特征提取；提取得到的最終特征進行檢測，并將圖片分類到得分最高的類。本發明解決傳統的卷積神經網絡在對圖像進行分類時精度不夠高；現有的多頭注意力機制計算量大的問題。

本發明授權一種基于Transformer神經網絡的圖像分類方法在權利要求書中公布了：1.一種基于Transformer神經網絡的圖像分類方法，其特征在于，包括以下步驟：S1、預訓練：利用大型數據集對Transformer神經網絡進行預訓練，從中提取出共性特征；S2、微調：使用自制的數據集對Transformer神經網絡進行微調，使得經過預訓練的模型的參數能夠適應對特定的任務進行分類；S3、圖像分塊：對采集的圖像分塊處理；S4、線性變換：將張量在通道維度上對每個像素做線性變換，并對變換后的張量在通道維度上進行LayerNorm操作；所述步驟S4包括：首先，在通道維度上對每個像素做線性變換其次，對變換后的張量在通道維度上進行LayerNorm操作，如式1所示： 其中，Ex和Varx分別為每一層輸入元素的均值和方差；∈為指定的一個極小數值；γ和β為每個像素點的權重和偏置；S5、特征提取：將處理好的圖像送入訓練好的Transformer神經網絡進行特征提取；所述步驟S5包括：首先，通過Transformer神經網絡對圖片進行多次特征提取，并將得到的含有目標信息的特征圖用作檢測源；其次，將三維數據經過多次下采樣和多次注意力計算，變成維度為的數據；最后，基于自注意力機制對每個像素的相關性做計算，獲得整張圖片的全局視野；所述基于自注意力機制是使用滑動窗口多頭注意力機制，在對特征圖做劃分操作時，進行一定程度的偏移；在對圖片進行特征提取的過程中，交替使用窗口多頭注意力和滑動窗口多頭注意力；所述交替使用窗口多頭注意力和滑動窗口多頭注意力包括：首先，由上一層所得到的輸出xl-1，經過LayerNorm操作；然后，基于窗口多頭注意力機制計算各個像素點之間的相關性得到xl，并在xl-1和xl之間加入殘差連接，隨后經過下一個LN歸一化層，再將輸出送入多層感知機；最后，將輸出xl送入下一個含有滑動窗口多頭注意力機制的模塊；S6、檢測：對S5步驟中所提取得到的最終特征進行檢測，并將圖片分類到得分最高的類。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人常州大學，其通訊地址為：213164 江蘇省常州市武進區滆湖中路21號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。