買專利賣專利找龍圖騰,真高效!
查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜珠海市歐冶半導體有限公司申請的專利應用于Transformer的批量層歸一化方法及裝置獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN115952834B
。
龍圖騰網通過國家知識產權局官網在2025-05-16發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202211712332.3,技術領域涉及:G06N3/0464;該發明授權應用于Transformer的批量層歸一化方法及裝置是由薛文良;陳瑞斌設計研發完成,并于2022-12-29向國家知識產權局提交的專利申請。
本應用于Transformer的批量層歸一化方法及裝置在說明書摘要公布了:本申請公開了一種應用于Transformer的批量層歸一化方法及裝置,所述方法包括獲取待批量歸一化處理的特征圖,讀取所述Transformer神經網絡的全局均值和全局標準差;基于所述全局均值和全局標準差,對所述特征圖進行歸一化;對歸一化后的特征圖進行仿射變換,以得到歸一化特征圖。本申請通過獲取全局均值和全局標準差,可以減少歸一化操作過程中對數據的統計次數,可以減少歸一化所需要的計算資源。同時,本申請在各特征點的均值和標準差均是統一的,這樣使得通過Transformer配置的量化參數進行量化時,不會影響Transformer的精度。
本發明授權應用于Transformer的批量層歸一化方法及裝置在權利要求書中公布了:1.一種應用Transformer神經網絡的處理方法,其特征在于,所述處理方法具體包括:獲取待處理數據,待處理數據為待處理圖像;將所述待處理數據輸入經過訓練的Transformer神經網絡,通過所述Transformer神經網絡確定所述待處理數據對應的處理后數據,其中,處理后數據為待處理圖像中的目標物區域;所述Transformer神經網絡配置有批量層歸一化處理過程,其中,批量層歸一處理過程嵌入到線性層里面,在線性層執行的過程中執行批量歸一化處理過程,所述批量層歸一化層處理過程為:獲取待批量歸一化處理的特征圖,讀取所述Transformer神經網絡的全局均值和全局標準差;基于所述全局均值和全局標準差,對所述特征圖進行歸一化;對歸一化后的特征圖進行仿射變換,以得到歸一化特征圖,使得批量層歸一處理不會額外增加算力消耗。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人珠海市歐冶半導體有限公司,其通訊地址為:519085 廣東省珠海市高新區唐家灣鎮灣創路58號8層803室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。