恭喜青島國實科技集團有限公司叢明明獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜青島國實科技集團有限公司申請的專利基于神威處理器的算子融合方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119759583B 。
龍圖騰網通過國家知識產權局官網在2025-05-23發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510244893.2,技術領域涉及:G06F9/50;該發明授權基于神威處理器的算子融合方法是由叢明明;陳溟;蘇亮;馬猛飛;賈曉藝;信子君設計研發完成,并于2025-03-04向國家知識產權局提交的專利申請。
本基于神威處理器的算子融合方法在說明書摘要公布了:本發明涉及一種基于神威處理器的算子融合方法,屬于算子融合技術領域,包括獲取深度學習模型中計算圖的算子,分析算子的數據訪問模式,根據預設融合判定機制確定符合融合條件的待融合算子,并獲取待融合算子的特征圖,特征圖利用待融合算子進行數據處理,將待融合算子的參數預先加載至神威處理器的局部數據存儲器中,判斷特征圖的總數據流與局部數據存儲器的容量的大小,通過判斷結果對特征圖的數據塊進行劃分,利用數據塊完成待融合算子的運算,并輸出運算后的數據塊,減少了數據在處理器和外部存儲器之間的頻繁傳輸,能夠充分利用神威處理器的計算資源,提升并行計算效率,優化內存訪問模式,減少內存帶寬的瓶頸。
本發明授權基于神威處理器的算子融合方法在權利要求書中公布了:1.一種基于神威處理器的算子融合方法,其特征在于,包括如下步驟:數據獲取步驟:獲取深度學習模型中計算圖的算子,分析算子的數據訪問模式,根據預設融合判定機制確定符合融合條件的待融合算子,并獲取所述待融合算子的特征圖;數據加載步驟:所述特征圖利用所述待融合算子進行數據處理,其中,將所述待融合算子的參數預先加載至神威處理器的局部數據存儲器中;數據運算步驟:判斷所述特征圖的總數據流與所述局部數據存儲器的容量的大小,通過判斷結果對所述特征圖的數據塊進行劃分,利用所述數據塊完成待融合算子的運算,并輸出運算后的數據塊;其中,判斷所述特征圖的總數據流與所述局部數據存儲器的容量的大小的過程具體為:若所述特征圖的總數據流超出所述局部數據存儲器的容量,則通過動態計算最優分塊大小,根據計算得到的最優分塊采用分塊流水線方式利用多個數據塊依次完成待融合算子的運算,并輸出運算后的數據塊;否則,將所述特征圖中的數據塊連續加載至局部數據存儲器中完成待融合算子的計算,并輸出運算后的數據塊;其中,所述數據加載步驟具體包括:根據所述神威處理器的架構模式判斷數據訪問模式,根據數據訪問模式選擇將所述待融合算子的參數加載至所述局部數據存儲器中的方式,其中,當所述數據訪問模式為連續訪問時,根據所述神威處理器的接口向DMA控制器發送DMA請求,所述DMA控制器根據所述DMA請求將所述特征圖中的數據塊連續加載至局部數據存儲器中;當所述數據訪問模式為跨步訪問時,在主存儲器中將特征圖的數據塊進行重排,將離散的數據組成連續的數據塊后,通過向所述DMA控制器發送DMA請求將所述數據塊連續加載至局部數據存儲器中;當所述數據訪問模式為隨機訪問時,通過分析識別出數據塊中訪問次數超過預設次數的數據后,通過將所述數據移動至相鄰位置以組成連續的數據塊,再通過向所述DMA控制器發送DMA請求將所述數據塊連續加載至局部數據存儲器中。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人青島國實科技集團有限公司,其通訊地址為:266000 山東省青島市即墨市鳳凰路以西、創業路以南;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。