恭喜山東浪潮科學研究院有限公司郝運凱獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜山東浪潮科學研究院有限公司申請的專利基于多面體編譯的深度學習模型優化方法、設備及介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN118821898B 。
龍圖騰網通過國家知識產權局官網在2025-04-18發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411296124.9,技術領域涉及:G06N3/086;該發明授權基于多面體編譯的深度學習模型優化方法、設備及介質是由郝運凱;姜凱;趙鑫鑫;薛海軍設計研發完成,并于2024-09-18向國家知識產權局提交的專利申請。
本基于多面體編譯的深度學習模型優化方法、設備及介質在說明書摘要公布了:本申請公開了一種基于多面體編譯的深度學習模型優化方法、設備及介質,涉及電數據處理領域,方法包括:獲取深度學習模型,并對深度學習模型進行解析,提取深度學習模型對應的計算圖;基于計算圖,將深度學習模型中的計算問題轉換為多面體模型;其中,深度學習模型中的操作對應于多面體模型中的頂點,深度學習模型中的數據流對應于多面體模型中的邊;通過對多面體模型進行編譯,對深度學習模型進行優化。通過將深度學習模型的計算轉化為多面體問題,并利用多面體編譯技術進行優化,能夠在不同的硬件平臺上生成高效的執行計劃,顯著提升模型的運行速度和資源利用率。
本發明授權基于多面體編譯的深度學習模型優化方法、設備及介質在權利要求書中公布了:1.一種基于多面體編譯的深度學習模型優化方法,其特征在于,包括:獲取深度學習模型,并對所述深度學習模型進行解析,提取所述深度學習模型對應的計算圖;基于所述計算圖,將所述深度學習模型中的計算問題轉換為多面體模型;其中,所述深度學習模型中的操作對應于所述多面體模型中的頂點,所述深度學習模型中的數據流對應于所述多面體模型中的邊;通過對所述多面體模型進行編譯,對所述深度學習模型進行優化;通過對所述多面體模型進行編譯,對所述深度學習模型進行優化,具體包括:基于所述計算圖,確定所述深度學習模型中的深度學習算子,并確定所述深度學習算子中的計算密集型算子和循環結構,以及所述計算密集型算子中的矩陣乘法運算;基于所述多面體模型中的連接關系,得到所述計算密集型算子之間的數據依賴關系;基于所述矩陣乘法運算中包含的參數維度,建立所述循環結構的對應維度的迭代域;基于每個迭代域與訪問集之間的差異,得到對應的依賴矢量,作為控制依賴關系;所述方法還包括:基于依賴分析結果,對所述循環結構進行循環變換;其中,所述依賴分析結果包括數據依賴關系、控制依賴關系,所述循環變換包括循環反轉、循環傾斜、循環延展、循環合并、循環分布、循環偏移中的一種變換方式或多種變換方式的組合;基于所述循環變換,對所述循環結構中的內層循環和外層循環進行次序交換,以針對數據局部性進行性能優化;基于所述循環變換,對所述循環結構中的內層循環和外層循環進行次序交換,具體包括:確定所述循環結構中不存在依賴的指定循環結構;基于所述循環變換,將所述指定循環結構交換到內層循環;對所述內層循環中的循環結構,采用向量化的方式執行,以針對程序并行性進行性能優化;所述方法還包括:建立代價模型;其中,所述代價模型的表達式為:,s表示源點語句實例,t表示匯點語句實例,函數代表了沿一維仿射變換對應的法向量方向上,依賴穿過的超平面的個數,、分別表示源點語句實例、匯點語句實例經仿射變換的法向量;對循環變換進行搜索和優化,直至其符合通過所述代價模型建立的評估標準,或,達到預設的優化次數上限;對循環變換進行搜索和優化,直至其符合通過所述代價模型建立的評估標準,或,達到預設的優化次數上限,具體包括:通過對所述循環變換所包含的變換方式進行定義,得到各循環變換所組成的集合,并根據所述集合組成對應的搜索空間;其中,針對需要指定具體數值的循環變換,在所述搜索空間中添加不同數值對應的循環變換;通過初始化,創建初始種群;其中,所述初始種群中包括多個個體,每個個體對應一個循環變換;將所述代價模型作為適應函數,以評估初始種群中各個體的適應度;基于所述適應度選擇對應部分個體,通過交叉和變異的方式進行繁殖,從而對所述初始種群進行更新,直至適應度達到所述代價模型預設上限的預設比例,或,迭代次數達到預設次數上限。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人山東浪潮科學研究院有限公司,其通訊地址為:250101 山東省濟南市高新區浪潮路1036號S02號樓;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。