恭喜中國科學(xué)技術(shù)大學(xué)張昱獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)恭喜中國科學(xué)技術(shù)大學(xué)申請的專利面向部分參數(shù)為常量的深度學(xué)習(xí)模型的編譯優(yōu)化方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN119336334B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-04-04發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202411326066.X,技術(shù)領(lǐng)域涉及:G06F8/41;該發(fā)明授權(quán)面向部分參數(shù)為常量的深度學(xué)習(xí)模型的編譯優(yōu)化方法是由張昱;劉碩設(shè)計(jì)研發(fā)完成,并于2024-09-23向國家知識產(chǎn)權(quán)局提交的專利申請。
本面向部分參數(shù)為常量的深度學(xué)習(xí)模型的編譯優(yōu)化方法在說明書摘要公布了:本發(fā)明涉及深度學(xué)習(xí)技術(shù)領(lǐng)域,公開了一種面向部分參數(shù)為常量的深度學(xué)習(xí)模型的編譯優(yōu)化方法;本發(fā)明解決了傳統(tǒng)編譯技術(shù)中難以充分利用張量形狀A(yù)PI信息進(jìn)行常量優(yōu)化的問題。通過外部類型推斷和常量化替換,本發(fā)明能夠準(zhǔn)確識別和優(yōu)化常量參數(shù),優(yōu)化后的tiling參數(shù)被嵌入到核函數(shù)中,解決了運(yùn)行時(shí)不必要的計(jì)算開銷問題,最終達(dá)到了提升核函數(shù)執(zhí)行效率的效果。本發(fā)明通過常量傳播、死代碼刪除和公共子表達(dá)式優(yōu)化等優(yōu)化步驟,有效減少了冗余計(jì)算和無用代碼,解決了核函數(shù)執(zhí)行效率低下的問題,最終達(dá)到了加速深度學(xué)習(xí)模型推理過程的效果。
本發(fā)明授權(quán)面向部分參數(shù)為常量的深度學(xué)習(xí)模型的編譯優(yōu)化方法在權(quán)利要求書中公布了:1.一種面向部分參數(shù)為常量的深度學(xué)習(xí)模型的編譯優(yōu)化方法,其特征在于,包括:Host側(cè)代碼分析與常量化替換,具體包括:外部類型推斷:在深度學(xué)習(xí)模型的Host側(cè)代碼中,輸入張量的形狀通過張量形狀A(yù)PI查詢得到;通過外部類型推斷技術(shù),推斷每個(gè)張量形狀A(yù)PI的調(diào)用點(diǎn)是否返回常量值;對推斷返回常量值的張量形狀A(yù)PI的調(diào)用點(diǎn)進(jìn)行常量化替換,即直接使用常量值代替張量形狀A(yù)PI的返回值;常量傳播與優(yōu)化:在常量化替換完成后,對Host側(cè)代碼進(jìn)行常量傳播、死代碼刪除以及公共子表達(dá)式優(yōu)化;優(yōu)化后的Host側(cè)代碼中,會生成確定的常量Tiling參數(shù)及對應(yīng)的取值,將常量Tiling參數(shù)及對應(yīng)的取值保存在Device側(cè)的核函數(shù)中;Device側(cè)代碼的常量優(yōu)化,具體包括:核函數(shù)優(yōu)化:在Device側(cè)代碼編譯過程中,利用從Host側(cè)傳遞的常量Tiling參數(shù)以及對應(yīng)的取值,對核函數(shù)進(jìn)行編譯優(yōu)化操作,包括常量傳播、死代碼刪除、公共子表達(dá)式優(yōu)化;優(yōu)化后的核函數(shù)執(zhí)行:經(jīng)過優(yōu)化后的Device側(cè)代碼被編譯為二進(jìn)制包,運(yùn)行時(shí)調(diào)用優(yōu)化后的Device側(cè)代碼中的核函數(shù),實(shí)現(xiàn)深度學(xué)習(xí)模型編譯效率的提升。
如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人中國科學(xué)技術(shù)大學(xué),其通訊地址為:230026 安徽省合肥市包河區(qū)金寨路96號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 恭喜中芯國際集成電路制造(上海)有限公司張?zhí)锾铽@國家專利權(quán)
- 恭喜寧波舜宇光電信息有限公司俞絲絲獲國家專利權(quán)
- 恭喜北京京東尚科信息技術(shù)有限公司賀偉獲國家專利權(quán)
- 恭喜維思普新材料(蘇州)有限公司袁曉冬獲國家專利權(quán)
- 恭喜加利福尼亞大學(xué)董事會才華獲國家專利權(quán)
- 恭喜中芯長電半導(dǎo)體(江陰)有限公司蔡漢龍獲國家專利權(quán)
- 恭喜高通股份有限公司G.切里安獲國家專利權(quán)
- 恭喜河北春玖智能科技有限公司劉志高獲國家專利權(quán)
- 恭喜認(rèn)知系統(tǒng)公司S·A·丹維森獲國家專利權(quán)
- 恭喜AMDT控股公司邁克爾·馬拉尼獲國家專利權(quán)


熱門推薦
- 恭喜中國電力科學(xué)研究院有限公司劉純獲國家專利權(quán)
- 恭喜華為技術(shù)有限公司淦明獲國家專利權(quán)
- 恭喜程朝卿獲國家專利權(quán)
- 恭喜浜松光子學(xué)株式會社田畑桂獲國家專利權(quán)
- 恭喜英艾特股份公司H·馬克萊姆獲國家專利權(quán)
- 恭喜中國電力科學(xué)研究院有限公司李琰獲國家專利權(quán)
- 恭喜索尼半導(dǎo)體解決方案公司村瀬拓郎獲國家專利權(quán)
- 恭喜中國華電科工集團(tuán)有限公司王爭榮獲國家專利權(quán)
- 恭喜英艾特股份公司H·馬克萊姆獲國家專利權(quán)
- 恭喜皇家飛利浦有限公司M·G·L·J·范烏登獲國家專利權(quán)