恭喜浙江大學張子鍵獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜浙江大學申請的專利一種基于大語言模型的張量程序生成方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119201132B 。
龍圖騰網通過國家知識產權局官網在2025-05-16發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411688372.8,技術領域涉及:G06F8/41;該發明授權一種基于大語言模型的張量程序生成方法及系統是由張子鍵;劉宇陽;李石堅;張犁;潘綱設計研發完成,并于2024-11-25向國家知識產權局提交的專利申請。
本一種基于大語言模型的張量程序生成方法及系統在說明書摘要公布了:本發明公開了一種基于大語言模型的張量程序生成方法及系統,其中,方法包括以下步驟:(1)通過AI編譯器測試工具nnsmith生成隨機ONNX計算圖;(2)將nnsmith生成的ONNX計算圖導入TVM,并轉換為RelayIR中間表示;(3)基于TVM內部的模型中間表示RelayIR,通過TVM中的自動調優器Ansor對模型進行調優,生成最優的張量程序,并輸出調優時測量的JSON文件;(4)持續進行模型調優和張量程序測量,生成大量調優時的測量記錄,形成一個張量程序數據集,數據集中包含張量程序的特征以及對應的優化passlist;(5)根據生成的張量程序數據集訓練大語言模型,以實現對張量程序的理解和生成。本發明通過自動化工具和大語言模型的結合,可以實現高效的張量程序生成和優化。
本發明授權一種基于大語言模型的張量程序生成方法及系統在權利要求書中公布了:1.一種基于大語言模型的張量程序生成方法,其特征在于,包括以下步驟:(1)通過AI編譯器測試工具nnsmith生成隨機ONNX計算圖;(2)將nnsmith生成的ONNX計算圖導入機器學習編譯框架TVM,并轉換為RelayIR中間表示;(3)基于TVM內部的模型中間表示RelayIR,通過TVM中的自動調優器Ansor對模型進行調優,生成最優的張量程序,并輸出調優時測量的JSON文件;(4)持續進行模型調優和張量程序測量,生成調優時的測量記錄,形成一個張量程序數據集,數據集中包含張量程序的特征以及對應的優化所需的調度原語列表,即passlist;(5)根據生成的張量程序數據集訓練大語言模型,以實現對張量程序的理解和生成;訓練大語言模型的具體過程為:從生成的張量程序數據集中提取樣本,包括每個程序的特征和對應的優化passlist;進行數據清理和格式化,確保輸入輸出對齊;采用數據并行或模型并行策略,將數據集分布到多臺計算設備,進行同步或異步更新;通過損失函數評估大語言模型生成的passlist與真實列表的匹配程度,進行參數優化。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人浙江大學,其通訊地址為:310058 浙江省杭州市西湖區余杭塘路866號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。