恭喜安徽訊飛寰語科技有限公司姚凱獲國家專利權
買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！
龍圖騰網恭喜安徽訊飛寰語科技有限公司申請的專利異構平臺的大模型部署方法、裝置、設備及程序產品獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119415277B 。
龍圖騰網通過國家知識產權局官網在2025-05-09發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202510032933.7，技術領域涉及：G06F9/50；該發明授權異構平臺的大模型部署方法、裝置、設備及程序產品是由姚凱;李威;余紅亮;李永超;吳重亮設計研發完成，并于2025-01-09向國家知識產權局提交的專利申請。
本異構平臺的大模型部署方法、裝置、設備及程序產品在說明書摘要公布了：本申請公開了一種異構平臺的大模型部署方法、裝置、設備及程序產品，涉及人工智能技術領域，本申請將待部署的大模型拆分為若干個子模型，根據每個子模型包含的算子類型及算子計算量，結合異構平臺上各類型芯片的算子支持情況，確定每個子模型所要部署的目標芯片，并根據目標芯片的量化支持情況，確定每個子模型的量化策略，按照該量化策略對子模型進行量化，將量化后子模型及量化策略生成可部署的子模型，以便于部署到異構平臺上對應的目標芯片中，實現大模型的自動化部署。本申請能夠在大模型部署過程自動選擇子模型所要部署的目標芯片，自動選擇量化策略，相比于人工設置部署方案的方法，能夠大幅提高部署效率，降低大模型端側部署難度。
本發明授權異構平臺的大模型部署方法、裝置、設備及程序產品在權利要求書中公布了：1.一種異構平臺的大模型部署方法，其特征在于，所述異構平臺包括兩個以上不同類型芯片，方法包括：將待部署的大模型拆分為若干個子模型；根據每個所述子模型包含的算子類型及算子的計算量，結合異構平臺上各類型芯片的算子支持情況，確定每個子模型所要部署的目標芯片；根據每個子模型所要部署的目標芯片的量化支持情況，確定每個子模型的量化策略；按照每個所述子模型的量化策略對所述子模型進行量化，得到量化后的子模型；將所述量化后的子模型及對應的量化策略生成可部署的子模型，以便于部署到所述異構平臺上對應的目標芯片中。
如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人安徽訊飛寰語科技有限公司，其通訊地址為：230031 安徽省合肥市高新區石蓮南路3335號中國聲谷A2棟15層1508室；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
免責聲明
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
1、本報告根據公開、合法渠道獲得相關數據和信息，力求客觀、公正，但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解，僅供參考使用，不能作為本公司承擔任何法律責任的依據或者憑證。
開放平臺
擔保交易
惠及多方
會員特惠
專屬平臺
適合多方
數據共享
功能齊全
皖公網安備 34010402703815號