買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜北京億安天下科技股份有限公司申請的專利基于離網算力服務器的大模型推理調度方法獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119537032B 。

龍圖騰網通過國家知識產權局官網在2025-05-20發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202510088550.1，技術領域涉及：G06F9/50；該發明授權基于離網算力服務器的大模型推理調度方法是由李紅明;蘇浩設計研發完成，并于2025-01-21向國家知識產權局提交的專利申請。

本基于離網算力服務器的大模型推理調度方法在說明書摘要公布了：本發明涉及服務器調度技術領域，公開了基于離網算力服務器的大模型推理調度方法，包括以下步驟：收集離網算力服務器的硬件信息，構建服務器資源向量；將大模型推理任務分解為多個子任務，構建任務建模；根據離網服務器的硬件信息和任務依賴關系，利用優化方法進行任務劃分；基于服務器當前的負載狀態，對子任務進行動態任務調度；根據服務器的實時計算負載，動態遷移部分任務至其他服務器，確保服務器間的負載平衡；執行分配的任務，監測服務器的運行狀態和任務完成情況，根據反饋數據動態調整任務分配策略。通過建模任務需求和服務器資源，結合實時監測和優化調度，實現了離網環境下大模型推理的高效計算和資源利用最大化。

本發明授權基于離網算力服務器的大模型推理調度方法在權利要求書中公布了：1.基于離網算力服務器的大模型推理調度方法，其特征在于，包括以下步驟：收集離網算力服務器的硬件信息，構建服務器資源向量；將大模型推理任務分解為多個子任務，構建任務建模；根據離網服務器的硬件信息和任務依賴關系，利用優化方法進行任務劃分；基于服務器當前的負載狀態，對子任務進行動態任務調度；根據服務器的實時計算負載，動態遷移部分任務至其他服務器，確保服務器間的負載平衡；執行分配的任務，監測服務器的運行狀態和任務完成情況，根據反饋數據動態調整任務分配策略；所述任務建模包括：構建任務－資源矩陣，該矩陣的元素表示每個任務在每臺服務器上所需的計算代價，所述計算代價基于任務的CPU需求、GPU需求和內存需求與服務器的可用資源計算得到；使用有向無環圖描述任務間的依賴關系；所述任務劃分包括：利用矩陣分解方法對任務－資源矩陣進行低秩分解，將任務劃分為多個子任務集合；每個子任務集合對應一臺服務器，并滿足子任務集合的計算需求與服務器的可用資源相匹配；所述動態任務調度基于博弈論優化模型實現，所述博弈論優化模型包括以下內容：將每臺服務器建模為博弈中的一個玩家；每個玩家的效用函數包括兩個部分：子任務的計算代價和服務器當前負載與其總資源容量的比值；根據效用函數的最大化結果分配任務，設計負載均衡調整；所述負載均衡調整通過動態負載平衡模型實現，該模型根據服務器的當前負載和任務遷移代價確定任務的動態遷移策略；所述負載平衡模型利用微分動力系統建模服務器負載的動態變化，服務器負載的變化由負載衰減、自發平衡和任務遷移三部分組成，最終目標為使所有服務器的負載趨于全局平均負載。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人北京億安天下科技股份有限公司，其通訊地址為：102200 北京市昌平區超前路17號1幢1至11層101-901；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。