恭喜深圳市科楠科技開發有限公司楊睿理獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜深圳市科楠科技開發有限公司申請的專利一種用于大模型的計算資源調度優化方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119311395B 。
龍圖騰網通過國家知識產權局官網在2025-04-04發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202411845038.9,技術領域涉及:G06F9/48;該發明授權一種用于大模型的計算資源調度優化方法是由楊睿理;徐璐;路遠;張瑩瑩設計研發完成,并于2024-12-16向國家知識產權局提交的專利申請。
本一種用于大模型的計算資源調度優化方法在說明書摘要公布了:本發明公開了一種用于大模型的計算資源調度優化方法,涉及涉及資源調度優化技術領域,將任務分為異常任務、普通任務兩大類,并根據每個計算節點的資源處理能力值和請求次數匹配一個權重值,將計算節點分為將計算節點分為普通計算節點和緩沖計算節點,第一優先級為異常任務,首先調度普通計算節點中的空閑計算節點視為緩沖臨時計算節點,暫時提高緩沖計算節點的負載能力,以便匹配異常任務的任務需求,能夠有效解決面對突發、異常任務需求的問題,能夠有效解決面對突發、異常任務需求的問題,實現了動態計算資源調度優化效果,并且提高了計算結果的準確性。
本發明授權一種用于大模型的計算資源調度優化方法在權利要求書中公布了:1.一種用于大模型的計算資源調度優化方法,其特征在于,包括:S1,接收計算任務,去除重復、無效的計算任務,然后將所有任務分為普通任務和異常任務,突發、異常需求的任務分類為異常任務,其余為普通任務;S2,將待計算的普通任務根據任務的執行時間、資源需求大小分為重要且緊急A、重要但不緊急B、不重要但緊急C、不重要且不緊急D,然后依次計算A、B、C、D類任務的所需資源大小總和A1、B1、C1、D1;S3,將計算節點分為普通計算節點和緩沖計算節點,根據每個計算節點的資源處理能力值和請求次數匹配一個權重值,計算所有的普通計算節點資源處理能力值總和M;S4,第一優先級為異常任務,調度普通計算節點中的空閑計算節點視為緩沖臨時計算節點,待異常任務處理結束后,緩沖臨時計算節點重新標記為普通計算節點;權重值高的緩沖計算節點優先標記為目標匹配節點,權重值相同的,比較待分配的異常任務到達權重值相同的緩沖計算節點連接數,最少連接數的緩沖計算節點為目標節點,直至異常任務匹配結束;S5,第二優先級為普通任務,普通任務內按照A、B、C、D4類任務依次分配,優先匹配重要且緊急A類任務,計算差值A1-M,差值A1-M為正,表示超出普通計算節點的負載范圍,調度空閑的緩沖計算節點視為臨時計算節點,待普通任務處理結束后,臨時計算節點重新標記為緩沖計算節點;反之,差值A1-M為負,權重值高的計算節點優先標記為目標匹配節點,權重值相同的,比較待分配的A類任務到達權重值相同的計算節點連接數,最少連接數的計算節點為目標節點,直至A類任務匹配結束,最后依據A類任務匹配的方式依次分配B、C、D類任務;所述步驟S4、S5中,將異常任務設定為第一優先級,當系統不存在空閑的普通計算節點,或者現有的緩沖計算節點正被步驟S5中普通任務占用時,系統中止對緩沖計算節點的調度,暫停執行的任務,暫停執行的任務保存至緩存數據庫;系統暫停處理D類任務的普通計算節點,暫停的D類任務保存至緩存數據庫,被暫停的普通計算節點被臨時轉換為緩沖計算節點,臨時轉換的緩沖計算節點標記為緩沖臨時計算節點,按照步驟S4繼續執行;最后當異常任務執行結束后,緩沖計算節點繼續執行緩存數據庫內對應的暫停任務,被暫停的普通計算節點結束調用,普通計算節點繼續執行其緩存數據庫內對應的暫停任務。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人深圳市科楠科技開發有限公司,其通訊地址為:518055 廣東省深圳市南山區西麗街道西麗社區打石一路深圳國際創新谷七棟B座801房;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。