深圳市科楠科技開發(fā)有限公司楊睿理獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉深圳市科楠科技開發(fā)有限公司申請的專利一種用于大模型的計算資源調(diào)度優(yōu)化方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN119311395B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-04-04發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202411845038.9,技術(shù)領(lǐng)域涉及:G06F9/48;該發(fā)明授權(quán)一種用于大模型的計算資源調(diào)度優(yōu)化方法是由楊睿理;徐璐;路遠;張瑩瑩設(shè)計研發(fā)完成,并于2024-12-16向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種用于大模型的計算資源調(diào)度優(yōu)化方法在說明書摘要公布了:本發(fā)明公開了一種用于大模型的計算資源調(diào)度優(yōu)化方法,涉及涉及資源調(diào)度優(yōu)化技術(shù)領(lǐng)域,將任務(wù)分為異常任務(wù)、普通任務(wù)兩大類,并根據(jù)每個計算節(jié)點的資源處理能力值和請求次數(shù)匹配一個權(quán)重值,將計算節(jié)點分為將計算節(jié)點分為普通計算節(jié)點和緩沖計算節(jié)點,第一優(yōu)先級為異常任務(wù),首先調(diào)度普通計算節(jié)點中的空閑計算節(jié)點視為緩沖臨時計算節(jié)點,暫時提高緩沖計算節(jié)點的負載能力,以便匹配異常任務(wù)的任務(wù)需求,能夠有效解決面對突發(fā)、異常任務(wù)需求的問題,能夠有效解決面對突發(fā)、異常任務(wù)需求的問題,實現(xiàn)了動態(tài)計算資源調(diào)度優(yōu)化效果,并且提高了計算結(jié)果的準確性。
本發(fā)明授權(quán)一種用于大模型的計算資源調(diào)度優(yōu)化方法在權(quán)利要求書中公布了:1.一種用于大模型的計算資源調(diào)度優(yōu)化方法,其特征在于,包括:S1,接收計算任務(wù),去除重復(fù)、無效的計算任務(wù),然后將所有任務(wù)分為普通任務(wù)和異常任務(wù),突發(fā)、異常需求的任務(wù)分類為異常任務(wù),其余為普通任務(wù);S2,將待計算的普通任務(wù)根據(jù)任務(wù)的執(zhí)行時間、資源需求大小分為重要且緊急A、重要但不緊急B、不重要但緊急C、不重要且不緊急D,然后依次計算A、B、C、D類任務(wù)的所需資源大小總和A1、B1、C1、D1;S3,將計算節(jié)點分為普通計算節(jié)點和緩沖計算節(jié)點,根據(jù)每個計算節(jié)點的資源處理能力值和請求次數(shù)匹配一個權(quán)重值,計算所有的普通計算節(jié)點資源處理能力值總和M;S4,第一優(yōu)先級為異常任務(wù),調(diào)度普通計算節(jié)點中的空閑計算節(jié)點視為緩沖臨時計算節(jié)點,待異常任務(wù)處理結(jié)束后,緩沖臨時計算節(jié)點重新標記為普通計算節(jié)點;權(quán)重值高的緩沖計算節(jié)點優(yōu)先標記為目標匹配節(jié)點,權(quán)重值相同的,比較待分配的異常任務(wù)到達權(quán)重值相同的緩沖計算節(jié)點連接數(shù),最少連接數(shù)的緩沖計算節(jié)點為目標節(jié)點,直至異常任務(wù)匹配結(jié)束;S5,第二優(yōu)先級為普通任務(wù),普通任務(wù)內(nèi)按照A、B、C、D4類任務(wù)依次分配,優(yōu)先匹配重要且緊急A類任務(wù),計算差值A(chǔ)1-M,差值A(chǔ)1-M為正,表示超出普通計算節(jié)點的負載范圍,調(diào)度空閑的緩沖計算節(jié)點視為臨時計算節(jié)點,待普通任務(wù)處理結(jié)束后,臨時計算節(jié)點重新標記為緩沖計算節(jié)點;反之,差值A(chǔ)1-M為負,權(quán)重值高的計算節(jié)點優(yōu)先標記為目標匹配節(jié)點,權(quán)重值相同的,比較待分配的A類任務(wù)到達權(quán)重值相同的計算節(jié)點連接數(shù),最少連接數(shù)的計算節(jié)點為目標節(jié)點,直至A類任務(wù)匹配結(jié)束,最后依據(jù)A類任務(wù)匹配的方式依次分配B、C、D類任務(wù);所述步驟S4、S5中,將異常任務(wù)設(shè)定為第一優(yōu)先級,當系統(tǒng)不存在空閑的普通計算節(jié)點,或者現(xiàn)有的緩沖計算節(jié)點正被步驟S5中普通任務(wù)占用時,系統(tǒng)中止對緩沖計算節(jié)點的調(diào)度,暫停執(zhí)行的任務(wù),暫停執(zhí)行的任務(wù)保存至緩存數(shù)據(jù)庫;系統(tǒng)暫停處理D類任務(wù)的普通計算節(jié)點,暫停的D類任務(wù)保存至緩存數(shù)據(jù)庫,被暫停的普通計算節(jié)點被臨時轉(zhuǎn)換為緩沖計算節(jié)點,臨時轉(zhuǎn)換的緩沖計算節(jié)點標記為緩沖臨時計算節(jié)點,按照步驟S4繼續(xù)執(zhí)行;最后當異常任務(wù)執(zhí)行結(jié)束后,緩沖計算節(jié)點繼續(xù)執(zhí)行緩存數(shù)據(jù)庫內(nèi)對應(yīng)的暫停任務(wù),被暫停的普通計算節(jié)點結(jié)束調(diào)用,普通計算節(jié)點繼續(xù)執(zhí)行其緩存數(shù)據(jù)庫內(nèi)對應(yīng)的暫停任務(wù)。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人深圳市科楠科技開發(fā)有限公司,其通訊地址為:518055 廣東省深圳市南山區(qū)西麗街道西麗社區(qū)打石一路深圳國際創(chuàng)新谷七棟B座801房;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。
- 北京動力源新能源科技有限責任公司翟龍獲國家專利權(quán)
- 洛陽方晨智能裝備有限公司馬永奇獲國家專利權(quán)
- 杭州老板電器股份有限公司任富佳獲國家專利權(quán)
- 中興通訊股份有限公司阮志明獲國家專利權(quán)
- 北京時代全芯存儲技術(shù)股份有限公司廖昱程獲國家專利權(quán)
- 沈陽硅基科技有限公司賈文博獲國家專利權(quán)
- 無錫先導(dǎo)智能裝備股份有限公司請求不公布姓名獲國家專利權(quán)
- 馬鞍山市雙益機械制造有限公司王飛獲國家專利權(quán)
- 杭州友邦演藝設(shè)備有限公司楊全明獲國家專利權(quán)
- 無錫先導(dǎo)智能裝備股份有限公司請求不公布姓名獲國家專利權(quán)


熱門推薦
- OPPO廣東移動通信有限公司張治獲國家專利權(quán)
- 深圳市茁壯網(wǎng)絡(luò)股份有限公司徐佳宏獲國家專利權(quán)
- 啟東吉萊電子有限公司張鵬獲國家專利權(quán)
- 無錫先導(dǎo)智能裝備股份有限公司請求不公布姓名獲國家專利權(quán)
- 深圳東方鍋爐控制有限公司羅輝國獲國家專利權(quán)
- 中國人民解放軍陸軍工程大學(xué)熊飛獲國家專利權(quán)
- 西安航通測控技術(shù)有限責任公司鐘征宇獲國家專利權(quán)
- 華為技術(shù)有限公司王俊偉獲國家專利權(quán)
- 內(nèi)蒙古拉鎖式新型建材科技有限公司姚井祥獲國家專利權(quán)
- 鋒利刀具制造(深圳)有限公司呂小燕獲國家專利權(quán)