買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)恭喜長沙理工大學申請的專利一種人工智能系統(tǒng)中流水行并行的GPU配置方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN115033388B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-05-13發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202210797455.5，技術(shù)領(lǐng)域涉及：G06F9/50；該發(fā)明授權(quán)一種人工智能系統(tǒng)中流水行并行的GPU配置方法及系統(tǒng)是由胡晉彬;賀蔓;劉穎;王進設(shè)計研發(fā)完成，并于2022-07-08向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種人工智能系統(tǒng)中流水行并行的GPU配置方法及系統(tǒng)在說明書摘要公布了：本發(fā)明公開了一種人工智能系統(tǒng)中流水行并行的GPU配置方法及系統(tǒng)，其針對共享GPU集群，并應(yīng)用于神經(jīng)網(wǎng)絡(luò)分布式訓(xùn)練。為了解決共享GPU集群下流水行并行中GPU分配方案固定不變而導(dǎo)致無法動態(tài)調(diào)節(jié)GPU配置的問題，所述方法在下一次的訓(xùn)練之前，根據(jù)靜態(tài)指標、動態(tài)指標得到若干新工作分區(qū)，在動態(tài)指標中加入GPU的可用帶寬，使得新工作分區(qū)能反應(yīng)GPU的動態(tài)可用資源；再引入了元網(wǎng)絡(luò)預(yù)測每個工作分區(qū)的訓(xùn)練速度來篩選工作分區(qū)，及引入強化學習來判斷是否更新當前的工作分區(qū)，通過上述GPU配置方法得到的工作分區(qū)能適應(yīng)于GPU的動態(tài)可用資源，更合理的進行分布式訓(xùn)練，有效提高GPU資源利用率以及保證后續(xù)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效率。

本發(fā)明授權(quán)一種人工智能系統(tǒng)中流水行并行的GPU配置方法及系統(tǒng)在權(quán)利要求書中公布了：1.一種人工智能系統(tǒng)中流水行并行的GPU配置方法，其特征在于：所述GPU配置方法是基于共享GPU集群用于在神經(jīng)網(wǎng)絡(luò)的下一次訓(xùn)練之前更新或是維持當前的GPU與網(wǎng)絡(luò)層的配置關(guān)系，所述神經(jīng)網(wǎng)絡(luò)被劃分為多個網(wǎng)絡(luò)層，所述GPU集群中存在共享GPU，所述GPU配置方法包括以下步驟：步驟1：獲取分布式訓(xùn)練系統(tǒng)中當前的靜態(tài)指標和動態(tài)指標；其中，所述分布式訓(xùn)練系統(tǒng)采用流水行并行，其為神經(jīng)網(wǎng)絡(luò)的每一個網(wǎng)絡(luò)層配置GPU，同一個GPU負責一個或多個網(wǎng)絡(luò)層訓(xùn)練，所述靜態(tài)指標包括：神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)層數(shù)、GPU數(shù)量以及每個網(wǎng)絡(luò)層的訓(xùn)練特征；所述動態(tài)指標包括：每個GPU的可用帶寬、每個GPU負責的所在網(wǎng)絡(luò)層的前向傳播時間和后向傳播時間；步驟2：依據(jù)所述靜態(tài)指標、動態(tài)指標生成若干新工作分區(qū)；其中，工作分區(qū)表示GPU與網(wǎng)絡(luò)層之間的配置關(guān)系；步驟3：將所述靜態(tài)指標、動態(tài)指標、新工作分區(qū)作為輸入，利用工作分區(qū)訓(xùn)練速度預(yù)測模型得到每個新工作分區(qū)對應(yīng)的訓(xùn)練速度預(yù)測值；步驟4：基于每個新工作分區(qū)的訓(xùn)練速度預(yù)測值以及每個新工作分區(qū)中配置關(guān)系發(fā)生變化的GPU數(shù)量篩選新工作分區(qū)；步驟5：將所述靜態(tài)指標、動態(tài)指標、篩選后的新工作分區(qū)以及當前的工作分區(qū)作為輸入，利用基于強化學習的篩選模型確定是否替換當前的工作分區(qū)，即更新或維持當前的GPU與網(wǎng)絡(luò)層的配置關(guān)系。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人長沙理工大學，其通訊地址為：410114 湖南省長沙市天心區(qū)萬家麗南路二段960號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。