恭喜深圳市廣聯智通科技有限公司馬躍獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜深圳市廣聯智通科技有限公司申請的專利一種基于遺傳算法和高斯過程的超參優化方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114118372B 。
龍圖騰網通過國家知識產權局官網在2025-05-23發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202111411192.1,技術領域涉及:G06N3/082;該發明授權一種基于遺傳算法和高斯過程的超參優化方法及系統是由馬躍;羅崇軍;魏驍勇;張栩祿;楊震群設計研發完成,并于2021-11-25向國家知識產權局提交的專利申請。
本一種基于遺傳算法和高斯過程的超參優化方法及系統在說明書摘要公布了:本發明提供了一種基于遺傳算法和高斯過程的超參優化方法及系統,屬于深度學習和超參優化技術領域,解決現有技術中的超參搜索方法搜索效率低下、搜索結果不佳的問題。本發明包括:1數據集的準備;2搭建神經神經網絡模型,生成初始種群;3神經網絡模型并行訓練;4得到神經網絡模型在驗證集的準確率;5判斷是否達到運行結束條件,若沒有達到執行步驟6;6基于高斯過程擬合概率模型后,使用采集函數選擇新超參,并基于新超參更新種群,再轉到步驟3。本發明用于超參優化。
本發明授權一種基于遺傳算法和高斯過程的超參優化方法及系統在權利要求書中公布了:1.一種基于遺傳算法和高斯過程的超參優化方法,其特征在于,包括如下步驟:步驟1:準備數據集,包括訓練集和驗證集;步驟2:搭建神經網絡模型,基于多個神經網絡模型生成初始的種群,其中,各神經網絡模型的超參在超參搜索空間內隨機選擇;步驟3:基于種群中每個神經網絡模型的超參和訓練集并行訓練各神經網絡模型一個epoch,其中,一個epoch是指將整個訓練集完全輸入神經網絡模型訓練一遍;步驟4:使用驗證集驗證訓練后的各神經網絡模型,得到各神經網絡模型的準確率;步驟5:判斷各神經網絡模型的訓練是否達到給定的迭代次數,若達到,則輸出驗證集上準確率最高的神經網絡模型的權值,否則轉到步驟6;步驟6:基于高斯過程擬合概率模型后,使用采集函數選擇新超參,并基于新超參更新種群,更新后再執行步驟3;所述步驟6的具體步驟為:根據種群中各神經網絡模型的超參和其本輪在驗證集的準確率,構成數據集,表示第個神經網絡模型的超參數,表示第個神經網絡模型的準確率,,表示種群大小,表示優化的的目標函數;設服從高斯過程,建立用數據集擬合的概率模型,即,為均值,為協方差矩陣,指高斯過程;根據高斯過程回歸的一般計算過程,超參搜索空間中超參預測點處也服從正態分布,得,為預測點均值,為預測點方差,表示超參搜索空間中某點超參處的準確率預測值,表示概率分布;使用采集函數,選擇最優的超參: 其中,是數據集中的最優值,表示超參搜索空間中任一點超參,為處的準確率預測值;在超參搜索空間中使采集函數值最大的點,即為本輪最優的超參;將種群中準確率最低的神經網絡模型的權值參數替換為準確率最高的神經網絡模型的權值參數,并將其超參數設置為,種群中其他神經網絡模型保持不變,轉到步驟3,對整個種群再次進行訓練。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人深圳市廣聯智通科技有限公司,其通訊地址為:518108 廣東省深圳市寶安區石巖街道松白路創維數字大廈305、306室;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。