恭喜深圳智眸未來科技有限公司梁耀元獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜深圳智眸未來科技有限公司申請的專利多模態模型的高效知識蒸餾方法與微模型生成方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119762943B 。
龍圖騰網通過國家知識產權局官網在2025-05-09發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510265897.9,技術領域涉及:G06V10/82;該發明授權多模態模型的高效知識蒸餾方法與微模型生成方法及系統是由梁耀元;張衛剛;林義欽;黃冠博設計研發完成,并于2025-03-07向國家知識產權局提交的專利申請。
本多模態模型的高效知識蒸餾方法與微模型生成方法及系統在說明書摘要公布了:本發明屬于計算機視覺領域與量化模型技術領域,具體涉及一種多模態模型的高效知識蒸餾方法與微模型生成方法及系統,包括:對原始圖像數據進行標準化、編碼、和融合處理得到特征圖,輸出小模型編碼器下的深度特征;對不同類型的提示信息進行編碼、拼接和再編碼處理,得到提示特征;采用知識蒸餾優化后的小模型對提示特征進行候選區域預測,并對預測結果中的不準確區域動態采樣生成新的提示特征,且與原有的提示特征結合,輸出更新后的掩碼解碼器和提示特征組合;利用輕量級區域建議網絡生成區域建議,并融合區域建議與提示特征,得到輔助信息;結合深度特征、提示特征組合、區域建議和輔助信息,進行掩碼預測,生成目標對象所在區域的二值掩碼。
本發明授權多模態模型的高效知識蒸餾方法與微模型生成方法及系統在權利要求書中公布了:1.一種多模態模型的高效知識蒸餾方法與微模型生成方法,其特征在于,包括:對原始圖像數據進行標準化處理得到標準圖像數據,并基于標準圖像數據進行編碼處理得到特征圖,將具有不同分辨率的特征圖進行特征融合,輸出小模型編碼器下的深度特征;對不同類型的提示信息進行編碼和拼接處理,形成提示信息矩陣,并基于提示信息矩陣進行再編碼處理,得到提示特征;將大模型的掩碼輸出作為監督信號,對小模型的掩碼解碼器進行知識蒸餾優化,采用優化后的小模型對提示特征進行候選區域預測,并對預測結果中的不準確區域動態采樣生成新的提示特征,且將新生成的提示特征與原有的提示特征結合,輸出更新后的掩碼解碼器和提示特征組合;設計并訓練輕量級區域建議網絡生成區域建議,并將區域建議與提示特征進行融合,得到輔助信息;結合深度特征、提示特征組合、區域建議和輔助信息,進行掩碼預測,生成目標對象所在區域的二值掩碼;所述將大模型的掩碼輸出作為監督信號,對小模型的掩碼解碼器進行知識蒸餾優化,采用優化后的小模型對提示特征進行候選區域預測,并對預測結果中的不準確區域動態采樣生成新的提示特征,且將新生成的提示特征與原有的提示特征結合,輸出更新后的掩碼解碼器和提示特征組合,包括:將大模型的掩碼輸出作為小模型的監督信號,對小模型的掩碼解碼器進行知識蒸餾優化,并計算小模型的掩碼解碼器的蒸餾損失;采用優化后的小模型對提示特征進行候選區域預測,并采用動態提示采樣策略對小模型預測結果中的不準確區域進行動態采樣,生成新的提示特征;將新生成的提示特征與原有的提示特征相結合,形成新的提示組合,引導小模型學習掩碼生成,輸出更新后的掩碼解碼器和提示特征組合;還包括對小模型的結構和參數進行優化和壓縮,包括:基于硬件設備的特性選擇合適的網絡架構,采用分組卷積技術將輸入特征圖和卷積核進行分組,并在各分組內獨立執行卷積操作,用于優化小模型的模型結構;根據各分組內小模型參數的統計信息對小模型的參數進行量化,將小模型的參數映射到低精度表示,并根據預設剪枝率和閾值,采用基于幅度的剪枝方法對小模型的參數進行剪枝處理,用于壓縮小模型的參數的數量。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人深圳智眸未來科技有限公司,其通訊地址為:518051 廣東省深圳市南山區粵海街道麻嶺社區科研路9號比克科技大廈1001-C;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。