恭喜浙江大華技術股份有限公司;浙江大學殷俊獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜浙江大華技術股份有限公司;浙江大學申請的專利基于蒸餾學習的學生模型優化方法、設備及可讀存儲介質獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119558353B 。
龍圖騰網通過國家知識產權局官網在2025-05-30發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510132774.8,技術領域涉及:G06N3/045;該發明授權基于蒸餾學習的學生模型優化方法、設備及可讀存儲介質是由殷俊;吳飛;馮少迪設計研發完成,并于2025-02-06向國家知識產權局提交的專利申請。
本基于蒸餾學習的學生模型優化方法、設備及可讀存儲介質在說明書摘要公布了:本申請公開了基于蒸餾學習的學生模型優化方法、設備及可讀存儲介質,該方法包括:根據學生模型的各第一編碼模塊中每一注意力層的查詢向量、鍵向量和值向量中的至少一個確定各第一編碼模塊的第一向量關系值和或任兩第一編碼模塊之間的第二向量關系值;根據教師模型的各第二編碼模塊中每一注意力層的查詢向量、鍵向量和值向量中的至少一個確定各第二編碼模塊的第三向量關系值和或任兩第二編碼模塊之間的第四向量關系值;根據第一向量關系值和第三向量關系值之間的第一關系差異和或根據第二向量關系值和第四向量關系值之間的第二關系差異確定學生模型的目標損失值,并根據目標損失值優化學生模型。由此可以提高學生模型的性能。
本發明授權基于蒸餾學習的學生模型優化方法、設備及可讀存儲介質在權利要求書中公布了:1.一種基于蒸餾學習的學生模型優化方法,其特征在于,所述基于蒸餾學習的學生模型優化方法應用于學生模型優化裝置,所述學生模型優化裝置包括學生模型和教師模型,所述學生模型包括至少一個第一編碼模塊,每一所述第一編碼模塊包括至少一個第一注意力層,所述教師模型包括至少一個第二編碼模塊,每一所述第二編碼模塊包括至少一個第二注意力層,所述方法包括:將待處理數據輸入所述學生模型中,得到各第一編碼模塊中每一第一注意力層的查詢向量、鍵向量和值向量,所述待處理數據包括待處理圖像數據和待處理文本數據;根據各第一注意力層的查詢向量、鍵向量和值向量中的至少一個確定每一所述第一編碼模塊的第一向量關系值和或任兩第一編碼模塊之間的第二向量關系值,其中,根據任兩第一編碼模塊中一第一編碼模塊的每一第一注意力層的查詢向量、鍵向量和值向量與另一第一編碼模塊的對應第一注意力層的查詢向量、鍵向量和值向量之間的向量相似度,確定各第一注意力層的第二目標向量相似度;對各第一注意力層的第二目標向量相似度進行求和處理,得到對應兩第一編碼模塊的第二向量關系值;將所述待處理數據輸入所述教師模型中,得到各第二編碼模塊中每一第二注意力層的查詢向量、鍵向量和值向量;根據各第二注意力層的查詢向量、鍵向量和值向量中的至少一個確定每一所述第二編碼模塊的第三向量關系值和或任兩第二編碼模塊之間的第四向量關系值;根據編碼模塊的屬性信息確定所述學生模型中每一所述第一編碼模塊的第一向量關系值與所述教師模型中對應的第二編碼模塊的第三向量關系值之間的第一關系差異,和或,根據所述編碼模塊的屬性信息確定所述學生模型中第二向量關系值與所述教師模型中對應的第四向量關系值之間的第二關系差異;根據所述第一關系差異和或所述第二關系差異確定所述學生模型的目標損失值;根據所述目標損失值對所述學生模型進行優化處理,得到優化后的學生模型。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人浙江大華技術股份有限公司;浙江大學,其通訊地址為:310051 浙江省杭州市濱江區濱安路1187號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。