恭喜南開大學赫鑫宇獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜南開大學申請的專利一種用于ViTs的逐圖像塊后訓練量化方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119445127B 。
龍圖騰網通過國家知識產權局官網在2025-05-02發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510033307.X,技術領域涉及:G06V10/28;該發明授權一種用于ViTs的逐圖像塊后訓練量化方法及系統是由赫鑫宇;李東哲;盧冶設計研發完成,并于2025-01-09向國家知識產權局提交的專利申請。
本一種用于ViTs的逐圖像塊后訓練量化方法及系統在說明書摘要公布了:本發明涉及人工智能技術領域,具體公開了一種用于ViTs的逐圖像塊后訓練量化方法及系統,方法包括:獲取全精度Visiontransformer預訓練模型、校準數據和量化器;將預訓練模型中的全部模塊替換為對應的量化模塊,得到待量化的ViTs模型,所述量化模塊中包括激活值和權重的量化器,所述激活值采用逐圖像塊均勻量化器;利用所述校準數據,計算得到各量化器的縮放因子和零點偏移的初始值;利用校準數據和預訓練模型,對縮放因子進行迭代優化,得到量化后的ViTs模型。本發明允許每個圖像塊享有獨立的量化參數,極大提升了量化分辨率并且使量化的激活值具有更強的表征能力。
本發明授權一種用于ViTs的逐圖像塊后訓練量化方法及系統在權利要求書中公布了:1.一種用于ViTs的逐圖像塊后訓練量化方法,其特征在于,包括以下步驟:步驟1:獲取全精度Visiontransformer預訓練模型、校準數據和量化器;步驟2:將所述全精度Visiontransformer預訓練模型中的全部模塊替換為對應的量化模塊,得到待量化的ViTs模型,所述量化模塊中包括激活值和權重的量化器,所述激活值采用逐圖像塊均勻量化器;逐圖像塊均勻量化器的計算公式為: 其中,xq表示量化后的激活值矩陣,Clamp()表示截斷函數,Round()表示舍入函數,diag()表示對角化函數,s表示每個圖像塊的縮放因子,x表示激活值矩陣,zp表示每個圖像塊的零點偏移,1表示全1行向量,其元素個數等于激活值矩陣x的列數,b表示量化位寬;步驟3:利用所述校準數據,計算得到所述待量化的ViTs模型中各量化器的縮放因子和零點偏移的初始值;步驟4:利用所述校準數據和全精度Visiontransformer預訓練模型,對所述待量化的ViTs模型的縮放因子進行迭代優化,得到量化后的ViTs模型。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人南開大學,其通訊地址為:300071 天津市南開區衛津路94號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。