買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜鵬城實驗室申請的專利基于在線結構剪枝的文本推理方法以及相關設備獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119647605B 。

龍圖騰網通過國家知識產權局官網在2025-06-03發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202510180806.1，技術領域涉及：G06N5/04；該發明授權基于在線結構剪枝的文本推理方法以及相關設備是由吳澤斌;田永鴻設計研發完成，并于2025-02-19向國家知識產權局提交的專利申請。

本基于在線結構剪枝的文本推理方法以及相關設備在說明書摘要公布了：本申請提供了一種基于在線結構剪枝的文本推理方法以及相關設備，方法包括：在接收到文本推理任務時，獲取未進行剪枝的文本推理模型，以及獲取文本推理模型中多個解碼層基于目標結構化剪枝算法進行剪枝時生成的掩模信息和算法參數信息；針對文本推理模型中的每個解碼層，分別根據對應的掩模信息對解碼層進行權重掩模處理，以及根據對應的算法參數信息對解碼層進行輸出補償處理，得到目標剪枝模型；通過目標剪枝模型執行文本推理任務，得到文本推理結果，其中，本申請可以在推理時基于掩模信息和算法參數信息在線生成結構化剪枝的目標剪枝模型，無需保存結構化剪枝后的模型，能夠有效降低文本推理方法的存儲開銷。

本發明授權基于在線結構剪枝的文本推理方法以及相關設備在權利要求書中公布了：1.一種基于在線結構剪枝的文本推理方法，其特征在于，包括：在接收到文本推理任務時，獲取未進行剪枝的文本推理模型，以及獲取所述文本推理模型中多個解碼層基于目標結構化剪枝算法進行剪枝時生成的掩模信息和算法參數信息；針對所述文本推理模型中的每個所述解碼層，分別根據對應的所述掩模信息對所述解碼層進行權重掩模處理，以及根據對應的所述算法參數信息對所述解碼層進行輸出補償處理，得到目標剪枝模型；通過所述目標剪枝模型執行所述文本推理任務，得到文本推理結果；其中，所述目標結構化剪枝算法為基于波動的自適應剪枝算法，所述解碼層均包括注意力模塊和多層感知機模塊，所述掩模信息包括所述注意力模塊的第一掩模矩陣和所述多層感知機模塊的第二掩模矩陣，所述算法參數信息包括所述注意力模塊的第一輸入均值和所述多層感知機模塊的第二輸入均值。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人鵬城實驗室，其通訊地址為：518000 廣東省深圳市南山區興科一街2號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。