買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜榮耀終端股份有限公司申請的專利模型優化方法、業務處理方法、服務器和終端設備獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119272822B 。

龍圖騰網通過國家知識產權局官網在2025-04-18發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202411784043.3，技術領域涉及：G06N3/0495；該發明授權模型優化方法、業務處理方法、服務器和終端設備是由池才龍;王哲設計研發完成，并于2024-12-06向國家知識產權局提交的專利申請。

本模型優化方法、業務處理方法、服務器和終端設備在說明書摘要公布了：本申請實施例提供一種模型優化方法、業務處理方法、服務器和終端設備，上述模型優化方法中，服務器獲取待調整的大語言模型之后，對大語言模型中的算子進行遍歷，獲得待量化的算子，然后根據設定的硬件友好的量化配置，進行模擬量化，獲得模擬量化模型。之后，根據輸入的垂域業務數據和垂域業務數據的標簽，以模擬量化模型的輸出與垂域業務數據的標簽之間的交叉熵損失函數收斂為目的，對上述模擬量化模型的權重進行優化，從而可以在大語言模型微調過程中針對部署硬件進行模擬量化，將量化與模型微調結合，縮短了大語言模型的量化分析與部署周期。并且可以通過數據驅動的方式使大語言模型自適應調整量化損失，使量化后的模型的精度得以恢復。

本發明授權模型優化方法、業務處理方法、服務器和終端設備在權利要求書中公布了：1.一種模型優化方法，其特征在于，包括：獲取待調整的大語言模型；對所述大語言模型中的算子進行遍歷，獲得所述大語言模型中待量化的算子；根據設定的硬件友好的量化配置，對所述待量化的算子進行模擬量化，獲得模擬量化模型；獲取垂域業務數據和所述垂域業務數據的標簽；通過所述模擬量化模型，對所述垂域業務數據進行處理，獲得所述模擬量化模型的輸出，以所述模擬量化模型的輸出與所述垂域業務數據的標簽之間的交叉熵損失函數收斂為目的，對所述模擬量化模型的權重進行優化；保存所述模擬量化模型優化后的權重，以及保存所述優化后的權重對應的量化參數，以獲得優化后的模擬量化模型;其中，所述設定的硬件友好的量化配置包括設定的硬件友好的量化分組方式和量化比特數；所述根據設定的硬件友好的量化配置，對所述待量化的算子進行模擬量化，獲得模擬量化模型包括：獲取所述待量化的算子的權重；根據所述量化分組方式，對所述待量化的算子的權重進行分組；對分組獲得的每組權重，統計所述每組權重中的最大值和最小值；根據所述每組權重中的最大值和最小值，以及所述量化比特數，計算獲得量化縮放系數；根據所述每組權重中的最小值和所述量化縮放系數，計算獲得量化偏移量；根據所述量化縮放系數和所述量化偏移量，對所述每組權重進行量化，獲得模擬量化權重。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人榮耀終端股份有限公司，其通訊地址為：518040 廣東省深圳市福田區香蜜湖街道東海社區紅荔西路8089號深業中城6號樓A單元3401；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。