買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜北京大學申請的專利基于WebGPU的Web大語言模型推理加速優化方法和裝置獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN119338016B 。

龍圖騰網通過國家知識產權局官網在2025-04-04發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202411908417.8，技術領域涉及：G06N5/04；該發明授權基于WebGPU的Web大語言模型推理加速優化方法和裝置是由馬鄆;陳智揚;韓宇棟;秘瑋晨;田得雨設計研發完成，并于2024-12-24向國家知識產權局提交的專利申請。

本基于WebGPU的Web大語言模型推理加速優化方法和裝置在說明書摘要公布了：本申請提供了一種基于WebGPU的Web大語言模型推理加速優化方法和裝置，包括：基于目標用戶輸入的第一文本，生成多個第一推理詞元，確定各個第一推理詞元分別對應的第一推理算子，生成各個第一推理算子分別對應的第一計算管線，在得到至少一個第一計算管線的情況下，持續將第一計算管線輸入WebGPU應用程序，得到WebGPU應用程序持續輸出的第一推理文本，基于WebGPU應用程序輸出第一推理文本的先后順序，將第一推理文本進行組合，得到目標推理文本，能夠使生成計算管線的過程和得到第一推理文本的過程并行執行，一定程度上可以提升Web大語言模型對WebGPU計算資源的使用率，縮短了推理任務的執行時間，從而可以提升大語言模型的推理效率。

本發明授權基于WebGPU的Web大語言模型推理加速優化方法和裝置在權利要求書中公布了：1.一種基于WebGPU的Web大語言模型推理加速優化方法，其特征在于，所述方法包括：基于目標用戶輸入的第一文本，生成多個第一推理詞元；確定各個所述第一推理詞元分別對應的第一推理算子；其中，所述第一推理算子表示所述第一推理詞元的前一個推理詞元到所述第一推理詞元的推理邏輯；生成各個所述第一推理算子分別對應的第一計算管線；在得到至少一個第一計算管線的情況下，持續將所述第一計算管線輸入WebGPU應用程序，得到所述WebGPU應用程序持續輸出的第一推理文本；基于所述WebGPU應用程序輸出所述第一推理文本的先后順序，將所述第一推理文本進行組合，得到目標推理文本。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人北京大學，其通訊地址為：100091 北京市海淀區頤和園路5號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。