買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜谷歌有限責任公司申請的專利使用質量分數來訓練序列生成神經網絡獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN111727442B 。

龍圖騰網通過國家知識產權局官網在2025-06-24發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：201980013555.0，技術領域涉及：G06N3/044；該發明授權使用質量分數來訓練序列生成神經網絡是由穆罕默德·諾勞茲;威廉·常;薩拉·薩布爾·勞赫·阿格達姆設計研發完成，并于2019-05-23向國家知識產權局提交的專利申請。

本使用質量分數來訓練序列生成神經網絡在說明書摘要公布了：用于訓練序列生成神經網絡的方法、系統和裝置，包括在計算機存儲介質上編碼的計算機程序。方法中的一個包括：獲得一個批次的訓練示例；對于訓練示例中的每一個：使用神經網絡來處理該訓練示例中的訓練網絡輸入以生成輸出序列；對于輸出序列中的每個特定輸出位置：識別包括在輸出序列中的該特定輸出位置之前的位置處的系統輸出的詞頭；對于詞匯中的每個可能系統輸出，確定能夠被指派給包括被該可能系統輸出跟隨的詞頭的任一個候選輸出序列的最高質量分數；以及確定對網絡參數當前值的更新，該更新提高神經網絡生成在該位置處具有高質量分數的系統輸出的似然性。

本發明授權使用質量分數來訓練序列生成神經網絡在權利要求書中公布了：1.一種訓練神經網絡的方法，所述神經網絡具有多個網絡參數并且被配置成將系統輸入映射到包括多個系統輸出的輸出序列，其中，所述方法包括： 獲得一個批次的訓練示例，每個訓練示例包括訓練網絡輸入并且對于每個訓練網絡輸入包括地面真值輸出序列； 對于所述訓練示例中的每一個訓練示例： 使用所述神經網絡依照所述網絡參數的當前值來處理該訓練示例中的所述訓練網絡輸入以將所述訓練網絡輸入映射到輸出序列，所述輸出序列包括多個輸出位置中的每一個處的來自可能系統輸出的詞匯的相應的系統輸出，其中，所述詞匯中的所述可能系統輸出包括自然語言的令牌，并且其中，所述神經網絡被配置成對于所述輸出位置中的每一個輸出位置，生成關于所述詞匯中的所述可能系統輸出的似然分布并且使用所述似然分布來選擇該輸出位置處的所述系統輸出； 對于所述輸出序列中的所述多個輸出位置中的每個特定輸出位置： 識別包括在所述輸出序列中的該特定輸出位置之前的位置處的系統輸出的詞頭， 對于所述詞匯中的每個可能系統輸出，確定能夠被指派給包括所述詞頭的任一個候選輸出序列的最高質量分數，所述詞頭被該可能系統輸出跟隨并且被一個或多個系統輸出的任一個詞尾跟隨，其中，所述質量分數測量候選輸出序列相對于所述地面真值輸出序列的質量，并且 使用該可能系統輸出的所述最高質量分數來確定對所述網絡參數的當前值的更新，所述更新提高所述神經網絡生成在該位置處具有高質量分數的系統輸出的似然性，包括： 根據所述可能系統輸出的所述最高質量分數來生成該輸出位置的目標似然分布， 確定相對于目標函數的網絡參數的梯度，所述目標函數取決于該輸出位置的所述目標似然分布與由所述神經網絡對于該輸出位置生成的所述似然分布之間的散度，以及 使用所述梯度來確定對所述當前值的所述更新；以及 根據針對由所述神經網絡對于所述一個批次的訓練示例生成的所述輸出序列中的所述特定輸出位置的所述更新來確定所述網絡參數的更新值。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人谷歌有限責任公司，其通訊地址為：美國加利福尼亞州；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。