買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜華為技術有限公司申請的專利一種基于模型動態行為的可解釋性方法及相關裝置獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN113947178B 。

龍圖騰網通過國家知識產權局官網在2025-06-17發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202010683161.0，技術領域涉及：G06N3/0464；該發明授權一種基于模型動態行為的可解釋性方法及相關裝置是由紀守領;李長江;時杰;方成方設計研發完成，并于2020-07-15向國家知識產權局提交的專利申請。

本一種基于模型動態行為的可解釋性方法及相關裝置在說明書摘要公布了：本申請實施例提供一種基于模型動態行為的可解釋性方法及相關裝置，應用于人工智能領域，其中，一種基于模型動態行為的可解釋性方法，包括：獲取圖像數據中目標像素點的非對稱動態邊界，非對稱動態邊界包括左動態邊界和右動態邊界；對目標像素點的左動態邊界和右動態邊界進行差量操作，獲得目標像素點的左右動態邊界之差；根據多個像素點分別對應的左右動態邊界之差，獲得圖像數據的目標像素點集合，目標像素點集合包括多個像素點中一個或多個左右動態邊界之差超過第一閾值的像素點。實施本申請實施例，忠實于原模型的情況下，精確解釋該神經網絡模型。

本發明授權一種基于模型動態行為的可解釋性方法及相關裝置在權利要求書中公布了：1.一種基于模型動態行為的可解釋性方法，其特征在于，包括： 獲取圖像數據中目標像素點的非對稱動態邊界，所述圖像數據為目標神經網絡模型的輸入數據，所述目標像素點為所述圖像數據中多個像素點中的任意一個，所述非對稱動態邊界包括左動態邊界和右動態邊界，所述左動態邊界為所述目標像素點的像素點值的下邊界，所述右動態邊界為所述目標像素點的像素點值的上邊界，且所述目標像素點的像素點值在所述左動態邊界和所述右動態邊界之間變化時，所述圖像數據在所述目標神經網絡模型中的分類結果不變； 對所述目標像素點的所述左動態邊界和所述右動態邊界進行差量操作，獲得所述目標像素點的左右動態邊界之差； 根據所述多個像素點分別對應的左右動態邊界之差，獲得所述圖像數據的目標像素點集合，所述目標像素點集合包括所述多個像素點中一個或多個左右動態邊界之差超過第一閾值的像素點； 根據所述多個像素點分別對應的左右動態邊界之差，獲取所述目標像素點集合的動態邊界范圍； 根據所述動態邊界范圍，獲得所述目標神經網絡模型的魯棒性邊界范圍，所述魯棒性邊界范圍在所述動態邊界范圍之內，且用于確定輸入所述目標神經網絡模型后的分類結果。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人華為技術有限公司，其通訊地址為：518129 廣東省深圳市龍崗區坂田華為總部辦公樓；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。