買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)恭喜西安電子科技大學申請的專利一種Transformer神經(jīng)網(wǎng)絡推理加速電路獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN117077745B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-04-29發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202311063129.2，技術(shù)領(lǐng)域涉及：G06N3/063；該發(fā)明授權(quán)一種Transformer神經(jīng)網(wǎng)絡推理加速電路是由朱樟明;張岳琦;馮立琛;李棟;賴睿設計研發(fā)完成，并于2023-08-22向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種Transformer神經(jīng)網(wǎng)絡推理加速電路在說明書摘要公布了：本發(fā)明公開了一種Transformer神經(jīng)網(wǎng)絡推理加速電路，包括：控制單元、輸入數(shù)據(jù)緩沖單元、數(shù)據(jù)路由器、計算流水線和輸出累加器。控制單元用于從外部存儲器讀取權(quán)值矩陣，控制數(shù)據(jù)路由器、計算流水線和輸出累加器協(xié)調(diào)工作。輸入數(shù)據(jù)緩沖單元用于從外部處理器獲取目標數(shù)據(jù)并進行乒乓緩存。數(shù)據(jù)路由器用于將目標數(shù)據(jù)分發(fā)給各計算單元。計算流水線中用于進行加權(quán)求和運算。輸出累加器用于在每次計算單元完成加權(quán)求和運算之后，對計算單元加權(quán)求和運算結(jié)果進行累加，并將累加結(jié)果輸出給外部處理器。本發(fā)明提供的Transformer神經(jīng)網(wǎng)絡推理加速電路加快了基于Transformer神經(jīng)網(wǎng)絡模型的全連接層的前向推理過程。

本發(fā)明授權(quán)一種Transformer神經(jīng)網(wǎng)絡推理加速電路在權(quán)利要求書中公布了：1.一種Transformer神經(jīng)網(wǎng)絡推理加速電路，其特征在于，包括：控制單元、輸入數(shù)據(jù)緩沖單元、數(shù)據(jù)路由器、計算流水線和輸出累加器；其中，所述計算流水線包括N個計算單元；每個計算單元中均包含一個內(nèi)部存儲器；所述內(nèi)部存儲器包括多個存儲子單元；N＞1；所述控制單元，用于通過總線從外部存儲器讀取Transformer神經(jīng)網(wǎng)絡的權(quán)值矩陣；將所述權(quán)值矩陣沿第一維度分割為N個子權(quán)值矩陣，并將每個子權(quán)值矩陣均沿第二維度劃分為M個權(quán)值向量，得到N個權(quán)值向量組合；將所述N個權(quán)值向量組合分別發(fā)送給所述N個計算單元的內(nèi)部存儲器中進行存儲，每個內(nèi)部存儲器存儲一個權(quán)值向量組合，每個存儲子單元存儲一個權(quán)值向量；所述控制單元還用于控制所述數(shù)據(jù)路由器、所述計算流水線和所述輸出累加器協(xié)調(diào)工作，實現(xiàn)以下操作：所述輸入數(shù)據(jù)緩沖單元，通過所述總線從外部處理器獲取待進行加權(quán)運算的目標數(shù)據(jù)，并對所述目標數(shù)據(jù)進行乒乓緩存；所述數(shù)據(jù)路由器，將所述目標數(shù)據(jù)劃分為N份子數(shù)據(jù)，并將所述N份子數(shù)據(jù)按照預定的時間間隔分別發(fā)送給所述計算流水線中的第1至N個計算單元；所述計算流水線中的每個計算單元，從自己收到的權(quán)值向量組合中每次取出一個權(quán)值向量對自己收到的子數(shù)據(jù)進行加權(quán)求和運算，直至歷經(jīng)M次后取完該權(quán)值向量組合包含的M個權(quán)值向量；所述輸出累加器，在每次第N個計算單元完成加權(quán)求和運算之后，對所述N個計算單元加權(quán)求和運算結(jié)果進行累加，并通過所述總線將累加結(jié)果輸出給所述外部處理器，直至歷經(jīng)M次的累加和輸出后實現(xiàn)所述目標數(shù)據(jù)與所述權(quán)值矩陣的全連接運算。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人西安電子科技大學，其通訊地址為：710071 陜西省西安市太白南路2號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。