買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉中山大學(xué)申請(qǐng)的專利一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法獲國(guó)家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN114897133B 。

龍圖騰網(wǎng)通過國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-03-21發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202210427056.X，技術(shù)領(lǐng)域涉及：G06N3/0455；該發(fā)明授權(quán)一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法是由粟濤;楊鑫設(shè)計(jì)研發(fā)完成，并于2022-04-22向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法在說明書摘要公布了：本發(fā)明公開了一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法，通過計(jì)算引擎陣列、Softmax運(yùn)算模塊和LayerNorm運(yùn)算模塊可以滿足整個(gè)網(wǎng)絡(luò)層的所有運(yùn)算需求；通過計(jì)算引擎陣列提高了加速器中的計(jì)算并行度，在加快計(jì)算速度的同時(shí)提高了載入到加速器內(nèi)部緩存的數(shù)據(jù)的利用率；通過片上緩存模塊的各個(gè)存儲(chǔ)區(qū)能夠?qū)μ卣鲾?shù)據(jù)、偏置矩陣數(shù)據(jù)、權(quán)重?cái)?shù)據(jù)以及參數(shù)數(shù)據(jù)進(jìn)行分別存儲(chǔ)，提高后續(xù)數(shù)據(jù)讀取的效率，減少訪存過程的延時(shí)，提高運(yùn)算效率；計(jì)算引擎的并行度、計(jì)算引擎的數(shù)量、非線性層的運(yùn)算并行度均可通過控制模塊配置，能夠根據(jù)不同的計(jì)算資源完成模型的部署實(shí)施，可廣泛應(yīng)用于神經(jīng)網(wǎng)絡(luò)模型技術(shù)領(lǐng)域。

本發(fā)明授權(quán)一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法在權(quán)利要求書中公布了：1.一種通用可配置的Transformer硬件加速器，其特征在于，包括：計(jì)算引擎陣列，所述計(jì)算引擎陣列包括多個(gè)可配置的計(jì)算引擎，所述計(jì)算引擎包括可配置級(jí)數(shù)的加法樹、累加器、ReLU單元以及多個(gè)并行乘法器，所述計(jì)算引擎陣列用于并行執(zhí)行線性層運(yùn)算、自注意力層運(yùn)算、全連接層運(yùn)算以及殘差連接運(yùn)算；片上緩存模塊，所述片上緩存模塊包括權(quán)重緩存區(qū)、偏置緩存區(qū)、參數(shù)緩存區(qū)以及多個(gè)特征緩存區(qū)，所述計(jì)算引擎陣列通過所述片上緩存模塊連接至片外存儲(chǔ)，所述片上緩存模塊用于實(shí)現(xiàn)所述計(jì)算引擎陣列與所述片外存儲(chǔ)之間的數(shù)據(jù)交互；非線性層加速模塊，所述非線性層加速模塊包括Softmax運(yùn)算模塊和LayerNorm運(yùn)算模塊，所述Softmax運(yùn)算模塊的輸入端和所述LayerNorm運(yùn)算模塊的輸入端均與所述計(jì)算引擎陣列的輸出端連接，所述Softmax運(yùn)算模塊和所述LayerNorm運(yùn)算模塊均與所述片上緩存模塊連接，所述Softmax運(yùn)算模塊和所述LayerNorm運(yùn)算模塊用于執(zhí)行非線性層運(yùn)算；控制模塊，所述計(jì)算引擎陣列、所述Softmax運(yùn)算模塊以及所述LayerNorm運(yùn)算模塊均與所述控制模塊連接，所述控制模塊用于對(duì)所述計(jì)算引擎陣列、所述Softmax運(yùn)算模塊以及所述LayerNorm運(yùn)算模塊進(jìn)行運(yùn)算配置和訪存邏輯調(diào)度控制。

如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人中山大學(xué)，其通訊地址為：510275 廣東省廣州市海珠區(qū)新港西路135號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。