中山大學(xué)粟濤獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費(fèi)!專利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)獲悉中山大學(xué)申請的專利一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN114897133B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-03-21發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202210427056.X,技術(shù)領(lǐng)域涉及:G06N3/0455;該發(fā)明授權(quán)一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法是由粟濤;楊鑫設(shè)計(jì)研發(fā)完成,并于2022-04-22向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法在說明書摘要公布了:本發(fā)明公開了一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法,通過計(jì)算引擎陣列、Softmax運(yùn)算模塊和LayerNorm運(yùn)算模塊可以滿足整個網(wǎng)絡(luò)層的所有運(yùn)算需求;通過計(jì)算引擎陣列提高了加速器中的計(jì)算并行度,在加快計(jì)算速度的同時提高了載入到加速器內(nèi)部緩存的數(shù)據(jù)的利用率;通過片上緩存模塊的各個存儲區(qū)能夠?qū)μ卣鲾?shù)據(jù)、偏置矩陣數(shù)據(jù)、權(quán)重數(shù)據(jù)以及參數(shù)數(shù)據(jù)進(jìn)行分別存儲,提高后續(xù)數(shù)據(jù)讀取的效率,減少訪存過程的延時,提高運(yùn)算效率;計(jì)算引擎的并行度、計(jì)算引擎的數(shù)量、非線性層的運(yùn)算并行度均可通過控制模塊配置,能夠根據(jù)不同的計(jì)算資源完成模型的部署實(shí)施,可廣泛應(yīng)用于神經(jīng)網(wǎng)絡(luò)模型技術(shù)領(lǐng)域。
本發(fā)明授權(quán)一種通用可配置的Transformer硬件加速器及其實(shí)現(xiàn)方法在權(quán)利要求書中公布了:1.一種通用可配置的Transformer硬件加速器,其特征在于,包括:計(jì)算引擎陣列,所述計(jì)算引擎陣列包括多個可配置的計(jì)算引擎,所述計(jì)算引擎包括可配置級數(shù)的加法樹、累加器、ReLU單元以及多個并行乘法器,所述計(jì)算引擎陣列用于并行執(zhí)行線性層運(yùn)算、自注意力層運(yùn)算、全連接層運(yùn)算以及殘差連接運(yùn)算;片上緩存模塊,所述片上緩存模塊包括權(quán)重緩存區(qū)、偏置緩存區(qū)、參數(shù)緩存區(qū)以及多個特征緩存區(qū),所述計(jì)算引擎陣列通過所述片上緩存模塊連接至片外存儲,所述片上緩存模塊用于實(shí)現(xiàn)所述計(jì)算引擎陣列與所述片外存儲之間的數(shù)據(jù)交互;非線性層加速模塊,所述非線性層加速模塊包括Softmax運(yùn)算模塊和LayerNorm運(yùn)算模塊,所述Softmax運(yùn)算模塊的輸入端和所述LayerNorm運(yùn)算模塊的輸入端均與所述計(jì)算引擎陣列的輸出端連接,所述Softmax運(yùn)算模塊和所述LayerNorm運(yùn)算模塊均與所述片上緩存模塊連接,所述Softmax運(yùn)算模塊和所述LayerNorm運(yùn)算模塊用于執(zhí)行非線性層運(yùn)算;控制模塊,所述計(jì)算引擎陣列、所述Softmax運(yùn)算模塊以及所述LayerNorm運(yùn)算模塊均與所述控制模塊連接,所述控制模塊用于對所述計(jì)算引擎陣列、所述Softmax運(yùn)算模塊以及所述LayerNorm運(yùn)算模塊進(jìn)行運(yùn)算配置和訪存邏輯調(diào)度控制。
如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人中山大學(xué),其通訊地址為:510275 廣東省廣州市海珠區(qū)新港西路135號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 無錫先導(dǎo)智能裝備股份有限公司請求不公布姓名獲國家專利權(quán)
- 中科合肥煤氣化技術(shù)有限公司陽紹軍獲國家專利權(quán)
- 瑞典愛立信有限公司P·哈加獲國家專利權(quán)
- 柳州上汽汽車變速器有限公司柳東分公司李哲宇獲國家專利權(quán)
- 內(nèi)蒙古拉鎖式新型建材科技有限公司姚井祥獲國家專利權(quán)
- 北京時代全芯存儲技術(shù)股份有限公司廖昱程獲國家專利權(quán)
- 上海析維醫(yī)療科技有限公司陳勇獲國家專利權(quán)
- 無錫先導(dǎo)智能裝備股份有限公司請求不公布姓名獲國家專利權(quán)
- 深圳市安拓浦科技有限公司楊瑞典獲國家專利權(quán)
- 偉創(chuàng)力電子技術(shù)(蘇州)有限公司康健獲國家專利權(quán)