恭喜中山大學粟濤獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜中山大學申請的專利一種通用可配置的Transformer硬件加速器及其實現方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114897133B 。
龍圖騰網通過國家知識產權局官網在2025-03-21發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202210427056.X,技術領域涉及:G06N3/0455;該發明授權一種通用可配置的Transformer硬件加速器及其實現方法是由粟濤;楊鑫設計研發完成,并于2022-04-22向國家知識產權局提交的專利申請。
本一種通用可配置的Transformer硬件加速器及其實現方法在說明書摘要公布了:本發明公開了一種通用可配置的Transformer硬件加速器及其實現方法,通過計算引擎陣列、Softmax運算模塊和LayerNorm運算模塊可以滿足整個網絡層的所有運算需求;通過計算引擎陣列提高了加速器中的計算并行度,在加快計算速度的同時提高了載入到加速器內部緩存的數據的利用率;通過片上緩存模塊的各個存儲區能夠對特征數據、偏置矩陣數據、權重數據以及參數數據進行分別存儲,提高后續數據讀取的效率,減少訪存過程的延時,提高運算效率;計算引擎的并行度、計算引擎的數量、非線性層的運算并行度均可通過控制模塊配置,能夠根據不同的計算資源完成模型的部署實施,可廣泛應用于神經網絡模型技術領域。
本發明授權一種通用可配置的Transformer硬件加速器及其實現方法在權利要求書中公布了:1.一種通用可配置的Transformer硬件加速器,其特征在于,包括:計算引擎陣列,所述計算引擎陣列包括多個可配置的計算引擎,所述計算引擎包括可配置級數的加法樹、累加器、ReLU單元以及多個并行乘法器,所述計算引擎陣列用于并行執行線性層運算、自注意力層運算、全連接層運算以及殘差連接運算;片上緩存模塊,所述片上緩存模塊包括權重緩存區、偏置緩存區、參數緩存區以及多個特征緩存區,所述計算引擎陣列通過所述片上緩存模塊連接至片外存儲,所述片上緩存模塊用于實現所述計算引擎陣列與所述片外存儲之間的數據交互;非線性層加速模塊,所述非線性層加速模塊包括Softmax運算模塊和LayerNorm運算模塊,所述Softmax運算模塊的輸入端和所述LayerNorm運算模塊的輸入端均與所述計算引擎陣列的輸出端連接,所述Softmax運算模塊和所述LayerNorm運算模塊均與所述片上緩存模塊連接,所述Softmax運算模塊和所述LayerNorm運算模塊用于執行非線性層運算;控制模塊,所述計算引擎陣列、所述Softmax運算模塊以及所述LayerNorm運算模塊均與所述控制模塊連接,所述控制模塊用于對所述計算引擎陣列、所述Softmax運算模塊以及所述LayerNorm運算模塊進行運算配置和訪存邏輯調度控制。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人中山大學,其通訊地址為:510275 廣東省廣州市海珠區新港西路135號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。