恭喜大連理工大學(xué)王塔娜獲國(guó)家專(zhuān)利權(quán)
買(mǎi)專(zhuān)利賣(mài)專(zhuān)利找龍圖騰,真高效! 查專(zhuān)利查商標(biāo)用IPTOP,全免費(fèi)!專(zhuān)利年費(fèi)監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)恭喜大連理工大學(xué)申請(qǐng)的專(zhuān)利一種基于遷移學(xué)習(xí)和注意力機(jī)制的跨語(yǔ)料庫(kù)情感識(shí)別方法獲國(guó)家發(fā)明授權(quán)專(zhuān)利權(quán),本發(fā)明授權(quán)專(zhuān)利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予,授權(quán)公告號(hào)為:CN113065344B 。
龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-05-27發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專(zhuān)利申請(qǐng)?zhí)?專(zhuān)利號(hào)為:202110330443.7,技術(shù)領(lǐng)域涉及:G06F40/279;該發(fā)明授權(quán)一種基于遷移學(xué)習(xí)和注意力機(jī)制的跨語(yǔ)料庫(kù)情感識(shí)別方法是由王塔娜;張強(qiáng);王鵬飛;候亞慶設(shè)計(jì)研發(fā)完成,并于2021-03-24向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專(zhuān)利申請(qǐng)。
本一種基于遷移學(xué)習(xí)和注意力機(jī)制的跨語(yǔ)料庫(kù)情感識(shí)別方法在說(shuō)明書(shū)摘要公布了:本發(fā)明屬于遷移學(xué)習(xí)、情感計(jì)算等技術(shù)領(lǐng)域,涉及一種基于遷移學(xué)習(xí)和注意力機(jī)制的跨語(yǔ)料庫(kù)情感識(shí)別方法。本發(fā)明方法中使用編碼?解碼在源語(yǔ)料庫(kù)上進(jìn)行訓(xùn)練,并通過(guò)循環(huán)卷積神經(jīng)網(wǎng)絡(luò)RNN提取上下文中的情感依賴(lài)和傳遞情況,將編碼和上下文情感依賴(lài)等特征參數(shù)遷移到目標(biāo)語(yǔ)料庫(kù)的訓(xùn)練中,通過(guò)訓(xùn)練將遷移損失控制在一定范圍內(nèi)進(jìn)而完成知識(shí)遷移,在目標(biāo)語(yǔ)料庫(kù)上借助遷移學(xué)習(xí)的知識(shí)進(jìn)行編碼?上下文特征參數(shù)提取?分類(lèi)的操作,最終完成目標(biāo)語(yǔ)料庫(kù)上說(shuō)話(huà)人情感狀態(tài)判定的任務(wù),能夠有效解決小樣本訓(xùn)練不充分的問(wèn)題。
本發(fā)明授權(quán)一種基于遷移學(xué)習(xí)和注意力機(jī)制的跨語(yǔ)料庫(kù)情感識(shí)別方法在權(quán)利要求書(shū)中公布了:1.一種基于遷移學(xué)習(xí)和注意力機(jī)制的跨語(yǔ)料庫(kù)情感識(shí)別方法,其特征在于,具體步驟如下:S1:將源語(yǔ)料庫(kù)中對(duì)話(huà)部分劃分為T(mén)條的語(yǔ)句X=[x1,x2,…,xi…,xT],選取對(duì)話(huà)中所有說(shuō)話(huà)人的文本數(shù)據(jù);S2:使用編碼解碼器架構(gòu)進(jìn)行建模;編碼解碼器使用三個(gè)順序組件以分層方式對(duì)會(huì)話(huà)進(jìn)行構(gòu)建循環(huán)神經(jīng)網(wǎng)絡(luò)模型:編碼器循環(huán)神經(jīng)網(wǎng)絡(luò)用于句子編碼,上下文循環(huán)神經(jīng)網(wǎng)絡(luò)用于語(yǔ)句級(jí)對(duì)話(huà)上下文進(jìn)行建模,解碼器循環(huán)神經(jīng)網(wǎng)絡(luò)用于生成響應(yīng)句子;將步驟S1劃分好的每條語(yǔ)句送入循環(huán)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行編碼-上下文建模-解碼操作:編碼操作:首先,將步驟S1劃分好的每條語(yǔ)句送入編碼器循環(huán)神經(jīng)網(wǎng)絡(luò)進(jìn)行編碼,并通過(guò)注意力機(jī)制獲得編碼過(guò)程中情感相關(guān)的隱藏層向量,在某一時(shí)刻t進(jìn)行如下公式所示的計(jì)算: 其中,表示編碼器在t時(shí)刻的狀態(tài)輸出,fes表示源任務(wù)編碼器循環(huán)神經(jīng)網(wǎng)絡(luò)函數(shù),Attention表示進(jìn)行注意力機(jī)制計(jì)算;上下文建模:將編碼操作中得到的送入到上下文循環(huán)神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)話(huà)上下文建模,將得到t時(shí)間點(diǎn)的隱藏層狀態(tài) 其中,fcs表示源任務(wù)上下文循環(huán)神經(jīng)網(wǎng)絡(luò)函數(shù);解碼操作:使用解碼器循環(huán)神經(jīng)網(wǎng)絡(luò)用于生成響應(yīng)句子xm: 其中,fds表示源任務(wù)解碼器循環(huán)神經(jīng)網(wǎng)絡(luò)函數(shù);編碼解碼器架構(gòu)通過(guò)最大似然估計(jì)目標(biāo)argmaxθ∑ilogpXi將語(yǔ)料庫(kù)中的對(duì)話(huà)進(jìn)行整體訓(xùn)練;S3:對(duì)目標(biāo)任務(wù)的目標(biāo)語(yǔ)料庫(kù)中每條語(yǔ)句送入循環(huán)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行編碼-上下文建模操作;S4:通過(guò)定義空間注意力圖將注意力信息從源語(yǔ)料庫(kù)轉(zhuǎn)移到目標(biāo)語(yǔ)料庫(kù)的訓(xùn)練網(wǎng)絡(luò)中,完成知識(shí)遷移;定義循環(huán)神經(jīng)網(wǎng)絡(luò)的激活張量其中由C個(gè)通道組成,空間維度為H×W,映射函數(shù)F將A作為輸入和輸出,則空間注意力圖計(jì)算如下: 對(duì)于空間注意力圖,由于隱藏神經(jīng)元激活的絕對(duì)值表示神經(jīng)元相對(duì)于特定輸入的重要性,在跨通道維度計(jì)算隱藏神經(jīng)元激活的絕對(duì)值的統(tǒng)計(jì)信息,并構(gòu)建以下空間注意力映射: 其中,m∈{1,2,…,H}和j∈{1,2,…,W},p表示在特定卷積層的源域和目標(biāo)域的激活映射進(jìn)行所有卷積響應(yīng)通道上的lp-范數(shù)池化計(jì)算;給定源任務(wù)的空間注意力圖,目標(biāo)是訓(xùn)練目標(biāo)任務(wù)不僅能做出正確的預(yù)測(cè),而且還能擁有與源任務(wù)類(lèi)似的注意力圖;S5:在完成步驟S4的知識(shí)遷移并在目標(biāo)任務(wù)語(yǔ)料庫(kù)上進(jìn)行編碼建模訓(xùn)練后,使用softmax分類(lèi)器對(duì)目標(biāo)語(yǔ)句進(jìn)行情感分類(lèi)并得到各類(lèi)情感的識(shí)別率;最終結(jié)果輸出目標(biāo)語(yǔ)句的情感分類(lèi)矩陣,從而能夠判斷每個(gè)句子說(shuō)話(huà)人所處的情感狀態(tài)。
如需購(gòu)買(mǎi)、轉(zhuǎn)讓、實(shí)施、許可或投資類(lèi)似專(zhuān)利技術(shù),可聯(lián)系本專(zhuān)利的申請(qǐng)人或?qū)@麢?quán)人大連理工大學(xué),其通訊地址為:116024 遼寧省大連市甘井子區(qū)凌工路2號(hào);或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話(huà)0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報(bào)告根據(jù)公開(kāi)、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報(bào)告中的分析和結(jié)論僅反映本公司于發(fā)布本報(bào)告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 恭喜上海朗達(dá)電纜(集團(tuán))有限公司劉源獲國(guó)家專(zhuān)利權(quán)
- 恭喜松下知識(shí)產(chǎn)權(quán)經(jīng)營(yíng)株式會(huì)社西原孝史獲國(guó)家專(zhuān)利權(quán)
- 恭喜泰克元有限公司金善真獲國(guó)家專(zhuān)利權(quán)
- 恭喜合芯磁導(dǎo)科技(無(wú)錫)有限公司朱浩宇獲國(guó)家專(zhuān)利權(quán)
- 恭喜杭州易和網(wǎng)絡(luò)有限公司周?chē)?guó)敏獲國(guó)家專(zhuān)利權(quán)
- 恭喜OP方案有限責(zé)任公司V·阿季奇獲國(guó)家專(zhuān)利權(quán)
- 恭喜新思考電機(jī)有限公司鷲尾紀(jì)之獲國(guó)家專(zhuān)利權(quán)
- 恭喜因納特拉納米系統(tǒng)有限公司A·齊亞約獲國(guó)家專(zhuān)利權(quán)
- 恭喜石家莊鐵道大學(xué)徐光興獲國(guó)家專(zhuān)利權(quán)
- 恭喜上海康恒環(huán)境股份有限公司龍吉生獲國(guó)家專(zhuān)利權(quán)


熱門(mén)推薦
- 恭喜中石化石油工程技術(shù)服務(wù)有限公司龐應(yīng)剛獲國(guó)家專(zhuān)利權(quán)
- 恭喜南京工業(yè)職業(yè)技術(shù)學(xué)院王蕾獲國(guó)家專(zhuān)利權(quán)
- 恭喜三星電子株式會(huì)社金毅烈獲國(guó)家專(zhuān)利權(quán)
- 恭喜珠海麗亭智能科技有限公司汪川獲國(guó)家專(zhuān)利權(quán)
- 恭喜京東方科技集團(tuán)股份有限公司文平獲國(guó)家專(zhuān)利權(quán)
- 恭喜華為技術(shù)有限公司李誠(chéng)獲國(guó)家專(zhuān)利權(quán)
- 恭喜國(guó)網(wǎng)山西省電力公司晉中供電公司要糧安獲國(guó)家專(zhuān)利權(quán)
- 恭喜宜興市華麗印鐵制罐有限公司王明偉獲國(guó)家專(zhuān)利權(quán)
- 恭喜上海新亞藥業(yè)閔行有限公司商鼎獲國(guó)家專(zhuān)利權(quán)
- 恭喜佛山市石井旅游制品有限公司周曉峰獲國(guó)家專(zhuān)利權(quán)