買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)恭喜哈爾濱工業(yè)大學(xué)申請(qǐng)的專利一種基于預(yù)訓(xùn)練模型的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法獲國(guó)家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國(guó)家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN119204011B 。

龍圖騰網(wǎng)通過(guò)國(guó)家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-05-23發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202411190945.4，技術(shù)領(lǐng)域涉及：G06F40/295；該發(fā)明授權(quán)一種基于預(yù)訓(xùn)練模型的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法是由武躍;葉麟;蘇雨恒;萬(wàn)夢(mèng)丹;王祎雯;張宏莉設(shè)計(jì)研發(fā)完成，并于2024-08-28向國(guó)家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本一種基于預(yù)訓(xùn)練模型的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法在說(shuō)明書摘要公布了：本發(fā)明公開了一種基于預(yù)訓(xùn)練模型的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法，屬于網(wǎng)絡(luò)數(shù)據(jù)安全技術(shù)領(lǐng)域。解決了現(xiàn)有技術(shù)中傳統(tǒng)的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法易導(dǎo)致識(shí)別文本語(yǔ)義錯(cuò)誤的問(wèn)題；本發(fā)明給定標(biāo)注集合和輸入序列，根據(jù)標(biāo)注規(guī)則生成標(biāo)注序列，對(duì)輸入序列進(jìn)行分句處理；對(duì)輸入序列的文本片段的長(zhǎng)度進(jìn)行替換，得到片段集合；根據(jù)標(biāo)注集合，對(duì)片段集合進(jìn)行掩碼操作，得到新片段集合，利用BERT模型對(duì)新片段集合進(jìn)行預(yù)測(cè)，得到增廣后的數(shù)據(jù)集；使用BERT模型計(jì)算得到連續(xù)概率并搜索相鄰句子概率矩陣打亂句子順序，得到最終增廣后的數(shù)據(jù)集。本發(fā)明有效提升了所生成增廣數(shù)據(jù)的質(zhì)量，減少了過(guò)擬合現(xiàn)象，可以應(yīng)用于數(shù)據(jù)增廣。

本發(fā)明授權(quán)一種基于預(yù)訓(xùn)練模型的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法在權(quán)利要求書中公布了：1.一種基于預(yù)訓(xùn)練模型的網(wǎng)絡(luò)安全命名實(shí)體識(shí)別數(shù)據(jù)增廣方法，其特征在于，包括以下步驟：S1.給定標(biāo)注集合和輸入序列，根據(jù)標(biāo)注規(guī)則生成標(biāo)注序列，對(duì)輸入序列進(jìn)行分句處理，得到子序列和標(biāo)注子序列；S2.對(duì)輸入序列的文本片段的長(zhǎng)度進(jìn)行替換，即根據(jù)子序列和標(biāo)注子序列截?cái)喑鲱A(yù)設(shè)的輸入文本片段的最大長(zhǎng)度的片段的后續(xù)內(nèi)容，得到片段集合；S3.根據(jù)標(biāo)注集合，對(duì)片段集合進(jìn)行掩碼操作，得到新片段集合，利用BERT模型對(duì)新片段集合進(jìn)行預(yù)測(cè)，得到增廣后的數(shù)據(jù)集；S4.根據(jù)增廣后的數(shù)據(jù)集，生成相鄰句子對(duì)得到相鄰句子概率矩陣，使用BERT模型計(jì)算得到連續(xù)概率并搜索相鄰句子概率矩陣打亂句子順序，得到最終增廣后的數(shù)據(jù)集；所述S3中，對(duì)于元素si中的每一個(gè)單詞xi，如果其對(duì)應(yīng)的標(biāo)記yi為實(shí)體，則不進(jìn)行掩碼操作，如果對(duì)應(yīng)的標(biāo)記yi不屬于任何實(shí)體，則生成隨機(jī)數(shù)r，r∈[0，1]，如果隨機(jī)數(shù)r小于替換概率P，則將單詞xi替換為掩碼[MASK]，得到含有掩碼[MASK]的新片段集合Smask；替換概率P表示為： 增廣后的數(shù)據(jù)集表示為： 所述S4中，對(duì)于增廣后的數(shù)據(jù)集中的每個(gè)句子生成所有相鄰句子對(duì)其中，i≠j且j≠i+1，使用BERT模型計(jì)算得到所有兩個(gè)句子的組合為相鄰句子對(duì)的連續(xù)概率Pij，整合所有連續(xù)概率Pij得到相鄰句子概率矩陣P'；連續(xù)概率Pij計(jì)算過(guò)程表示為： Pij＝softmaxBERTInput其中，[CLS]和[SEP]為BERT模型的特殊特征token，[CLS]表示片段文本的開始即一段話的首句，[SEP]表示片段文本中除首句的分句，softmax為激活函數(shù)，Input表示BERT模型的當(dāng)前輸入，為第一句子，為與相鄰的第二句子；采用BERT模型從相鄰句子概率矩陣P'第一行進(jìn)行搜索，選取第一行中最大連續(xù)概率Pijmax，以第二句子作為第一行中最大連續(xù)概率對(duì)應(yīng)的句子的下一句話，同時(shí)將最大連續(xù)概率Pijmax置為0，重復(fù)上述搜索操作，遍歷相鄰句子概率矩陣P'第j行，選取第j行中最大連續(xù)概率Pjk，將相鄰句子作為第j行中最大連續(xù)概率Pjk對(duì)應(yīng)的句子即第二句子的下一句話，同時(shí)將第j行中最大連續(xù)概率Pjk置為0，重復(fù)上述搜索操作，直到增廣后的數(shù)據(jù)集的每一個(gè)元素順序重新分配完畢，結(jié)合輸入序列X得到最終增廣后的數(shù)據(jù)集。

如需購(gòu)買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人哈爾濱工業(yè)大學(xué)，其通訊地址為：150001 黑龍江省哈爾濱市南崗區(qū)西大直街92號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。