買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)恭喜福州市公安局;國投智能(廈門)信息股份有限公司申請的專利一種基于大型語言模型的智能問答生成方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN119621857B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-04-18發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202510167552.X，技術(shù)領(lǐng)域涉及：G06F16/28；該發(fā)明授權(quán)一種基于大型語言模型的智能問答生成方法及系統(tǒng)是由王錫章;董煜;蔡淋強;詹申平;郭蘇聰;徐志慧;孫奕;陳裕妙;張輝極;陳明俤;盧斌;林董希;卓龍杰設(shè)計研發(fā)完成，并于2025-02-16向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種基于大型語言模型的智能問答生成方法及系統(tǒng)在說明書摘要公布了：一種基于大型語言模型的智能問答生成方法及系統(tǒng)，涉及數(shù)據(jù)信息分析技術(shù)領(lǐng)域，方法包括以下步驟：獲取電子數(shù)據(jù)，存儲到關(guān)系型數(shù)據(jù)庫；對EmbeddingModel進行訓(xùn)練；將訓(xùn)練數(shù)據(jù)生成對應(yīng)的第一向量數(shù)據(jù)，將第一向量數(shù)據(jù)、第一SQL語句和答案內(nèi)容存儲到向量數(shù)據(jù)庫中；獲取用戶提問，將用戶提問通過EmbeddingModel向量化，得到第二向量數(shù)據(jù)，通過向量召回生成提示詞；將提示詞輸入第一大語言模型，得到第二SQL語句，在關(guān)系型數(shù)據(jù)庫中執(zhí)行第二SQL語句，得到查詢結(jié)果。本公開在數(shù)據(jù)入庫階段降低表設(shè)計的復(fù)雜度，將處理后的結(jié)構(gòu)化數(shù)據(jù)存儲于不同主題的關(guān)系型數(shù)據(jù)庫中。針對不同的主題與對應(yīng)的關(guān)系型數(shù)據(jù)庫進行交互，快速查詢定位并分析數(shù)據(jù)。

本發(fā)明授權(quán)一種基于大型語言模型的智能問答生成方法及系統(tǒng)在權(quán)利要求書中公布了：1.一種基于大型語言模型的智能問答生成方法，其特征在于，包括以下步驟：獲取電子數(shù)據(jù)，所述電子數(shù)據(jù)包括問題對應(yīng)的答案內(nèi)容，將所述電子數(shù)據(jù)預(yù)處理后得到結(jié)構(gòu)化數(shù)據(jù)，并存儲到關(guān)系型數(shù)據(jù)庫中；獲取多個訓(xùn)練數(shù)據(jù)，各所述訓(xùn)練數(shù)據(jù)包括問題、所述問題對應(yīng)的第一SQL語句、關(guān)系型數(shù)據(jù)庫的表結(jié)構(gòu)信息、表索引數(shù)據(jù)和數(shù)據(jù)字典，通過所述訓(xùn)練數(shù)據(jù)對EmbeddingModel進行訓(xùn)練；在所述關(guān)系型數(shù)據(jù)庫中執(zhí)行所述第一SQL語句能夠得到問題對應(yīng)的答案內(nèi)容；將所述訓(xùn)練數(shù)據(jù)輸入EmbeddingModel中，生成對應(yīng)的第一向量數(shù)據(jù)，將所述第一向量數(shù)據(jù)、第一SQL語句和答案內(nèi)容存儲到向量數(shù)據(jù)庫中；獲取用戶提問，將用戶提問通過EmbeddingModel向量化，得到第二向量數(shù)據(jù)，對所述第二向量數(shù)據(jù)通過向量召回，在所述向量數(shù)據(jù)庫中得到與所述第二向量數(shù)據(jù)最接近的第一向量數(shù)據(jù)，并獲取其對應(yīng)的第一SQL語句及答案內(nèi)容，根據(jù)用戶提問、第一SQL語句、答案內(nèi)容及提示詞模板生成提示詞；將提示詞輸入第一大語言模型，得到第二SQL語句，在所述關(guān)系型數(shù)據(jù)庫中執(zhí)行所述第二SQL語句，得到查詢結(jié)果；通過第二大語言模型對所述查詢結(jié)果進行推理、總結(jié)后輸出應(yīng)答結(jié)果；所述EmbeddingModel采用改進的bert模型，改進的bert模型包括：輸入層，用于輸入所述訓(xùn)練數(shù)據(jù)；嵌入層，將所述訓(xùn)練數(shù)據(jù)經(jīng)過詞嵌入、句嵌入和位置嵌入得到輸入向量；Bert層，將所述輸入向量轉(zhuǎn)換為所述第一向量數(shù)據(jù)；所述Bert層包括位置編碼器和多層雙向Transformer編碼器，所述輸入向量通過位置編碼器編碼后輸入第一層的雙向Transformer編碼器；所述雙向Transformer編碼器包括依次連接的第一子連接層和第二子連接層，所述第一子連接層包括多頭自注意力層和規(guī)范化層，所述多頭自注意力層和所述規(guī)范化層采用殘差連接，所述第二子連接層包括前饋全連接層和規(guī)范化層，所述前饋全連接層和所述規(guī)范化層采用殘差連接；所述位置編碼器采用相對位置編碼，引入相對位置編碼后所述多頭自注意力層具體為： ；其中，aij為注意力得分，Qi為第i個查詢向量，Kj為第j個鍵向量，WQ和WK分別為查詢向量和鍵向量的線性變換矩陣，rij為相對位置偏置項，dk為鍵向量的維度；輸出層，輸出所述第一向量數(shù)據(jù)；改進的bert模型采用以下?lián)p失函數(shù)： ；其中，為平滑因子，yi為第i個類別為正確類別時，正確類別的預(yù)測概率，yf為非正確類別的預(yù)測概率，且yf≠yi，C為類別數(shù)量，σi為第i個類別的調(diào)節(jié)因子，用于根據(jù)正確類別的數(shù)量調(diào)節(jié)損失貢獻比例。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人福州市公安局;國投智能(廈門)信息股份有限公司，其通訊地址為：350000 福建省福州市鼓樓區(qū)津門路11號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。