恭喜四川省華存智谷科技有限責任公司杜小華獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜四川省華存智谷科技有限責任公司申請的專利一種改善Lustre小文件管理和性能的方法及系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN119493768B 。
龍圖騰網通過國家知識產權局官網在2025-04-18發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202510074506.5,技術領域涉及:G06F16/11;該發明授權一種改善Lustre小文件管理和性能的方法及系統是由杜小華;李有軍;陳浩;董博;王皓設計研發完成,并于2025-01-17向國家知識產權局提交的專利申請。
本一種改善Lustre小文件管理和性能的方法及系統在說明書摘要公布了:本發明屬于Lustre文件管理技術領域,具體涉及一種改善Lustre小文件管理和性能的方法及系統,包括嵌套文件系統、三級索引模塊、緩存索引模塊和自適應緩存模塊;嵌套文件系統實現小文件的管理和存儲;三級索引模塊,包括小文件全局元數據索引、容器文件內部索引和緩存索引,用以優化小文件的檢索與存儲管理;緩存索引模塊,用于管理高頻訪問的小文件,減少重復的IO請求;自適應緩存模塊,客戶端根據文件訪問的頻率和模式動態調整小文件的緩存策略提升高頻訪問文件的讀取速度,并減少網絡IO操作。通過嵌套文件系統解決了Lustre文件系統在處理小文件時的性能瓶頸,通過三級索引架構減少對元數據服務器和對象存儲服務器的訪問負擔。
本發明授權一種改善Lustre小文件管理和性能的方法及系統在權利要求書中公布了:1.一種改善Lustre小文件管理和性能的系統,其特征在于,包括嵌套文件系統、三級索引模塊、緩存索引模塊和自適應緩存模塊;所述嵌套文件系統部署于客戶端,為應用程序與底層Lustre文件系統之間的中間層,用于實現小文件的管理和存儲;所述三級索引模塊,包括小文件全局元數據索引、容器文件內部索引和緩存索引,用以優化小文件的檢索與存儲管理;所述緩存索引模塊,用于管理高頻訪問的小文件,減少重復的IO請求;所述自適應緩存模塊,客戶端根據文件訪問的頻率和模式動態調整小文件的緩存策略提升高頻訪問文件的讀取速度,并減少網絡IO操作;所述嵌套文件系統包括中間層功能模塊和聚合機制模塊,所述中間層功能模塊位于應用程序和Lustre文件系統之間,實現對所有小文件的讀寫請求的攔截;所述聚合機制模塊,用于將多個小文件聚合到一個較大的容器文件中,減少元數據管理和IO操作的開銷;所述聚合機制模塊將多個小文件聚合到一個較大的容器文件中的具體過程如下:容器文件的創建與管理:由Lustre客戶端維護一個容器文件池,實行預分配策略避免小文件寫入時,在IO路徑上創建新的容器文件而導致額外的開銷;容器文件創建走通用大文件創建流程,由元數據服務器維護其元數據;客戶端為每個容器文件分配一個唯一的容器文件標識符;文件聚合:Lustre客戶端在后臺自動將多個小文件合并成一個容器文件;分塊聚合:嵌套文件系統根據文件大小、文件數量參數設定聚合的閾值;當達到設定閾值時,嵌套文件系統選擇新的容器文件;包括小文件更新后成大文件和大文件更新后變成小文件的過程;小文件更新后成大文件具體包括以下過程:增量更新與事務處理過程:在文件更新時,僅寫入變更的部分,通過事務機制確保文件更新的原子性,任何失敗的操作都能安全回滾;動態遷移過程:當小文件更新變大超過預設閾值時,系統自動將其遷移出小文件聚合的容器文件,存儲到Lustre的大文件區域;遷移完成后,及時更新數據索引,將變大后的文件從小文件全局元數據索引、容器文件內部索引、緩存索引中移除;針對更新后變大的文件,系統動態調整緩存策略;大文件更新后變成小文件的過程:動態重新聚合機制:當大文件縮小到某一預設閾值時,系統將其重新聚合到小文件容器文件中減少對單獨大文件的管理和存儲開銷;重新聚合在后臺異步進行,系統選擇指定的容器文件,將縮小后的大文件數據移動到其中;索引管理:重新聚合后,小文件全局元數據索引和容器文件內部索引都進行更新以反映文件的新位置;小文件全局元數據索引更新文件路徑與偏移量實現小文件重新定位到聚合文件,同時移除該文件在元數據服務器上的索引記錄;包括IO流程:文件寫入流程:用戶或應用程序發起寫文件請求;虛擬文件系統層攔截寫請求;根據預設的文件大小閾值,判斷文件是否為小文件;若是小文件,進入小文件處理流程:小文件處理流程:選擇指定的容器文件,將文件數據寫入容器文件的數據區,更新容器文件內部索引,更新小文件全局元數據索引,返回寫操作結果給用戶或應用程序;若是大文件,進入大文件處理流程:直接調用底層文件接口進行寫操作;返回寫操作結果給用戶或用戶程序;文件讀取流程:用戶或應用程序發起讀文件請求;如果緩存命中,直接返回數據給用戶或應用程序;虛擬文件系統層攔截讀請求;根據預設的文件大小閾值,判斷文件是否為小文件;若是小文件,進入小文件處理流程:讀取小文件全局元數據索引,確定文件所在的容器文件和內部位置;根據容器文件內部索引表的偏移量和長度,從容器文件的數據區讀取文件數據;返回讀取的數據給用戶或應用程序;若是大文件,進入大文件處理流程:直接調用底層文件接口從獨立的大文件中讀取數據,返回讀取的數據給用戶或應用程序。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人四川省華存智谷科技有限責任公司,其通訊地址為:610000 四川省成都市高新區安泰七路66號2號廠房1-4層;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。