恭喜時趣互動(北京)科技有限公司唐亮獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜時趣互動(北京)科技有限公司申請的專利大數據量和高并發場景下提升GPU顯卡計算效率的系統獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN114237922B 。
龍圖騰網通過國家知識產權局官網在2025-05-13發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202111096450.1,技術領域涉及:G06F9/54;該發明授權大數據量和高并發場景下提升GPU顯卡計算效率的系統是由唐亮;曹特磊;趙偉設計研發完成,并于2021-09-17向國家知識產權局提交的專利申請。
本大數據量和高并發場景下提升GPU顯卡計算效率的系統在說明書摘要公布了:本發明公開了大數據量和高并發場景下提升GPU顯卡計算效率的系統,包括:客戶端、CPU服務器、3臺用于RPC服務的服務器和GPU顯卡,客戶端用于發送并發數據請求,CPU服務器用來接收數據處理請求和將請求輪詢轉發給后續的處理端,GPU顯卡具有模型計算服務。本申請通過不增加額外的高性能硬件資源,利用相對廉價的CPU服務器,并且客戶端每次只需發送相對少量的請求數據,就可以使GPU顯卡達到滿負載的運算狀態,從而提升數據處理效率,且不容易發生溢出和超時等風險。
本發明授權大數據量和高并發場景下提升GPU顯卡計算效率的系統在權利要求書中公布了:1.大數據量和高并發場景下提升GPU顯卡計算效率的系統,包括:客戶端、CPU服務器、3臺用于RPC服務的服務器和GPU顯卡,其特征在于,所述客戶端用于發送并發數據請求,所述CPU服務器用來接收數據處理請求和將請求輪詢轉發給后續的處理端,所述GPU顯卡具有模型計算服務,所述CPU服務器部署開源的haproxy請求轉發服務,用來接收客戶端發來的請求,并通過輪詢的方式轉發給RPC服務,3臺用于RPC服務的所述服務器均采用開源的thrift服務充當RPC服務,進一步放大對GPU顯卡的并發請求度,所述CPU服務器接收用thrift啟動的RPC服務發來的計算請求,通過輪詢的方式轉發給GPU顯卡上啟動的模型計算服務。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人時趣互動(北京)科技有限公司,其通訊地址為:100020 北京市朝陽區建國路118號4層401內C11;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。