91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

鯤鵬BoostKit 2.0分布式存儲(chǔ)全局緩存如何加速數(shù)據(jù)存儲(chǔ)倍數(shù)級(jí)

7riU_gh_3a181fa ? 來源:華為計(jì)算 ? 作者:華為計(jì)算 ? 2021-12-24 10:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在華為全聯(lián)接2021上,鯤鵬應(yīng)用使能套件BoostKit(以下簡(jiǎn)稱“鯤鵬BoostKit”)正式升級(jí)為2.0,提供 “數(shù)據(jù)親和”加速組件,對(duì)數(shù)據(jù)全處理流程進(jìn)行負(fù)載優(yōu)化,從而大幅提升應(yīng)用性能。本期由華為計(jì)算產(chǎn)品線算法專家陳澤暉和何智文向大家展示鯤鵬BoostKit 2.0分布式存儲(chǔ)全局緩存(Global Cache)特性如何做到數(shù)據(jù)存儲(chǔ)和處理的倍數(shù)級(jí)加速能力。

在摩爾定律的驅(qū)使下,計(jì)算能力倍數(shù)級(jí)增長(zhǎng),但數(shù)據(jù)傳輸速度過慢導(dǎo)致大量計(jì)算資源浪費(fèi),也限制了系統(tǒng)性能發(fā)揮。例如,在金融行業(yè),銀行逐步采用AI技術(shù)對(duì)客戶信息、遠(yuǎn)程開戶錄像、客服中心語音、企業(yè)資料等數(shù)據(jù)進(jìn)行挖掘與利用,對(duì)海量文件的讀寫會(huì)占用大量計(jì)算資源,導(dǎo)致業(yè)務(wù)處理效率降低。

原生Ceph IO請(qǐng)求的處理路徑長(zhǎng),導(dǎo)致IO時(shí)延高,用戶數(shù)據(jù)讀寫時(shí)間長(zhǎng)

鯤鵬BoostKit分布式存儲(chǔ)全局緩存應(yīng)運(yùn)而生,通過緩存前后臺(tái)分離、IO聚合、智能預(yù)取三大創(chuàng)新技術(shù)實(shí)現(xiàn)典型讀寫場(chǎng)景IOPS提升10倍,IO時(shí)延降低90%,意味著同樣時(shí)間內(nèi)銀行處理的交易筆數(shù)提升10倍,而且每筆交易處理時(shí)長(zhǎng)降低90%!

測(cè)試模型:4K IO,7:3混合隨機(jī)讀寫;硬件配置:256GB內(nèi)存,25GE網(wǎng)絡(luò),每節(jié)點(diǎn)12 * 8TB SATA HDD,2 * 3.2TB NVMe SSD

下面帶你1分鐘get三大創(chuàng)新技術(shù):

1. 緩存前后臺(tái)分離——縮短數(shù)據(jù)處理路徑:降低IO請(qǐng)求的線程數(shù)量,上層應(yīng)用只需要將數(shù)據(jù)寫入到緩存池或從緩存池中讀取即可響應(yīng)用戶請(qǐng)求。

在數(shù)據(jù)寫入場(chǎng)景,數(shù)據(jù)到寫緩存后就可以給上層應(yīng)用返回?cái)?shù)據(jù)寫入成功,無需與后臺(tái)Ceph存儲(chǔ)集群等分布式存儲(chǔ)軟件交互,用戶業(yè)務(wù)應(yīng)用無感知

2. 智能預(yù)取——讀加速:將數(shù)據(jù)提前加載至讀緩存,實(shí)現(xiàn)80%以上緩存命中率和2倍以上讀性能加速。

基于IO數(shù)據(jù)統(tǒng)計(jì),智能分析IO模型特征,實(shí)現(xiàn)緩存命中率大幅提升

3. IO聚合——寫加速:技術(shù)通過批量數(shù)據(jù)聚合,實(shí)現(xiàn)全周期隨機(jī)寫入轉(zhuǎn)順序?qū)懭?,?shí)現(xiàn)滿帶寬性能。

在緩存中把各種大小的數(shù)據(jù)塊聚合成以8M為單位的大數(shù)據(jù)塊,從隨機(jī)小IO轉(zhuǎn)變成順序大IO寫入后端Ceph等分布式存儲(chǔ)集群

此外,BoostKit全局緩存面向鯤鵬生態(tài),結(jié)合硬件特點(diǎn)開展軟硬協(xié)同優(yōu)化,如CPU親和、NUMA親和等,進(jìn)一步達(dá)到“數(shù)據(jù)親和”,在不增加硬件成本的前提下,全局緩存面向全命中和真實(shí)業(yè)務(wù)負(fù)載提供2~10倍端到端讀寫性能加速能力。

原文標(biāo)題:BoostKit干貨店|同樣硬件,Ceph存儲(chǔ)性能提升10倍

文章出處:【微信公眾號(hào):華為計(jì)算】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

審核編輯:彭菁
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 華為
    +關(guān)注

    關(guān)注

    218

    文章

    36013

    瀏覽量

    262149
  • 數(shù)據(jù)存儲(chǔ)

    關(guān)注

    5

    文章

    1025

    瀏覽量

    52955
  • ai技術(shù)
    +關(guān)注

    關(guān)注

    1

    文章

    1313

    瀏覽量

    25752

原文標(biāo)題:BoostKit干貨店|同樣硬件,Ceph存儲(chǔ)性能提升10倍

文章出處:【微信號(hào):gh_3a181fa836b6,微信公眾號(hào):華為計(jì)算】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    TiDB分布式數(shù)據(jù)庫運(yùn)維實(shí)踐

    TiDB 是 PingCAP 開發(fā)的開源分布式關(guān)系型數(shù)據(jù)庫,兼容 MySQL 5.7 協(xié)議,底層存儲(chǔ)基于 TiKV(分布式 KV 存儲(chǔ))和
    的頭像 發(fā)表于 03-04 15:44 ?94次閱讀

    分布式數(shù)據(jù)恢復(fù)—Ceph+TiDB數(shù)據(jù)恢復(fù)報(bào)告

    故障情況:客戶設(shè)備為Ceph分布式存儲(chǔ)系統(tǒng),采用RBD(RADOS Block Device)作為塊存儲(chǔ)服務(wù)。Ceph集群由多個(gè)OSD(Object Storage Daemon)節(jié)點(diǎn)組成,數(shù)
    的頭像 發(fā)表于 02-03 17:22 ?94次閱讀
    <b class='flag-5'>分布式</b><b class='flag-5'>數(shù)據(jù)</b>恢復(fù)—Ceph+TiDB<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)報(bào)告

    國(guó)內(nèi)分布式AI存儲(chǔ)方案商港股IPO!

    解決方案,即AI數(shù)據(jù)存儲(chǔ)與AI訓(xùn)推存儲(chǔ)解決方案,實(shí)現(xiàn)AI存儲(chǔ)在企業(yè)客戶業(yè)務(wù)運(yùn)營(yíng)中的無縫部署及實(shí)施,解決企業(yè)在AI轉(zhuǎn)型過程中的關(guān)鍵存儲(chǔ)需求。
    的頭像 發(fā)表于 01-29 13:44 ?7790次閱讀
    國(guó)內(nèi)<b class='flag-5'>分布式</b>AI<b class='flag-5'>存儲(chǔ)</b>方案商港股IPO!

    MR30分布式I/O助力物流分揀系統(tǒng)智能化升級(jí)

    本文以MR30分布式I/O在某大型電商物流中心分揀系統(tǒng)的應(yīng)用為例,詳細(xì)闡述其在合流、分揀、分流、分運(yùn)全流程中的模塊化應(yīng)用方案。
    的頭像 發(fā)表于 10-31 10:58 ?1045次閱讀
    MR30<b class='flag-5'>分布式</b>I/O助力物流分揀系統(tǒng)智能化升級(jí)

    MR30分布式IO在自動(dòng)上料機(jī)的應(yīng)用

    。本文結(jié)合該企業(yè)生產(chǎn)實(shí)際,詳細(xì)闡述自動(dòng)上料機(jī)的生產(chǎn)工藝需求,深入分析MR30分布式IO的應(yīng)用方式,并通過實(shí)際數(shù)據(jù)驗(yàn)證其應(yīng)用成效。 本期案例使用的產(chǎn)品:MR30-32DI、MR30-32DO、MR30-16AI-I4W、MR30-TM-2CNT?. 工藝概述? 本次應(yīng)用場(chǎng)景
    的頭像 發(fā)表于 10-30 14:05 ?278次閱讀
    MR30<b class='flag-5'>分布式</b>IO在自動(dòng)上料機(jī)的應(yīng)用

    一鍵部署無損網(wǎng)絡(luò):EasyRoCE助力分布式存儲(chǔ)效能革命

    分布式存儲(chǔ)的性能瓶頸往往在于網(wǎng)絡(luò)。如何構(gòu)建一個(gè)高帶寬、超低時(shí)延、零丟包的無損網(wǎng)絡(luò),是釋放分布式存儲(chǔ)全部潛力、賦能企業(yè)關(guān)鍵業(yè)務(wù)(如實(shí)時(shí)數(shù)據(jù)庫、
    的頭像 發(fā)表于 08-04 11:34 ?1627次閱讀
    一鍵部署無損網(wǎng)絡(luò):EasyRoCE助力<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>效能革命

    明達(dá)MR30分布式IO在紡織行業(yè)穿經(jīng)機(jī)的應(yīng)用

    問題,制約著生產(chǎn)效率與產(chǎn)品質(zhì)量。MR30分布式IO以其分布式部署的靈活性與高效的數(shù)據(jù)處理能力,為穿經(jīng)機(jī)打造了一張智能神經(jīng)網(wǎng),讓每一根經(jīng)紗的穿入都精準(zhǔn)可控。? 穿經(jīng)機(jī)介紹? 穿經(jīng)機(jī)是紡織廠織造準(zhǔn)備車間的關(guān)鍵設(shè)備,承擔(dān)著
    的頭像 發(fā)表于 08-01 16:27 ?829次閱讀
    明達(dá)MR30<b class='flag-5'>分布式</b>IO在紡織行業(yè)穿經(jīng)機(jī)的應(yīng)用

    Ceph分布式存儲(chǔ)系統(tǒng)解析

    在當(dāng)今數(shù)據(jù)爆炸的時(shí)代,企業(yè)對(duì)存儲(chǔ)系統(tǒng)的需求日益增長(zhǎng),傳統(tǒng)的集中式存儲(chǔ)已經(jīng)無法滿足大規(guī)模數(shù)據(jù)處理的要求。分布式
    的頭像 發(fā)表于 07-14 11:15 ?1012次閱讀

    分布式IO選型指南:2025年分布式無線遠(yuǎn)程IO品牌及采集控制方案詳解

    近年來,隨著工業(yè)物聯(lián)網(wǎng)(IIoT)、智能制造和工業(yè)4.0的深入發(fā)展,分布式無線遠(yuǎn)程IO模塊在工業(yè)控制領(lǐng)域的應(yīng)用愈發(fā)廣泛。這種模塊通過無線方式實(shí)現(xiàn)遠(yuǎn)程數(shù)據(jù)采集與控制,極大地提高了工業(yè)設(shè)施的靈活性和效率
    的頭像 發(fā)表于 06-23 09:48 ?1220次閱讀

    華為分布式存儲(chǔ)榮膺2025年Gartner“客戶之選”

    近日,全球權(quán)威咨詢與分析機(jī)構(gòu)Gartner發(fā)布《2025年Gartner Peer Insights文件與對(duì)象存儲(chǔ)平臺(tái)“客戶之聲”》報(bào)告,華為OceanStor分布式存儲(chǔ)再次登頂,連續(xù)第四年獲得“客戶之選”殊榮,彰顯全球客戶的認(rèn)
    的頭像 發(fā)表于 06-07 09:13 ?1380次閱讀

    曙光存儲(chǔ)領(lǐng)跑中國(guó)分布式存儲(chǔ)市場(chǎng)

    近日,賽迪顧問發(fā)布《中國(guó)分布式存儲(chǔ)市場(chǎng)研究報(bào)告(2025)》,指出2024 年中國(guó)分布式存儲(chǔ)市場(chǎng)首次超過集中式存儲(chǔ),規(guī)模達(dá) 198.2 億元
    的頭像 發(fā)表于 05-19 16:50 ?1260次閱讀

    Vsan數(shù)據(jù)恢復(fù)——Vsan分布式文件系統(tǒng)上虛擬機(jī)不可用的數(shù)據(jù)恢復(fù)

    一臺(tái)采用VsSAN分布式文件系統(tǒng)的存儲(chǔ)設(shè)備由于未知原因關(guān)機(jī)重啟。管理員發(fā)現(xiàn)上層的虛擬機(jī)不可用,存儲(chǔ)內(nèi)的數(shù)據(jù)丟失。
    的頭像 發(fā)表于 05-15 17:42 ?579次閱讀
    Vsan<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)——Vsan<b class='flag-5'>分布式</b>文件系統(tǒng)上虛擬機(jī)不可用的<b class='flag-5'>數(shù)據(jù)</b>恢復(fù)

    兆芯+圖云創(chuàng)智—可信分布式存儲(chǔ)系統(tǒng)解決方案

    圖云創(chuàng)智分布式存儲(chǔ)系統(tǒng)采用全分布式設(shè)計(jì)與先進(jìn)的存儲(chǔ)虛擬化技術(shù)相結(jié)合,由多個(gè)獨(dú)立的兆芯 x86 服務(wù)器作為存儲(chǔ)節(jié)點(diǎn),聯(lián)合道熵
    的頭像 發(fā)表于 04-23 10:29 ?973次閱讀
    兆芯+圖云創(chuàng)智—可信<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>系統(tǒng)解決方案

    分布式存儲(chǔ)數(shù)據(jù)恢復(fù)—虛擬機(jī)上hbase和hive數(shù)據(jù)數(shù)據(jù)恢復(fù)案例

    分布式存儲(chǔ)數(shù)據(jù)恢復(fù)環(huán)境: 16臺(tái)某品牌R730xd服務(wù)器節(jié)點(diǎn),每臺(tái)服務(wù)器節(jié)點(diǎn)上有數(shù)臺(tái)虛擬機(jī)。 虛擬機(jī)上部署Hbase和Hive數(shù)據(jù)庫。
    的頭像 發(fā)表于 04-17 11:05 ?726次閱讀

    秒殺傳統(tǒng)存儲(chǔ)!億萬克DM3000分布式存儲(chǔ):EB級(jí)擴(kuò)容+協(xié)議瞬通

    蛟云SoveCloud DM DM3000系列是億萬克推出的全新一代分布式統(tǒng)一存儲(chǔ)產(chǎn)品。該系列用軟件定義存儲(chǔ)理念替換傳統(tǒng)的存儲(chǔ)解決方案,助力數(shù)據(jù)
    的頭像 發(fā)表于 03-20 09:13 ?1004次閱讀
    秒殺傳統(tǒng)<b class='flag-5'>存儲(chǔ)</b>!億萬克DM3000<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>:EB<b class='flag-5'>級(jí)</b>擴(kuò)容+協(xié)議瞬通