91欧美超碰AV自拍|国产成年人性爱视频免费看|亚洲 日韩 欧美一厂二区入|人人看人人爽人人操aV|丝袜美腿视频一区二区在线看|人人操人人爽人人爱|婷婷五月天超碰|97色色欧美亚州A√|另类A√无码精品一级av|欧美特级日韩特级

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

多路復用實現(xiàn)單服百萬級別RPS吞吐的辦法

電子設(shè)計 ? 2018-10-23 10:48 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

多路復用其實并不是什么新技術(shù),它的作用是在一個通訊連接的基礎(chǔ)上可以同時進行多個請求響應處理。對于網(wǎng)絡(luò)通訊來其實不存在這一說法,因為網(wǎng)絡(luò)層面只負責數(shù)據(jù)傳輸;由于上層應用協(xié)議的制訂問題,導致了很多傳統(tǒng)服務(wù)并不能支持多路復用;如:http1.1,sqlserver和redis等等,雖然有些服務(wù)提供批量處理,但這些處理都基于一個RPS下。下面通過圖解來了解釋單路和多路復用的區(qū)別。

單路存在的問題

每個請求響應獨占一個連接,并獨占連接網(wǎng)絡(luò)讀寫;這樣導致連接在有大量時間被閑置無法更好地利用網(wǎng)絡(luò)資源。由于是獨占讀寫IO,這樣導致RPS處理量由必須由IO承擔,IO操作起來比較損耗性能,這樣在高RPS處理就出現(xiàn)性能問題。由于不能有效的合并IO也會導致在通訊中的帶寬存在浪費情況,特別對于比較小的請求數(shù)據(jù)包。通訊上的延時當要持大量的RPS那就必須要有更多連接支撐,連接數(shù)增加也對資源的開銷有所增加。

多路復用的優(yōu)點

多路復用可以在一個連接上同時處理多個請求響應,這樣可以大大的減少連接的數(shù)量,并提高了網(wǎng)絡(luò)的處理能力。由于是共享連接不同請求響應數(shù)據(jù)包可以合并到一個IO上處理,這樣可以大大降低IO的處理量,讓性能表現(xiàn)得更出色。

通過多路復用實現(xiàn)百萬級RPS

多路復用是不是真的如此出色呢,以下在.net core上使用多路復用實現(xiàn)單服務(wù)百萬RPS吞吐,并能達到比較低的延時性。以下是測試流程:

由于基礎(chǔ)通訊不具備消息包合并功能,所以在BeetleX的基礎(chǔ)上做集成測試,主要BeetleX會自動合并消息到一個Buffer上,從而降低IO的讀寫。

測試消息結(jié)構(gòu)

本測試使用了Protobuf作為基礎(chǔ)交互消息,畢竟Protobuf已經(jīng)是一個二進制序列化標準了。

請求消息






整個測試開啟了10個連接,在這10個連接的基礎(chǔ)上進行請求響應復用。

測試配置

測試環(huán)境是兩臺服務(wù)器,配置是阿里云上的12核服務(wù)器(對應的物理機應該是6核12線程)

服務(wù)和客戶端的系統(tǒng)都是:Ubuntu 16.04

Dotnet core版本是:2.14

測試結(jié)果

客戶端統(tǒng)計結(jié)果

服務(wù)端統(tǒng)計信息

帶寬統(tǒng)計

測試使用了10個連接進行多路復用,每秒接收響應量在100W,大部分響應延時在1-3毫秒之間。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 多路復用
    +關(guān)注

    關(guān)注

    0

    文章

    39

    瀏覽量

    26086
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    [6.4.1]--多路復用

    多路復用數(shù)字邏輯
    李開鴻
    發(fā)布于 :2022年11月13日 01:18:45

    16位1MSPS多路復用數(shù)據(jù)采集系統(tǒng)

    、一個參考驅(qū)動器和一個多路復用器。該設(shè)計顯示了優(yōu)化端 DAQ 以在采樣率為 1MSPS 時實現(xiàn)快速趨穩(wěn)的過程。主要特色1/2 LSB 趨穩(wěn)時間為 390 ns吞吐量為 1MSPS4
    發(fā)表于 11-07 14:48

    AD8184-EB是用于視頻路由和多路復用系統(tǒng)的路4:1模擬多路復用器評估板

    AD8184-EB,用于視頻路由和多路復用系統(tǒng)的路4:1模擬多路復用器評估板。 AD8184評估板經(jīng)過精心布局和測試,可演示器件的指定高速性能
    發(fā)表于 06-17 06:28

    用于視頻路由和多路復用系統(tǒng)的路2:1模擬多路復用

    AD8170-EB,用于視頻路由和多路復用系統(tǒng)的路2:1模擬多路復用器評估板。 AD8170評估板經(jīng)過精心布局和測試,可演示器件的指定高速性能
    發(fā)表于 06-17 16:47

    AD8174緩沖模擬多路復用

    AD8174-EB,用于視頻路由和多路復用系統(tǒng)的路4:1模擬多路復用器評估板。 AD8174評估板經(jīng)過精心布局和測試,可演示器件的指定高速性能
    發(fā)表于 06-17 09:58

    如何在Mx1051的FlexCAN1中配置簡單信號多路復用和擴展信號多路復用

    我們正在研究 FlexCAN1 的 mxrt1051。我們是第一次在 FlexCAN 上工作,請協(xié)助以下幾點: - 如何在 Mx1051 的 FlexCAN1 中配置簡單信號多路復用和擴展信號
    發(fā)表于 05-05 11:05

    多路復用技術(shù)

    2.3  多路復用技術(shù)2.3.1  頻分多路復用2.3.2  時分多路復用2.3.3  波分多路復用2.3.4  碼分
    發(fā)表于 06-27 21:46 ?0次下載

    基于CPLD的非多路復用多路復用總線轉(zhuǎn)換橋的設(shè)計與實現(xiàn)

    基于CPLD的非多路復用多路復用總線轉(zhuǎn)換橋的設(shè)計與實現(xiàn) 微處理器對外并行總線接口方式一般分為兩種,一種為多路復用方式,數(shù)據(jù)與地址采用共用引腳,分時傳輸;另一
    發(fā)表于 03-28 15:08 ?1080次閱讀
    基于CPLD的非<b class='flag-5'>多路復用</b>與<b class='flag-5'>多路復用</b>總線轉(zhuǎn)換橋的設(shè)計與<b class='flag-5'>實現(xiàn)</b>

    多路復用多路復用總線轉(zhuǎn)換橋的設(shè)計與實現(xiàn)

    多路復用多路復用總線轉(zhuǎn)換橋的設(shè)計與實現(xiàn) 提出了一種新穎的非多路復用總線與多路復用總線的轉(zhuǎn)換接口電路。以兩種總線的典型代表芯片TMS
    發(fā)表于 03-28 15:14 ?1234次閱讀
    非<b class='flag-5'>多路復用</b>與<b class='flag-5'>多路復用</b>總線轉(zhuǎn)換橋的設(shè)計與<b class='flag-5'>實現(xiàn)</b>

    多路復用多路復用總線轉(zhuǎn)換橋的設(shè)計與實現(xiàn)

    摘要:提出了一種新穎的非多路復用總線與多路復用總線的轉(zhuǎn)換接口電路。以兩種總線的典型代表芯片TMS320F206與SJA1000為例,分
    發(fā)表于 06-20 13:20 ?974次閱讀
    非<b class='flag-5'>多路復用</b>與<b class='flag-5'>多路復用</b>總線轉(zhuǎn)換橋的設(shè)計與<b class='flag-5'>實現(xiàn)</b>

    復用器的多路復用

    復用器的多路復用  多路復用
    發(fā)表于 01-07 14:27 ?1413次閱讀

    時分多路復用(TDM),時分多路復用(TDM)的原理是什么?

    時分多路復用(TDM),時分多路復用(TDM)的原理是什么?  為了提高信道利用率,使多個信號沿同一信道傳輸而互相不干擾,稱
    發(fā)表于 03-19 14:07 ?1.1w次閱讀

    時分多路復用(TDM),時分多路復用(TDM)是什么意思

    時分多路復用(TDM),時分多路復用(TDM)是什么意思 這種方法是把傳輸信道按時間來分割,為每個用戶指定一個時間間隔,每個間隔里傳輸信號
    發(fā)表于 04-03 15:28 ?6714次閱讀

    AN-32:JFET多路復用器的電源工作

    AN-32:JFET多路復用器的電源工作
    發(fā)表于 05-27 08:36 ?3次下載
    AN-32:JFET<b class='flag-5'>多路復用</b>器的<b class='flag-5'>單</b>電源工作

    頻分多路復用和時分多路復用的區(qū)別有哪些

    頻分多路復用(FDM)和時分多路復用(TDM)是兩種主要的多路復用技術(shù),它們在通信系統(tǒng)中扮演著至關(guān)重要的角色。
    的頭像 發(fā)表于 05-07 15:24 ?6744次閱讀