淺析QPS、TPS、并發(fā)用戶數(shù)、吞吐量的關(guān)系

時間：2024-08-20 10:17:56

關(guān)鍵字： QPS TPS

手機(jī)看文章

掃描二維碼
隨時隨地手機(jī)看文章

[導(dǎo)讀]一個系統(tǒng)吞吐量通常有QPS(TPS),并發(fā)數(shù)兩個因素決定，每套系統(tǒng)這個兩個值都有一個相對極限值，在應(yīng)用場景訪問壓力下，只要某一項(xiàng)達(dá)到系統(tǒng)最高值，系統(tǒng)吞吐量就上不去了，如果壓力繼續(xù)增大，系統(tǒng)的吞吐量反而會下降，原因是系統(tǒng)超負(fù)荷工作，上下文切換，內(nèi)存等等其他消耗導(dǎo)致系統(tǒng)性能下降。

1、QPS

QPS Queries Per Second 是每秒查詢率 ,是一臺服務(wù)器每秒能夠相應(yīng)的查詢次數(shù)，是對一個特定的查詢服務(wù)器在規(guī)定時間內(nèi) 所處理流量多少的衡量標(biāo)準(zhǔn), 即每秒的響應(yīng)請求數(shù)，也即是最大吞吐能力。

2、TPS

TPS Transactions Per Second 也就是事務(wù)數(shù)/秒。一個事務(wù)是指一個客戶機(jī)向服務(wù)器發(fā)送請求然后服務(wù)器做出反應(yīng)的過程?？蛻魴C(jī)在發(fā)送請求時開始計時，收到服務(wù)器響應(yīng)后結(jié)束計時，以此來計算使用的時間和完成的事務(wù)個數(shù)，

3、QPS和TPS區(qū)別

個人理解如下：

1、Tps即每秒處理事務(wù)數(shù)，包括了

用戶請求服務(wù)器

服務(wù)器自己的內(nèi)部處理

服務(wù)器返回給用戶

這三個過程，每秒能夠完成N個這三個過程，Tps也就是N;

2、Qps基本類似于Tps，但是不同的是，對于一個頁面的一次訪問，形成一個Tps;但一次頁面請求，可能產(chǎn)生多次對服務(wù)器的請求，服務(wù)器對這些請求，就可計入“Qps”之中。

例子：

例如：訪問一個頁面會請求服務(wù)器3次，一次放，產(chǎn)生一個“T”，產(chǎn)生3個“Q”

例如：一個大胃王一秒能吃10個包子，一個女孩子0.1秒能吃1個包子，那么他們是不是一樣的呢?答案是否定的，因?yàn)檫@個女孩子不可能在一秒鐘吃下10個包子，她可能要吃很久。這個時候這個大胃王就相當(dāng)于TPS，而這個女孩子則是QPS。雖然很相似，但其實(shí)是不同的。

4、并發(fā)數(shù)

并發(fā)數(shù)(并發(fā)度)：指系統(tǒng)同時能處理的請求數(shù)量，同樣反應(yīng)了系統(tǒng)的負(fù)載能力。這個數(shù)值可以分析機(jī)器1s內(nèi)的訪問日志數(shù)量來得到

5、吐吞量

吞吐量是指系統(tǒng)在單位時間內(nèi)處理請求的數(shù)量，TPS、QPS都是吞吐量的常用量化指標(biāo)。

系統(tǒng)吞吐量要素

一個系統(tǒng)的吞吐量(承壓能力)與request(請求)對cpu的消耗，外部接口，IO等等緊密關(guān)聯(lián)。

單個request 對cpu消耗越高，外部系統(tǒng)接口，IO影響速度越慢，系統(tǒng)吞吐能力越低，反之越高。

重要參數(shù)

QPS(TPS),并發(fā)數(shù)，響應(yīng)時間

QPS(TPS)：每秒鐘request/事務(wù) 數(shù)量

并發(fā)數(shù)：系統(tǒng)同時處理的request/事務(wù)數(shù)

響應(yīng)時間：一般取平均響應(yīng)時間

關(guān)系

QPS(TPS)=并發(fā)數(shù)/平均響應(yīng)時間

一個系統(tǒng)吞吐量通常有QPS(TPS),并發(fā)數(shù)兩個因素決定，每套系統(tǒng)這個兩個值都有一個相對極限值，在應(yīng)用場景訪問壓力下，只要某一項(xiàng)達(dá)到系統(tǒng)最高值，系統(tǒng)吞吐量就上不去了，如果壓力繼續(xù)增大，系統(tǒng)的吞吐量反而會下降，原因是系統(tǒng)超負(fù)荷工作，上下文切換，內(nèi)存等等其他消耗導(dǎo)致系統(tǒng)性能下降。

6、PV

PV (Page View)：頁面訪問量，即頁面瀏覽量或點(diǎn)擊量，用戶每次刷新即被計算一次?？梢越y(tǒng)計服務(wù)一天的訪問日志得到。

7、UV

UV (Unique Visitor)：獨(dú)立訪客，統(tǒng)計1天內(nèi)訪問某站點(diǎn)的用戶數(shù)?？梢越y(tǒng)計服務(wù)一天的訪問日志并根據(jù)用戶的唯一標(biāo)識去重得到。響應(yīng)時間(RT)：響應(yīng)時間是指系統(tǒng)對請求作出響應(yīng)的時間，一般取平均響應(yīng)時間?？梢酝ㄟ^Nginx、Apache之類的Web Server得到。

8、DAU

DAU (Daily Active User)，日活躍用戶數(shù)量。常用于反映網(wǎng)站、互聯(lián)網(wǎng)應(yīng)用或網(wǎng)絡(luò)游戲的運(yùn)營情況。DAU通常統(tǒng)計一日(統(tǒng)計日)之內(nèi)，登錄或使用了某個產(chǎn)品的用戶數(shù)(去除重復(fù)登錄的用戶)，與UV概念相似

9、MAU

MAU (Month Active User)：月活躍用戶數(shù)量，指網(wǎng)站、app等去重后的月活躍用戶數(shù)量

10、系統(tǒng)吞吐量評估

我們在做系統(tǒng)設(shè)計的時候就需要考慮CPU運(yùn)算，IO，外部系統(tǒng)響應(yīng)因素造成的影響以及對系統(tǒng)性能的初步預(yù)估。

而通常情況下，我們面對需求，我們評估出來的出來QPS，并發(fā)數(shù)之外，還有另外一個維度：日pv。

通過觀察系統(tǒng)的訪問日志發(fā)現(xiàn)，在用戶量很大的情況下，各個時間周期內(nèi)的同一時間段的訪問流量幾乎一樣。比如工作日的每天早上。只要能拿到日流量圖和QPS我們就可以推算日流量。

通常的技術(shù)方法：

1、找出系統(tǒng)的最高TPS和日PV，這兩個要素有相對比較穩(wěn)定的關(guān)系(除了放假、季節(jié)性因素影響之外)

2、通過壓力測試或者經(jīng)驗(yàn)預(yù)估，得出最高TPS，然后跟進(jìn)1的關(guān)系，計算出系統(tǒng)最高的日吞吐量。B2B中文和淘寶面對的客戶群不一樣，這兩個客戶群的網(wǎng)絡(luò)行為不應(yīng)用，他們之間的TPS和PV關(guān)系比例也不一樣。

11、軟件性能測試的基本概念和計算公式

軟件做性能測試時需要關(guān)注哪些性能呢?

首先，開發(fā)軟件的目的是為了讓用戶使用，我們先站在用戶的角度分析一下，用戶需要關(guān)注哪些性能。

對于用戶來說，當(dāng)點(diǎn)擊一個按鈕、鏈接或發(fā)出一條指令開始，到系統(tǒng)把結(jié)果已用戶感知的形式展現(xiàn)出來為止，這個過程所消耗的時間是用戶對這個軟件性能的直觀印象。也就是我們所說的響應(yīng)時間，當(dāng)相應(yīng)時間較小時，用戶體驗(yàn)是很好的，當(dāng)然用戶體驗(yàn)的響應(yīng)時間包括個人主觀因素和客觀響應(yīng)時間，在設(shè)計軟件時，我們就需要考慮到如何更好地結(jié)合這兩部分達(dá)到用戶最佳的體驗(yàn)。如：用戶在大數(shù)據(jù)量查詢時，我們可以將先提取出來的數(shù)據(jù)展示給用戶，在用戶看的過程中繼續(xù)進(jìn)行數(shù)據(jù)檢索，這時用戶并不知道我們后臺在做什么。

用戶關(guān)注的是用戶操作的相應(yīng)時間。

其次，我們站在管理員的角度考慮需要關(guān)注的性能點(diǎn)。

1、響應(yīng)時間

2、服務(wù)器資源使用情況是否合理

3、應(yīng)用服務(wù)器和數(shù)據(jù)庫資源使用是否合理

4、系統(tǒng)能否實(shí)現(xiàn)擴(kuò)展

5、系統(tǒng)最多支持多少用戶訪問、系統(tǒng)最大業(yè)務(wù)處理量是多少

6、系統(tǒng)性能可能存在的瓶頸在哪里

7、更換那些設(shè)備可以提高性能

8、系統(tǒng)能否支持7×24小時的業(yè)務(wù)訪問

再次，站在開發(fā)(設(shè)計)人員角度去考慮。

1、架構(gòu)設(shè)計是否合理