原文鏈接：http://www.cnblogs.com/LBSer

前言

假設(shè)某銀行只有10個職員。該銀行的業(yè)務(wù)流程分為以下4個步驟：

我們看看銀行不同的工作方式對其工作效率到底有何影響。

1 BIO方式

每來一個顧客，馬上由一位職員來接待處理，并且這個職員需要負(fù)責(zé)以上4個完整流程。當(dāng)超過10個顧客時，剩余的顧客需要排隊(duì)等候。

我們算算這個銀行一個小時到底能處理多少顧客？一個職員處理一個顧客需要10分鐘（5+1+3+1）時間，一個小時（60分鐘）能處理6個顧客，一共10個職員，那就是只能處理60個顧客。

可以看到銀行職員的工作狀態(tài)并不飽和，比如在第1步，其實(shí)是處于等待中。

這種工作其實(shí)就是BIO，每次來一個請求（顧客），就分配到線程池中由一個線程（職員）處理，如果超出了線程池的最大上限（10個），就扔到隊(duì)列等待 。

2 NIO方式

如何提高銀行的吞吐量呢？

思路：分而治之，將任務(wù)拆分開來，由專門的人負(fù)責(zé)專門的任務(wù)。

具體來講，銀行專門指派一名職員A，A的工作就是每當(dāng)有顧客到銀行，他就遞上表格讓顧客填寫，每當(dāng)有顧客填好表后，A就將其隨機(jī)指派給剩余的9名職員完成后續(xù)步驟。

我們計(jì)算下這種工作方式下銀行一個小時到底能處理多少顧客？

假設(shè)顧客非常多，職員A的工作處于飽和中，他不斷的將填好表的顧客帶到柜臺處理，柜臺一個職員5分鐘能處理完一個顧客，一個小時9名職員能處理：9*（60/5）=108。

可見工作方式的轉(zhuǎn)變能帶來效率的極大提升。

這種工作方式其實(shí)就NIO的思路。下圖是非常經(jīng)典的NIO說明圖，mainReactor線程負(fù)責(zé)監(jiān)聽server socket，accept新連接，并將建立的socket分派給subReactor；subReactor可以是一個線程，也可以是線程池（一般可以設(shè)置為CPU核數(shù)），負(fù)責(zé)多路分離已連接的socket，讀寫網(wǎng)絡(luò)數(shù)據(jù)，這里的讀寫網(wǎng)絡(luò)數(shù)據(jù)可類比顧客填表這一耗時動作，對具體的業(yè)務(wù)處理功能，其扔給worker線程池完成。

可以看到典型NIO有三類線程，分別是mainReactor線程、subReactor線程、work線程。不同的線程干專業(yè)的事情，最終每個線程都沒空著，系統(tǒng)的吞吐量自然就上去了。

3 異步方式

第二種工作方式有沒有什么可以提高的地方呢？

仔細(xì)查看可發(fā)現(xiàn)第3步驟這3分鐘柜臺職員是在等待中度過的，那怎么能讓柜臺職員保持滿負(fù)荷呢？

還是分而治之的思路，指派1個職員B來專門負(fù)責(zé)第3步驟。每當(dāng)柜臺員工完成第2步時，就通知職員B來負(fù)責(zé)與保安溝通取錢。這時候柜臺員工可以繼續(xù)處理下一個顧客。當(dāng)職員B拿到錢之后，他會怎么辦呢？他會通知顧客錢已經(jīng)到柜臺了，讓顧客重新排隊(duì)處理，當(dāng)柜臺職員再次服務(wù)該顧客時，發(fā)現(xiàn)該顧客前3步已經(jīng)完成，直接執(zhí)行第4步即可。

我們可以算算通過這種方法，銀行的吞吐量能提高到多少。

假設(shè)職員B的工作非常飽和，柜臺一個職員現(xiàn)在2分鐘能處理完一個顧客，一個小時8名職員能處理：8*（60/2）=240。

在當(dāng)今web服務(wù)中，經(jīng)常需要通過RPC或者Http等方式調(diào)用第三方服務(wù)，這里對應(yīng)的就是第3步，如果這步耗時較長，通過異步方式將能極大降低資源使用率。

jetty Continuations 就實(shí)現(xiàn)了上述異步方式，有興趣的同學(xué)可以去嘗試下（http://wiki.eclipse.org/Jetty/Feature/Continuations）。

NIO+異步的方式能讓少量的線程（資源）做大量的事情，這適用于很多應(yīng)用場景，比如代理服務(wù)、api服務(wù)、長連接服務(wù)等等，這些應(yīng)用如果用同步方式將耗費(fèi)大量機(jī)器資源。盡管NIO+異步能提高系統(tǒng)吞吐量，但其并不能讓一個請求的等待時間下降，相反可能會增加等待時間。

4 小結(jié)

總結(jié)就一句：“分而治之，將任務(wù)拆分開來，由專門的人負(fù)責(zé)專門的任務(wù)”，這不僅在計(jì)算機(jī)領(lǐng)域生效，在整個社會領(lǐng)域都生效。

特別推薦一個分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒關(guān)注的小伙伴，可以長按關(guān)注一下：

長按訂閱更多精彩▼
如有收獲，點(diǎn)個在看，誠摯感謝