大家好,我是鲏。
前段時間,星球里一位朋友問我:
魚皮,高并發(fā)項目牽扯的知識有哪些?
之前看到的一個回答:既要解決性能的問題又要考慮業(yè)務完整性,還有網絡資源、服務器資源等,我不太能理解,希望魚皮細說。
我就簡單分享下自己對高并發(fā)的理解,水平有限還請見諒。
技術是為了解決實際問題服務的,那么并發(fā)是為了解決什么問題呢?我用一句話總結,就是:在資源有限、并且不改變程序執(zhí)行結果(正確性)的情況下,合理運用并發(fā)編程和架構設計來盡可能多地 提高你程序的性能和穩(wěn)定性 。
其中的關鍵字就是:
- 資源有限
- 不改變程序執(zhí)行結果
- 并發(fā)編程
- 提升性能
- 提升穩(wěn)定性
其實你會發(fā)現(xiàn)這幾個點基本就把上述問題描述中提到的東西覆蓋到了。
舉個例子:你只有 3 臺 4 核 8 G 內存的服務器,如何在最短的時間內對 1000 萬行數(shù)據(jù)進行匯總運算,就可以運用并發(fā)來解決。比如你可以把數(shù)據(jù)均攤到 3 臺機器上同時匯總,最后再對 3 臺機器的匯總數(shù)據(jù)再匯總(大數(shù)據(jù) Map Reduce 的思想)。
那么并發(fā)編程要學習哪些知識呢?
這里說一下我自己的學習順序:
1)先了解并發(fā)的思想和概念,比如什么是同步和異步,什么是并發(fā)和并行,什么是進程 / 線程 / 協(xié)程、什么是線程安全性、什么是線程池、什么是 IO,還有鎖、資源共享、性能指標 QPS / TPS / P95 / P99 等。
很多知識都是操作系統(tǒng)課上學到的,好好聽課或者自己看書都可以,星球的同學可以看我的操作系統(tǒng)學習路線:
2)學習如何編寫高并發(fā)程序,比如 Java 的 JUC 并發(fā)包,里面提供了很多現(xiàn)成的類和方法,比如 CompletableFuture、ExecutorService 等,了解它們的用法后,能夠輕松實現(xiàn)并發(fā)編程,不用自己寫 new Thread。
3)學習并發(fā)測試、監(jiān)控和排障工具,比如壓測工具 jmeter、監(jiān)控工具 jconsole、線程分析工具 jstack 等,便于我們根據(jù)實際情況來分析并發(fā)編程占用的資源、有無死鎖,從而更好地提升性能指標。
jconsole 控制臺4)以上這些都學會后,我們就要在做項目的過程中多思考以下問題:
- 什么時候用并發(fā)編程(有無必要)?
- 怎么設置并發(fā)編程的參數(shù)(比如線程池的核心線程數(shù))?
- 怎么劃分并發(fā)資源(比如劃分任務隊列)?
- 怎么防止和解決并發(fā)過程中的操作沖突(比如死鎖)?
要做到合理運用并發(fā)來解決問題,而不是濫用。
5)跳出單個程序的代碼,從上帝視角來設計規(guī)劃整個系統(tǒng)。
比如選擇何種技術來實現(xiàn)高并發(fā)?也就是技術選型,如使用 Nginx、消息隊列等。
還有如何組合 / 編排多個服務來增加并發(fā)度?也就是架構設計(或者說部署)層面的問題,比如動靜分離、分庫分表、讀寫分離、彈性 / 線性擴容、冷熱分離、批流一體等。
在學完基本的開發(fā)框架后,大家就可以開始學習并發(fā)編程了,這塊知識還是很重要的。不了解并發(fā)就亂用的話不僅程序會出錯、甚至可能出現(xiàn)性能還不如同步執(zhí)行的情況。