02

淘系技術部-行業(yè)與智能運營架構組-仲春

“在面試時被問到高并發(fā)經驗時不要慌，按照以下過 程表達即可體現(xiàn)你的高并發(fā)設計能力：優(yōu)化單請求耗時、提高單機并發(fā)能力、提 高整體并發(fā)能力。”

個人認為，其實我們并不用去追求嚴格意義上的高并發(fā)經驗，因為很多時候都沒有這樣的機會給到你，對于高并發(fā)的處理經驗主要體現(xiàn)在日常的積累以及對自己的嚴格要求上。

   為什么總在說高并發(fā)？

在并發(fā)不高的場景下，不區(qū)分經驗是否豐富的任何人都能完成基本的業(yè)務開發(fā)，而且不會產生任何性能問題，下游依賴、底層存儲依賴都不會對你的系統(tǒng)產生影響，但是在并發(fā)很高的時候，一切都變了，可能由于高并發(fā)環(huán)境時下游抖了幾ms、db由于高寫入或者備庫讀壓力過大而導致主備延遲了一下，你的系統(tǒng)或者業(yè)務都會產生故障。

  如何積攢“經驗”？

對于這個問題，我總結3點可落地：

• 系統(tǒng)的設計優(yōu)化

首先 系統(tǒng) 只有無狀態(tài)的，才能不斷橫向擴展，才能支撐流量的變化，在業(yè)務層的高并發(fā)大多都需要不斷擴容來支持，但是擴容也不是最根本的方式，如果系統(tǒng)不做優(yōu)化，一開始擴容大概率是有效的，到一 定階段后就會發(fā)現(xiàn)情況開始惡化，因為底層的依賴競爭開始激烈，失敗開始增多。優(yōu)化的盡頭往往是對下游依賴和底層數(shù)據(jù)層的優(yōu)化，解決方案大多是常見的緩存分層、讀寫分離、分庫分表、異步化等等，但是引入這些技術方案時，會帶來一些副作用，接下來你需要解決和屏蔽這些副作用。

• 業(yè)務邏輯的優(yōu)化

當你只是在負責一個流量不大的系統(tǒng)時，是否就沒有高并發(fā)的機會了呢？其實不然，你需要不斷嚴格要求自己，讓業(yè)務跑的更快，例如：將單次請求響應耗時從100ms優(yōu)化到20ms；單機能力從100qps提高到500qps，同時cpu消耗上漲不明顯；優(yōu)化單次請求對緩存和db的放大系數(shù)降低，減少對緩存和db的壓力。在這個過程中你將積累大量的實戰(zhàn)經驗，完成業(yè)務開發(fā)很簡單，但是完成一個高效且具備高擴展性的業(yè)務開發(fā)卻是很難的，往前多想幾步，你會收獲很多。

• 壓測驗證

在業(yè)務體量沒有高并發(fā)的情況下，只有自己人為創(chuàng)造流量來驗證（不過前提是你的系統(tǒng)支持全鏈路壓測，否則壓測數(shù)據(jù)會污染線上真實環(huán)境，如果暫時不支持，那么恭喜你，你有機會做一次全鏈路壓測改造了），通過驗證在目標水位下的系統(tǒng)表現(xiàn)、機器表現(xiàn)，再繼續(xù)重復前面兩個過程，不斷迭代，直到無法扣細節(jié)，提高性能；

   如何展示自己的高并發(fā)經驗？

只要在日常研發(fā)過程中嚴以律己，做好各項設計和優(yōu)化，不隨意寫難易擴展和難易維護的代碼，面試的時候就能聊下去。在面試時被問到高并發(fā)經驗時不要慌，只要按照以下過程表達即可體現(xiàn)你的高并發(fā)設計能力：

• 如何優(yōu)化單請求耗時

這里你會闡述如何設計和改造系統(tǒng)架構，有可能涉及到jvm的參數(shù)優(yōu)化、各種依賴是如何選型，過程中你積累了哪些選型和優(yōu)化的方式；

• 如何提高單機并發(fā)能力

這里你會闡述在你的業(yè)務中，單機并發(fā)能力受限于哪些關鍵點，這里主要的挑戰(zhàn)點是單機的限制條件以及單機資源的競爭，你是如何設計克服的，過程中你積累了哪些設計原則；

• 如何提高整體并發(fā)能力

這里你會闡述在集群環(huán)境下最重要的亮點，就是如何處理跨機器的資源競爭以及數(shù)據(jù)的一致性問題，這里將體現(xiàn)你整體業(yè)務架構設計能力；

綜上所述，面試時并不是要求你一定要有真實高并發(fā)的項目經驗，項目經驗只是為了驗證你真的做過一些設計和優(yōu)化，如果你能將高并發(fā)場景下的設計原則和可能遇到的問題場景和解法都表達清楚，那么我相信面試官也是認可的。

“對于高并發(fā)系統(tǒng)設計，個人推薦可以自底向上的分成三個部分，首先是建立基礎知識體系，其次是熟悉業(yè)界解決方案，最后是分布式系統(tǒng)設計。 ”

首先高并發(fā)的系統(tǒng)也不是最初就設計出來的， 一切解決方案都是來自于業(yè)務場景 。

大多是針對特定時期內的問題與挑戰(zhàn)，一步一步演化出來的。即便是在有高并發(fā)場景的公司里的研發(fā)同學，如果不是去參與解決這些問題，往往也不能直接獲得高并發(fā)的經驗積累。所以沒有場景的公司里面的研發(fā)同學，大家的起點其實是差不多的，完全不用虛，關鍵還是在于掌握其中的核心科技。

對于高并發(fā)系統(tǒng)設計，個人推薦可以自底向上的分成三個部分，首先是 建立基礎知識體系 ，其次是 熟悉業(yè)界解決方案 ，最后是 分布式系統(tǒng)設計 。

知識體系的建立要更多的去關注底層，如算法、緩存、多線程、并發(fā)、JVM、OS、網絡、分布式理論等，這些東西相對穩(wěn)定，在這些底層技術的基礎上的解決方案好像層出不窮，如各種緩存技術、各種消息隊列、各種數(shù)據(jù)庫。但是掌握了底層原理，再去看上層的解決方案就能有觸類旁通的效果。對于最后的分布式系統(tǒng)設計，就是針對具體業(yè)務場景去應用相應的技術，組裝成一套體系的方案。

對于知識的學習資料網上已經非常多，可以自行學習建立體系。自己公司沒有具體的場景，就去各大公司的技術博客學習業(yè)界方案。業(yè)界方案的學習推薦更多的思考其中的原因（Why），這個才是系統(tǒng)設計的核心。

比如一個環(huán)節(jié)拿掉會對系統(tǒng)產生什么樣的影響？換成另外一個技術會有什么不同？下面主要講一下面試中對于系統(tǒng)設計的解答思路。