????日常工作中，我們多少都會遇到應(yīng)用的性能問題。在阿里面試中，性能優(yōu)化也是常被問到的題目，用來考察是否有實際的線上問題處理經(jīng)驗。面對這類問題，阿里工程師齊光給出了詳細流程。來阿里面試前，先看看這篇文章哦。

性能問題和Bug不同，后者的分析和解決思路更清晰，很多時候從應(yīng)用日志(文中的應(yīng)用指分布式服務(wù)下的單個節(jié)點)即可直接找到問題根源，而性能問題，其排查思路更為復(fù)雜一些。

對應(yīng)用進行性能優(yōu)化，是一個系統(tǒng)性的工程，對工程師的技術(shù)廣度和技術(shù)深度都有所要求。一個簡單的應(yīng)用，它不僅包含了應(yīng)用代碼本身，還和容器(虛擬機)、操作系統(tǒng)、存儲、網(wǎng)絡(luò)、文件系統(tǒng)等緊密相關(guān)，線上應(yīng)用一旦出現(xiàn)了性能問題，需要我們從多方面去考慮。

與此同時，除了一些低級的代碼邏輯引發(fā)的性能問題外，很多性能問題隱藏的較深，排查起來會比較困難，需要我們對應(yīng)用的各個子模塊、應(yīng)用所使用的框架和組件的原理有所了解，同時掌握一定的性能優(yōu)化工具和經(jīng)驗。

本文總結(jié)了我們在進行性能優(yōu)化時常用的一些工具及技巧，目的是希望通過一個全面的視角，去感知性能優(yōu)化的整體脈絡(luò)。本文主要分為下面三個部分：

• 第一部分會介紹性能優(yōu)化的一些背景知識。
• 第二部分會介紹性能優(yōu)化的通用流程以及常見的一些誤區(qū)。
• 第三部分會從系統(tǒng)層和業(yè)務(wù)層的角度，介紹高效的性能問題定位工具和高頻性能瓶頸點分布。

本文中提到的線程、堆、垃圾回收等名詞，如無特別說明，指的是 Java 應(yīng)用中的相關(guān)概念。

1.性能優(yōu)化的背景

前面提到過，應(yīng)用出現(xiàn)性能問題和應(yīng)用存在缺陷是不一樣的，后者大多數(shù)是由于代碼的質(zhì)量問題導(dǎo)致，會導(dǎo)致應(yīng)用功能性的缺失或出現(xiàn)風(fēng)險，一經(jīng)發(fā)現(xiàn)，會被及時修復(fù)。而性能問題，可能是由多方面的因素共同作用的結(jié)果：代碼質(zhì)量一般、業(yè)務(wù)發(fā)展太快、應(yīng)用架構(gòu)設(shè)計不合理等，這些問題處理起來一般耗時較長、分析鏈路復(fù)雜，大家都不愿意干，因此可能會被一些臨時性的補救手段所掩蓋，如：系統(tǒng)水位高或者單機的線程池隊列爆炸，那就集群擴容增加機器;內(nèi)存占用高/高峰時段 OOM，那就重啟分分鐘解決......

臨時性的補救措施只是在給應(yīng)用埋雷，同時也只能解決部分問題。譬如，在很多場景下，加機器也并不能解決應(yīng)用的性能問題，如對時延比較敏感的一些應(yīng)用必須把單機的性能優(yōu)化到極致，與此同時，加機器這種方式也造成了資源的浪費，長期來看是得不償失的。對應(yīng)用進行合理的性能優(yōu)化，可在應(yīng)用穩(wěn)定性、成本核算獲得很大的收益。 

上面我們闡述了進行性能優(yōu)化的必要性。假設(shè)現(xiàn)在我們的應(yīng)用已經(jīng)有了性能問題(eg. CPU 水位比較高)，準(zhǔn)備開始進行優(yōu)化工作了，在這個過程中，潛在的痛點會有哪些呢?下面列出一些較為常見的：

對性能優(yōu)化的流程不是很清晰。初步定為一個疑似瓶頸點后，就興高采烈地吭哧吭哧開始干，最終解決的問題其實只是一個淺層次的性能瓶頸，真實的問題的根源并未觸達;

對性能瓶頸點的分析思路不是很清晰。CPU、網(wǎng)絡(luò)、內(nèi)存......這么多的性能指標(biāo)，我到底該關(guān)注什么，應(yīng)該從哪一塊兒開始入手?

對性能優(yōu)化的工具不了解。遇到問題后，不清楚該用哪個工具，不知道通過工具得到的指標(biāo)代表什么。

2.性能優(yōu)化的流程

在性能優(yōu)化這個領(lǐng)域，并沒有一個嚴(yán)格的流程定義，但是對于絕大多數(shù)的優(yōu)化場景，我們可以將其過程抽象為下面四個步驟。

1. 準(zhǔn)備階段：主要工作是是通過性能測試，了解應(yīng)用的概況、瓶頸的大概方向，明確優(yōu)化目標(biāo);
2. 分析階段：通過各種工具或手段，初步定位性能瓶頸點;
3. 調(diào)優(yōu)階段：根據(jù)定位到的瓶頸點，進行應(yīng)用性能調(diào)優(yōu);
4. 測試階段：讓調(diào)優(yōu)過的應(yīng)用進行性能測試，與準(zhǔn)備階段的各項指標(biāo)進行對比，觀測其是否符合預(yù)期，如果瓶頸點沒有消除或者性能指標(biāo)不符合預(yù)期，則重復(fù)步驟2和3。

下圖即為上述四個階段的簡要流程。

??

2.1 通用流程詳解

在上述通用流程的四個步驟當(dāng)中，步驟2和3我們會在接下來兩個部分重點進行介紹。首先我們來看一下，在準(zhǔn)備階段和測試階段，我們需要做一些什么。

★ 2.1.1 準(zhǔn)備階段

準(zhǔn)備階段是非常關(guān)鍵的一步，不能省略。

首先，需要對我們進行調(diào)優(yōu)的對象進行詳盡的了解，所謂知己知彼，百戰(zhàn)不殆。

1. 對性能問題進行粗略評估，過濾一些因為低級的業(yè)務(wù)邏輯導(dǎo)致的性能問題。譬如，線上應(yīng)用日志級別不合理，可能會在大流量時導(dǎo)致 CPU 和磁盤的負載飆高，這種情況調(diào)整日志級別即可;
2. 了解應(yīng)用的的總體架構(gòu)，比如應(yīng)用的外部依賴和核心接口有哪些，使用了哪些組件和框架，哪些接口、模塊的使用率較高，上下游的數(shù)據(jù)鏈路是怎么樣的等;
3. 了解應(yīng)用對應(yīng)的服務(wù)器信息，如服務(wù)器所在的集群信息、服務(wù)器的 CPU/內(nèi)存信息、安裝的 Linux 版本信息、服務(wù)器是容器還是虛擬機、所在宿主機混部后是否對當(dāng)前應(yīng)用有干擾等;

其次，我們需要獲取基準(zhǔn)數(shù)據(jù)，然后結(jié)合基準(zhǔn)數(shù)據(jù)和當(dāng)前的一些業(yè)務(wù)指標(biāo)，確定此次性能優(yōu)化的最終目標(biāo)。

1. 使用基準(zhǔn)測試工具獲取系統(tǒng)細粒度指標(biāo)?？梢允褂萌舾?Linux 基準(zhǔn)測試工具(eg. jmeter、ab、loadrunnerwrk、wrk等)，得到文件系統(tǒng)、磁盤 I/O、網(wǎng)絡(luò)等的性能報告。除此之外，類似 GC、Web 服務(wù)器、網(wǎng)卡流量等信息，如有必要也是需要了解記錄的;
2. 通過壓測工具或者壓測平臺(如果有的話)，對應(yīng)用進行壓力測試，獲取當(dāng)前應(yīng)用的宏觀業(yè)務(wù)指標(biāo)，譬如：響應(yīng)時間、吞吐量、TPS、QPS、消費速率(對于有 MQ 的應(yīng)用)等。壓力測試也可以省略，可以結(jié)合當(dāng)前的實際業(yè)務(wù)和過往的監(jiān)控數(shù)據(jù)，去統(tǒng)計當(dāng)前的一些核心業(yè)務(wù)指標(biāo)，如午高峰的服務(wù) TPS。

★ 2.1.2 測試階段

進入到這一階段，說明我們已經(jīng)初步確定了應(yīng)用性能瓶頸的所在，而且已經(jīng)進行初步的調(diào)優(yōu)了。檢測我們調(diào)優(yōu)是否有效的方式，就是在仿真的條件下，對應(yīng)用進行壓力測試。注意：由于 Java 有 JIT(just-in-time compilation)過程，因此壓力測試時可能需要進行前期預(yù)熱。

如果壓力測試的結(jié)果符合了預(yù)期的調(diào)優(yōu)目標(biāo)，或者與基準(zhǔn)數(shù)據(jù)相比，有很大的改善，則我們可以繼續(xù)通過工具定位下一個瓶頸點，否則，則需要暫時排除這個瓶頸點，繼續(xù)尋找下一個變量。 

2.2 注意事項

在進行性能優(yōu)化時，了解下面這些注意事項可以讓我們少走一些彎路。

1. 性能瓶頸點通常呈現(xiàn) 2/8 分布，即80%的性能問題通常是由20%的性能瓶頸點導(dǎo)致的，2/8 原則也意味著并不是所有的性能問題都值得去優(yōu)化;
2. 性能優(yōu)化是一個漸進、迭代的過程，需要逐步、動態(tài)地進行。記錄基準(zhǔn)后，每次改變一個變量，引入多個變量會給我們的觀測、優(yōu)化過程造成干擾;
3. 不要過度追求應(yīng)用的單機性能，如果單機表現(xiàn)良好，則應(yīng)該從系統(tǒng)架構(gòu)的角度去思考; 不要過度追求單一維度上的極致優(yōu)化，如過度追求 CPU 的性能而忽略了內(nèi)存方面的瓶頸;
4. 選擇合適的性能優(yōu)化工具，可以使得性能優(yōu)化取得事半功倍的效果;
5. 整個應(yīng)用的優(yōu)化，應(yīng)該與線上系統(tǒng)隔離，新的代碼上線應(yīng)該有降級方案。

3.瓶頸點分析工具箱

性能優(yōu)化其實就是找出應(yīng)用存在性能瓶頸點，然后設(shè)法通過一些調(diào)優(yōu)手段去緩解。性能瓶頸點的定位是較困難的，快速、直接地定位到瓶頸點，需要具備下面兩個條件：

1. 恰到好處的工具;
2. 一定的性能優(yōu)化經(jīng)驗。

工欲善其事，必先利其器，我們該如何選擇合適的工具呢?不同的優(yōu)化場景下，又該選擇那些工具呢?

首選，我們來看一下大名鼎鼎的「性能工具(Linux Performance Tools-full)圖」，想必很多工程師都知道，它出自系統(tǒng)性能專家 Brendan Gregg。該圖從 Linux 內(nèi)核的各個子系統(tǒng)出發(fā)，列出了我們在對各個子系統(tǒng)進行性能分析時，可使用的工具，涵蓋了監(jiān)測、分析、調(diào)優(yōu)等性能優(yōu)化的方方面面。除了這張全景圖之外，Brendan Gregg 還單獨提供了基準(zhǔn)測試工具(Linux Performance Benchmark Tools)圖、性能監(jiān)測工具(Linux Performance Observability Tools)圖等，更詳細的內(nèi)容請參考 Brendan Gregg 的網(wǎng)站說明。

??

圖片來源：http://www.brendangregg.com/linuxperf.html?spm=ata.13261165.0.0.34646b44KX9rGc 

上面這張圖非常經(jīng)典，是我們做性能優(yōu)化時非常好的參考資料，但事實上，我們在實際運用的時候，會發(fā)現(xiàn)可能它并不是最合適的，原因主要有下面兩點：

1)對分析經(jīng)驗要求較高。上面這張圖其實是從 Linux 系統(tǒng)資源的角度去觀測性能指標(biāo)的，這要求我們對 Linux 各個子系統(tǒng)的功能、原理要有所了解。舉例：遇到性能問題了，我們不會拿每個子系統(tǒng)下的工具都去試一遍，大多數(shù)情況是：我們懷疑某個子系統(tǒng)有問題，然后根據(jù)這張圖上列舉的工具，去觀測或者驗證我們的猜想，這無疑拔高了對性能優(yōu)化經(jīng)驗的要求;

2)適用性和完整性不是很好。我們在分析性能問題時，從系統(tǒng)底層自底向上地分析是較低效的，大多數(shù)時候，從應(yīng)用層面去分析會更加有效。性能工具(Linux Performance Tools-full)圖只是從系統(tǒng)層一個角度給出了工具集，如果從應(yīng)用層開始分析，我們可以使用哪些工具?哪些點是我們首先需要關(guān)注的?

鑒于上面若干痛點，下面給出了一張更為實用的「性能優(yōu)化工具圖譜」，該圖分別從系統(tǒng)層、應(yīng)用層(含組件層)的角度出發(fā)，列舉了我們在分析性能問題時首先需要關(guān)注的各項指標(biāo)(其中?標(biāo)注的是最需要關(guān)注的)，這些點是最有可能出現(xiàn)性能瓶頸的地方。需要注意的是，一些低頻的指標(biāo)或工具，在圖中并沒有列出來，如 CPU 中斷、索引節(jié)點使用、I/O事件跟蹤等，這些低頻點的排查思路較復(fù)雜，一般遇到的機會也不多，在這里我們聚焦最常見的一些就可以了。

對比上面的性能工具(Linux Performance Tools-full)圖，下圖的優(yōu)勢在于：把具體的工具同性能指標(biāo)結(jié)合了起來，同時從不同的層次去描述了性能瓶頸點的分布，實用性和可操作性更強一些。系統(tǒng)層的工具分為CPU、內(nèi)存、磁盤(含文件系統(tǒng))、網(wǎng)絡(luò)四個部分，工具集同性能工具(Linux Performance Tools-full)圖中的工具基本一致。組件層和應(yīng)用層中的工具構(gòu)成為：JDK 提供的一些工具 + Trace 工具 + dump 分析工具 + Profiling 工具等。

這里就不具體介紹這些工具的具體用法了，我們可以使用 man 命令得到工具詳盡的使用說明，除此之外，還有另外一個查詢命令手冊的方法：info。info 可以理解為 man 的詳細版本，如果 man 的輸出不太好理解，可以去參考 info 文檔，命令太多，記不住也沒必要記住。

??

上面這張圖該如何使用?

首先，雖然從系統(tǒng)、組件、應(yīng)用兩個三個角度去描述瓶頸點的分布，但在實際運行時，這三者往往是相輔相成、相互影響的。系統(tǒng)是為應(yīng)用提供了運行時環(huán)境，性能問題的本質(zhì)就是系統(tǒng)資源達到了使用的上限，反映在應(yīng)用層，就是應(yīng)用/組件的各項指標(biāo)開始下降;而應(yīng)用/組件的不合理使用和設(shè)計，也會加速系統(tǒng)資源的耗盡。因此，分析瓶頸點時，需要我們結(jié)合從不同角度分析出的結(jié)果，抽出共性，得到最終的結(jié)論。

其次，建議先從應(yīng)用層入手，分析圖中標(biāo)注的高頻指標(biāo)，抓出最重要的、最可疑的、最有可能導(dǎo)致性能的點，得到初步的結(jié)論后，再去系統(tǒng)層進行驗證。這樣做的好處是：很多性能瓶頸點體現(xiàn)在系統(tǒng)層，會是多變量呈現(xiàn)的，譬如，應(yīng)用層的垃圾回收(GC)指標(biāo)出現(xiàn)了異常，通過 JDK 自帶的工具很容易觀測到，但是體現(xiàn)在系統(tǒng)層上，會發(fā)現(xiàn)系統(tǒng)當(dāng)前的 CPU 利用率、內(nèi)存指標(biāo)都不太正常，這就給我們的分析思路帶來了困擾。

最后，如果瓶頸點在應(yīng)用層和系統(tǒng)層均呈現(xiàn)出多變量分布，建議此時使用 ZProfiler、JProfiler 等工具對應(yīng)用進行 Profiling，獲取應(yīng)用的綜合性能信息(注：Profiling 指的是在應(yīng)用運行時，通過事件(Event-based)、統(tǒng)計抽樣(Sampling Statistical)或植入附加指令(Byte-Code instrumentation)等方法，收集應(yīng)用運行時的信息，來研究應(yīng)用行為的動態(tài)分析方法)。譬如，可以對 CPU 進行抽樣統(tǒng)計，結(jié)合各種符號表信息，得到一段時間內(nèi)應(yīng)用內(nèi)的代碼熱點。

下面介紹在不同的分析層次，我們需要關(guān)注的核心性能指標(biāo)，同時，也會介紹如何初步根據(jù)這些指標(biāo)，判斷系統(tǒng)或應(yīng)用是否存在性能瓶頸點，至于瓶頸點的確認、瓶頸點的成因、調(diào)優(yōu)手段，將會在下一部分展開。

3.1 CPU&&線程

和 CPU 相關(guān)的指標(biāo)主要有以下幾個。常用的工具有 top、 ps、uptime、 vmstat、 pidstat等。

1. CPU利用率(CPU Utilization)
2. CPU 平均負載(Load Average)
3. 上下文切換次數(shù)(Context Switch)

top - 12:20:57 up 25 days, 20:49,  2 users,  load average: 0.93, 0.97, 0.79 
 Tasks:  51 total,   1 running,  50 sleeping,   0 stopped,   0 zombie 
 %Cpu(s):  1.6 us,  1.8 sy,  0.0 ni, 89.1 id,  0.1 wa,  0.0 hi,  0.1 si,  7.3 st 
 KiB Mem :  8388608 total,   476436 free,  5903224 used,  2008948 buff/cache 
 KiB Swap:        0 total,        0 free,        0 used.        0 avail Mem 
  
    PID USER      PR  NI    VIRT    RES    SHR S  %CPU %MEM     TIME+ COMMAND 
 119680 admin     20   0  600908  72332   5768 S   2.3  0.9  52:32.61 obproxy 
  65877 root      20   0   93528   4936   2328 S   1.3  0.1 449:03.61 alisentry_cli

第一行顯示的內(nèi)容：當(dāng)前時間、系統(tǒng)運行時間以及正在登錄用戶數(shù)。load average 后的三個數(shù)字，依次表示過去 1 分鐘、5 分鐘、15 分鐘的平均負載(Load Average)。平均負載是指單位時間內(nèi)，系統(tǒng)處于可運行狀態(tài)(正在使用 CPU 或者正在等待 CPU 的進程，R 狀態(tài))和不可中斷狀態(tài)(D 狀態(tài))的平均進程數(shù)，也就是平均活躍進程數(shù)，CPU 平均負載和 CPU 使用率并沒有直接關(guān)系。

第三行的內(nèi)容表示 CPU 利用率，每一列的含義可以使用 man 查看。CPU 使用率體現(xiàn)了單位時間內(nèi) CPU 使用情況的統(tǒng)計，以百分比的方式展示。計算方式為：CPU 利用率 = 1 - (CPU 空閑時間)/ CPU 總的時間。需要注意的是，通過性能分析工具得到的 CPU 的利用率其實是某個采樣時間內(nèi)的 CPU 平均值。注：top 工具顯示的的 CPU 利用率是把所有 CPU 核的數(shù)值加起來的，即 8 核 CPU 的利用率最大可以到達800%(可以用 htop 等更新一些的工具代替 top)。

使用 vmstat 命令，可以查看到「上下文切換次數(shù)」這個指標(biāo)，如下表所示，每隔1秒輸出1組數(shù)據(jù)：

$ vmstat 1 
 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu----- 
  r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st 
  0  0      0 504804      0 1967508    0    0   644 33377    0    1  2  2 88  0  9

上表的 cs(context switch) 就是每秒上下文切換的次數(shù)，按照不同場景，CPU 上下文切換還可以分為中斷上下文切換、線程上下文切換和進程上下文切換三種，但是無論是哪一種，過多的上下文切換，都會把 CPU 時間消耗在寄存器、內(nèi)核棧以及虛擬內(nèi)存等數(shù)據(jù)的保存和恢復(fù)上，從而縮短進程真正運行的時間，導(dǎo)致系統(tǒng)的整體性能大幅下降。vmstat 的輸出中 us、sy 分別用戶態(tài)和內(nèi)核態(tài)的 CPU 利用率，這兩個值也非常具有參考意義。

vmstat 的輸只給出了系統(tǒng)總體的上下文切換情況，要想查看每個進程的上下文切換詳情(如自愿和非自愿切換)，需要使用 pidstat，該命令還可以查看某個進程用戶態(tài)和內(nèi)核態(tài)的 CPU 利用率。 

CPU 相關(guān)指標(biāo)異常的分析思路是什么?

1)CPU 利用率：如果我們觀察某段時間系統(tǒng)或應(yīng)用進程的 CPU利用率一直很高(單個 core 超過80%)，那么就值得我們警惕了。我們可以多次使用 jstack 命令 dump 應(yīng)用線程棧查看熱點代碼，非 Java 應(yīng)用可以直接使用 perf 進行 CPU 采采樣，離線分析采樣數(shù)據(jù)后得到 CPU 執(zhí)行熱點(Java 應(yīng)用需要符號表進行堆棧信息映射，不能直接使用 perf得到結(jié)果)。

2)CPU 平均負載：平均負載高于 CPU 數(shù)量 70%，意味著系統(tǒng)存在瓶頸點，造成負載升高的原因有很多，在這里就不展開了。需要注意的是，通過監(jiān)控系統(tǒng)監(jiān)測平均負載的變化趨勢，更容易定位問題，有時候大文件的加載等，也會導(dǎo)致平均負載瞬時升高。如果 1 分鐘/5 分鐘/15 分鐘的三個值相差不大，那說明系統(tǒng)負載很平穩(wěn)，則不用關(guān)注，如果這三個值逐漸降低，說明負載在漸漸升高，需要關(guān)注整體性能;

3)CPU 上下文切換：上下文切換這個指標(biāo)，并沒有經(jīng)驗值可推薦(幾十到幾萬都有可能)，這個指標(biāo)值取決于系統(tǒng)本身的 CPU 性能，以及當(dāng)前應(yīng)用工作的情況。但是，如果系統(tǒng)或者應(yīng)用的上下文切換次數(shù)出現(xiàn)數(shù)量級的增長，就有很大概率說明存在性能問題，如非自愿上下切換大幅度上升，說明有太多的線程在競爭 CPU。

上面這三個指標(biāo)是密切相關(guān)的，如頻繁的 CPU 上下文切換，可能會導(dǎo)致平均負載升高。如何根據(jù)這三者之間的關(guān)系進行應(yīng)用調(diào)優(yōu)，將在下一部分介紹。

CPU 上的的一些異動，通常也可以從線程上觀測到，但需要注意的是，線程問題并不完全和 CPU 相關(guān)。與線程相關(guān)的指標(biāo)，主要有下面幾個(均都可以通過 JDK 自帶的 jstack 工具直接或間接得到)：

1. 應(yīng)用中的總的線程數(shù);
2. 應(yīng)用中各個線程狀態(tài)的分布;
3. 線程鎖的使用情況，如死鎖、鎖分布等;

關(guān)于線程，可關(guān)注的異常有：

1)線程總數(shù)是否過多。過多的線程，體現(xiàn)在 CPU 上就是導(dǎo)致頻繁的上下文切換，同時線程過多也會消耗內(nèi)存，線程總數(shù)大小和應(yīng)用本身和機器配置相關(guān);

2)線程的狀態(tài)是否異常。觀察 WAITING/BLOCKED 線程是否過多(線程數(shù)設(shè)置過多或鎖競爭劇烈)，結(jié)合應(yīng)用內(nèi)部鎖使用的情況綜合分析;

3)結(jié)合 CPU 利用率，觀察是否存在大量消耗 CPU 的線程。 

3.2 內(nèi)存&&堆

和內(nèi)存相關(guān)的指標(biāo)主要有以下幾個，常用的分析工具有：top、free、vmstat、pidstat 以及 JDK 自帶的一些工具。

1. 系統(tǒng)內(nèi)存的使用情況，包括剩余內(nèi)存、已用內(nèi)存、可用內(nèi)存、緩存/緩沖區(qū);
2. 進程(含 Java 進程)的虛擬內(nèi)存、常駐內(nèi)存、共享內(nèi)存;
3. 進程的缺頁異常數(shù)，包含主缺頁異常和次缺頁異常;
4. Swap 換入和換出的內(nèi)存大小、Swap 參數(shù)配置;
5. JVM 堆的分配，JVM 啟動參數(shù);
6. JVM 堆的回收，GC 情況。

使用 free 可以查看系統(tǒng)內(nèi)存的使用情況和 Swap 分區(qū)的使用情況，top 工具可以具體到每個進程，如我們可以用使用 top 工具查看 Java 進程的常駐內(nèi)存大小(RES)，這兩個工具結(jié)合起來，可用覆蓋大多數(shù)內(nèi)存指標(biāo)。下面是使用 free命令的輸出：

$free -h 
               total        used        free      shared  buff/cache   available 
 Mem:           125G        6.8G         54G        2.5M         64G        118G 
 Swap:          2.0G        305M        1.7G

上述輸出各列的具體含義在這里不在贅述，也比較容易理解。重點介紹下 swap 和 buff/cache 這兩個指標(biāo)。

Swap 的作用是把一個本地文件或者一塊磁盤空間作為內(nèi)存來使用，包括換出和換入兩個過程。Swap 需要讀寫磁盤，所以性能不是很高，事實上，包括 ElasticSearch 、Hadoop 在內(nèi)絕大部分 Java 應(yīng)用都建議關(guān)掉 Swap，這是因為內(nèi)存的成本一直在降低，同時這也和 JVM 的垃圾回收過程有關(guān)：JVM在 GC 的時候會遍歷所有用到的堆的內(nèi)存，如果這部分內(nèi)存被 Swap 出去了，遍歷的時候就會有磁盤 I/O 產(chǎn)生。Swap 分區(qū)的升高一般和磁盤的使用強相關(guān)，具體分析時，需要結(jié)合緩存使用情況、swappiness 閾值以及匿名頁和文件頁的活躍情況綜合分析。

buff/cache 是緩存和緩沖區(qū)的大小。緩存(cache)：是從磁盤讀取的文件的或者向磁盤寫文件時的臨時存儲數(shù)據(jù)，面向文件。使用 cachestat 可以查看整個系統(tǒng)緩存的讀寫命中情況，使用 cachetop 可以觀察每個進程緩存的讀寫命中情況。緩沖區(qū)(buffer)是寫入磁盤數(shù)據(jù)或從磁盤直接讀取的數(shù)據(jù)的臨時存儲，面向塊設(shè)備。free 命令的輸出中，這兩個指標(biāo)是加在一起的，使用 vmstat 命令可以區(qū)分緩存和緩沖區(qū)，還可以看到 Swap 分區(qū)換入和換出的內(nèi)存大小。

了解到常見的內(nèi)存指標(biāo)后，常見的內(nèi)存問題又有哪些?總結(jié)如下：

1. 系統(tǒng)剩余內(nèi)存/可用不足(某個進程占用太多、系統(tǒng)本身內(nèi)存不足)，內(nèi)存溢出;
2. 內(nèi)存回收異常：內(nèi)存泄漏(進程在一段時間內(nèi)內(nèi)存使用持續(xù)走高)、GC 頻率異常;
3. 緩存使用過大(大文件讀取或?qū)懭?、緩存命中率不高;
4. 缺頁異常過多(頻繁的 I/O 讀);
5. Swap 分區(qū)使用異常(使用過大);

內(nèi)存相關(guān)指標(biāo)異常后，分析思路是怎么樣的?

1. 使用 free/top 查看內(nèi)存的全局使用情況，如系統(tǒng)內(nèi)存的使用、Swap 分區(qū)內(nèi)存使用、緩存/緩沖區(qū)占用情況等，初步判斷內(nèi)存問題存在的方向：進程內(nèi)存、緩存/緩沖區(qū)、Swap 分區(qū);
2. 觀察一段時間內(nèi)存的使用趨勢。如通過 vmstat 觀察內(nèi)存使用是否一直在增長;通過 jmap 定時統(tǒng)計對象內(nèi)存分布情況，判斷是否存在內(nèi)存泄漏，通過 cachetop 命令，定位緩沖區(qū)升高的根源等;
3. 根據(jù)內(nèi)存問題的類型，結(jié)合應(yīng)用本身，進行詳細分析。

舉例：使用 free 發(fā)現(xiàn)緩存/緩沖區(qū)占用不大，排除緩存/緩沖區(qū)對內(nèi)存的影響后 -> 使用 vmstat 或者 sar 觀察一下各個進程內(nèi)存使用變化趨勢 -> 發(fā)現(xiàn)某個進程的內(nèi)存時候用持續(xù)走高 -> 如果是 Java 應(yīng)用，可以使用 jmap / VisualVM / heap dump 分析等工具觀察對象內(nèi)存的分配，或者通過 jstat 觀察 GC 后的應(yīng)用內(nèi)存變化 -> 結(jié)合業(yè)務(wù)場景，定位為內(nèi)存泄漏/GC參數(shù)配置不合理/業(yè)務(wù)代碼異常等。

3.3 磁盤&&文件

在分析和磁盤相關(guān)的問題時，通常是將其和文件系統(tǒng)同時考慮的，下面不再區(qū)分。和磁盤/文件系統(tǒng)相關(guān)的指標(biāo)主要有以下幾個，常用的觀測工具為 iostat和 pidstat，前者適用于整個系統(tǒng)，后者可觀察具體進程的 I/O。

1. 磁盤 I/O 利用率：是指磁盤處理 I/O 的時間百分比;
2. 磁盤吞吐量：是指每秒的 I/O 請求大小，單位為 KB;
3. I/O 響應(yīng)時間，是指 I/O 請求從發(fā)出到收到響應(yīng)的間隔，包含在隊列中的等待時間和實際處理時間;
4. IOPS(Input/Output Per Second)：每秒的 I/O 請求數(shù);
5. I/O 等待隊列大小，指的是平均 I/O 隊列長度，隊列長度越短越好;

使用 iostat 的輸出界面如下：

$iostat -dx 
 Linux 3.10.0-327.ali2010.alios7.x86_64 (loginhost2.alipay.em14)     10/20/2019  _x86_64_    (32 CPU) 
  
 Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util 
 sda               0.01    15.49    0.05    8.21     3.10   240.49    58.92     0.04    4.38    2.39    4.39   0.09   0.07

上圖中 %util ，即為磁盤 I/O 利用率，同 CPU 利用率一樣，這個值也可能超過 100%(存在并行 I/O);rkB/s 和 wkB/s分別表示每秒從磁盤讀取和寫入的數(shù)據(jù)量，即吞吐量，單位為 KB;磁盤 I/O處理時間的指標(biāo)為 r_await 和 w_await 分別表示讀/寫請求處理完成的響應(yīng)時間，svctm 表示處理 I/O 所需要的平均時間，該指標(biāo)已被廢棄，無實際意義。r/s + w/s 為 IOPS 指標(biāo)，分別表示每秒發(fā)送給磁盤的讀請求數(shù)和寫請求數(shù);aqu-sz 表示等待隊列的長度。

pidstat 的輸出大部分和 iostat 類似，區(qū)別在于它可以實時查看每個進程的 I/O 情況。

如何判斷磁盤的指標(biāo)出現(xiàn)了異常?

1. 當(dāng)磁盤 I/O 利用率長時間超過 80%，或者響應(yīng)時間過大(對于 SSD，從 0.0x 毫秒到 1.x 毫秒不等，機械磁盤一般為5ms~10ms)，通常意味著磁盤 I/O 存在性能瓶頸;
2. 如果 %util 很大，而 rkB/s 和 wkB/s 很小，一般是因為存在較多的磁盤隨機讀寫，最好把隨機讀寫優(yōu)化成順序讀寫，(可以通過 strace 或者 blktrace 觀察 I/O 是否連續(xù)判斷是否是順序的讀寫行為，隨機讀寫應(yīng)可關(guān)注 IOPS 指標(biāo)，順序讀寫可關(guān)注吞吐量指標(biāo));
3. 如果 avgqu-sz 比較大，說明有很多 I/O 請求在隊列中等待。一般來說，如果單塊磁盤的隊列長度持續(xù)超過2，一般認為該磁盤存在 I/O 性能問題。 

3.4 網(wǎng)絡(luò)

網(wǎng)絡(luò)這個概念涵蓋的范圍較廣，在應(yīng)用層、傳輸層、網(wǎng)絡(luò)層、網(wǎng)絡(luò)接口層都有不同的指標(biāo)去衡量。這里我們討論的「網(wǎng)絡(luò)」，特指應(yīng)用層的網(wǎng)絡(luò)，通常使用的指標(biāo)如下:

1. 網(wǎng)絡(luò)帶寬：表示鏈路的最大傳輸速率;
2. 網(wǎng)絡(luò)吞吐：表示單位時間內(nèi)成功傳輸?shù)臄?shù)據(jù)量大小;
3. 網(wǎng)絡(luò)延時：表示從網(wǎng)絡(luò)請求發(fā)出后直到收到遠端響應(yīng)，所需要的時間;
4. 網(wǎng)絡(luò)連接數(shù)和錯誤數(shù);

一般來說，應(yīng)用層的網(wǎng)絡(luò)瓶頸有如下幾類：

1. 集群或機器所在的機房的網(wǎng)絡(luò)帶寬飽和，影響應(yīng)用 QPS/TPS 的提升;
2. 網(wǎng)絡(luò)吞吐出現(xiàn)異常，如接口存在大量的數(shù)據(jù)傳輸，造成帶寬占用過高;
3. 網(wǎng)絡(luò)連接出現(xiàn)異?；蝈e誤;
4. 網(wǎng)絡(luò)出現(xiàn)分區(qū)。

帶寬和網(wǎng)絡(luò)吞吐這兩個指標(biāo)，一般我們會關(guān)注整個應(yīng)用的，通過監(jiān)控系統(tǒng)可直接得到，如果一段時間內(nèi)出現(xiàn)了明顯的指標(biāo)上升，說明存在網(wǎng)絡(luò)性能瓶頸。對于單機，可以使用 sar 得到網(wǎng)絡(luò)接口、進程的網(wǎng)絡(luò)吞吐。

使用 ping 或者 hping3 可以得到是否出現(xiàn)網(wǎng)絡(luò)分區(qū)、網(wǎng)絡(luò)具體時延。對于應(yīng)用，我們更關(guān)注整個鏈路的時延，可以通過中間件埋點后輸出的 trace 日志得到鏈路上各個環(huán)節(jié)的時延信息。

使用 netstat、ss 和 sar 可以獲取網(wǎng)絡(luò)連接數(shù)或網(wǎng)絡(luò)錯誤數(shù)。過多網(wǎng)絡(luò)鏈接造成的開銷是很大的，一是會占用文件描述符，二是會占用緩存，因此系統(tǒng)可以支撐的網(wǎng)絡(luò)鏈接數(shù)是有限的。

3.5 工具總結(jié)

可以看到的是，在分析 CPU、內(nèi)存、磁盤等的性能指標(biāo)時，有幾種工具是高頻出現(xiàn)的，如 top、vmstat、pidstat，這里稍微總結(jié)一下:

1. CPU：top、vmstat、pidstat、sar、perf、jstack、jstat;
2. 內(nèi)存：top、free、vmstat、cachetop、cachestat、sar、jmap;
3. 磁盤：top、iostat、vmstat、pidstat、du/df;
4. 網(wǎng)絡(luò)：netstat、sar、dstat、tcpdump;
5. 應(yīng)用：profiler、dump分析。

上述的很多工具，大部分是用于查看系統(tǒng)層指標(biāo)的，在應(yīng)用層，除了有 JDK 提供的一系列工具，一些商用的產(chǎn)品如 gceasy.io(分析 GC 日志)、fastthread.io(分析線程 dump 日志)也是不錯的。

排查 Java 應(yīng)用的線上異?；蛘叻治鰬?yīng)用代碼瓶頸，可以使用阿里開源的 Arthas ，這個工具非常強大，下面簡單介紹下。

Arthas 主要面向線上應(yīng)用實時診斷，解決的是類似「線上應(yīng)用異常了，需要在線進行分析和定位」的問題，當(dāng)然，Arthas 提供的一些方法調(diào)用追蹤工具，對我們排查諸如「慢查詢」等問題，也是非常有幫助的。Arthas 提供的主要功能有：

1. 獲取線程統(tǒng)計，如線程持有的鎖統(tǒng)計、CPU 利用率統(tǒng)計等;
2. 類加載信息、動態(tài)類加載、方法加載信息;
3. 調(diào)用棧追蹤，調(diào)用耗時統(tǒng)計;
4. 方法調(diào)用參數(shù)、結(jié)果檢測;
5. 系統(tǒng)配置、應(yīng)用配置信息;
6. 反編譯加載類;
7. ....

需要注意的是，性能工具只是解決性能問題的手段，我們了解常用工具的一般用法即可，不要在工具學(xué)習(xí)上投入過多精力。