百度工程師淺談分布式日志
1、什么是日志
日志是一種按照時間順序存儲記錄的數(shù)據(jù),它記錄了什么時間發(fā)生了什么事情,提供精確的系統(tǒng)記錄,根據(jù)日志信息可以定位到錯誤詳情和根源。按照APM概念的定義,日志的特點是描述一些離散的(不連續(xù)的)事件。
日志是按照錯誤級別分級的,常見的錯誤級別有 FATAL / WARNING / NOTICE / DEBUG / TRACE 5種類型。通常我們會在項目里面定義一個日志打印級別,高于這個級別的錯誤日志會數(shù)據(jù)落盤。
2、什么時候記錄日志
在大型網(wǎng)站系統(tǒng)架構(gòu)里面,日志是其中的重要功能組成部分。它可以記錄下系統(tǒng)所產(chǎn)生的所有行為,并按照某種規(guī)范表達(dá)出來。我們可以使用日志系統(tǒng)所記錄的信息為系統(tǒng)進(jìn)行排錯,優(yōu)化性能。通過統(tǒng)計用戶行為日志,幫助產(chǎn)品運(yùn)營同學(xué)做業(yè)務(wù)決策。在安全領(lǐng)域,日志可以反應(yīng)出很多的安全攻擊行為,比如登錄錯誤,異常訪問等。日志能告訴你很多關(guān)于網(wǎng)絡(luò)中所發(fā)生事件的信息,包括性能信息、故障檢測和入侵檢測。還可以為審計進(jìn)行審計跟蹤,日志的價值是顯而易見的。
3、日志的價值
在大型網(wǎng)站系統(tǒng)架構(gòu)里面,日志是其中的重要功能組成部分。它可以記錄下系統(tǒng)所產(chǎn)生的所有行為,并按照某種規(guī)范表達(dá)出來。我們可以使用日志系統(tǒng)所記錄的信息為系統(tǒng)進(jìn)行排錯,優(yōu)化性能。通過統(tǒng)計用戶行為日志,幫助產(chǎn)品運(yùn)營同學(xué)做業(yè)務(wù)決策。在安全領(lǐng)域,日志可以反應(yīng)出很多的安全攻擊行為,比如登錄錯誤,異常訪問等。日志能告訴你很多關(guān)于網(wǎng)絡(luò)中所發(fā)生事件的信息,包括性能信息、故障檢測和入侵檢測。還可以為審計進(jìn)行審計跟蹤,日志的價值是顯而易見的。
4、分布式架構(gòu)的日志運(yùn)維
4.1 為什么要有運(yùn)維工具
微服務(wù)發(fā)展迅猛的今天,松耦合的設(shè)計層出不窮,為簡化服務(wù)服務(wù)帶來了極大的便利。業(yè)務(wù)方向分工明確,研發(fā)同學(xué)只需要關(guān)心自己模塊的版本迭代上線就好。隨著整個業(yè)務(wù)架構(gòu)的擴(kuò)大,服務(wù)實例的數(shù)量迎來了爆炸性的增長,往往帶來以下問題:
- 由不同團(tuán)隊開發(fā),使用不同的編程語言,日志格式不規(guī)范統(tǒng)一;
- 微服務(wù)迭代速度快,日志漏記、級別使用錯誤、難以提取有效信息;
- 容器實例分布在成千上萬臺服務(wù)器上,橫跨多個數(shù)據(jù)中心,異構(gòu)部署,難以串聯(lián)請求鏈路。
沒有工具的情況下,需要登錄服務(wù)實例,查看原始日志,在日志文件中通過grep、awk方式獲得自己想要的信息。但在規(guī)模較大的場景中,此方法效率低下,面臨問題包括日志量太大不易歸檔、文本搜索太慢、不方便多維度查詢。這時候需要更加高效的運(yùn)維工具來代替人工訪問日志。常見解決思路是建立集中式日志收集系統(tǒng),將所有節(jié)點上的日志統(tǒng)一收集,管理,訪問。
4.2 運(yùn)維工具建設(shè)
我們希望通過原始日志可以理解系統(tǒng)行為,這需要建設(shè)具備性能分析,問題定位的能力的工具平臺。它能夠支持:
- 在故障發(fā)生前,分析風(fēng)險和系統(tǒng)瓶頸;
- 在故障發(fā)生時,及時通知,快速定位解決問題;
- 在故障發(fā)生后,有歷史數(shù)據(jù)迅速復(fù)盤。
通過建設(shè)具備日志即時收集、分析、存儲等能力的工具平臺。用戶可以快速高效地進(jìn)行問題診斷、系統(tǒng)運(yùn)維、流量穩(wěn)定性監(jiān)控、業(yè)務(wù)數(shù)據(jù)分析等操作。比如搭建鏈路追蹤系統(tǒng),能追蹤并記錄請求在系統(tǒng)中的調(diào)用順序,調(diào)用時間等一系列關(guān)鍵信息,從而幫助我們定位異常服務(wù)和發(fā)現(xiàn)性能瓶頸,提升了系統(tǒng)的『可觀測性』。前面提到日志在APM標(biāo)準(zhǔn)的定義下日志的特點是描述一些離散的(不連續(xù)的)事件。這里說下APM是什么,方便更好的構(gòu)建監(jiān)控方面的知識體系。
5、APM和可觀測性
APM 是Application Performance Managment的縮寫,即:“應(yīng)用性能管理”??梢园阉斫獬梢环N對分布式架構(gòu)進(jìn)行觀測分析優(yōu)化的理念和方法論。監(jiān)控系統(tǒng)(包括告警)作為SLA體系的一個重要組成部分,不僅在業(yè)務(wù)和系統(tǒng)中充當(dāng)保鏢發(fā)現(xiàn)問題、排查問題的作用。
隨著系統(tǒng)不斷演進(jìn)完善,我們可以獲得越多幫助于了解業(yè)務(wù)和系統(tǒng)的數(shù)據(jù)和信息,這些信息可以更進(jìn)一步的幫助我們進(jìn)行系統(tǒng)上的優(yōu)化,由于可以梳理請求鏈路得出用戶的瀏覽偏好,甚至可以影響業(yè)務(wù)上的關(guān)鍵決策。
整體來說,整個APM體系就是將大三類數(shù)據(jù)(logs、metrics、trace)應(yīng)用到四大模塊中(收集、加工、存儲、展示),并在四個難點(程序異構(gòu),組件多樣,鏈路完整,時效采樣)上不斷優(yōu)化。
可觀測性 是APM的一大特征,主要由以下三大支柱構(gòu)成,分別是Logging(日志),Metrics(指標(biāo)),以及Tracing(應(yīng)用跟蹤)。
- Logging:自動埋點/手動埋點,展現(xiàn)的是應(yīng)用運(yùn)行而產(chǎn)生的事件或者程序在執(zhí)行的過程中間產(chǎn)生的一些日志,可以詳細(xì)解釋系統(tǒng)的運(yùn)行狀態(tài),但是存儲和查詢需要消耗大量的資源。
- Metrics:服務(wù)、端點、實例的各項指標(biāo),是一種聚合數(shù)值,存儲空間很小,可以觀察系統(tǒng)的狀態(tài)和趨勢,對于問題定位缺乏細(xì)節(jié)展示,最節(jié)省存儲資源。
- Tracing:同一TraceId的調(diào)用序列,面向的是請求,可以輕松分析出請求中異常點,資源可能消耗較大,不過依據(jù)具體功能實現(xiàn)相對可控。
5.1 Metrics和Prometheus
Metrics:指標(biāo)。
I think that the defining characteristic of metrics is that they are aggregatable: they are the atoms that compose into a single logical gauge, counter, or histogram over a span of time.
大致上可理解為一些可進(jìn)行聚合計算的原子型數(shù)據(jù)。舉些例子:cpu占用情況、系統(tǒng)內(nèi)存占用、接口響應(yīng)時間、接口響應(yīng)QPS、服務(wù)gc次數(shù)、訂單量等。這些都是根據(jù)時間序列存儲的數(shù)據(jù)值,可以在一段時間內(nèi)進(jìn)行一些求和、求平均、百分位等聚合計算。指標(biāo)在監(jiān)控系統(tǒng)中不可或缺,我們都需要收集每種指標(biāo)在時間線上的變化,并作同比、環(huán)比上的分析。metrics的存儲形式為有時間戳標(biāo)記的數(shù)據(jù)流,通常存儲在TSDB(時間序列數(shù)據(jù)庫)中。
Metrics側(cè)重于各種報表數(shù)據(jù)的收集和展示,常用在大規(guī)模業(yè)務(wù)的可用性建設(shè)、性能優(yōu)化、容量管理等場景,通過可視化儀表盤可高效地進(jìn)行日常系統(tǒng)巡檢、快速查看應(yīng)用健康狀況,可以精準(zhǔn)感知可用性和性能問題,為產(chǎn)品的穩(wěn)定運(yùn)行保駕護(hù)航。
Prometheus 是一個開源的監(jiān)控解決方案,它能夠提供監(jiān)控指標(biāo)數(shù)據(jù)的采集、存儲、查詢以及監(jiān)控告警等功能。作為云原生基金會(CNCF)的畢業(yè)項目,Prometheus 已經(jīng)在云原生領(lǐng)域得到了大范圍的應(yīng)用,并逐漸成為了業(yè)界最流行的監(jiān)控解決方案之一。
下圖為Prometheus的工作流程,可以簡單理解為:Prometheus server定期拉取目標(biāo)實例的采集數(shù)據(jù),時間序列存儲,一方面通過配置報警規(guī)則,把觸發(fā)的報警發(fā)送給接收方,一方面通過組件Grafana把數(shù)據(jù)以圖形化形式展示給用戶。
5.2 Logging和ELK
Logging:日志。
I think that the defining characteristic of logging is that it deals with discrete events.
日志是系統(tǒng)運(yùn)行時發(fā)生的一個個事件的記錄。Logging的典型特征就是它和孤立的事件(Event)強(qiáng)關(guān)聯(lián),一個事件的產(chǎn)生所以導(dǎo)致了一條日志的產(chǎn)生。舉個例子就是一個網(wǎng)絡(luò)請求是一個事件,它被云端接到后Nginx產(chǎn)生了一個訪問log。大量的不同外部事件間基本是離散的,比如多個用戶訪問云端業(yè)務(wù)時產(chǎn)生的5個事件間沒有必然的關(guān)系,所以在一個服務(wù)節(jié)點的角度上看這些事件產(chǎn)生的日志間也是離散的。
關(guān)于日志管理平臺,相信很多同學(xué)聽說過最多的就是ELK(elastic stack),ELK是三款軟件的簡稱,分別是Elasticsearch、 Logstash、Kibana組成。在APM體系中,它可以實現(xiàn)關(guān)鍵字的分布式搜索和日志分析,能夠快速定位到我們想要的日志,通過可視化平臺的展示,能夠從多個維度來對日志進(jìn)行細(xì)化跟蹤。
?Elasticsearch基于java,是個開源分布式搜索引擎,它提供了一個分布式多用戶能力的全文搜索引擎,基于RESTful web接口。是當(dāng)前流行的企業(yè)級搜索引擎。設(shè)計用于云計算中,能夠達(dá)到實時搜索,穩(wěn)定,可靠,快速,安裝使用方便。它的特點有:分布式,零配置,自動發(fā)現(xiàn),索引自動分片,索引副本機(jī)制,restful風(fēng)格接口,多數(shù)據(jù)源,自動搜索負(fù)載等。
Kibana基于nodejs,是一款開源的數(shù)據(jù)分析和可視化平臺,它是Elastic Stack成員之一,設(shè)計用于和Elasticsearch協(xié)作。您可以使用Kibana對Elasticsearch索引中的數(shù)據(jù)進(jìn)行搜索、查看、交互操作。您可以很方便的利用圖表、表格及地圖對數(shù)據(jù)進(jìn)行多元化的分析和呈現(xiàn)。
Logstash基于java,是一個開源的用于收集,分析和存儲日志的工具,能夠同時從多個來源采集數(shù)據(jù),轉(zhuǎn)換數(shù)據(jù),然后將數(shù)據(jù)發(fā)送到最喜歡的存儲庫中(我們的存儲庫當(dāng)然是ElasticSearch)。?
下面是ELK的工作原理:
ELK中的L理解成Logging Agent比較合適。Elasticsearch和Kibana是存儲、檢索和分析log的標(biāo)準(zhǔn)方案。在高負(fù)載的ELK平臺迭代實踐中,常常采用一些優(yōu)化策略。比如:ElasticSearch 做冷熱數(shù)據(jù)分離,歷史索引數(shù)據(jù)關(guān)閉;Filebeat更加輕量,對資源消耗更少,替代Logstash作為數(shù)據(jù)收集引擎;增加消息隊列做數(shù)據(jù)緩沖,通過解耦處理過程實現(xiàn)削峰平谷,幫助平臺頂住突發(fā)的訪問壓力。
ELK的缺點也是明顯的,部署這樣一套日志分析系統(tǒng),不論是存儲還是分析所需要占用的機(jī)器成本是挺大的。業(yè)務(wù)日志是時時打印的,大規(guī)模的在線服務(wù)一天日志量可能達(dá)到TB級別,如果采用ELK平臺,在保證關(guān)鍵日志信息入庫的同時,有針對性的對所需日志文件進(jìn)行采集和過濾是必不可少的。
5.3 Tracing、OpenTracing和Apache SkyWalking
.Tracing:鏈路。
I think that the single defining characteristic of tracing , then, is that it deals with information that is request-scoped.
鏈路可理解為某個最外層請求下的所有調(diào)用信息。在微服務(wù)中一般有多個調(diào)用信息,如從最外層的網(wǎng)關(guān)開始,A服務(wù)調(diào)用B服務(wù),調(diào)用數(shù)據(jù)庫、緩存等。在鏈路系統(tǒng)中,需要清楚展現(xiàn)某條調(diào)用鏈中從主調(diào)方到被調(diào)方內(nèi)部所有的調(diào)用信息。這不僅有利于梳理接口及服務(wù)間調(diào)用的關(guān)系,還有助于排查慢請求產(chǎn)生的原因或異常發(fā)生的原因。
Tracing最早提出是來自Google的論文《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》,它讓Tracing流行起來。而Twitter基于這篇論文開發(fā)了Zipkin并開源了這個項目。再之后業(yè)界百花齊放,誕生了一大批開源和商業(yè)Tracing系統(tǒng)。
Tracing 以請求的維度,串聯(lián)服務(wù)間的調(diào)用關(guān)系并記錄調(diào)用耗時,即保留了必要的信息,又將分散的日志事件通過Span層串聯(lián), 幫助我們更好的理解系統(tǒng)的行為、輔助調(diào)試和排查性能問題。它的基本概念如下兩點:
- Trace(調(diào)用鏈):OpenTracing中的Trace(調(diào)用鏈)通過歸屬于此調(diào)用鏈的Span來隱性的定義。一條Trace(調(diào)用鏈)可以被認(rèn)為是一個由多個Span組成的有向無環(huán)圖(DAG圖),可以簡單理解成一次事務(wù);
- Span(跨度):可以被翻譯為跨度,可以被理解為一次方法調(diào)用,一個程序塊的調(diào)用,或者一次RPC/數(shù)據(jù)庫訪問,只要是一個具有完整時間周期的程序訪問,都可以被認(rèn)為是一個Span。
對于一個組件來說,一次處理過程產(chǎn)生一個 Span,這個 Span 的生命周期是從接收到請求到返回響應(yīng)這段過程,在單個Trace中,存在多個Span。
舉個例子,比如一個請求用戶訂單信息的接口,流量分發(fā)到了應(yīng)用層實例(Span A)來處理請求,應(yīng)用層實例(Span A)需要請求訂單中心服務(wù)實例(Span B)來獲取訂單數(shù)據(jù),同時請求用戶中心服務(wù)實例(Span C)來獲取用戶數(shù)據(jù)?;A(chǔ)服務(wù)B、C可能還有其他依賴服務(wù)鏈路,則如下圖所示結(jié)構(gòu),Span間的因果關(guān)系如下:
OpenTracing是一個中立的(廠商無關(guān)、平臺無關(guān))分布式追蹤的API 規(guī)范,提供統(tǒng)一接口,可方便開發(fā)者在自己的服務(wù)中集成一種或多種分布式追蹤的實現(xiàn)。由于近年來各種鏈路監(jiān)控產(chǎn)品層出不窮,當(dāng)前市面上主流的工具既有像Datadog這樣的一攬子商業(yè)監(jiān)控方案,也有AWS X-Ray和Google Stackdriver Trace這樣的云廠商產(chǎn)品,還有像Zipkin、Jaeger這樣的開源產(chǎn)品。
云原生基金會(CNCF) 推出了OpenTracing標(biāo)準(zhǔn),推進(jìn)Tracing協(xié)議和工具的標(biāo)準(zhǔn)化,統(tǒng)一Trace數(shù)據(jù)結(jié)構(gòu)和格式。OpenTracing通過提供平臺無關(guān)、廠商無關(guān)的API,使得開發(fā)人員能夠方便添加(或更換)追蹤系統(tǒng)的實現(xiàn)。比如從Zipkin替換成Jaeger/Skywalking等后端。
在眾多Tracing產(chǎn)品中,值得一提的是國人自研開源的產(chǎn)品Skywalking。它是一款優(yōu)秀的APM工具,專為微服務(wù)、云原生架構(gòu)和基于容器架構(gòu)而設(shè)計,支持Java、.Net、NodeJs等探針方式接入項目,數(shù)據(jù)存儲支持Mysql、Elasticsearch等。功能包括了分布式鏈路追蹤,性能指標(biāo)分析和服務(wù)依賴分析等。2017年加入Apache孵化器,2019年4月17日Apache董事會批準(zhǔn)SkyWalking成為頂級項目,目前百度廠內(nèi)有一些業(yè)務(wù)線采用skywalking作為主要的日志運(yùn)維平臺。
5.4 Metrics,Logging和 Tracing 結(jié)合
指標(biāo)、日志、鏈路在監(jiān)控中是相輔相成的?,F(xiàn)在再來看上圖中,兩兩相交的部分:
- 通過指標(biāo)和日志維度,我們可以做一些事件的聚合統(tǒng)計,例如,繪制流量趨勢圖,某應(yīng)用每分鐘的錯誤日志數(shù)
- 通過鏈路和日志系統(tǒng),我們可以得到某個請求詳細(xì)的請求信息,例如請求的入?yún)?、出參、鏈路中途方法打印出的日志信息?/span>
- 通過指標(biāo)和鏈路系統(tǒng),我們可以查到請求調(diào)用信息,例如 SQL執(zhí)行總時長、各依賴服務(wù)調(diào)用總次數(shù);
可見,通過這三種類型數(shù)據(jù)相互作用,可以得到很多在某種類型數(shù)據(jù)中無法呈現(xiàn)的信息。例如下圖是一個故障排查的示例,首先,我們從消息通知中發(fā)現(xiàn)告警,進(jìn)入metrics指標(biāo)面板,定位到有問題的數(shù)據(jù)圖表,再通過指標(biāo)系統(tǒng)查詢到詳細(xì)的數(shù)據(jù),在logging日志系統(tǒng)查詢到對應(yīng)的錯誤,通過tracing鏈路追蹤系統(tǒng)查看鏈路中的位置和問題(當(dāng)然也可以先用鏈路追蹤系統(tǒng)進(jìn)行故障的定位,再查詢詳細(xì)日志),最后修復(fù)故障。這是一個典型的將三個系統(tǒng)串聯(lián)起來應(yīng)用的示例。
6、文庫在日志運(yùn)維上的實踐
6.1 匯聚監(jiān)控
文庫App對于域名、中間件、依賴服務(wù)等流量穩(wěn)定性,機(jī)器資源的監(jiān)控,基于廠內(nèi)現(xiàn)有的解決方案(Bns+Argus監(jiān)控系統(tǒng)+Sia可視化平臺)實現(xiàn)。工作流程可以理解為:
- 在日志采集平臺(Argus)配置數(shù)據(jù)采集規(guī)則,異常判斷規(guī)則和報警配置規(guī)則;
- 通過服務(wù)實例映射配置(Bns)獲取到要采集日志的實例列表,實例服務(wù)的log format要符合采集規(guī)則的正則表達(dá)式;
- Agent上報日志分析數(shù)據(jù)給MQ消化,MQ存入TSDB;
- 日志匯聚后的分析計算結(jié)果符合異常判斷規(guī)則,則觸發(fā)對應(yīng)配置的報警規(guī)則;
- 報警規(guī)則可以配置多維度分級分時間和不同方式提醒到接收人。同時,通過配置群聊機(jī)器人對包括資源,接入層,運(yùn)行層,服務(wù)及底層依賴的等服務(wù),依據(jù)閥值進(jìn)行基本實時的監(jiān)控報警;
- 可視化平臺(Sia)通過 metric 配置從 TSDB 中讀出相應(yīng)數(shù)據(jù),進(jìn)行圖形化展示。
6.2 批量查詢
即時日志撈取工具在我們業(yè)務(wù)開發(fā)中也是比較常見的,通常通過批量并發(fā)執(zhí)行遠(yuǎn)程服務(wù)器指令來實現(xiàn),解決依次執(zhí)行的繁鎖,讓運(yùn)維操作更安全便捷。
這種工具不依賴agent,只通過ssh就可以工作,一般通過中控機(jī)或者賬戶密碼等方式做ssh訪問控制,執(zhí)行g(shù)rep,tail等命令獲取日志,然后對logs進(jìn)行分析,可以解決日常中很多的需求。簡化代碼如下。
把如上代碼部署在中控機(jī)上ssh免密登錄,通過go run batch.go或執(zhí)行g(shù)o build后的二進(jìn)制文件,可以實現(xiàn)批量查詢?nèi)罩镜幕A(chǔ)能力。在此基礎(chǔ)上增加傳參,可以實現(xiàn)指定集群實例,指定exec命令,并發(fā)度控制,優(yōu)化輸出等功能。
6.3 鏈路跟蹤
文庫自研的全鏈路日志跟蹤平臺,支持trace全鏈路日志跟蹤,指標(biāo)匯聚,關(guān)鍵信息高亮,搜索范圍覆蓋nginx,nodejs,php,go等異構(gòu)微服務(wù),還支持動態(tài)繪制調(diào)用鏈路圖。用戶可以通過查詢tracid的方式獲得一個請求鏈路的http分析,調(diào)用服務(wù)的次數(shù)匯聚,日志list和拓?fù)滏溌穲D。
透傳trace的底層流程是在接入層nginx擴(kuò)展生成的一個20 -26位長、編碼了nginx所在機(jī)器ip和請求時間的純數(shù)字字符串。這個字符串在請求日志、服務(wù)運(yùn)行日志、rpc日志中記錄,通過Http Header向下透傳,在服務(wù)間調(diào)用過程中,在當(dāng)前層記錄調(diào)用的下一層實例ip:port信息,保證trace參數(shù)維持。
綠色的節(jié)點為鏈路調(diào)用的起始節(jié)點,一般是文庫接入層。鼠標(biāo)hover到哪個節(jié)點會title展示詳情,并在整個鏈路中隱去與之不相關(guān)的節(jié)點鏈路。如果節(jié)點有fatal,warning的日志,節(jié)點背景色會以紅色,黃色展示。
7、日志的壞味道
- 信息不明確。后果:執(zhí)行效率降低;
- 格式不規(guī)范。后果:不可讀,無法采集;
- 日志過少,缺乏關(guān)鍵信息。后果:降低定位問題效率;
- 參雜了臨時、冗余、無意義的日志。后果:生產(chǎn)打印大量日志消耗性能;
- 日志錯誤級別使用混亂。后果:導(dǎo)致監(jiān)控誤報;
- 使用字符串拼接方式,而非占位符。后果:可維護(hù)性較低;
- 代碼循環(huán)體打非必要的日志。后果:有宕機(jī)風(fēng)險;
- 敏感數(shù)據(jù)未脫敏。后果:有隱私信息泄露風(fēng)險;
- 日志文件未按小時分割轉(zhuǎn)儲。后果:不易磁盤空間回收;
- 服務(wù)調(diào)用間沒有全局透傳trace信息。后果:不能構(gòu)建全鏈路日志跟蹤。
8、日志 good case
- 能快速的定位問題;
- 能提取有效信息,了解原因;
- 了解線上系統(tǒng)的運(yùn)行狀態(tài);
- 匯聚日志關(guān)鍵信息,可以發(fā)現(xiàn)系統(tǒng)的瓶頸;
- 日志隨著項目迭代,同步迭代;
- 日志的打印和采集、上報服務(wù),不能影響系統(tǒng)的正常運(yùn)行。
9、結(jié)語
在萬物上云的時代,通過搭建合適的日志運(yùn)維平臺來賦予數(shù)據(jù)搜索、分析和監(jiān)控預(yù)警的能力,讓沉寂在服務(wù)器的日志"動"起來,可以幫助我們在數(shù)據(jù)分析,問題診斷,系統(tǒng)改進(jìn)的工作中更加順利的進(jìn)行,希望本文的內(nèi)容對大家的實踐有所幫助。