8月6日，騰訊開源聯(lián)盟主席、騰訊云開源生態(tài)總經理單致豪在2021 ApacheCon Asia上分享了騰訊對Apache之道的思考、探索與實踐的歷程。

作為開源界備受關注的會議之一，今年的ApacheCon Asia將持續(xù)3天，開設14+分論壇，內容覆蓋從大數(shù)據(jù)到搜索再到消息隊列等數(shù)十個不同類別。

Apache 軟件基金會成立于 1999 年，迄今為止其管理著 2.27 億多行代碼，有著206個項目管理委員會，通過精英制領導了350多個 Apache 項目和計劃，有超過8,100+提交者。

從最初的“Apache小組”到如今成長為世界上最大的開源基金會之一，Apache通過其領導力、健全的社區(qū)、以及精英主義思路，鑄就了著名的“Apache之道”（Apache Way），形成了一套推進開源社區(qū)可持續(xù)發(fā)展、指導開源項目實踐的方法論。

騰訊開源自2010年起開始正式萌芽，在11年的發(fā)展歷程中，騰訊大批工程師通過參與、應用和貢獻等方式與Apache社區(qū)深度聯(lián)結，并基于Apache之道，踐行著騰訊的開源之道。

騰訊與Apache開源社區(qū)也持續(xù)深入合作，成為多個Apache項目的活躍貢獻者，以及國內首家Apache白金會員，并推動Apache基金會在開源領域的創(chuàng)新。目前，除了在Hadoop、Spark等眾多項目中擔任Committer外，騰訊的內部團隊還基于Apache中的如InLong、Ozone、Pulsar等項目實現(xiàn)了對業(yè)務的支撐和賦能，并形成了一套最佳實踐。

Apache 之道對社區(qū)的重要指導

Apache之道是很難定義的，盡管Apache之道這些年修改了部分內容，但“高度透明性”的初心始終是未變的。在單致豪看來，騰訊從Apache之道中學習的經驗歸結為五條：

1、所有個人都有機會參與，并且可以成為權威。所有人都可以通過對社區(qū)的貢獻獲得屬于自己的影響力和個人成長，以及基于公開獲得的功績和權威。

2、Apache基金會是扁平的結構。這意味著任何角色都是平等的，投票權重都相同，并且貢獻是在志愿者的基礎上進行，騰訊鼓勵內部的工程師都積極參與Apache基金會的貢獻中。

3、深知開放交流的重要性并踐行。因為開源是全球分布式社區(qū)的協(xié)作，騰訊工程師參與Apache開源項目都是通過郵件列表的異步協(xié)作機制——代碼、決策相關的交流都公開透明。

4、鼓勵一起達成共識的決策機制。共識可以保持項目前進動力和新的生產力。但是有時候不能建立完全共識，那就需要進行投票或其他協(xié)調以幫助刪除具有約束力的決定。

5、最重要的一點，“社區(qū)高于代碼”的格言在 Apache 社區(qū)中經常得到加強。因為健康的社區(qū)比好的代碼更重要。強大健康的社區(qū)總是可以糾正代碼的問題，而不健康的社區(qū)可能會努力以可持續(xù)的方式維護代碼庫。此外，靈活的重要性——這也是Apache 可持續(xù)開源成功不可或缺的一部分。

Apache之道指導下的騰訊開源之道

Apache 項目及其社區(qū)都是獨特但卻多樣化的。在社區(qū)主導的開發(fā)過程中，Apahce成員將其獲得經驗的總結體會凝聚為了Apache 之道。

其實，騰訊很多開源實踐、成果都是在Apache之道的指導下進行的。通過長時間的開源文化基因的沉淀，形成了騰訊以“開放協(xié)作、開源向善”為驅動的開源之道，同時這也是騰訊的價值觀及使命愿景，連續(xù)影響著自身的開源實踐。

l 主導及捐贈開源項目，騰訊踐行 Apache Way之始

在大數(shù)據(jù)流計算、中間件等領域，騰訊工程師在 Apache 基金會中的多個開源項目參與了主導及貢獻，憑借貢獻成果獲得了來自基金會的認可。

1）大數(shù)據(jù)領域

例如，從4年前開始，騰訊就相繼主導了 Apache Hadoop 2.8.4/2.8.5版本的發(fā)布，Apache Ozone 1.0.0版本在Hadoop社區(qū)的正式發(fā)布，后者成為了 Apache 基金會的頂級項目，同時也主導了Apache Spark 2.3.2版本的發(fā)布，并成為第一家在社區(qū)里發(fā)布Hadoop和Spark Release的中國公司。

在騰訊主導發(fā)布的Hadoop多個版本中，就涉及20多個的特性和優(yōu)化。在 Spark 、Flink、HBase、Hive、MXNet、Parquet等多個計算和 AI 框架中，騰訊都是主要的核心貢獻者。

此外，騰訊大數(shù)據(jù)還參與主導了Apache Ozone 的1.0.0版本，并在支持Append、truncate操作，container balancer 功能等問題上，騰訊持續(xù)在投入貢獻以提升Ozone的成熟度。

2）中間件領域

2019年，騰訊將自研的萬億級大數(shù)據(jù)組件 —— TubeMQ 項目捐贈給了Apache基金會，這也是騰訊第一個捐贈到Apache基金會的開源項目，今年其正式更名為Apache InLong，目前正在Apache基金會進行孵化。

l 基于 Apache 優(yōu)秀及成熟開源項目的深度應用

除了主導開源和捐贈項目，騰訊也在內部多個業(yè)務系統(tǒng)中應用了Apache基金會的開源項目。例如在微信、QQ、騰訊云等業(yè)務版塊中，Apache的開源項目被廣泛應用——既覆蓋了大數(shù)據(jù)生態(tài)，如數(shù)據(jù)傳輸、存儲、計算和分析等需求場景，也涉及 API 網關、可觀測等服務治理的技術領域。

尤其是在大數(shù)據(jù)、API網關、可觀測三個領域，騰訊深度應用并且貢獻了Apache基金會的開源項目。

1）大數(shù)據(jù)項目代表——Ozone和Pulsar應用

騰訊大數(shù)據(jù)單日的接入消息量超過 55 萬億，實時計算量超過 65 萬億，平臺整體算力超過 500 萬核，日分析任務數(shù)量達到 1500 萬。

作為日實時計算量最大的公司之一，騰訊需要強大的大數(shù)據(jù)平臺來支撐業(yè)務的開展，其能力也不斷被刷新。除自研工具外，充分應用外部優(yōu)質且成熟的開源項目如Apache Ozone和Apache Pulsar ，為騰訊需要大量數(shù)據(jù)和流量的業(yè)務場景提供了支撐。

Ozone 是當前 Apache Hadoop 生態(tài)圈中新一代分布式文件對象存儲系統(tǒng)，于去年從Apache基金會畢業(yè)并正式成為Apache頂級開源項目。它能夠解決Hadoop分布式文件系統(tǒng)HDFS的擴展性上限，滿足千億級小文件的存儲需求。

作為 Ozone的早期采用者，騰訊大數(shù)據(jù)平臺已經部署了一個超過1000個節(jié)點的Ozone集群作為大數(shù)據(jù)應用的后臺存儲。此外，騰訊還利用Ozone作為一些私人數(shù)據(jù)倉庫項目的主要存儲解決方案。

目前，騰訊正將越來越多的業(yè)務接入Ozone，包括數(shù)據(jù)倉庫、機器學習平臺、K8S集群掛載盤等等。經過長時間的反復驗證改進后，內部Ozone能夠以千臺以上的規(guī)模長時間穩(wěn)定運行，且無須人工運維介入。在驗證改進過程中，騰訊做了大量的優(yōu)化工作來改進性能，提升穩(wěn)定性。

作為下一代云原生分布式消息流平臺，Pulsar 集消息、存儲和函數(shù)式計算為一體，并采用存儲與計算分離的架構。Pulsar 目前在騰訊云內部已經成功支持大量數(shù)據(jù)和流量業(yè)務場景，還有在云原生環(huán)境上的一些實踐經驗，例如解決快速動態(tài)擴縮容，提升集群資源的利用率、集群形態(tài)等。

2）API網關項目代表——APISIX的應用與貢獻

隨著服務數(shù)量和復雜度上的不斷增長，越來越多企業(yè)采用了微服務的方式，API 網關也成為不可或缺的一環(huán)——使用 API 網關完成統(tǒng)一的流量管理和調度。

APISIX 是 Apache 去年新增的一個頂級的 API 網關開源項目，從2019年進入Apache基金會的短短一年時間就完成了畢業(yè)。這也說明了它的活躍度、健康度，且在快速的迭代發(fā)展。
對比Kong，APISIX 具有高性能、友好的開發(fā)者體驗、豐富的插件能力等特征，是騰訊內部業(yè)務選擇它的原因。

在APISIX的基礎上，騰訊對內共享基于公司自研的云系統(tǒng)組件的配套支持，解決業(yè)務痛點，提供高效的API網關服務；對外向Apache APISIX開源社區(qū)進行貢獻，擴大影響力，引領開源社區(qū)發(fā)展。

3）可觀測領域項目代表——Skywalking在騰訊內部可觀測平臺的應用

隨著微服務架構的流行，全鏈路性能監(jiān)測成為服務治理需要解決的一大問題，為微服務、云原生架構和基于容器(Docker、K8S、Mesos)架構而設計的可觀測工具成為首選。

Skywalking是一個用于分布式系統(tǒng)的應用程序性能監(jiān)視工具，專為微服務、云原生架構和基于容器(Docker、K8S、Mesos)架構而設計，它具有多種監(jiān)控手段，語言探針和Service Mesh多語言自動探針，輕量高效且支持告警，具備優(yōu)秀的可視化方案。

Apache Skywalking是吳晟個人創(chuàng)始項目，項目目前非?；钴S，有完善的項目發(fā)展全景圖和里程碑，主倉庫有17,000個星星數(shù)（Stars），350個貢獻者。

騰訊內部可觀測平臺全面兼容Apache Skywalking，Zipkin和Jaeger的客戶端上報，為微服務體系的客戶端tracing上報選型提供了極大的便利。同時使用計算存儲分離和多層查詢的機制，提供了非常優(yōu)秀的性能輸出。

此外，在可觀測領域，騰訊最近也在使用CNCF中非常熱門的OpenTelemetry項目。

三大項目，助力騰訊開源生態(tài)的建設

當然，除了Apache基金會之外，騰訊目前以頂級會員的身份，活躍在全球超過十個基金會中。基金會提供知識產權管理的框架、代碼倉庫、問題跟蹤、技術指導、項目治理、財務和公關管理等服務，騰訊的工程師和全球開發(fā)者們在其中一起協(xié)作。

通過在多個基金會中的實踐與貢獻，例如Linux基金會以及全球最大的云原生開源組織CNCF基金會，騰訊吸取了比較成熟的開源組織治理模式及經驗，并用于指導內部項目的對外開源。

目前，騰訊累計對外開源了130多個自主項目，獲得了超過37萬的Star數(shù)，貢獻者人數(shù)也超過了2000人。項目覆蓋了云原生、大數(shù)據(jù)、人工智能、數(shù)據(jù)庫等多個技術領域，有對外專注人工智能領域的Angel開源項目和微服務領域的TARS開源項目，在KVM、OpenJDK，騰訊都位列其全球貢獻者榜單前列，包括在Kubernetes、Spring Cloud、MariaDB等開源社區(qū)中，騰訊也在大力推動開源項目、產品以及解決方案的落地。

基于內部的開源項目，活躍于開源社區(qū)的經驗歷程，以及開源人才培養(yǎng)的項目，騰訊開源生態(tài)已逐步建立并不斷完善。

在未來的一段時間內，騰訊云將重點通過三大項目進一步壯大騰訊開源生態(tài)的建設：

1）建立“騰源會”社區(qū)。騰源會是騰訊云成立的匯聚開源項目、開源愛好者、開源領導者的開放社區(qū)，致力于幫助開源項目健康成長、開源愛好者能交流協(xié)助、開源領導者能發(fā)揮領袖價值，讓全球開源生態(tài)變得更加繁榮。

未來，騰訊希望通過“騰源會”這一中立性組織為開源交流和項目孵化搭建平臺，通過開源孵化器、共創(chuàng)社區(qū)、開源研討活動和實操類活動的舉辦，鏈接更多的開源項目，開源愛好者、實踐者和領導者，以及全球的開源基金會、開源文化。

2）建立產業(yè)開源聯(lián)合實驗室。開源實驗室是項目實戰(zhàn)的落地場所。未來，騰訊云計劃陸續(xù)和國內多所知名高校以及開源企業(yè)一起成立產業(yè)聯(lián)合開源實驗室，為在校生、科研人員以及企業(yè)內的開發(fā)者提供實戰(zhàn)貢獻代碼平臺，以及開源項目落地產業(yè)的場景。

此外，騰訊今年也正式發(fā)布了“犀牛鳥開源人才培養(yǎng)計劃”，通過打造面向高校學生的開源課程和開源實踐培養(yǎng)方案，培育開源人才、普及開源文化，助力開源人才生態(tài)的發(fā)展。

3）發(fā)布《云原生開源白皮書》。今年5月的“云原生產業(yè)大會“上，騰訊云聯(lián)合信通院宣布正式啟動《云原生開源白皮書》編寫工作，目前該白皮書還在編寫過程中，預計將在年底正式發(fā)布。

以上這些平臺和項目的建設，開源實踐者和企業(yè)都可以參與進來。

結語

迄今Apache基金會已經運營了22年，事實證明它是將組織結構和靈活性平衡的開放性組織建設的最佳實踐之一。騰訊也在持續(xù)將Apache之道內化于其自身開源理念、開源方法論和開源生態(tài)建設的實操中。

未來，或許也會有越來越多的高校、企業(yè)或組織能在騰訊構建的開放性社區(qū)中，這是一條不遠的路。