譯者 | 李睿

審校 | 孫淑娟 ?

如果用戶想在公共云基礎設施上運行Java微服務，那么可以利用多個云區(qū)域。這是一個好主意，其中有幾個原因。?

首先，由于硬件問題、云服務升級后引入的錯誤或人為錯誤，云計算可用區(qū)（Availability Zones）和云區(qū)域（Regions）經(jīng)常出現(xiàn)故障。最著名的S3中斷之一是因為AWS公司的員工發(fā)布了錯誤的操作命令。?

如果一個云區(qū)域發(fā)生故障，那么該區(qū)域的微服務也會發(fā)生故障。但是，如果跨多個云區(qū)域運行微服務實例，即使美國東部地區(qū)出現(xiàn)大面積故障，也可以繼續(xù)運行。?

其次，用戶可以選擇在美國東部部署微服務，但應用程序在大西洋彼岸的歐洲運行。從歐洲用戶到美國東部應用程序?qū)嵗耐笛舆t大約為100毫秒，將這個時間與來自美國東部（運行微服務的數(shù)據(jù)中心附近）的用戶流量的5毫秒往返延遲進行比較，當歐洲用戶表示應用程序速度較慢時，不要感到驚訝。如果微服務實例部署在美國東部和歐洲西部地區(qū)，就不會聽到這種負面反饋。?

最后，假設一個Java微服務服務于來自歐洲的用戶請求，但從美國的數(shù)據(jù)庫實例請求數(shù)據(jù)。在這種情況下，可能會違反數(shù)據(jù)駐留法規(guī)（如果GDPR法規(guī)將請求的數(shù)據(jù)分類為個人數(shù)據(jù)）。然而，如果微服務實例在歐洲運行，并從歐洲某個云區(qū)域的數(shù)據(jù)庫實例獲取個人數(shù)據(jù)，那么就不會遇到監(jiān)管機構所關注的問題。?

以下對本文的主題進行介紹，但希望看到在多個云區(qū)域運行Java微服務的一些好處。以下了解如何使用Spring Cloud開發(fā)和部署多個云區(qū)域微服務。?

高層次的概念?

以下以一個地理分布式Java Messenger為例，對微服務和Spring Cloud如何在多個云區(qū)域環(huán)境中發(fā)揮作用進行深入了解。?

該應用程序(由多個微服務組成)運行在多個云區(qū)域：美國西部、美國中部、歐洲西部和亞洲南部。所有應用程序?qū)嵗际菬o狀態(tài)的。?

Spring Cloud組件在應用程序?qū)嵗诘南嗤茀^(qū)域中運行。該應用程序使用Spring Config Server進行配置設置分發(fā)，使用Spring Discovery Server進行平滑和容錯的服務間通信。?

選擇YugabyteDB作為分布式數(shù)據(jù)庫，可以輕松地遠程運行。另外，只要它是在PostgreSQL源代碼上構建的，它就自然地與Spring Data和Spring生態(tài)系統(tǒng)的其他組件集成在一起。本文并不會回顧YugabyteDB多區(qū)域部署選項。?

用戶流量通過全局外部云負載均衡器到達微服務實例。簡而言之，負載均衡器提供了一個單一的IP地址，可以從地球上的任何地點訪問。該IP地址(或轉換為該地址的DNS名稱)被提供給用戶的Web或移動前端，它們使用該IP連接到應用程序后端。負載均衡器自動將用戶請求轉發(fā)到最近的應用程序?qū)嵗?。下面將詳細地演示這個云組件。?

目標架構?

多區(qū)域Java Messenger的目標架構如下所示：?

整個解決方案運行在谷歌云平臺上。用戶可能更喜歡另一個云計算提供商提供的云服務，所以可以放心使用。很多用戶喜歡使用谷歌云，因為它提供了開發(fā)人員體驗、豐富且價格合理的基礎設施、快速且穩(wěn)定的網(wǎng)絡，以及在本文中提到的其他好處。?

微服務實例可以根據(jù)需要部署在盡可能多的云區(qū)域中。?

在上圖中有兩個隨機云區(qū)域：Region A和Region B。微服務實例可以運行在一個云區(qū)域的多個可用性分區(qū)中(例如Region A的Zone A和ZoneB)，也可以運行在一個云區(qū)域內(nèi)(Region B的Zone A)。?

每個云區(qū)域都有一個Spring Discovery和Config服務器的實例也是合理的，但特意為每個可用區(qū)運行每個服務器的實例，以將延遲降至最低。?

誰決定哪個微服務實例將服務于用戶請求?那全局外部負載均衡器就是決策者!?

假設一位用戶通過手機打開Java Messenger，并發(fā)送了一條消息。帶有消息的請求將被發(fā)送到負載均衡器，它可以通過以下方式轉發(fā)：?

（1）Region A是離用戶最近的云區(qū)域，并且在請求時處于正常狀態(tài)(沒有中斷)。負載均衡器根據(jù)這些條件選擇該區(qū)域。 ?

（2）在這個云區(qū)域中，微服務實例在Zone A和Zone B都可用。因此，如果這兩個可用區(qū)都處于活動狀態(tài)并且正常運行，負載均衡器可以選擇任何一個可用區(qū)。假設這個請求發(fā)送到Zone B。?

以下將解釋每個微服務負責什么。到目前為止，只需要知道消息傳遞微服務將所有應用程序數(shù)據(jù)(消息、通道、用戶配置文件等)存儲在一個多區(qū)域YugabyteDB部署中。Attachments微服務使用全球分布的谷歌云存儲存儲用戶圖片。 ?

微服務和Spring Cloud?

以下進一步討論微服務以及它們?nèi)绾卫肧pring Cloud。 ?

Messenger微服務實現(xiàn)了每個Messenger應用程序必須具備的跨渠道和工作區(qū)發(fā)送消息的關鍵功能。Attachments微服務上載圖片和其他文件，可以在geo messenger的存儲庫中查看它們的源代碼。?

Spring Cloud配置服務器?

這兩個微服務都是在Spring Boot上構建的。當它們啟動時，他們從Spring Cloud Config Server中檢索配置設置，如果需要在分布式環(huán)境中外部化配置文件，這是一個很好的選項。?

配置服務器可以托管并從各種后端獲取配置，包括Git存儲庫、Vault和JDBC兼容數(shù)據(jù)庫。在Java geo messenger的情況下，使用Git選項，下面一行來自應用程序。兩個微服務請求的屬性文件Spring Boot從配置服務器加載設置：?

YAML ?
1spring.config.import=configserver:http://${CONFIG_SERVER_HOST}:${CONFIG_SERVER_PORT}?

Spring Cloud Discovery Server?

一旦啟動了Messenger和Attachments微服務，它們就會向Spring Cloud Discovery Server（屬于Spring Cloud Netflix組件）的區(qū)域本地實例注冊。?

Discovery Server實例的位置在從Config Server實例傳輸?shù)囊韵屡渲迷O置中定義：?

YAML ?
1eureka.client.serviceUrl.defaultZnotallow=http://${DISCOVERY_SERVER_HOST}:${DISCOVERY_SERVER_PORT}/eureka?

也可以在瀏覽器中打開HTTP地址，確認服務已成功注冊到Discovery Server：?

微服務使用您通過應用程序的spring.application.name設置傳遞的名稱注冊到application.properties file。如上圖所示，選擇了以下名稱: ?

·spring.application.name=messenger for the Messenger microservice?
·spring.application.name=attachments for the Attachments service?

微服務實例使用這些名稱來定位并通過Discovery Server相互發(fā)送請求。例如，當用戶想要在討論頻道中上傳圖片時，該請求首先會發(fā)送到Messenger服務。然后，Messenger在Discovery Server的幫助下將此任務委托給Attachments微服務。?

首先，Messenger服務獲得一個附件對應的實例: ?

Java 
 List<ServiceInstance> serviceInstances = discoveryClient.getInstances("ATTACHMENTS");

 ServiceInstance instance;

 if (!serviceInstances.isEmpty()) {
 instance = serviceInstances
    .get(ThreadLocalRandom.current().nextInt(0, serviceInstances.size()));
 }

  System.out.printf("Connected to service %s with URI %s\n", 
       instance.getInstanceId(), instance.getUri());

接下來，Messenger微服務使用附件的實例URI創(chuàng)建一個HTTP客戶端，并通過InputStream發(fā)送圖片： ?

Java 
 HttpClient httpClient = HttpClient.newBuilder().build();

 HttpRequest request = HttpRequest.newBuilder()
  .uri(URI.create(instance.getUri() + "/upload?fileName=" + fileName))
  .header("Content-Type", mimeType)
    .POST(HttpRequest.BodyPublishers.ofInputStream(new Supplier<InputStream>() {
        @Override
        public InputStream get() {         
               return inputStream;
        }
  })).build();

Attachments服務通過REST端點接收請求，并最終將圖片存儲在谷歌云存儲中，將圖片URL返回給Messenger微服務：?

Java 
 public Optional<String> storeFile(String filePath, String fileName, String contentType) {
  if (client == null) {
  initClient();
   }
 
  String objectName = generateUniqueObjectName(fileName);
 
  BlobId blobId = BlobId.of(bucketName, objectName);
  BlobInfo blobInfo = BlobInfo.newBuilder(blobId).build();

 try {
  client.create(blobInfo, Files.readAllBytes(Paths.get(filePath)));
 } catch (IOException e) {
  System.err.println("Failed to load the file:" + fileName);
  e.printStackTrace();

 return Optional.empty();
  }

  System.out.printf(
  "File %s uploaded to bucket %s as %s %n", filePath, bucketName, objectName);

 String objectFullAddress = "http://storage.googleapis.com/" + bucketName + "/" + objectName;

  System.out.println("Picture public address: " + objectFullAddress);

 return Optional.of(objectFullAddress);
 }

如果想探索微服務的完整實現(xiàn)以及它們?nèi)绾瓮ㄟ^Discovery Server進行通信，可以訪問GitHub repo。 ?

在谷歌云平臺上部署?

現(xiàn)在，在谷歌云平臺上跨三個地理位置和五個云區(qū)域部署Java geo-messenger：北美('us-west2'，'us-central1'，'us-east4')，歐洲('Europe-west3')和亞洲('Asia-east1')。 ?

遵循以下步驟部署：?

（1）創(chuàng)建一個谷歌項目。 ?

（2）創(chuàng)建自定義高級網(wǎng)絡。 ?

（3）配置谷歌云存儲。 ?

（4）為虛擬機創(chuàng)建實例模板。 ?

（5）以應用實例啟動虛擬機。 ?

（6）配置全局外部負載均衡器。?

將跳過上述步驟的詳細說明。與其相反，采用下圖來闡明為什么在步驟2中選擇高級谷歌網(wǎng)絡：?

假設一個應用程序?qū)嵗渴鹪诿绹墓雀柙破脚_上，用戶從印度連接到該應用程序。從用戶的位置到應用程序有快速路徑和慢速路徑。?

如果為這個部署選擇了標準網(wǎng)絡，則采用慢速路徑。在這種情況下，用戶請求通過公共互聯(lián)網(wǎng)傳輸，在到達美國之前進入和退出許多云計算提供商的網(wǎng)絡。最終，在美國，請求到達靠近應用程序?qū)嵗墓雀璧腜oP(存在點)，進入谷歌網(wǎng)絡，并到達應用程序。 ?

如果部署使用高級網(wǎng)絡，則選擇快速路徑。在這種情況下，用戶請求在離用戶最近的PoP處進入谷歌網(wǎng)絡，并且永遠不會離開它。該PoP在印度，請求將通過快速穩(wěn)定的連接加速到美國的應用程序?qū)嵗?。另外，云外部負載均衡器需要高級層。否則，將無法在最近的PoP處攔截用戶請求，并將它們轉發(fā)到附近的應用程序?qū)嵗??

測試容錯性?

一旦微服務部署到全球各大洲，就可以看到云負載均衡器在正常時間和停機期間的工作情況。?

在瀏覽器中打開負載均衡器使用的IP地址，并在其中一個討論通道中發(fā)送一些帶有照片的消息：?

Messenger和Attachments微服務的哪個實例為最后請求提供了服務？這取決于在世界上的位置。在本文的例子中，來自美國東部(ig-us-east)的實例服務于流量： ?

如果美國東部地區(qū)無法使用，導致該地區(qū)的所有微服務都無法使用，應用程序?qū)l(fā)生什么? ?

對于多區(qū)域部署來說不是問題。負載均衡器將檢測美國東部的問題，并將流量轉發(fā)到另一個最近的位置。在這種情況下，只要住在大西洋附近的美國東海岸，流量就會被轉發(fā)到歐洲：?

為了模擬美國東部地區(qū)的停機，連接到該地區(qū)的虛擬機并關閉了所有的微服務。負載均衡器檢測到該區(qū)域的微服務不再響應，并開始將流量轉發(fā)到歐洲數(shù)據(jù)中心。?

現(xiàn)在可以享受開箱即用的容錯功能! ?

測試性能?

除了容錯之外，如果跨多個云區(qū)域部署Java微服務，那么無論用戶請求位于何處，應用程序都能夠以較低的延遲服務用戶請求。 ?

為了實現(xiàn)這一點，首先，需要在大多數(shù)用戶所在的云區(qū)域部署微服務實例，并配置全局外部負載均衡器，可以進行路由。這就是在“跨多個云區(qū)域自動化Java應用程序部署”一文中討論的內(nèi)容。 ?

其次，需要在這些位置正確地排列數(shù)據(jù)。數(shù)據(jù)庫需要跨多個區(qū)域運行，與微服務實例一樣。否則，微服務和數(shù)據(jù)庫之間的延遲會很高，整體性能會很差。?

在討論的架構中，使用了YugabyteDB，因為它是一個分布式SQL數(shù)據(jù)庫，可以跨多個云區(qū)域部署。?

結語?

如果為公共云環(huán)境開發(fā)Java應用程序，則應該通過跨多個區(qū)域部署應用程序?qū)嵗齺砝萌蛟朴嬎慊A設施。這將使解決方案更具彈性、性能更高，并符合數(shù)據(jù)監(jiān)管要求。 ?

重要的是要記住，創(chuàng)建跨云區(qū)域運行和協(xié)調(diào)的微服務并不難。Spring生態(tài)系統(tǒng)提供了Spring Cloud框架，而像谷歌這樣的公共云提供商提供了簡化工作所需的基礎設施和服務。?

原文標題：??Run Java Microservices Across Multiple Cloud Regions With Spring Cloud??，作者：Denis Magda