自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

Prometheus 服務(wù)的自動發(fā)現(xiàn)使用

作者：陽明
運維 系統(tǒng)運維
前面我們了解了 Prometheus 中 Relabeling 重新標記的使用，本文我們將學(xué)習 Prometheus 中是如何使用服務(wù)發(fā)現(xiàn)來查找和抓取目標的。

[[426807]]

前面我們了解了 Prometheus 中 Relabeling 重新標記的使用，本文我們將學(xué)習 Prometheus 中是如何使用服務(wù)發(fā)現(xiàn)來查找和抓取目標的。我們知道在 Prometheus 配置文件中可以通過一個 static_configs 來配置靜態(tài)的抓取任務(wù)，但是在云環(huán)境下，特別是容器環(huán)境下，抓取目標地址是經(jīng)常變動的，所以用靜態(tài)的方式就不能滿足這些場景了。所以我們需要監(jiān)控系統(tǒng)能夠動態(tài)感知這個變化，不可能每次變動都去手動重新配置的，為了應(yīng)對復(fù)雜的動態(tài)環(huán)境，Prometheus 也提供了與基礎(chǔ)設(shè)施中的服務(wù)發(fā)現(xiàn)集成的功能。

Prometheus 已經(jīng)支持多種內(nèi)置的服務(wù)發(fā)現(xiàn)機制：

  • 發(fā)現(xiàn)云服務(wù)商的 VM 虛擬機
  • Kubernetes 上的自動發(fā)現(xiàn)
  • 通用的服務(wù)查找，例如 DNS、Consul、Zookeeper 或自定義發(fā)現(xiàn)機制

我們都可以通過 Prometheus 配置文件中的 scrape_config 部分進行配置，Prometheus 會不斷更新動態(tài)的抓取目標列表，自動停止抓取舊的實例，開始抓取新的實例，Prometheus 特別適合運行于 Kubernetes 集群下面，可以自動發(fā)現(xiàn)監(jiān)控目標。

此外大部分服務(wù)發(fā)現(xiàn)機制還會提供目標的一些元數(shù)據(jù)，通常都是帶有 __ 的前綴， 比如標簽、注解、服務(wù)名等等，可以在 relabeling 階段使用這些元數(shù)據(jù)來過濾修改目標，這些元信息標簽在重新標記階段后被刪除。

基于 Consul 的服務(wù)發(fā)現(xiàn)

Consul 是由 HashiCorp 開發(fā)的一個支持多數(shù)據(jù)中心的分布式服務(wù)發(fā)現(xiàn)和鍵值對存儲服務(wù)的開源軟件，是一個通用的服務(wù)發(fā)現(xiàn)和注冊中心工具，被大量應(yīng)用于基于微服務(wù)的軟件架構(gòu)當中。

接下來我們就來嘗試使用 Prometheus 基于 Consul 的服務(wù)發(fā)現(xiàn)來監(jiān)控前面的 3 個 demo 服務(wù)：

  1. 192.168.31.46:10000 
  2. 192.168.31.46:10001 
  3. 192.168.31.46:10002 

我們將 demo 服務(wù)注冊到 Consul，然后配置 Prometheus 從 Consul 中發(fā)現(xiàn)演示服務(wù)實例，并使用 Relabeling 操作來過濾調(diào)整目標標簽。關(guān)于 Consul 本身的使用可以查看官方文檔 https://learn.hashicorp.com/consul 了解更多。

安裝配置 Consul

在頁面 https://www.consul.io/downloads 下載符合自己系統(tǒng)的安裝文件，比如我們這里是 Linux 系統(tǒng)，使用下面命令下載安裝即可：

  1. ☸ ➜ wget https://releases.hashicorp.com/consul/1.10.2/consul_1.10.2_linux_amd64.zip 
  2. ☸ ➜ unzip consul_1.10.2_linux_amd64.zip 
  3. # 將 consul 二進制移動到 PATH 路徑下去 
  4. ☸ ➜ mv consul /usr/local/bin 
  5. ☸ ➜ consul version 
  6. Consul v1.10.2 
  7. Revision 3cb6eeedb 
  8. Protocol 2 spoken by default, understands 2 to 3 (agent will automatically use protocol >2 when speaking to compatible agents) 

當執(zhí)行 consul 命令后正常有命令提示，證明已經(jīng)安裝完成。接著創(chuàng)建一個用于注冊 demo 服務(wù)的 Consul 配置文件 demo-service.json：

  1. { 
  2.   "services": [ 
  3.     { 
  4.       "id": "demo1", 
  5.       "name": "demo", 
  6.       "address": "192.168.31.46", 
  7.       "port": 10000, 
  8.       "meta": { 
  9.         "env": "production" 
  10.       }, 
  11.       "checks": [ 
  12.         { 
  13.           "http": "http://192.168.31.46:10000/api/foo", 
  14.           "interval": "1s" 
  15.         } 
  16.       ] 
  17.     }, 
  18.     { 
  19.       "id": "demo2", 
  20.       "name": "demo", 
  21.       "address": "192.168.31.46", 
  22.       "port": 10001, 
  23.       "meta": { 
  24.         "env": "production" 
  25.       }, 
  26.       "checks": [ 
  27.         { 
  28.           "http": "http://192.168.31.46:10001/api/foo", 
  29.           "interval": "1s" 
  30.         } 
  31.       ] 
  32.     }, 
  33.     { 
  34.       "id": "demo3", 
  35.       "name": "demo", 
  36.       "address": "192.168.31.46", 
  37.       "port": 10002, 
  38.       "meta": { 
  39.         "env": "staging" 
  40.       }, 
  41.       "checks": [ 
  42.         { 
  43.           "http": "http://192.168.31.46:10002/api/foo", 
  44.           "interval": "1s" 
  45.         } 
  46.       ] 
  47.     } 
  48.   ] 
  49. } 

當然一般情況下我們也是在 Consul 中進行動態(tài)注冊服務(wù)，但是這里我們只是簡單演示 Prometheus 基于 Consul 的服務(wù)發(fā)現(xiàn)，這里只使用 Consul 配置文件靜態(tài)注冊服務(wù)即可。Consul 允許使用 JSON 中的 meta屬性將 key-value 元數(shù)據(jù)與每個注冊的服務(wù)實例相關(guān)聯(lián)，比如這里我們配置的 env 屬性和部署環(huán)境 production 或 staging 進行關(guān)聯(lián)，后面我們可以通過使用 Prometheus 里面的 Relabeling 操作提取該字段并將其映射到每個抓取實例的標簽中去。

為了查看更多的日志信息，我們可以在 dev 模式下運行 Consul，如下所示：

  1. ☸ ➜ consul agent -dev -config-file=demo-service.json -client 0.0.0.0 
  2. ==> Starting Consul agent... 
  3.            Version: '1.10.2' 
  4.            Node ID: 'a4a9418c-7f7d-a2da-c81e-94d3d37601aa' 
  5.          Node name: 'node2' 
  6.         Datacenter: 'dc1' (Segment: '<all>') 
  7.             Server: true (Bootstrap: false) 
  8.        Client Addr: [0.0.0.0] (HTTP: 8500, HTTPS: -1, gRPC: 8502, DNS: 8600) 
  9.       Cluster Addr: 127.0.0.1 (LAN: 8301, WAN: 8302) 
  10.            Encrypt: Gossip: false, TLS-Outgoing: false, TLS-Incoming: false, Auto-Encrypt-TLS: false 
  11.  
  12. ==> Log data will now stream in as it occurs: 
  13. ...... 

這里我們在啟動命令后面使用 -client 參數(shù)指定了客戶端綁定的 IP 地址，默認為 127.0.0.1。除了我們注冊的 3 個 demo 服務(wù)之外，Consul agent 還會將自己注冊為一個名為 consul 的服務(wù)，我們可以在瀏覽器中訪問 http://:8500 查看注冊的服務(wù)。

在 Consul UI 頁面中可以看到有 consul 和 demo 兩個 Service 服務(wù)。

配置 Consul 自動發(fā)現(xiàn)

上面我們通過 Consul 注冊了 3 個 demo 服務(wù)，接下來我們將配置 Prometheus 通過 Consul 來自動發(fā)現(xiàn) demo 服務(wù)。

在 Prometheus 的配置文件 prometheus.yml 文件中的 scrape_configs 部分添加如下所示的抓取配置：

  1. scrape_configs: 
  2.   - job_name: "consul-sd-demo" 
  3.     consul_sd_configs: 
  4.       - server: "localhost:8500" 
  5.     relabel_configs: 
  6.       - action: keep 
  7.         source_labels: [__meta_consul_service, __meta_consul_health] 
  8.         regex: demo;passing 
  9.       - action: labelmap 
  10.         regex: __meta_consul_service_metadata_(.*) 
  11.         replacement: consul_$1 

這里我們添加了一個名為 consul-sd-demo 的抓取任務(wù)，通過 consul_sd_configs 配置用于自動發(fā)現(xiàn)的 Consul 服務(wù)地址，然后使用 relabel_configs 進行了重新標記配置，首先只保留服務(wù)名稱為 demo，且健康狀態(tài)為 passing 的，否則也會抓取 Consul Agent 本身，而它自身是不提供 metrics 接口數(shù)據(jù)的，另外還使用 labelmap 進行了標簽映射，將所有 Consul 元標簽映射到 Prometheus 中以 consul_ 為前綴的標簽中。

配置完成后重新啟動 Prometheus，然后重新查看 Prometheus 頁面上的 targets 頁面，驗證上面的配置是否存在：

正常情況下是可以看到會有一個 consul-sd-demo 的任務(wù)，下面有 3 個自動發(fā)現(xiàn)的抓取目標。

我們將鼠標懸停在 Labels 標簽區(qū)域就可以看到目標任務(wù)在重新標記 Relabeling 之前的原始標簽。比如我們將查看第一個 demo 實例在 Relabel 之前包含如下所示的這些原始標簽：

通過查看網(wǎng)絡(luò)請求接口 http://<promtheus addr>/api/v1/targets?state=active 也可以獲取對應(yīng)的原始標簽數(shù)據(jù)： 

  1. { 
  2.   "discoveredLabels": { 
  3.     "__address__": "192.168.31.46:10000", 
  4.     "__meta_consul_address": "127.0.0.1", 
  5.     "__meta_consul_dc": "dc1", 
  6.     "__meta_consul_health": "passing", 
  7.     "__meta_consul_node": "node2", 
  8.     "__meta_consul_service": "demo", 
  9.     "__meta_consul_service_address": "192.168.31.46", 
  10.     "__meta_consul_service_id": "demo1", 
  11.     "__meta_consul_service_metadata_env": "production", 
  12.     "__meta_consul_service_port": "10000", 
  13.     "__meta_consul_tagged_address_lan": "127.0.0.1", 
  14.     "__meta_consul_tagged_address_lan_ipv4": "127.0.0.1", 
  15.     "__meta_consul_tagged_address_wan": "127.0.0.1", 
  16.     "__meta_consul_tagged_address_wan_ipv4": "127.0.0.1", 
  17.     "__meta_consul_tags": ",,", 
  18.     "__metrics_path__": "/metrics", 
  19.     "__scheme__": "http", 
  20.     "job": "consul-sd-demo" 
  21.   }, 
  22.   "labels": { 
  23.     "consul_env": "production", 
  24.     "instance": "192.168.31.46:10000", 
  25.     "job": "consul-sd-demo" 
  26.   }, 
  27.   "scrapePool": "consul-sd-demo", 
  28.   "scrapeUrl": "http://192.168.31.46:10000/metrics", 
  29.   "globalUrl": "http://192.168.31.46:10000/metrics", 
  30.   "lastError": "", 
  31.   "lastScrape": "2021-09-28T11:56:01.919216851+08:00", 
  32.   "lastScrapeDuration": 0.013357276, 
  33.   "health": "up" 
  34. } 

我們在 relabel_configs 中首先配置了一個 keep 操作，只保留原始標簽 __meta_consul_service 值為 demo，且 __meta_consul_health 為 passing 狀態(tài)的抓取任務(wù)。然后使用 labelmap 進行標簽映射，這里我們將匹配 __meta_consul_service_metadata_(.*) 所有標簽，這里只有 __meta_consul_service_metadata_env 這個原始標簽符合正則表達式，其中的 env 就是匹配的捕獲組，在 replacement 中用 $1 代替，替換成標簽 consul_$1，也就是 consul_env 這個標簽了，所以 Relabeling 過后就只剩下下面的幾個目標標簽了：

  1. instance: "192.168.31.46:10000" 
  2. job: "consul-sd-demo" 
  3. consul_env: "production" 

其中的 instance 標簽是在重新標記之后，自動從 __address__ 轉(zhuǎn)變而來的。由于沒有重新修改 __metrics_path__ 和 __scheme__ 標簽，所以默認的抓取目標就是通過 HTTP 端點 /metrics 進行抓取。

現(xiàn)在如果我們將 demo1 這個服務(wù)殺掉，則在 Consul 中注冊的服務(wù)就會出現(xiàn)一個不健康的實例：

當然此時 Prometheus 中就只剩下兩個正常 demo 服務(wù)的實例了：

當服務(wù)正常后就又可以自動發(fā)現(xiàn)對應(yīng)的服務(wù)了。這樣我們就完成了 Prometheus 基于 Consul 的一個簡單的自動發(fā)現(xiàn)配置。

基于文件的服務(wù)發(fā)現(xiàn)

除了基于 Consul 的服務(wù)發(fā)現(xiàn)之外，Prometheus 也允許我們進行自定義的發(fā)現(xiàn)集成，可以通過 watch 一組本地文件來獲取抓取目標以及標簽信息，也就是我們常說的基于文件的服務(wù)發(fā)現(xiàn)方式。

基于文件的服務(wù)發(fā)現(xiàn)提供了一種更通用的方式來配置靜態(tài)目標，并作為一個接口插入自定義服務(wù)發(fā)現(xiàn)機制。

它讀取一組包含零個或多個 列表的文件，對所有定義的文件的變更通過磁盤監(jiān)視被檢測到并立即應(yīng)用，文件可以以 YAML 或 JSON 格式提供。文件必須包含一個靜態(tài)配置的列表:

  1. JSON json [ { "targets": [ "<host>", ... ], "labels": { "<labelname>": "<labelvalue>", ... } }, ... ] 
  2.  
  3. YAML yaml - targets: [ - '<host>' ] labels: [ <labelname>: <labelvalue> ... ] 

文件內(nèi)容也會在指定的刷新間隔時間內(nèi)定期重新讀取。

  1. # Patterns for files from which target groups are extracted. 
  2. files: 
  3.   [ - <filename_pattern> ... ] 
  4.  
  5. # Refresh interval to re-read the files. 
  6. [ refresh_interval: <duration> | default = 5m ] 

其中 <filename*pattern> 可以是一個以 .json、.yml 或 .yaml 結(jié)尾的路徑，最后一個路徑段可以包含一個匹配任何字符序列的 *，例如：my/path/tg_*.json。

創(chuàng)建文件

接下來我們來創(chuàng)建一個用于服務(wù)發(fā)現(xiàn)的目標文件，在與 prometheus.yml 文件相同目錄下面創(chuàng)建一個名為 targets.yml 的文件，內(nèi)容如下所示：

  1. - targets: 
  2.     - "192.168.31.46:10000" 
  3.     - "192.168.31.46:10001" 
  4.   labels: 
  5.     env: production 
  6. - targets: 
  7.     - "192.168.31.46:10002" 
  8.   labels: 
  9.     env: staging 

該文件中我們列舉了 3 個 demo 服務(wù)實例，給前兩個實例添加上了 env=production 的標簽，后面一個加上了 env=staging 的標簽，當然該文件也可以使用 JSON 格式進行配置：

  1. [ 
  2.   { 
  3.     "targets": [ "<host>", ... ], 
  4.     "labels": { 
  5.       "<labelname>": "<labelvalue>", ... 
  6.     } 
  7.   }, 
  8.   ... 
  9. ] 

如果是 YAML 文件則格式為：

  1. - targets: 
  2.   [ - '<host>' ] 
  3.   labels: 
  4.     [ <labelname>: <labelvalue> ... ] 

配置文件服務(wù)發(fā)現(xiàn)

用于發(fā)現(xiàn)的目標文件創(chuàng)建完成后，要讓 Prometheus 能夠從上面的 targets.yml 文件中自動讀取抓取目標，需要在 prometheus.yml 配置文件中的 scrape_configs 部分添加如下所示的抓取配置：

  1. - job_name: "file-sd-demo" 
  2.   file_sd_configs: 
  3.     - files: 
  4.         - "targets.yml" 

重新 reload 或者重啟下 Prometheus 讓其重新讀取配置文件信息，然后同樣前往 Prometheus UI 的 targets 頁面下面查看是否有上面定義的抓取目標。

然后我們可以嘗試改變 targets.yml 的內(nèi)容，比如為第三個實例增加一個 role: sd 的標簽，不用重新加載 Prometheus 配置，Prometheus 將 watch 該文件，并自動接收任何變化。

注意：當在生產(chǎn)環(huán)境 Prometheus 服務(wù)器中改變 file_sd 目標文件時，需要確保改變是原子的，以避免重新加載出現(xiàn)錯誤，最好的方法是在一個單獨的位置創(chuàng)建更新的文件，然后將其重命名為目標文件名(使用 mv 命令或 rename() 系統(tǒng)調(diào)用)。

這樣我們就完成了基于文件的通用服務(wù)發(fā)現(xiàn)機制，可以讓我們動態(tài)地改變 Prometheus 的監(jiān)控目標，而不需要重新啟動或重新加載 Prometheus 服務(wù)。當然除了基于 Consul 和文件的服務(wù)發(fā)現(xiàn)之外，更多的時候我們會在 Kubernetes 環(huán)境下面使用 Prometheus，由于這部分內(nèi)容比較獨立，后續(xù)我們再進行單獨講解(其實前面已經(jīng)詳細介紹過了)。

 

責任編輯：姜華 來源： k8s技術(shù)圈
prometheus監(jiān)控遠端服務(wù)
相關(guān)推薦

2021-07-07 05:46:46

運維監(jiān)控Prometheus

2022-04-26 05:36:42

服務(wù)治理模式

2020-10-14 15:37:04

Goconsul接口

2023-09-06 18:16:14

自動發(fā)現(xiàn)Zabbix網(wǎng)絡(luò)

2021-07-26 05:33:59

自動化領(lǐng)導(dǎo)CIO

2016-11-09 08:35:24

zabbixmongo數(shù)據(jù)庫

2021-09-28 07:48:54

prometheus監(jiān)控遠端服務(wù)

2022-08-14 07:04:44

微服務(wù)架構(gòu)設(shè)計模式

2022-05-18 08:32:05

服務(wù)監(jiān)控Prometheus開源

2021-09-17 15:56:14

數(shù)據(jù)平臺自動化

2023-06-02 08:33:43

微服務(wù)架構(gòu)服務(wù)注冊

2023-04-03 07:17:34

CP集群AP

2023-09-07 23:25:34

微服務(wù)服務(wù)發(fā)現(xiàn)

2015-04-28 15:14:53

云平臺發(fā)現(xiàn)服務(wù)ZooKeeper

2014-05-21 14:37:27

Zabbix監(jiān)控MySQL

2015-06-03 10:01:56

云平臺發(fā)現(xiàn)服務(wù)ZooKeeper

2021-04-20 17:20:59

SpringColud EurekaNetflix開發(fā)

2020-04-15 22:18:55

架構(gòu)負載均衡分布式

2015-12-25 11:00:52

Zookeeper的Python

2021-09-07 09:18:18

Kubernetes負載均衡服務(wù)發(fā)現(xiàn)
點贊
收藏

51CTO技術(shù)棧公眾號