還在用 postman?手把手教你用 curl 提高工作效率
curl 是 Linux 系統(tǒng)上一款網(wǎng)絡(luò)工具,它的首字母 c 代表的是 client,表示它是客戶端程序。通過 URL 方式,可以實現(xiàn)客戶端與服務(wù)器之間傳遞數(shù)據(jù)。
它的功能非常強大,支持大部分常見的網(wǎng)絡(luò)協(xié)議:HTTP、HTTPS、FTP。功能特性也很豐富,支持 http、https、cookie、認證、代理、速率限制、斷點續(xù)傳,提供非常多的選項,熟練運用的話,基本可以取代 postman 這類圖形工具。
與liburl關(guān)系
其實 curl 項目包括兩部分:curl 和 libcurl,關(guān)系大概如圖所示:
- curl 是命令行工具,底層調(diào)用的是 libcurl 庫。
- libcurl 是以庫形式存在,提供各種功能 C 接口,供其他程序調(diào)用,包括 curl 命令。
安裝使用
和 wget 不同,并非所有的 Linux 發(fā)行版中都安裝了 curl,你可以使用包管理器自行安裝 :
- # ubuntu or debian
- $ apt install curl
- # centos or redhat
- $ yum install curl
如果需要使用最新版本,或自定義安裝,可以通過源碼編譯方式進行安裝 :
- $ wget https://curl.se/download/curl-7.79.1.tar.gz
- $ ./configure
- $ make
- $ make install
通過 curl --version 可以驗證命令是否安裝準確。
上手操作
我們先來看下 curl 最簡單的使用方式,沒有任何選項,將服務(wù)器響應(yīng)的內(nèi)容輸出到屏幕上。
- $ curl http://linuxblogs.cn
有時我們不想顯示錯誤和進度信息,可以使用 -s 選項開啟靜默模式。
- $ curl -s http://linuxblogs.cn
- # 完全不輸出任何內(nèi)容,可以通過"echo $?"來判斷命令成功或失敗
- $ curl -s -o /dev/null http://linuxblogs.cn
通過 -v 選項可以非常詳細地顯示 curl 的整個工作過程,相當于打開了調(diào)試模式。
請求http
接著介紹我們平時最常用的,和 http 數(shù)據(jù)傳輸相關(guān)的操作。
1. 發(fā)送 GET 請求
curl 命令默認發(fā)送的是 GET 請求,響應(yīng)內(nèi)容直接打印在了屏幕上。
- $ curl http://www.baidu.comv
使用 -i 選項,可以打印服務(wù)器響應(yīng)的 HTTP 頭部信息。
- # 先打印請求頭,空一行,再打印網(wǎng)頁內(nèi)容
- $ curl -i http://www.baidu.com
如果只想測試該鏈接或資源是否正常,使用 -I 選項,可以只打印響應(yīng)頭信息,注意此時發(fā)送的是 HEAD 請求。
2. 發(fā)送 POST 請求
默認情況下,curl 發(fā)送的是 GET 請求,使用 -X 參數(shù)可以指定發(fā)送 POST 請求,使用 -d 參數(shù)可以指定請求數(shù)據(jù)。
- # 無數(shù)據(jù)的 POST 請求
- $ curl -x POST http://www.domain.com
- # 發(fā)送 Form 數(shù)據(jù)
- $ curl -d 'user=foo&pass=123' -X POST http://google.com/login
- # 等價于上邊命令
- $ curl -d 'user=foo' -d 'pass=123' http://google.com/login
使用 -d 選項后,默認就是 POST 請求,可以省略 -X 選項,另外,使用多個 -d 選項,可以使命令行顯得更清晰。
下邊命令可以讀取本地文件,作為數(shù)據(jù)向服務(wù)器發(fā)送。
- $ curl -d '@data.txt' http://google.com/login
3. 發(fā)送 Json 格式數(shù)據(jù)請求
curl 可以發(fā)送 json 格式的請求,需要設(shè)置 Content-Type 為 application/json。
- $ curl -d '{"user":"foo","pass":"123"}' \
- -H 'Content-Type: application/json' \
- http://google.com/login
-H 選項指定 Content-Type 請求頭為 json 格式,這樣 web 服務(wù)器就清楚數(shù)據(jù)類型,知道該怎么處理了。
4. 構(gòu)造查詢字符串參數(shù)
通過 -G 選項,可以構(gòu)造查詢字符串參數(shù)。
- curl -G -d 'q=chopin' -d 'count=20' http://google.com/search
- # 等價于下邊命令
- curl 'http://google.com/search?q=chopin&count=20'
上述命令會發(fā)送 GET 請求,如果忽略 -G 選項,會發(fā)出一個 POST 請求。
5. 添加請求頭
通過 -H 選項,可以為請求添加標頭。
- $ curl -H 'Accept-Language: en-US' http://google.com
- # 可以指定多個-H選項
- $ curl -H 'Accept-Language: en-US' -H 'Secret-Message: xyzzy' http://google.com
6. 設(shè)置重定向
默認 curl 不會跟隨重定向,指定 -L 選項會讓請求跟隨服務(wù)器重定向。
- $ curl -L http://api.twitter.com/hello
7. 設(shè)置靜默輸出
指定 -s 選項將不輸出錯誤和進度信息,如果想讓 curl 不產(chǎn)生任何輸出,使用下面的命令。
- $ curl -s -o /dev/null http://google.com
8. 詳細的調(diào)試信息
指定 -v 選項,會輸出通信的整個過程,一般用于調(diào)試。
- $ curl -v http://www.baidu.com
--trace 選項也可以用來調(diào)試,還可以輸出更詳細的內(nèi)容,比如原始的二進制數(shù)據(jù)。
- $ curl --trace - http://www.baidu.com
9. 模擬瀏覽器訪問
-A 選項可以指定客戶端的用戶代理信息,即設(shè)置 UserAgent 請求頭。
- $ curl -A 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36' http://google.com
上面命令將 UserAgent 設(shè)置成了 Chrome 瀏覽器的標識。其實也可以直接通過 -H 選項來指定。
- $ curl -H "User-Agent: go/1.15" http://google.com
10. 偽造 refer 解決防盜鏈
有時候,引用或下載某網(wǎng)站圖片等資源時,會有防盜鏈的限制,可以通過設(shè)置 refer 請求頭為站內(nèi)域名來解決。
- # -e 參數(shù)來設(shè)置 HTTP 請求頭 Referer
- $ curl -e 'http://linuxblogs.cn' http://linuxblogs.cn/girl.jpg
- # -H 參數(shù)也可以直接設(shè)置請求頭 Referer
- $ curl -H "Referer: http://linuxblogs.cn" http://linuxblogs.cn/girl.jpg
11. 設(shè)置 Cookie
-b 選項用來向服務(wù)器發(fā)送 Cookie,該命令會生成一個請求頭 Cookie: foo=bar,向服務(wù)器發(fā)送一個 Cookie。
- $ curl -b 'foo=bar' http://google.com
- # 發(fā)送兩個cookie
- $ curl -b 'foo=bar;name=mike' http://google.com
也可以通過讀取本地 cookie 文件,將其發(fā)送給服務(wù)器。-c 選項可以將服務(wù)器響應(yīng)的 Cookie 寫入一個文件。
- $ curl -b cookie.txt http://google.com
- # 將cookie寫入文件
- $ curl -c cookie.txt http://baidu.com
文件操作
1. 下載文件資源
使用 -o 或 -O 選項,可以將網(wǎng)絡(luò)資源保存到文件中。
- # 等效于 wget
- $ curl -o chopin.html http://linuxblogs.cn
- # -O 選項,可以將 URL 的最后部分當做文件名
- $ curl -O http://linuxblogs.cn/bar.html
如果想顯示下載進度條,可以使用 -# 選項。
2. 循環(huán)下載文件
有時候要下載的多個文件,只有名稱后綴不同,可以這樣來下載。
- $ curl -O http://linuxblogs.cn/dog[1-5].jpg
3. 壓縮下載
使用 --compressed 選項,允許你要求 HTTP 和 HTTPS 服務(wù)器提供數(shù)據(jù)的壓縮版本,這在帶寬有限的情況下,可以幫你節(jié)約不少時間。
- curl --compressed http://linuxblogs.cn/foo.txt
4. 限制下載速度
如果帶寬不是很充足,多人共享帶寬,curl 支持限速功能。
- $ curl http://linuxblogs.cn --limit-rate 200K
另外一個用法,就是模擬測試慢網(wǎng)速的場景,用于做開發(fā)測試。
5. 分塊下載
有時文件會很大,我們采用可以分段的方式進行下載,最后合并為完成的文件。
- $ curl -r 0-100 -o part1.mp4 http://linuxblogs.cn/cang.mp4
- $ curl -r 100-200 -o part2.mp4 http://linuxblogs.cn/cang.mp4
- $ curl -r 200- -o part3.mp4 http://linuxblogs.cn/cang.mp4
- $ cat part*.mp4 > cang.mp4
6. 斷點續(xù)傳
有時候網(wǎng)絡(luò)不太好,通過 curl 下載大文件時,可能發(fā)生中斷的現(xiàn)象。使用 -C 選項可以實現(xiàn)斷點續(xù)傳,非常實用。
- $ curl -C -O http://linuxblogs.cn/girl.mp4
在弱網(wǎng)環(huán)境下,加上 --retry N 選項,可以在失敗的時候多次重試,對下載操作更友好一些。
7. 通過 FTP 下載文件
支持下載 FTP 文件,curl 提供兩種下載的語法。
- $ curl -O -u user:pass ftp://linuxblogs.cn/dog.jpg
- $ curl -O ftp://user:pass@linuxblogs.cn/dog.jpg
8. 上傳文件
平時開發(fā)時,可以通過 curl 實現(xiàn)文件的上傳功能,非常高效。
- # 命令會給 HTTP 加上請求頭 Content-Type: multipart/form-datas
- $ curl -F 'file=@蒼老師.mp4' http://linuxblogs.cn/upload
-F 選項還可以指定 MIME 類型和文件名
- $ curl -F 'file=@蒼老師.mp4;type=image/png' http://linuxblogs.cn/upload
- # 還可以支持修改文件名,而不是默認的
- $ curl -F 'file=@蒼老師.mp4;file=天空.mp4' http://linuxblogs.cn/upload
https相關(guān)
目前大多數(shù)站點采用的都是 https,這里給出幾個常見的用法。
1. 忽略證書驗證
有時訪問 https 站點時,服務(wù)器證書過期或是自簽證書,使用 curl 訪問時會報錯,可以指定 -k 選項來忽略證書有效性驗證。
- $ curl -k https://linuxblogs.cn
2. 指定客戶端證書
有時需要雙向驗證,服務(wù)器也要驗證客戶端,用來確定客戶端的真實身份??梢允褂?--cert 和 --key 指定客戶端證書。
- $ curl --cert client.pem --key key.pem https://linuxblogs.cn
3. 使用證書鏈驗證服務(wù)器證書
在平時開發(fā)時,證書一般是自簽的,可以通過指定 CA 證書鏈進行證書的驗證。
- $ curl --cacert caChain.pem https://linuxblogs.cn
高級功能
(一)設(shè)置代理
1. 命令行
通過命令行,可以很簡單的實現(xiàn) curl 代理功能
- $ curl -x "http://user:pwd@127.0.0.1:1234" "http://linuxblogs.cn"
2. 使用環(huán)境變量
通過設(shè)置環(huán)境的方式也很簡單
- $ export http_proxy="http://user:pwd@127.0.0.1:1234"
3. 使用配置文件
使用配置文件 ~/.curlrc,修改內(nèi)容如下:
- proxy="http://user:pwd@127.0.0.1:1234"
(二)格式化
在平時使用 curl 時,可能希望能夠獲取更多信息,如請求耗時、訪問時延、請求大小等信息。比如在生產(chǎn)環(huán)境要測試某個接口,可以通過如下的方式,獲取你想要的數(shù)據(jù),非常方便。
- # 只獲取http狀態(tài)碼
- $ curl -s -w '%{http_code}' https://baidu.com -o /dev/null
不過癮?直接上大招,首先需要準備格式模板
有了上邊的格式模板,我們就可以輕松獲取非常漂亮的統(tǒng)計數(shù)據(jù)
我們可以很清晰地看到,域名解析、連接建立時間、下載速度、狀態(tài)碼等數(shù)據(jù)。當然 curl 支持的關(guān)鍵字段還有很多,更多的字段可以參考 man 手冊。