高效Linux用戶需要了解的命令行技能
最近在Quora上看到一個問答題目，關(guān)于在高效率Linux用戶節(jié)省時間Tips。將該題目的回答進(jìn)行學(xué)習(xí)總結(jié)，加上自己的一些經(jīng)驗(yàn)，記錄如下，方便自己和大家參考。下面介紹的都是一些命令行工具，這些工具在幾位回答者的日常工作中都很有用。
對于任何不了解的命令，請使用“man <COMMANDNAME>“查看，或者使用Google。
有些命令需要先用 yum, apt-get install 命令安裝。
一、基本命令
1、了解基本的bash：通讀整個bash man page.
2、學(xué)習(xí)VIM：在Linux系統(tǒng)上，雖然你有Emacs和Eclipse，但是VIM仍然是無出其右的利器。
3、了解SSH，基本的無密碼驗(yàn)證方式。例如通過ssh-agent, ssh-add等。 《靈犀志趣》平時都使用如下腳本完成無密碼驗(yàn)證，省事省力。
執(zhí)行方式 sh nopasswd USER REMOTE_HOST
執(zhí)行此腳本前，請確認(rèn)：
- 本機(jī)上已有 id_dsa.pub ,若無。 使用命令 ssh-keygen -t dsa 獲得。
- 遠(yuǎn)程機(jī)上登錄用戶家目錄下，已經(jīng)有 .ssh 文件夾，若無創(chuàng)建之。
- $ cat nopasswd
- #!/bin/sh
- scp ~/.ssh/id_dsa.pub $1@$2:~/
- ssh $1@$2 " touch ~/.ssh/authorized_keys ; cat ~/id_dsa.pub >> ~/.ssh/authorized_keys; chmod 644 ~/.ssh/authorized_keys; exit"
4、熟悉Bash中常用的任務(wù)管理命令：&,Ctrl-Z,Ctrl-C,jobs,fg,bg,kill 等。
5、基本的文件管理命令：ls, ls-l, less, head, tail, tail -f, ln, ln -s, chmod, chown, du, du -sk *, df, mount
6、基本的網(wǎng)絡(luò)管理命令：ipconfig, ifconfig, dig
7、熟悉正則表達(dá)式，以及 grep，egrep用到的選項(xiàng)：-o, -A, -B
8、軟件安裝命令了解：apt-get 和 yum
cat -n：可以幫助顯示行號。
二、一些表達(dá)式
!!：再次執(zhí)行上一條命令
!$：上一條命令的最后一個單詞
{a..b}：按照從a到b順序的一個數(shù)字列表
{a,b,c}：三個詞a,b,c. 可以這樣使用 touch /tmp/{foo,bar,baz}
{$1-$9}：執(zhí)行shell腳本時的命令行參數(shù)
$0：正在執(zhí)行的命令名稱
$#：當(dāng)前啟動的命令中傳入的參數(shù)個數(shù)
$?：上一條命令的執(zhí)行返回值。
$$：該shell的進(jìn)程號。
$*：從$1開始，啟動該shell腳本的所有參數(shù)。
三、日常使用命令
Ctrl-R：在bash中， Ctrl-R用于在歷史命令中搜索
Ctrl-W, Ctrl-U, Alt-BackSpace：bash中，Ctrl-W刪除最后一個詞，Ctrl-U刪除最后一行, Alt-BackSpace 刪除光標(biāo)前的一個詞 man readline 中包含了大量bash中的默認(rèn)熱鍵綁定.
cd -：返回前一個工作路徑
xargs：非常強(qiáng)大的命令。如果你還不確定是否能正確的執(zhí)行任務(wù)，可以先用xargs echo查看。下面是一個用該功能的例子：
- find . -name \*.py | xargs grep some_function
- cat hosts | xargs -l {} ssh root@{} hostname
parallel：一個更加強(qiáng)大的命令. 可以實(shí)現(xiàn)并行執(zhí)行任務(wù),并可以分割輸入文件, 指定多個節(jié)點(diǎn)同時運(yùn)行命令等功能.詳細(xì)的功能可以參考這個鏈接.
pstree -p：打用進(jìn)程樹的得力工具
pgrep,pkill：使用名字查找進(jìn)程，或者直接向指定名字的進(jìn)程發(fā)送信號。
了解用戶能發(fā)送給進(jìn)程的一些信號。比如 kill -STOP [pid] ，讓pid進(jìn)程掛起。
nohup，disown,screen, tmux：當(dāng)你需要將進(jìn)程永遠(yuǎn)處在后臺運(yùn)行是，這兩個命令很有用。
lsof, netstat -lntp：查詢當(dāng)前什么進(jìn)程在監(jiān)聽什么端口。
set：在bash腳本中， 使用 set -x 獲得debug輸出，使用 set -e 獲得錯誤輸出。
;：分號用于開啟一個子shell并運(yùn)行至結(jié)束后關(guān)閉。 例如：
- #在當(dāng)前路徑下執(zhí)行一些命令
- (cd /some/other/dir; other-command)
- # 工作路徑仍然是當(dāng)前目錄
了解shell中的多種參數(shù)表達(dá)式：${name:?error message}
檢查某個變量是否存在，若不存在輸出 error message。
${var%suffix}, ${var#prefix}：輸出var變量除前綴或者后綴外的部分。如下面的代碼輸出為foo.txt。
- var = foo.pdf
- echo ${var%pdf}.txt
<,>：輸入輸出重定向操作。
some_command > logfile 2>&1：將 some_command 運(yùn)行過程中的標(biāo)準(zhǔn)輸出和標(biāo)準(zhǔn)錯誤輸出都輸出到文件logfile中。
man ascii：獲得一個好用的ASCII表格，包含10進(jìn)制和16進(jìn)制的值。
screen,dtach：在遠(yuǎn)程ssh繪畫中，使用這兩個命令可以保存你的會話，避免因?yàn)榫W(wǎng)絡(luò)問題導(dǎo)致中斷。
curl, curl -l, wget：在web頁面調(diào)試中，這幾個命令能幫你下載網(wǎng)頁代碼，很有用。
lynx -dump -stdin：將HTML轉(zhuǎn)換為文本
xmlstarlet：需要處理XML時，這個命令很有用。
ssh -L, ssh -D：需要利用遠(yuǎn)程服務(wù)器訪問網(wǎng)頁時，這命令可以幫助你在遠(yuǎn)程服務(wù)器和你的機(jī)器之間建立ssh 隧道。
ssh連接優(yōu)化：如下配置能幫你避免鏈接丟失，不需要每次都輸入yes確認(rèn)和遠(yuǎn)程服務(wù)器的鏈接，以及在鏈接中啟用壓縮。建議將它放到.ssh/config中。
- TCPKeepAlive=yes
- ServerAliveInterval=15
- ServerAliveCountMax=6
- StrictHostKeyChecking=no
- Compression=yes
- ForwardAgent=yes
在正輸入的命令前加#：命令已經(jīng)輸入一半，忽然間改主意想少收運(yùn)行時，可以使用 Alt-# 在命令前加‘#’，將整個命令變成注釋。這樣你稍后就能在命令歷史中找到該命令了。
cron：可以幫助你制定一些定時執(zhí)行的計(jì)劃任務(wù)。
Ctrl-S Ctrl-C：將一不小心需要大量輸出文本時，依次輸入這兩個操作，比單純的頻繁按Ctrl-C能更快讓程序終止。
四、數(shù)據(jù)處理
sort,uniq, uniq -u, uniq -d：了解這些排序命令。
cut,paste, join：了解這些文本文件的維護(hù)工具。很多人都在使用cut后，忘記join。
使用sort/uniq進(jìn)行集合的交、并、補(bǔ)運(yùn)算=
假設(shè)a和b是兩個文本文件，其中的行都是唯一的。
如下幾個命令可以快速的實(shí)現(xiàn)一些集合操作。
- cat a b | sort | uniq > c # c is a union b
- cat a b | sort | uniq -d > c # c is a intersect b
- cat a b b | sort | uniq -u > c # c is set difference a - b
使用LC_ALL=C：Linux中有關(guān)locale的設(shè)置會影響大量的命令行工具，其中包括排序工具。多數(shù)安裝的Linux系統(tǒng)都將LANG或者其他的locale默認(rèn)設(shè)置成US English。但這可能會導(dǎo)致排序及其他命令慢上好幾倍。因此export LCALL=C能避免使用i18n形式處理數(shù)據(jù)，帶來性能提升。
awk,sed：這兩個工具能實(shí)現(xiàn)復(fù)雜的數(shù)據(jù)替換和修改。
例如，下面的命令實(shí)現(xiàn)對文本文件中低三列的數(shù)據(jù)求總和。
使用shell完成此運(yùn)算比用Python快3倍。
- awk '{ x += $3 } END { print x }'
shuf：該命令可以從將一個文件中的行混洗，或者從中隨機(jī)選出一些行。
sort：了解sort的常用選項(xiàng)(-t，-k， -s）如何工作。 注意-k1,1只會排序第一列，而-k1會根據(jù)整個行排序。 -s能實(shí)現(xiàn)穩(wěn)定排序。
例如，先使用第二個域排序，再按照域一排序，可以用這段命令實(shí)現(xiàn)：
cat INPUT_FILE | sort -k1,1 | sort -s -k2,2（制表符的輸入）；
在bash的命令行中，如若需要輸入制表符，可以使用 Ctrl-V <tab> 或者 $’\t’ 實(shí)現(xiàn)。
hd,bvi：對于二進(jìn)制文件，這兩個命令分別實(shí)現(xiàn)16進(jìn)制抽取，二進(jìn)制編輯操作。
strings,grep：可以幫助在二進(jìn)制文件中尋找文本。
iconv,uconv：可以幫助轉(zhuǎn)換文本編碼
split,csplit：分別可以實(shí)現(xiàn)將文件按照大小分割，以及按照特定的模式分割。
五、系統(tǒng)調(diào)試
iostat,netstat,top,atop,htop,dstat：可以幫助了解硬盤，CPU，內(nèi)存，網(wǎng)絡(luò)的狀態(tài)。這能幫你對系統(tǒng)正在發(fā)生的情況有個第一認(rèn)識。
free,vmstat：如果想了解內(nèi)存的狀態(tài)，這兩個命令很重要。其中cached是Linux內(nèi)核中文件緩存的大小。
kill -3 <pid>：在調(diào)試Java程序時，使用此命令，可以在stderr/logs中找到完整的stack trace，堆信息(包含垃圾收集的細(xì)節(jié))。
mtr,traceroute：能夠幫忙找到網(wǎng)絡(luò)問題，前者比traceroute更好用。
iftop,nethogs：這兩個命令可以辦剛找出哪個端口或者進(jìn)程占用了多少網(wǎng)絡(luò)帶寬。
ab,siege：這個Apache自帶的工具能幫助快速檢查web服務(wù)器的性能。
wireshark,tshark：是進(jìn)行更高級的網(wǎng)絡(luò)調(diào)試的得力工具。
strace,ltrace：這兩個命令能幫你在一無所知的情況下，對程序運(yùn)行失敗，假死，崩潰等問題帶來一些線索。
另外，他們還能幫忙發(fā)現(xiàn)一些性能問題。比如 -c選項(xiàng)可以做profiling；-p選項(xiàng)可以掛到某個指定的進(jìn)程上。
ldd：檢查共享庫的情況
gdb：了解如何利用GDB連接到一個正在運(yùn)行的進(jìn)程，并且得到其stack trace。
/proc/：在做現(xiàn)場調(diào)試的時候很有用。比如 /proc/cpuinfo, /proc/XXX/cwd, /proc/XXX/exe, /proc/XXX/fd/, /proc/XXX/smaps
sar：在需要判斷為何過去某個時間系統(tǒng)會出錯時，這個命令能顯示CPU，內(nèi)存和網(wǎng)絡(luò)的歷史情況。
stap, perf：當(dāng)需要更深的分析系統(tǒng)，以及性能情況時，這兩個工具很有用。
dmesg：當(dāng)系統(tǒng)出現(xiàn)一些很反常的現(xiàn)象時，比如可能是硬件或驅(qū)動問題時，這個很管用。
六、參考
http://unixhelp.ed.ac.uk/scrpt/scrpt2.2.2.html
http://www.quora.com/Linux/What-are-some-time-saving-tips-that-every-Linux-user-should-know
七、致謝
- 楊青：增加 Alt-BackSpace
- dikar: 修改 string -> strings
- zsc: 增加了 GNU parallel命令
- RobberPhex: 修改 翻唱–>反常
