練習(xí)使用 Linux 的 grep 命令
來學(xué)習(xí)下搜索文件中內(nèi)容的基本操作,然后下載我們的備忘錄作為 grep 和正則表達式的快速參考指南。
grep
(全局正則表達式打印)是由 Ken Thompson 早在 1974 年開發(fā)的基本 Unix 命令之一。在計算領(lǐng)域,它無處不在,通常被用作為動詞(“搜索一個文件中的內(nèi)容”)。如果你的談話對象有極客精神,那么它也能在真實生活場景中使用。(例如,“我會 grep
我的內(nèi)存條來回想起那些信息。”)簡而言之,grep
是一種用特定的字符模式來搜索文件中內(nèi)容的方式。如果你感覺這聽起來像是文字處理器或文本編輯器的現(xiàn)代 Find 功能,那么你就已經(jīng)在計算行業(yè)感受到了 grep
的影響。
grep
絕不是被現(xiàn)代技術(shù)拋棄的遠古命令,它的強大體現(xiàn)在兩個方面:
grep
可以在終端操作數(shù)據(jù)流,因此你可以把它嵌入到復(fù)雜的處理中。你不僅可以在一個文本文件中查找文字,還可以提取文字后把它發(fā)給另一個命令。grep
使用正則表達式來提供靈活的搜索能力。
雖然需要一些練習(xí),但學(xué)習(xí) grep
命令還是很容易的。本文會介紹一些我認為 grep
最有用的功能。
- 下載我們免費的 grep 備忘錄
安裝 grep
Linux 默認安裝了 grep
。
MacOS 默認安裝了 BSD 版的 grep
。BSD 版的 grep
跟 GNU 版有一點不一樣,因此如果你想完全參照本文,那么請使用 Homebrew 或 MacPorts 安裝 GNU 版的 grep
。
基礎(chǔ)的 grep
所有版本的 grep
基礎(chǔ)語法都一樣。入?yún)⑹瞧ヅ淠J胶湍阈枰阉鞯奈募K鼤哑ヅ涞降拿恳恍休敵龅侥愕慕K端。
$ grep gnu gpl-3.0.txt
along with this program. If not, see <http://www.gnu.org/licenses/>.
<http://www.gnu.org/licenses/>.
<http://www.gnu.org/philosophy/why-not-lgpl.html>.
grep
命令默認大小寫敏感,因此 “gnu”、“GNU”、“Gnu” 是三個不同的值。你可以使用 --ignore-case
選項來忽略大小寫。
$ grep --ignore-case gnu gpl-3.0.txt
GNU GENERAL PUBLIC LICENSE
The GNU General Public License is a free, copyleft license for
the GNU General Public License is intended to guarantee your freedom to
GNU General Public License for most of our software; it applies also to
[...16 more results...]
<http://www.gnu.org/licenses/>.
<http://www.gnu.org/philosophy/why-not-lgpl.html>.
你也可以通過 --invert-match
選項來輸出所有沒有匹配到的行:
$ grep --invert-match \
--ignore-case gnu gpl-3.0.txt
Version 3, 29 June 2007
Copyright (C) 2007 Free Software Foundation, Inc. <http://fsf.org/>
[...648 lines...]
Public License instead of this License. But first, please read
管道
能搜索文件中的文本內(nèi)容是很有用的,但是 POSIX 的真正強大之處是可以通過“管道”來連接多條命令。我發(fā)現(xiàn)我使用 grep
最好的方式是把它與其他工具如 cut
、tr
或 curl 聯(lián)合使用。
假如現(xiàn)在有一個文件,文件中每一行是我想要下載的技術(shù)論文。我可以打開文件手動點擊每一個鏈接,然后點擊火狐瀏覽器的選項把每一個文件保存到我的硬盤,但是需要點擊多次且耗費很長時間。而我還可以搜索文件中的鏈接,用 --only-matching
選項只打印出匹配到的字符串。
$ grep --only-matching http\:\/\/.*pdf example.html
http://example.com/linux_whitepaper.pdf
http://example.com/bsd_whitepaper.pdf
http://example.com/important_security_topic.pdf
輸出是一系列的 URL,每行一個。而這與 Bash 處理數(shù)據(jù)的方式完美契合,因此我不再把 URL 打印到終端,而是把它們通過管道傳給 curl
:
$ grep --only-matching http\:\/\/.*pdf \
example.html | curl --remote-name
這條命令可以下載每一個文件,然后以各自的遠程文件名命名保存在我的硬盤上。
這個例子中我的搜索模式可能很晦澀。那是因為它用的是正則表達式,一種在大量文本中進行模糊搜索時非常有用的”通配符“語言。
正則表達式
沒有人會覺得正則表達式(簡稱 “regex”)很簡單。然而,我發(fā)現(xiàn)它的名聲往往比它應(yīng)得的要差。誠然,很多人在使用正則表達式時“過于炫耀聰明”,直到它變得難以閱讀,大而全,以至于復(fù)雜得換行才好理解,但是你不必過度使用正則。這里簡單介紹一下我使用正則表達式的方式。
首先,創(chuàng)建一個名為 example.txt
的文件,輸入以下內(nèi)容:
Albania
Algeria
Canada
0
1
3
11
最基礎(chǔ)的元素是不起眼的 .
字符。它表示一個字符。
$ grep Can.da example.txt
Canada
模式 Can.da
能成功匹配到 Canada
是因為 .
字符表示任意一個字符。
可以使用下面這些符號來使 .
通配符表示多個字符:
?
匹配前面的模式零次或一次*
匹配前面的模式零次或多次+
匹配前面的模式一次或多次{4}
匹配前面的模式 4 次(或是你在括號中寫的其他次數(shù))
了解了這些知識后,你可以用你認為有意思的所有模式來在 example.txt
中做練習(xí)。可能有些會成功,有些不會成功。重要的是你要去分析結(jié)果,這樣你才會知道原因。
例如,下面的命令匹配不到任何國家:
$ grep A.a example.txt
因為 .
字符只能匹配一個字符,除非你增加匹配次數(shù)。使用 *
字符,告訴 grep
匹配一個字符零次或者必要的任意多次直到單詞末尾。因為你知道你要處理的內(nèi)容,因此在本例中零次是沒有必要的。在這個列表中一定沒有單個字母的國家。因此,你可以用 +
來匹配一個字符至少一次且任意多次直到單詞末尾:
$ grep A.+a example.txt
Albania
Algeria
你可以使用方括號來提供一系列的字母:
$ grep [A,C].+a example.txt
Albania
Algeria
Canada
也可以用來匹配數(shù)字。結(jié)果可能會震驚你:
$ grep [1-9] example.txt
1
3
11
看到 11 出現(xiàn)在搜索數(shù)字 1 到 9 的結(jié)果中,你驚訝嗎?
如果把 13 加到搜索列表中,會出現(xiàn)什么結(jié)果呢?
這些數(shù)字之所以會被匹配到,是因為它們包含 1,而 1 在要匹配的數(shù)字中。
你可以發(fā)現(xiàn),正則表達式有時會令人費解,但是通過體驗和練習(xí),你可以熟練掌握它,用它來提高你搜索數(shù)據(jù)的能力。
下載備忘錄
grep
命令還有很多文章中沒有列出的選項。有用來更好地展示匹配結(jié)果、列出文件、列出匹配到的行號、通過打印匹配到的行周圍的內(nèi)容來顯示上下文的選項,等等。如果你在學(xué)習(xí) grep
,或者你經(jīng)常使用它并且通過查閱它的幫助
頁面來查看選項,那么你可以下載我們的備忘錄。這個備忘錄使用短選項(例如,使用 -v
,而不是 --invert-matching
)來幫助你更好地熟悉 grep
。它還有一部分正則表達式可以幫你記住用途最廣的正則表達式代碼。 現(xiàn)在就下載 grep 備忘錄!