Linux生產環(huán)境上，最常用的一套“Sed“技巧
本文轉載自微信公眾號「小姐姐味道」，作者小姐姐味道。轉載本文請聯(lián)系小姐姐味道公眾號。
sed命令應用廣泛，使用簡單，是快速文本處理的利器。它其實沒多少技巧，背誦、使用是最合適的學習渠道，屬于硬技能。但它又很復雜，因為高級功能太多。本篇不去關注sed的高級功能，僅對常用的一些操作，進行說明。
隨著使用，你會發(fā)現(xiàn)它和vim的一些理念是想通的，正則表達式的語法也基本上一樣，并沒有多少學習成本。從個人視野和工作效率上來看，sed命令都是程序員必須掌握的一個重要工具。
那些說可以現(xiàn)場google用法的，大多習慣將文本拷貝到excel里，慢慢磨洋工，遇到大批量文件更是手忙腳亂。不是一家人不進一家門，本文不是為你寫的。
一個簡單的入門
如圖，一個簡單的sed命令包含三個主要部分：參數(shù)、范圍、操作。要操作的文件，可以直接掛在命令行的最后。除了命令行，sed也可以通過-f參數(shù)指定一個sed腳本，這個屬于高級用法，不做過多描述。
有些示例命令我會重復多次，聰明如你一定能發(fā)現(xiàn)其中規(guī)律，有時連解釋都用不著。
參數(shù)
-n 這個參數(shù)是--quiet或者--silent的意思。表明忽略執(zhí)行過程的輸出，只輸出我們的結果即可。
我們常用的還有另外一個參數(shù) ：-i。
使用此參數(shù)后，所有改動將在原文件上執(zhí)行。你的輸出將覆蓋原文件。非常危險，一定要注意。
范圍
1,4 表示找到文件中1,2,3,4行的內容。
這個范圍的指定很有靈性，請看以下示例(請自行替換圖中的范圍部分)。
- 5 選擇第5行。
- 2,5 選擇2到5行，共4行。
- 1~2 選擇奇數(shù)行。
- 2~2 選擇偶數(shù)行。
- 2,+3 和2,5的效果是一樣的，共4行。
- 2,$ 從第二行到文件結尾。
范圍的選擇還可以使用正則匹配。請看下面示例。
/sys/,+3 選擇出現(xiàn)sys字樣的行，以及后面的三行。
/\^sys/,/mem/ 選擇以sys開頭的行，和出現(xiàn)mem字樣行之間的數(shù)據(jù)。
為了直觀，下面的命令一一對應上面的介紹，范圍和操作之間是可以有空格的。
- sed -n '5p' file
- sed -n '2,5 p' file
- sed -n '1~2 p' file
- sed -n '2~2 p' file
- sed -n '2,+3p' file
- sed -n '2,$ p' file
- sed -n '/sys/,+3 p' file
- sed -n '/^sys/,/mem/p' file
操作
最常用的操作就是p，意思就是打印。比如，以下兩個命令就是等同的：
- cat file
- sed -n 'p' file
除了打印，還有以下操作，我們來說常用的。
p 對匹配內容進行打印。
d 對匹配內容進行刪除。這個時候就要去掉-n參數(shù)了，想想為什么。
w 將匹配內容寫入到其他地方。
a,i,c等操作雖基本但使用少，不做介紹。我們依然拿一些命令來說明。
- sed -n '2,5 p' file
- sed '2,5 d' file
- sed -n '2,5 w output.txt' file
我們來看一下sed命令都能干些啥，上點命令體驗一下。
刪除所有#開頭的行和空行。
- sed -e 's/#.*//' -e '/^$/ d' file
最常用的，比如下面這個。
- sed -n '2p' /etc/group
表示打印group文件中的第二行。
1、參數(shù)部分 比如 -n
2、模式部分 比如'2p'
3、文件，比如/etc/group
那么我想一次執(zhí)行多個命令，還不想寫sed腳本文件怎么辦?那就需要加-e參數(shù)。
sed的操作單元是行。
替換模式
以上是sed命令的常用匹配模式，但它還有一個強大的替換模式，意思就是查找替換其中的某些值，并輸出結果。使用替換模式很少使用-n參數(shù)。
替換模式的參數(shù)有點多，但第一部分和第五部分都是可以省略的。替換后會將整個文本輸出出來。
前半部分用來匹配一些范圍，而后半部分執(zhí)行替換的動作。
范圍
這個范圍和上面的范圍語法類似。看下面的例子。
/sys/,+3 選擇出現(xiàn)sys字樣的行，以及后面的三行。
/\^sys/,/mem/ 選擇以sys開頭的行，和出現(xiàn)mem字樣行之間的數(shù)據(jù)。
具體命令為：
- sed '/sys/,+3 s/a/b/g' file
- sed '/^sys/,/mem/s/a/b/g' file
命令
這里的命令是指s。也就是substitute的意思。
查找匹配
查找部分會找到要被替換的字符串。這部分可以接受純粹的字符串，也可以接受正則表達式?？聪旅娴睦?。
a 查找范圍行中的字符串a。
[a,b,c] 從范圍行里查找字符串a或者b或者c。
命令類似：
- sed 's/a/b/g' file
- sed 's/[a,b,c]/<&>/g' file#這個命令我們下面解釋
替換
是時候把找出的字符串給替換掉了。本部分的內容將替換查找匹配部分找到的內容。
可惜的是，這部分不能使用正則。常用的就是精確替換。比如把a替換成b。
但也有高級功能。和java或者python的正則api類似，sed的替換同樣有Matched Pattern的含義，同樣可以得到Group，不深究。常用的替位符，就是&。
&號，再重復一遍。當它用在替換字符串中的時候，代表的是原始的查找匹配數(shù)據(jù)。
[&] 表明將查找到的數(shù)據(jù)使用[]包圍起來。
“&” 表明將查找的數(shù)據(jù)使用””包圍起來。
下面這條命令，將會把文件中的每一行，使用引號包圍起來。
- sed 's/.*/"&"/' file
flag 參數(shù)
這些參數(shù)可以單個使用，也可以使用多個，僅介紹最常用的。
g 默認只匹配行中第一次出現(xiàn)的內容，加上g，就可以全文替換了。常用。
p 當使用了-n參數(shù)，p將僅輸出匹配行內容。
w 和上面的w模式類似，但是它僅僅輸出有變換的行。
i 這個參數(shù)比較重要，表示忽略大小寫。
e 表示將輸出的每一行，執(zhí)行一個命令。不建議使用，可以使用xargs配合完成這種功能。
看兩個命令的語法：
- sed -n 's/a/b/gipw output.txt' file
- sed 's/^/ls -la/e' file
好玩
由于正則的關系，很多字符需要轉義。你會在腳本里做些很多\\，\*之類的處理。你可以使用|^@!四個字符來替換\。
比如，下面五個命令是一樣的。
- sed '/aaa/s/\/etc/\/usr/g' file
- sed '/aaa/s@/etc@/usr@g' file
- sed '/aaa/s^/etc^/usr^g' file
- sed '/aaa/s|/etc|/usr|g' file
- sed '/aaa/s!/etc!/usr!g' file
注意：前半部分的范圍是不能使用這種方式的。我習慣使用符號@。
其他
正則表達式
可以看到，正則表達式在命令行中無處不在。以下，緊做簡要說明。
- ^ 行首
- $ 行尾
- . 單個字符
- * 0個或者多個匹配
- + 1個或者多個匹配
- ? 0個或者1個匹配
- {m} 前面的匹配重復m次
- {m,n} 前面的匹配重復m到n次
- \ 轉義字符
- [0-9] 匹配括號中的任何一個字符,or的作用
- | or，或者
- \b 匹配一個單詞。比如\blucky\b 只匹配單詞lucky
參數(shù)i
上面已經(jīng)簡單介紹了參數(shù)i，它的作用是讓操作在原文件執(zhí)行。無論你執(zhí)行了啥，原始文件都將會被覆蓋。這是非常危險的。
通過加入一個參數(shù)，可以將原文件做個備份。
- sed -i.bak 's/a/b/' file
以上命令會對原file文件生效，并生成一個file.bak文件。強烈建議使用i參數(shù)同時指定bak文件。
表演一下
我們通過兩個命令，來稍微看下sed和其他命令組合起來的威力。
輸出長度不小于50個字符的行
- sed -n '/^.{50}/p'
統(tǒng)計文件中有每個單詞出現(xiàn)了多少次
- sed 's/ /\n/g' file | sort | uniq -c
查找目錄中的py文件，刪掉所有行級注釋
- find ./ -name "*.py" | xargs sed -i.bak '/^[ ]*#/d'
查看第5-7行和10-13行
- sed -n -e '5,7p' -e '10,13p' file
僅輸出ip地址
- ip route show | sed -n '/src/p' | sed -e 's/ */ /g' | cut -d' ' -f9
作者簡介：聚焦基礎架構和Linux。十年架構，日百億流量，與你探討高并發(fā)世界，給你不一樣的味道。
