Linux 自帶神器 logrotate 詳解
對(duì)于 Linux 系統(tǒng)安全來說,日志文件是極其重要的工具。不知為何,我發(fā)現(xiàn)很多運(yùn)維同學(xué)的服務(wù)器上都運(yùn)行著一些諸如每天切分 Nginx日志之類的 CRON 腳本,大家似乎遺忘了 Logrotate,爭(zhēng)相發(fā)明自己的輪子,這真是讓人沮喪啊!就好比明明身邊躺著現(xiàn)成的性感美女,大家卻忙著自娛自樂,罪過!
logrotate 程序是一個(gè)日志文件管理工具。用于分割日志文件,刪除舊的日志文件,并創(chuàng)建新的日志文件,起到“轉(zhuǎn)儲(chǔ)”作用??梢怨?jié)省磁盤空間。下面就對(duì) logrotate 日志輪轉(zhuǎn)操作做一梳理記錄。
1、配置文件介紹
Linux系統(tǒng)默認(rèn)安裝logrotate工具,它默認(rèn)的配置文件在:
- /etc/logrotate.conf
- /etc/logrotate.d/
logrotate.conf 才主要的配置文件,logrotate.d 是一個(gè)目錄,該目錄里的所有文件都會(huì)被主動(dòng)的讀入/etc/logrotate.conf中執(zhí)行。
另外,如果 /etc/logrotate.d/ 里面的文件中沒有設(shè)定一些細(xì)節(jié),則會(huì)以/etc/logrotate.conf這個(gè)文件的設(shè)定來作為默認(rèn)值。
Logrotate是基于CRON來運(yùn)行的,其腳本是/etc/cron.daily/logrotate,日志輪轉(zhuǎn)是系統(tǒng)自動(dòng)完成的。實(shí)際運(yùn)行時(shí),Logrotate會(huì)調(diào)用配置文件/etc/logrotate.conf??梢栽?etc/logrotate.d目錄里放置自定義好的配置文件,用來覆蓋Logrotate的缺省值。
- [root@huanqiu_web1 ~]# cat /etc/cron.daily/logrotate
- #!/bin/sh
- /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
- EXITVALUE=$?
- if [ $EXITVALUE != 0 ]; then
- /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
- fi
- exit 0
如果等不及cron自動(dòng)執(zhí)行日志輪轉(zhuǎn),想手動(dòng)強(qiáng)制切割日志,需要加-f參數(shù);不過正式執(zhí)行前最好通過Debug選項(xiàng)來驗(yàn)證一下(-d參數(shù)),這對(duì)調(diào)試也很重要:
- # /usr/sbin/logrotate -f /etc/logrotate.d/nginx
- # /usr/sbin/logrotate -d -f /etc/logrotate.d/nginx
logrotate 命令格式:
- logrotate [OPTION...] <configfile>
- -d, --debug :debug模式,測(cè)試配置文件是否有錯(cuò)誤。
- -f, --force :強(qiáng)制轉(zhuǎn)儲(chǔ)文件。
- -m, --mail=command :壓縮日志后,發(fā)送日志到指定郵箱。
- -s, --state=statefile :使用指定的狀態(tài)文件。
- -v, --verbose :顯示轉(zhuǎn)儲(chǔ)過程。
根據(jù)日志切割設(shè)置進(jìn)行操作,并顯示詳細(xì)信息:
- [root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.conf
- [root@huanqiu_web1 ~]# /usr/sbin/logrotate -v /etc/logrotate.d/php
根據(jù)日志切割設(shè)置進(jìn)行執(zhí)行,并顯示詳細(xì)信息,但是不進(jìn)行具體操作,debug模式
- [root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.conf
- [root@huanqiu_web1 ~]# /usr/sbin/logrotate -d /etc/logrotate.d/nginx
查看各log文件的具體執(zhí)行情況
- [root@fangfull_web1 ~]# cat /var/lib/logrotate.status
2、切割介紹
比如以系統(tǒng)日志/var/log/message做切割來簡(jiǎn)單說明下:
- 第一次執(zhí)行完rotate(輪轉(zhuǎn))之后,原本的messages會(huì)變成messages.1,而且會(huì)制造一個(gè)空的messages給系統(tǒng)來儲(chǔ)存日志;
- 第二次執(zhí)行之后,messages.1會(huì)變成messages.2,而messages會(huì)變成messages.1,又造成一個(gè)空的messages來儲(chǔ)存日志!
如果僅設(shè)定保留三個(gè)日志(即輪轉(zhuǎn)3次)的話,那么執(zhí)行第三次時(shí),則 messages.3這個(gè)檔案就會(huì)被刪除,并由后面的較新的保存日志所取代!也就是會(huì)保存最新的幾個(gè)日志。
日志究竟輪換幾次,這個(gè)是根據(jù)配置文件中的dateext 參數(shù)來判定的。
看下logrotate.conf配置:
- # cat /etc/logrotate.conf
- # 底下的設(shè)定是 "logrotate 的默認(rèn)值" ,如果別的文件設(shè)定了其他的值,
- # 就會(huì)以其它文件的設(shè)定為主
- weekly //默認(rèn)每一周執(zhí)行一次rotate輪轉(zhuǎn)工作
- rotate 4 //保留多少個(gè)日志文件(輪轉(zhuǎn)幾次).默認(rèn)保留四個(gè).就是指定日志文件刪除之前輪轉(zhuǎn)的次數(shù),0 指沒有備份
- create //自動(dòng)創(chuàng)建新的日志文件,新的日志文件具有和原來的文件相同的權(quán)限;因?yàn)槿罩颈桓拿?因此要?jiǎng)?chuàng)建一個(gè)新的來繼續(xù)存儲(chǔ)之前的日志
- dateext //這個(gè)參數(shù)很重要!就是切割后的日志文件以當(dāng)前日期為格式結(jié)尾,如xxx.log-20131216這樣,如果注釋掉,切割出來是按數(shù)字遞增,即前面說的 xxx.log-1這種格式
- compress //是否通過gzip壓縮轉(zhuǎn)儲(chǔ)以后的日志文件,如xxx.log-20131216.gz ;如果不需要壓縮,注釋掉就行
- include /etc/logrotate.d
- # 將 /etc/logrotate.d/ 目錄中的所有文件都加載進(jìn)來
- /var/log/wtmp { //僅針對(duì) /var/log/wtmp 所設(shè)定的參數(shù)
- monthly //每月一次切割,取代默認(rèn)的一周
- minsize 1M //文件大小超過 1M 后才會(huì)切割
- create 0664 root utmp //指定新建的日志文件權(quán)限以及所屬用戶和組
- rotate 1 //只保留一個(gè)日志.
- }
- # 這個(gè) wtmp 可記錄用戶登錄系統(tǒng)及系統(tǒng)重啟的時(shí)間
- # 因?yàn)橛?nbsp;minsize 的參數(shù),因此不見得每個(gè)月一定會(huì)執(zhí)行一次喔.要看文件大小。
由這個(gè)文件的設(shè)定可以知道/etc/logrotate.d其實(shí)就是由/etc/logrotate.conf 所規(guī)劃出來的目錄,雖然可以將所有的配置都寫入 /etc/logrotate.conf ,但是這樣一來這個(gè)文件就實(shí)在是太復(fù)雜了,尤其是當(dāng)使用很多的服務(wù)在系統(tǒng)上面時(shí), 每個(gè)服務(wù)都要去修改 /etc/logrotate.conf 的設(shè)定也似乎不太合理了。
所以,如果獨(dú)立出來一個(gè)目錄,那么每個(gè)要切割日志的服務(wù), 就可以獨(dú)自成為一個(gè)文件,并且放置到 /etc/logrotate.d/ 當(dāng)中。
其他重要參數(shù)說明:
- compress 通過gzip 壓縮轉(zhuǎn)儲(chǔ)以后的日志
- nocompress 不做gzip壓縮處理
- copytruncate 用于還在打開中的日志文件,把當(dāng)前日志備份并截?cái)?;是先拷貝再清空的方式,拷貝和清空之間有一個(gè)時(shí)間差,可能會(huì)丟失部分日志數(shù)據(jù)。
- nocopytruncate 備份日志文件不過不截?cái)?nbsp;
- create mode owner group 輪轉(zhuǎn)時(shí)指定創(chuàng)建新文件的屬性,如create 0777 nobody nobody
- nocreate 不建立新的日志文件
- delaycompress 和compress 一起使用時(shí),轉(zhuǎn)儲(chǔ)的日志文件到下一次轉(zhuǎn)儲(chǔ)時(shí)才壓縮
- nodelaycompress 覆蓋 delaycompress 選項(xiàng),轉(zhuǎn)儲(chǔ)同時(shí)壓縮。
- missingok 如果日志丟失,不報(bào)錯(cuò)繼續(xù)滾動(dòng)下一個(gè)日志
- errors address 專儲(chǔ)時(shí)的錯(cuò)誤信息發(fā)送到指定的Email 地址
- ifempty 即使日志文件為空文件也做輪轉(zhuǎn),這個(gè)是logrotate的缺省選項(xiàng)。
- notifempty 當(dāng)日志文件為空時(shí),不進(jìn)行輪轉(zhuǎn)
- mail address 把轉(zhuǎn)儲(chǔ)的日志文件發(fā)送到指定的E-mail 地址
- nomail 轉(zhuǎn)儲(chǔ)時(shí)不發(fā)送日志文件
- olddir directory 轉(zhuǎn)儲(chǔ)后的日志文件放入指定的目錄,必須和當(dāng)前日志文件在同一個(gè)文件系統(tǒng)
- noolddir 轉(zhuǎn)儲(chǔ)后的日志文件和當(dāng)前日志文件放在同一個(gè)目錄下
- sharedscripts 運(yùn)行postrotate腳本,作用是在所有日志都輪轉(zhuǎn)后統(tǒng)一執(zhí)行一次腳本。如果沒有配置這個(gè),那么每個(gè)日志輪轉(zhuǎn)后都會(huì)執(zhí)行一次腳本
- prerotate 在logrotate轉(zhuǎn)儲(chǔ)之前需要執(zhí)行的指令,例如修改文件的屬性等動(dòng)作;必須獨(dú)立成行
- postrotate 在logrotate轉(zhuǎn)儲(chǔ)之后需要執(zhí)行的指令,例如重新啟動(dòng) (kill -HUP) 某個(gè)服務(wù)!必須獨(dú)立成行
- daily 指定轉(zhuǎn)儲(chǔ)周期為每天
- weekly 指定轉(zhuǎn)儲(chǔ)周期為每周
- monthly 指定轉(zhuǎn)儲(chǔ)周期為每月
- rotate count 指定日志文件刪除之前轉(zhuǎn)儲(chǔ)的次數(shù),0 指沒有備份,5 指保留5 個(gè)備份
- dateext 使用當(dāng)期日期作為命名格式
- dateformat .%s 配合dateext使用,緊跟在下一行出現(xiàn),定義文件切割后的文件名,必須配合dateext使用,只支持 %Y %m %d %s 這四個(gè)參數(shù)
- size(或minsize) log-size 當(dāng)日志文件到達(dá)指定的大小時(shí)才轉(zhuǎn)儲(chǔ),log-size能指定bytes(缺省)及KB (sizek)或MB(sizem).
- 當(dāng)日志文件 >= log-size 的時(shí)候就轉(zhuǎn)儲(chǔ)。 以下為合法格式:(其他格式的單位大小寫沒有試過)
- size = 5 或 size 5 (>= 5 個(gè)字節(jié)就轉(zhuǎn)儲(chǔ))
- size = 100k 或 size 100k
- size = 100M 或 size 100M
小示例:下面一個(gè)切割nginx日志的配置
- [root@master-server ~]# vim /etc/logrotate.d/nginx
- /usr/local/nginx/logs/*.log {
- daily
- rotate 7
- missingok
- notifempty
- dateext
- sharedscripts
- postrotate
- if [ -f /usr/local/nginx/logs/nginx.pid ]; then
- kill -USR1 `cat /usr/local/nginx/logs/nginx.pid`
- fi
- endscript
- }
分享一例曾經(jīng)使用過的nginx日志切割處理腳本:
1)logrotate日志分割配置
- [root@bastion-IDC ~# vim /etc/logrotate.d/nginx
- /data/nginx_logs/*.access_log
- {
- nocompress
- daily
- opytruncate
- create
- ifempty
- olddir /data/nginx_logs/days
- rotate 0
- }
2)日志分割腳本
- [root@bastion-IDC ~# vim /usr/local/sbin/logrotate-nginx.sh
- #!/bin/bash
- #創(chuàng)建轉(zhuǎn)儲(chǔ)日志壓縮存放目錄
- mkdir -p /data/nginx_logs/days
- #手工對(duì)nginx日志進(jìn)行切割轉(zhuǎn)換
- /usr/sbin/logrotate -vf /etc/logrotate.d/nginx
- #當(dāng)前時(shí)間
- time=$(date -d "yesterday" +"%Y-%m-%d")
- #進(jìn)入轉(zhuǎn)儲(chǔ)日志存放目錄
- cd /data/nginx_logs/days
- #對(duì)目錄中的轉(zhuǎn)儲(chǔ)日志文件的文件名進(jìn)行統(tǒng)一轉(zhuǎn)換
- for i in $(ls ./ | grep "^\(.*\)\.[[:digit:]]$")
- do
- mv ${i} ./$(echo ${i}|sed -n 's/^\(.*\)\.\([[:digit:]]\)$/\1/p')-$(echo $time)
- done
- #對(duì)轉(zhuǎn)儲(chǔ)的日志文件進(jìn)行壓縮存放,并刪除原有轉(zhuǎn)儲(chǔ)的日志文件,只保存壓縮后的日志文件。以節(jié)約存儲(chǔ)空間
- for i in $(ls ./ | grep "^\(.*\)\-\([[:digit:]-]\+\)$")
- do
- tar jcvf ${i}.bz2 ./${i}
- rm -rf ./${i}
- done
- #只保留最近7天的壓縮轉(zhuǎn)儲(chǔ)日志文件
- find /data/nginx_logs/days/* -name "*.bz2" -mtime 7 -type f -exec rm -rf {} \;
3)crontab定時(shí)執(zhí)行
- [root@bastion-IDC ~# crontab -e
- #logrotate
- 0 0 * * * /bin/bash -x /usr/local/sbin/logrotate-nginx.sh > /dev/null 2>
手動(dòng)執(zhí)行腳本,測(cè)試下看看:
- [root@bastion-IDC ~# /bin/bash -x /usr/local/sbin/logrotate-nginx.sh
- [root@bastion-IDC ~# cd /data/nginx_logs/days
- [root@bastion-IDC days# ls
- huantest.access_log-2017-01-18.bz2
php腳本切割一例:
- [root@huanqiu_web1 ~]# cat /etc/logrotate.d/php
- /Data/logs/php/*log {
- daily
- rotate 365
- missingok
- notifempty
- compress
- dateext
- sharedscripts
- postrotate
- if [ -f /Data/app/php5.6.26/var/run/php-fpm.pid ]; then
- kill -USR1 `cat /Data/app/php5.6.26/var/run/php-fpm.pid`
- fi
- endscript
- postrotate
- /bin/chmod 644 /Data/logs/php/*gz
- endscript
- }
- [root@huanqiu_web1 ~]# ll /Data/app/php5.6.26/var/run/php-fpm.pid
- -rw-r--r-- 1 root root 4 Dec 28 17:03 /Data/app/php5.6.26/var/run/php-fpm.pid
- [root@huanqiu_web1 ~]# cd /Data/logs/php
- [root@huanqiu_web1 php]# ll
- total 25676
- -rw-r--r-- 1 root root 0 Jun 1 2016 error.log
- -rw-r--r-- 1 nobody nobody 182 Aug 30 2015 error.log-20150830.gz
- -rw-r--r-- 1 nobody nobody 371 Sep 1 2015 error.log-20150901.gz
- -rw-r--r-- 1 nobody nobody 315 Sep 7 2015 error.log-20150907.gz
- .........
- .........
nginx日志切割一例
- [root@huanqiu_web1 ~]# cat /etc/logrotate.d/nginx
- /Data/logs/nginx/*/*log {
- daily
- rotate 365
- missingok
- notifempty
- compress
- dateext
- sharedscripts
- postrotate
- /etc/init.d/nginx reload
- endscript
- }
- [root@huanqiu_web1 ~]# ll /Data/logs/nginx/www.huanqiu.com/
- ..........
- -rw-r--r-- 1 root root 1652 Jan 1 00:00 error.log-20170101.gz
- -rw-r--r-- 1 root root 1289 Jan 2 00:00 error.log-20170102.gz
- -rw-r--r-- 1 root root 1633 Jan 3 00:00 error.log-20170103.gz
- -rw-r--r-- 1 root root 3239 Jan 4 00:00 error.log-20170104.gz
系統(tǒng)日志切割一例
- [root@huanqiu_web1 ~]# cat /etc/logrotate.d/syslog
- /var/log/cron
- /var/log/maillog
- /var/log/messages
- /var/log/secure
- /var/log/spooler
- {
- sharedscripts
- postrotate
- /bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
- endscript
- }
- [root@huanqiu_web1 ~]# ll /var/log/messages*
- -rw------- 1 root root 34248975 Jan 19 18:42 /var/log/messages
- -rw------- 1 root root 51772994 Dec 25 03:11 /var/log/messages-20161225
- -rw------- 1 root root 51800210 Jan 1 03:05 /var/log/messages-20170101
- -rw------- 1 root root 51981366 Jan 8 03:36 /var/log/messages-20170108
- -rw------- 1 root root 51843025 Jan 15 03:40 /var/log/messages-20170115
- [root@huanqiu_web1 ~]# ll /var/log/cron*
- -rw------- 1 root root 2155681 Jan 19 18:43 /var/log/cron
- -rw------- 1 root root 2932618 Dec 25 03:11 /var/log/cron-20161225
- -rw------- 1 root root 2939305 Jan 1 03:06 /var/log/cron-20170101
- -rw------- 1 root root 2951820 Jan 8 03:37 /var/log/cron-20170108
- -rw------- 1 root root 3203992 Jan 15 03:41 /var/log/cron-20170115
- [root@huanqiu_web1 ~]# ll /var/log/secure*
- -rw------- 1 root root 275343 Jan 19 18:36 /var/log/secure
- -rw------- 1 root root 2111936 Dec 25 03:06 /var/log/secure-20161225
- -rw------- 1 root root 2772744 Jan 1 02:57 /var/log/secure-20170101
- -rw------- 1 root root 1115543 Jan 8 03:26 /var/log/secure-20170108
- -rw------- 1 root root 731599 Jan 15 03:40 /var/log/secure-20170115
- [root@huanqiu_web1 ~]# ll /var/log/spooler*
- -rw------- 1 root root 0 Jan 15 03:41 /var/log/spooler
- -rw------- 1 root root 0 Dec 18 03:21 /var/log/spooler-20161225
- -rw------- 1 root root 0 Dec 25 03:11 /var/log/spooler-20170101
- -rw------- 1 root root 0 Jan 1 03:06 /var/log/spooler-20170108
- -rw------- 1 root root 0 Jan 8 03:37 /var/log/spooler-20170115
tomcat日志切割一例
- [root@huanqiu-backup ~]# cat /etc/logrotate.d/tomcat
- /Data/app/tomcat-7-huanqiu/logs/catalina.out {
- rotate 14
- daily
- copytruncate
- compress
- notifempty
- missingok
- }
- [root@huanqiu-backup ~]# ll /Data/app/tomcat-7-huanqiu/logs/catalina.*
- -rw-r--r--. 1 root root 0 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out
- -rw-r--r--. 1 root root 95668 Jan 19 19:11 /Data/app/tomcat-7-huanqiu/logs/catalina.out.1.gz
早期用過的nginx日志處理一例
- [root@letv-backup ~]# vim /letv/sh/cut_nginx_log.sh
- #!/bin/bash
- # 你的日志文件存放目錄
- logs_path="/letv/logs/"
- # 日志文件的名字,多個(gè)需要空格隔開
- logs_names=(error access pv_access)
- dates=`date -d "yesterday" +"%Y%m%d"`
- mkdir -p ${logs_path}$dates/
- num=${#logs_names[@]}
- for((i=0;i<num;i++));do
- mv ${logs_path}${logs_names[i]}.log ${logs_path}$dates/${logs_names[i]}.log
- done
- #nginx平滑重啟
- kill -USR1 `cat /letv/logs/nginx/nginx.pid`
- 結(jié)合crontab定時(shí)執(zhí)行
- [root@letv-backup ~]# crontab -e
- #nginx日志切割
- 00 00 * * * cd /letv/logs;/bin/bash /letv/sh/cut_nginx_log.sh > /dev/null 2>$1
3、嘗試解決logrotate無法自動(dòng)輪詢?nèi)罩镜霓k法
現(xiàn)象說明:
使用logrotate輪詢nginx日志,配置好之后,發(fā)現(xiàn)nginx日志連續(xù)兩天沒被切割,這是為什么呢??
然后開始檢查日志切割的配置文件是否有問題,檢查后確定配置文件一切正常。
于是懷疑是logrotate預(yù)定的cron沒執(zhí)行,查看了cron的日志,發(fā)現(xiàn)有一條Dec 7 04:02:01 www crond[18959]: (root) CMD (run-parts /etc/cron.daily)這樣的日志,證明cron在04:02分時(shí)已經(jīng)執(zhí)行/etc/cron.daily目錄下的程序。
接著查看/etc /cron.daily/logrotate(這是logrotate自動(dòng)輪轉(zhuǎn)的腳本)的內(nèi)容:
- [root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
- #!/bin/sh
- /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
- EXITVALUE=$?
- if [ $EXITVALUE != 0 ]; then
- /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
- fi
- exit 0
沒有發(fā)現(xiàn)異常,配置好的日志輪轉(zhuǎn)操作都是由這個(gè)腳本完成的,一切運(yùn)行正常,腳本應(yīng)該就沒問題。
直接執(zhí)行命令:
- [root@huanqiu_test ~]# /usr/sbin/logrotate /etc/logrotate.conf
這些系統(tǒng)日志是正常輪詢了,但nginx日志卻還是沒輪詢。
接著強(qiáng)行啟動(dòng)記錄文件維護(hù)操作,縱使logrotate指令認(rèn)為沒有需要,應(yīng)該有可能是logroate認(rèn)為nginx日志太小,不進(jìn)行輪詢。
故需要強(qiáng)制輪詢,即在/etc/cron.daily/logrotate腳本中將 -t 參數(shù)替換成 -f 參數(shù)
- [root@huanqiu_test ~]# cat /etc/cron.daily/logrotate
- #!/bin/sh
- /usr/sbin/logrotate /etc/logrotate.conf >/dev/null 2>&1
- EXITVALUE=$?
- if [ $EXITVALUE != 0 ]; then
- /usr/bin/logger -f logrotate "ALERT exited abnormally with [$EXITVALUE]"
- fi
- exit
最后最后重啟下cron服務(wù):
- [root@huanqiu_test ~]# /etc/init.d/crond restart
- Stopping crond: [ OK ]
- Starting crond: [ OK ]
logrotate默認(rèn)自動(dòng)切割生效時(shí)間
- Logrotate是基于CRON來運(yùn)行的,其腳本是/etc/cron.daily/logrotate,實(shí)際運(yùn)行時(shí),Logrotate會(huì)調(diào)用配置文件/etc/logrotate.conf。
- [root@test ~]# cat /etc/cron.daily/logrotate
- #!/bin/sh
- /usr/sbin/logrotate /etc/logrotate.conf
- EXITVALUE=$?
- if [ $EXITVALUE != 0 ]; then
- /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]"
- fi
- exit 0
- Logrotate是基于CRON運(yùn)行的,所以這個(gè)時(shí)間是由CRON控制的,具體可以查詢CRON的配置文件/etc/anacrontab(老版本的文件是/etc/crontab)
- [root@test ~]# cat /etc/anacrontab
- # /etc/anacrontab: configuration file for anacron
- # See anacron(8) and anacrontab(5) for details.
- SHELL=/bin/sh
- PATH=/sbin:/bin:/usr/sbin:/usr/bin
- MAILTO=root
- # the maximal random delay added to the base delay of the jobs
- RANDOM_DELAY=45 //這個(gè)是隨機(jī)的延遲時(shí)間,表示最大45分鐘
- # the jobs will be started during the following hours only
- START_HOURS_RANGE=3-22 //這個(gè)是開始時(shí)間
- #period in days delay in minutes job-identifier command
- 1 5 cron.daily nice run-parts /etc/cron.daily
- 7 25 cron.weekly nice run-parts /etc/cron.weekly
- @monthly 45 cron.monthly nice run-parts /etc/cron.monthly
- 第一個(gè)是Recurrence period
- 第二個(gè)是延遲時(shí)間
- 所以cron.daily會(huì)在3:22+(5,45)這個(gè)時(shí)間段執(zhí)行,/etc/cron.daily是個(gè)文件夾
- 通過默認(rèn)/etc/anacrontab文件配置,會(huì)發(fā)現(xiàn)logrotate自動(dòng)切割日志文件的默認(rèn)時(shí)間是凌晨3點(diǎn)多。
- ==================================================================================================
- 現(xiàn)在需要將切割時(shí)間調(diào)整到每天的晚上12點(diǎn),即每天切割的日志是前一天的0-24點(diǎn)之間的內(nèi)容。
- 操作如下:
- [root@kevin ~]# mv /etc/anacrontab /etc/anacrontab.bak //取消日志自動(dòng)輪轉(zhuǎn)的設(shè)置
- [root@G6-bs02 logrotate.d]# cat nstc_nohup.out
- /data/nstc/nohup.out {
- rotate 30
- dateext
- daily
- copytruncate
- compress
- notifempty
- missingok
- }
- [root@G6-bs02 logrotate.d]# cat syslog
- /var/log/cron
- /var/log/maillog
- /var/log/messages
- /var/log/secure
- /var/log/history
- {
- sharedscripts
- compress
- rotate 30
- daily
- dateext
- postrotate
- /bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true
- endscript
- }
- 結(jié)合crontab進(jìn)行自定義的定時(shí)輪轉(zhuǎn)操作
- [root@kevin ~]# crontab -l
- #log logrotate
- 59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/syslog >/dev/null 2>&1
- 59 23 * * * /usr/sbin/logrotate -f /etc/logrotate.d/nstc_nohup.out >/dev/null 2>&1
- [root@G6-bs02 ~]# ll /data/nstc/nohup.out*
- -rw------- 1 app app 33218 1月 25 09:43 /data/nstc/nohup.out
- -rw------- 1 app app 67678 1月 25 23:59 /data/nstc/nohup.out-20180125.gz
除了利用自帶的Logrotate工具實(shí)現(xiàn)日志切割之外,還可以編寫python腳本或shell腳本以實(shí)現(xiàn)日志切割。下面就簡(jiǎn)單列出幾個(gè)實(shí)例說明下:
一、Python腳本實(shí)現(xiàn)日志切割
- 實(shí)例1:對(duì)jumpserver日志進(jìn)行切割
- [root@test-vm01 mnt]# cat log_rotate.py
- #!/usr/bin/env python
- import datetime,os,sys,shutil
- log_path = '/opt/jumpserver/logs/'
- log_file = 'jumpserver.log'
- yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
- try:
- os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \
- yesterday.strftime('%m'))
- except OSError,e:
- print e
- sys.exit()
- shutil.move(log_path + log_file,log_path \
- + yesterday.strftime('%Y') + os.sep \
- + yesterday.strftime('%m') + os.sep \
- + log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
- os.popen("sudo /opt/jumpserver/service.sh restart")
- 手動(dòng)執(zhí)行這個(gè)腳本:
- [root@test-vm01 mnt]# chmod 755 log_rotate.py
- [root@test-vm01 mnt]# python log_rotate.py
- 查看日志切割后的效果:
- [root@test-vm01 mnt]# ls /opt/jumpserver/logs/
- 2017 jumpserver.log
- [root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/
- 09
- [root@test-vm01 mnt]# ls /opt/jumpserver/logs/2017/09/
- jumpserver.log_20170916.log
- 然后做每日的定時(shí)切割任務(wù):
- [root@test-vm01 mnt]# crontab -e
- 30 1 * * * /usr/bin/python /mnt/log_rotate.py > /dev/null 2>&1
- --------------------------------------------------------------------------------------
- 實(shí)例2:對(duì)nginx日志進(jìn)行切割
- [root@test-vm01 mnt]# vim log_rotate.py
- #!/usr/bin/env python
- import datetime,os,sys,shutil
- log_path = '/app/nginx/logs/'
- log_file = 'www_access.log'
- yesterday = (datetime.datetime.now() - datetime.timedelta(days = 1))
- try:
- os.makedirs(log_path + yesterday.strftime('%Y') + os.sep + \
- yesterday.strftime('%m'))
- except OSError,e:
- print e
- sys.exit()
- shutil.move(log_path + log_file,log_path \
- + yesterday.strftime('%Y') + os.sep \
- + yesterday.strftime('%m') + os.sep \
- + log_file + '_' + yesterday.strftime('%Y%m%d') + '.log')
- os.popen("sudo kill -USR1 `cat /app/nginx/logs/nginx.pid`")
- --------------------------------------------------------------------------------------
- 其他業(yè)務(wù)日志的切割腳本跟上面做法相同
二、shell腳本實(shí)現(xiàn)日志切割
- [root@qd-vpc-op-consumer01 ~]# cat /app/script/log_rotate.sh
- #!/bin/sh
- function rotate() {
- logs_path=$1
- echo Rotating Log: $1
- cp ${logs_path} ${logs_path}.$(date -d "yesterday" +"%Y%m%d")
- > ${logs_path}
- rm -f ${logs_path}.$(date -d "7 days ago" +"%Y%m%d")
- }
- for i in $*
- do
- rotate $i
- done
- --------------------------------------------------------------------------------------------------------------
- 每天定時(shí)切割日志的任務(wù)制定(比如對(duì)python的一個(gè)業(yè)務(wù)/data/log/xcspam/下的日志進(jìn)行切割,0K的日志不進(jìn)行切割):
- [root@qd-vpc-op-consumer01 ~]# crontab -e
- #xcspam 日志切割
- 30 0 * * * find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
- 手動(dòng)執(zhí)行切割:
- [root@qd-vpc-op-consumer01 ~]# find /data/log/xcspam/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
- 切割后的日志效果:
- [root@qd-vpc-op-consumer01 ~]# ls /data/log/xcspam/
- xcspam_error.log xcspam_error.log-20170926
- --------------------------------------------------------------------------------------------------------------
- 比如對(duì)maridb日志進(jìn)行切割
- [root@qd-vpc-op-consumer01 ~]# crontab -e
- #xcspam 日志切割
- 30 0 * * * find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
- [root@qd-vpc-op-consumer01 ~]# find /var/log/mariadb/ -size +0 -name '*.log' | xargs /app/script/log_rotate.sh
- [root@qd-vpc-op-consumer01 ~]# ll /var/log/mariadb/
- 總用量 8
- -rw-r-----. 1 mysql mysql 0 9月 17 20:31 mariadb.log
- -rw-r-----. 1 root root 4532 9月 17 20:31 mariadb.log.20170916
- --------------------------------------------------------------------------------------------------------------
日志壓縮腳本:
- [root@localhost ~]# ls /var/log/fss/nginx/
- nginx.20190506.log nginx.20190507.log nginx.20190508.log
- [root@localhost ~]# cat /root/log_clean.sh
- #!/usr/bin/sh
- #根據(jù)系統(tǒng)/服務(wù)/日志保留天數(shù)三個(gè)參數(shù)壓縮日志
- #usage: sh clearlog.sh sysname appname keepdays
- sysName=$1
- appName=$2
- keepDay=$3
- logDir=/var/log/${sysName}/${appName}
- logFile=${appName}.*[0-9][0-9].log
- cd ${logDir}
- find ./ -name "${logFile}" -mtime -${keepDay} -exec gzip {} \;
- [root@localhost ~]# sh /root/log_clean.sh fss nginx 3
- [root@localhost ~]# ls /var/log/fss/nginx/
- nginx.20190506.log.gz nginx.20190507.log.gz nginx.20190508.log.gz
- 還可以針對(duì)日志保留策略,調(diào)整成日志清理腳本。
推薦用的Nginx日志輪轉(zhuǎn)方法 [部署在nginx的日志目錄下]
- #!/bin/bash
- yesterday=`date -d "-1 days" +'%Y%m%d'`
- cd `dirname $0`
- basedir=`pwd`
- logdir="${basedir}/bak"
- bindir="${basedir%/*}/sbin"
- mkdir -p ${logdir}
- for log in `ls *.log 2>/dev/null`
- do
- mv ${log} ${logdir}/${log}.${yesterday}.bak
- # gzip ${logdir}/${log}.${yesterday}
- done
- ${bindir}/nginx -s reload
- cd ${logdir}
- find . -type f -name "*.bak" -mtime +7 | xargs rm -f