Nginx+tomcat負(fù)載均衡緩存服務(wù)器集群
作者:王松
在功能上,Nginx已經(jīng)具備Squid所擁有的Web緩存加速功能、清除指定URL緩存的功能。而在性能上,Nginx對多核CPU的利用,勝過Squid不少。另外,在反向代理、負(fù)載均衡、健康檢查、后端服務(wù)器故障轉(zhuǎn)移、 Rewrite重寫、易用性上,Nginx也比Squid強大得多。這使得一臺Nginx可以同時作為“負(fù)載均衡服務(wù)器”與“Web緩存服務(wù)器”來使用。
根據(jù)公司的需求,以及以后的訪問量,決定用nginx做負(fù)載均衡服務(wù)器和cache緩存服務(wù)器,后端用2臺tomcat提供web服務(wù),用戶信息數(shù)據(jù)用oracle來存儲,音頻文件用一臺單獨的應(yīng)用服務(wù)器來存儲。下面是nginx和tomcat的配置信息,關(guān)于oracle的安裝和配置請參考本博客的centos+oracle10g的安裝文件說明來配置。
1、環(huán)境描述
nginx和tomcat1服務(wù)器地址:192.168.81.131
tomcat2服務(wù)器地址:192.168.81.128
tomcat3服務(wù)器地址:192.168.81.132
2、Nginx從0.7.48版本開始,支持了類似Squid的緩存功能。這個緩存是把URL及相關(guān)組合當(dāng)作Key,用md5編碼哈希后保存在硬盤 上,所以它可以支持任意URL鏈接,同時也支持404/301/302這樣的非200狀態(tài)碼。雖然目前官方的Nginx Web緩存服務(wù)只能為指定URL或狀態(tài)碼設(shè)置過期時間,不支持類似Squid的PURGE指令,手動清除指定緩存頁面,但是,通過一個第三方的Nginx 模塊,可以清除指定URL的緩存。
Nginx的Web緩存服務(wù)主要由proxy_cache相關(guān)指令集和fastcgi_cache相關(guān)指令集構(gòu)成,前者用于反向代理時,對后端內(nèi)容源服務(wù)器進(jìn)行緩存,后者主要用于對FastCGI的動態(tài)程序進(jìn)行緩存。兩者的功能基本上一樣。
最新的Nginx ,proxy_cache和fastcgi_cache已經(jīng)比較完善,加上第三方的ngx_cache_purge模塊(用于清除指定 URL的緩存),已經(jīng)可以完全取代Squid。我們已經(jīng)在生產(chǎn)環(huán)境使用了 Nginx 的 proxy_cache 緩存功能超過兩個月,十分穩(wěn)定,速度不遜于 Squid。
在功能上,Nginx已經(jīng)具備Squid所擁有的Web緩存加速功能、清除指定URL緩存的功能。而在性能上,Nginx對多核CPU的利用,勝過Squid不少。另外,在反向代理、負(fù)載均衡、健康檢查、后端服務(wù)器故障轉(zhuǎn)移、 Rewrite重寫、易用性上,Nginx也比Squid強大得多。這使得一臺Nginx可以同時作為“負(fù)載均衡服務(wù)器”與“Web緩存服務(wù)器”來使用。
(1)、Nginx 負(fù)載均衡與緩存服務(wù)器在 Linux 下的編譯安裝:
ulimit -SHn 65535
echo "ulimit -SHn 65535" >>/etc/rc.local ##使下次重啟配置生效
wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-8.00.tar.gz
tar zxvf pcre-8.00.tar.gz
cd pcre-8.00/
./configure
make && make install
cd ../
wget ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/pcre-8.00.tar.gz
tar zxvf pcre-8.00.tar.gz
cd pcre-8.00/
./configure
make && make install
cd ../
wget http://labs.frickle.com/files/ngx_cache_purge-1.0.tar.gz
tar zxvf ngx_cache_purge-1.0.tar.gz
tar zxvf ngx_cache_purge-1.0.tar.gz
wget http://nginx.org/download/nginx-0.8.32.tar.gz
tar zxvf nginx-0.8.32.tar.gz
cd nginx-0.8.32/
./configure --user=www --group=www --add-module=../ngx_cache_purge-1.0 --prefix=/usr/local/webserver/nginx --with-http_stub_status_module --with-http_ssl_module
make && make install
cd ../
tar zxvf nginx-0.8.32.tar.gz
cd nginx-0.8.32/
./configure --user=www --group=www --add-module=../ngx_cache_purge-1.0 --prefix=/usr/local/webserver/nginx --with-http_stub_status_module --with-http_ssl_module
make && make install
cd ../
(2)、nginx完整的配置文件如下:
user www www;
worker_processes 10;
error_log /usr/local/webserver/nginx/logs/nginx_error.log crit;
pid /usr/local/webserver/nginx/nginx.pid;
#最大文件描述符
worker_rlimit_nofile 51200;
worker_rlimit_nofile 51200;
events
{
use epoll;
{
use epoll;
worker_connections 51200;
}
}
http
{
include mime.types;
default_type application/octet-stream;
{
include mime.types;
default_type application/octet-stream;
keepalive_timeout 60;
tcp_nodelay on;
sendfile on;
sendfile on;
server_names_hash_bucket_size 128;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 300m;
client_header_buffer_size 32k;
large_client_header_buffers 4 32k;
client_max_body_size 300m;
gzip on;
gzip_min_length 1k;
gzip_buffers 4 16k;
gzip_http_version 1.1;
gzip_comp_level 2;
gzip_types text/plain application/x-javascript text/css application/xml;
gzip_vary on;
proxy_connect_timeout 5;
proxy_read_timeout 60;
proxy_send_timeout 5;
proxy_buffer_size 16k;
proxy_buffers 4 64k;
proxy_busy_buffers_size 128k;
proxy_temp_file_write_size 128k;
proxy_read_timeout 60;
proxy_send_timeout 5;
proxy_buffer_size 16k;
proxy_buffers 4 64k;
proxy_busy_buffers_size 128k;
proxy_temp_file_write_size 128k;
upstream tomcat
{
server 192.168.81.131:8080;
server 192.168.81.128:8080;
{
server 192.168.81.131:8080;
server 192.168.81.128:8080;
server 192.168.81.132:8080;
}
#注:proxy_temp_path和proxy_cache_path指定的路徑必須在同一分區(qū)
proxy_temp_path /data0/proxy_temp_dir;
#設(shè)置Web緩存區(qū)名稱為cache_one,內(nèi)存緩存空間大小為50MB,1天沒有被訪問的內(nèi)容自動清除,硬盤緩存空間大小為10GB。
proxy_cache_path /data0/proxy_cache_dir levels=1:2 keys_zone=cache_one:50m inactive=1d max_size=10g;
}
#注:proxy_temp_path和proxy_cache_path指定的路徑必須在同一分區(qū)
proxy_temp_path /data0/proxy_temp_dir;
#設(shè)置Web緩存區(qū)名稱為cache_one,內(nèi)存緩存空間大小為50MB,1天沒有被訪問的內(nèi)容自動清除,硬盤緩存空間大小為10GB。
proxy_cache_path /data0/proxy_cache_dir levels=1:2 keys_zone=cache_one:50m inactive=1d max_size=10g;
server
{
listen 80;
server_name tomcat.hxqm.com;
#自動補全"/"
if (-d $request_filename)
{
rewrite ^/(.*)([^/])$ http://$host/$1$2/ last;
}
{
listen 80;
server_name tomcat.hxqm.com;
#自動補全"/"
if (-d $request_filename)
{
rewrite ^/(.*)([^/])$ http://$host/$1$2/ last;
}
#實現(xiàn)網(wǎng)頁動靜態(tài)分離
location /
{
location /
{
root /data0/htdocs/tomcat;
index index.html index.htm;
index index.html index.htm;
if (!-f $request_filename)
{
rewrite ^/([a-zA-Z]+).html /$1.jsp last;
proxy_pass http://tomcat;
break;
}
}
{
rewrite ^/([a-zA-Z]+).html /$1.jsp last;
proxy_pass http://tomcat;
break;
}
}
#對網(wǎng)站的圖片、Flash、JavaScript、CSS、靜態(tài)HTML、進(jìn)行web緩存
location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|js|css|html|shtml)$
{
#如果后端的服務(wù)器返回502、504、執(zhí)行超時等錯誤,自動將請求轉(zhuǎn)發(fā)到 upstream負(fù)載均衡池中的另一臺服務(wù)器,實現(xiàn)故障轉(zhuǎn)移。
proxy_next_upstream http_502 http_504 error timeout invalid_header;
proxy_cache cache_one;
#對不同的HTTP狀態(tài)碼設(shè)置不同的緩存時間
proxy_cache_valid 200 10m;
proxy_cache_valid 304 1m;
proxy_cache_valid 301 302 1h;
proxy_cache_valid any 1m;
#以域名、URI、參數(shù)組合成Web緩存的Key值,Nginx根據(jù)Key值哈希,存儲緩存 內(nèi)容到二級緩存目錄內(nèi)
proxy_cache_key $host$uri$is_args$args;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_pass http://tomcat;
}
#用于清除緩存,假設(shè)一個URL為http://tomcat.hxqm.com/docs/appdev/index.html,通過訪問http://tomcat.hxqm.com/purge/docs/appdev/index.html就可以清除該URL的緩存。
location ~ /purge(/.*)
{
allow 127.0.0.1;
allow 192.168.81.0/24;
deny all;
proxy_cache_purge cache_one $host$1$is_args$args;
}
location ~ .*\.(gif|jpg|jpeg|png|bmp|swf|js|css|html|shtml)$
{
#如果后端的服務(wù)器返回502、504、執(zhí)行超時等錯誤,自動將請求轉(zhuǎn)發(fā)到 upstream負(fù)載均衡池中的另一臺服務(wù)器,實現(xiàn)故障轉(zhuǎn)移。
proxy_next_upstream http_502 http_504 error timeout invalid_header;
proxy_cache cache_one;
#對不同的HTTP狀態(tài)碼設(shè)置不同的緩存時間
proxy_cache_valid 200 10m;
proxy_cache_valid 304 1m;
proxy_cache_valid 301 302 1h;
proxy_cache_valid any 1m;
#以域名、URI、參數(shù)組合成Web緩存的Key值,Nginx根據(jù)Key值哈希,存儲緩存 內(nèi)容到二級緩存目錄內(nèi)
proxy_cache_key $host$uri$is_args$args;
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_pass http://tomcat;
}
#用于清除緩存,假設(shè)一個URL為http://tomcat.hxqm.com/docs/appdev/index.html,通過訪問http://tomcat.hxqm.com/purge/docs/appdev/index.html就可以清除該URL的緩存。
location ~ /purge(/.*)
{
allow 127.0.0.1;
allow 192.168.81.0/24;
deny all;
proxy_cache_purge cache_one $host$1$is_args$args;
}
#擴(kuò)展名以.php、.jsp、.cgi結(jié)尾的動態(tài)應(yīng)用程序不緩存。
location ~ .*\.(php|jsp|cgi)?$
{
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_pass http://tomcat;
}
location ~ .*\.(php|jsp|cgi)?$
{
proxy_set_header Host $host;
proxy_set_header X-Forwarded-For $remote_addr;
proxy_pass http://tomcat;
}
location ~ .*\.(gif|jpg|jpeg|png|bmp|swf)$
{
expires 30d;
}
{
expires 30d;
}
location ~ .*\.(js|css)?$
{
expires 1h;
}
{
expires 1h;
}
log_format tomcatlogs '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" $http_x_forwarded_for';
access_log /data1/logs/tomcatlogs.log tomcatlogs;
}
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" $http_x_forwarded_for';
access_log /data1/logs/tomcatlogs.log tomcatlogs;
}
}
(3)、啟動nginx服務(wù),先測試nginx配置文件是否正確,用
/usr/local/webserver/nginx/sbin/nginx -t 測試
如果提示如下就說明配置文件沒有問題可以啟動nginx服務(wù)器了:
[root@hxqm-tomcat local]# /usr/local/webserver/nginx/sbin/nginx -t
the configuration file /usr/local/webserver/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/webserver/nginx/conf/nginx.conf test is successful
the configuration file /usr/local/webserver/nginx/conf/nginx.conf syntax is ok
configuration file /usr/local/webserver/nginx/conf/nginx.conf test is successful
如果啟動報錯,你可以根據(jù)報錯其實的行數(shù)來查看你的配置文件
3、tomcat的配置
把jdk文件和tomcat文件放在/usr/local/src目錄下(各位習(xí)慣,可以自己定義)
(1)、安裝jdk(本人裝的jdk用的是jdk-6u17-linux-i586.bin)
cd /usr/local/src;chmod+x jdk-6u17-linux-i586.bin;./jdk-6u17-linux-i586.bin
在安裝過程中敲幾下空格,然后輸入"yes",然后中途中再按回車jdk就裝好了。
做軟連接:
ln -s /usr/local/jdk1.6.0_17/ /usr/local/jdk
(2)、java環(huán)境變量的配置
vi /etc/profile,把以下內(nèi)容寫到文件的尾部
JAVA_HOME="/usr/local/jdk"
CLASS_PATH="$JAVA_HOME/lib:$JAVA_HOME/jre/lib"
PATH=".:$PATH:$JAVA_HOME/bin"
CATALINA_HOME="/usr/local/tomcat"
export JAVA_HOME CATALINA_HOME
CLASS_PATH="$JAVA_HOME/lib:$JAVA_HOME/jre/lib"
PATH=".:$PATH:$JAVA_HOME/bin"
CATALINA_HOME="/usr/local/tomcat"
export JAVA_HOME CATALINA_HOME
然后保存退出,執(zhí)行 source /etc/profile 使剛才配置的環(huán)境變量生效或者也可以重啟機器,自己選擇適合自己的方式。
(3)、tomcat的配置
編輯tomcat的配置文件server.xml
在Hosts文件里面加上如下字段:
<Context path="" docBase="/data0/htdocs/tomcat/ROOT" debug="0" reloadable="true" />
解釋:tomcat默認(rèn)回去"appBase"目錄去查找要訪問的文件,如果沒有找到就去"docBase"目錄去尋找。這個這段也可以不加,自己隨意。
這是一臺tomcat服務(wù)器的配置信息,其他兩臺一樣,此處就不多說了。
(4)、啟動tomcat服務(wù)
/usr/local/tomcat/bin/startup.sh
4、在本地的hosts文件里添加一條記錄:
192.168.81.131 tomcat.hxqm.com
5、測試訪問http://tomcat.hxqm.com,如果頁面可以正常訪問,說明nginx的代理和tomcat的服務(wù)都沒有問題。
6、清除指定的URL緩存測試示例:

如果你訪問的地址出現(xiàn)這樣的提示說明你的nginx可以清除指定的url,如果你訪問說出現(xiàn)404頁面錯誤和其他提示,原因可能是你們捕捉到緩存,請查看你的nginx配置文件。
責(zé)任編輯:龐桂玉
來源:
51cto.com