Nginx+tomcat配置集群
開發(fā)的應(yīng)用采用F5負(fù)載均衡交換機(jī)，F(xiàn)5將請求轉(zhuǎn)發(fā)給5臺(tái)hp unix服務(wù)器，每臺(tái)服務(wù)器有多個(gè)webserver實(shí)例，對外提供web服務(wù)和socket等接口服務(wù)。之初，曾有個(gè)小小的疑問為何不采用開源的apache、Nginx軟件負(fù)載，F(xiàn)5設(shè)備動(dòng)輒幾十萬，價(jià)格昂貴？自己一個(gè)比較幼稚的問題，后續(xù)明白：F5是操作于IOS網(wǎng)絡(luò)模型的傳輸層，Nginx、apache是基于http反向代理方式，位于ISO模型的第七層應(yīng)用層。直白些就是TCP UDP 和http協(xié)議的區(qū)別，Nginx不能為基于TCP協(xié)議的應(yīng)用提供負(fù)載均衡。
了解了二者之間的區(qū)別于應(yīng)用場景，對Nginx產(chǎn)生濃厚的興趣，閱讀張宴的<實(shí)戰(zhàn)Nginx>（這個(gè)85年的小伙子年輕有為羨慕+妒忌），搞明白了大致原理和配置，Ubuntu10.10，window下對Nginx+tomcat負(fù)載均衡做了配置嘗試，將全部請求轉(zhuǎn)發(fā)到tomcat，并未做靜態(tài)，動(dòng)態(tài)分開，圖片防盜鏈等配置。
Nginx 介紹
Nginx （發(fā)音同 engine x）是一款輕量級的Web 服務(wù)器/反向代理服務(wù)器及電子郵件（IMAP/POP3）代理服務(wù)器，并在一個(gè)BSD-like 協(xié)議下發(fā)行。 其特點(diǎn)是占有內(nèi)存少，并發(fā)能力強(qiáng)，事實(shí)上nginx的并發(fā)能力確實(shí)在同類型的網(wǎng)頁伺服器中表現(xiàn)較好.目前中國大陸使用nginx網(wǎng)站用戶有：新浪、網(wǎng)易、 騰訊,另外知名的微網(wǎng)志Plurk也使用nginx。
上面的全是Nginx介紹基本上是廢話，下面轉(zhuǎn)入正題，圖文結(jié)合展示基本配置，首先是window環(huán)境、其次是Ubuntu環(huán)境（Vbox虛擬）。
Window xp環(huán)境：Nginx+Tomcat6
1、下載地址
http://nginx.org/en/download.html ，這里我們推薦下載穩(wěn)定版（stable versions），本文采用nginx-0.8.20。
2、目錄結(jié)構(gòu)
Nginx-
|_ conf 配置目錄
|_ contrib
|_ docs 文檔目錄
|_ logs 日志目錄
|_ temp 臨時(shí)文件目錄
|_ html 靜態(tài)頁面目錄
|_ nginx.exe 主程序
window下安裝Nginx極其簡單，解壓縮到一個(gè)無空格的英文目錄即可（個(gè)人習(xí)慣，擔(dān)心中文出問題），雙擊nginx啟動(dòng)，這里我安裝到：D:\server目錄，下面涉及到的tomcat也安裝在此目錄。
DOS環(huán)境啟動(dòng)
若果想停止nginx，dos環(huán)境運(yùn)行命令：nginx -s stop
3、nginx.conf配置
Nginx配置文件默認(rèn)在conf目錄，主要配置文件為nginx.conf，我們安裝在D:\server\nginx-0.8.20、默認(rèn)主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務(wù)器的配置。
Nginx.conf代碼
- #Nginx所用用戶和組，window下不指定
- #user niumd niumd;
- #工作的子進(jìn)程數(shù)量（通常等于CPU數(shù)量或者2倍于CPU）
- worker_processes 2;
- #錯(cuò)誤日志存放路徑
- #error_log logs/error.log;
- #error_log logs/error.log notice;
- error_log logs/error.log info;
- #指定pid存放文件
- pid logs/nginx.pid;
- events {
- #使用網(wǎng)絡(luò)IO模型linux建議epoll，F(xiàn)reeBSD建議采用kqueue，window下不指定。
- #use epoll;
- #允許最大連接數(shù)
- worker_connections 2048;
- }
- http {
- include mime.types;
- default_type application/octet-stream;
- #定義日志格式
- #log_format main '$remote_addr - $remote_user [$time_local] $request '
- # '"$status" $body_bytes_sent "$http_referer" '
- # '"$http_user_agent" "$http_x_forwarded_for"';
- #access_log off;
- access_log logs/access.log;
- client_header_timeout 3m;
- client_body_timeout 3m;
- send_timeout 3m;
- client_header_buffer_size 1k;
- large_client_header_buffers 4 4k;
- sendfile on;
- tcp_nopush on;
- tcp_nodelay on;
- #keepalive_timeout 75 20;
- include gzip.conf;
- upstream localhost {
- #根據(jù)ip計(jì)算將請求分配各那個(gè)后端tomcat，許多人誤認(rèn)為可以解決session問題，其實(shí)并不能。
- #同一機(jī)器在多網(wǎng)情況下，路由切換，ip可能不同
- #ip_hash;
- server localhost:18081;
- server localhost:18080;
- }
- server {
- listen 80;
- server_name localhost;
- location / {
- proxy_connect_timeout 3;
- proxy_send_timeout 30;
- proxy_read_timeout 30;
- proxy_pass http://localhost;
- }
- }
- }
代理設(shè)置如下：
Proxy.conf代碼：
- proxy_redirect off;
- proxy_set_header Host $host;
- proxy_set_header X-Real-IP $remote_addr;
- proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
- client_max_body_size 10m;
- client_body_buffer_size 128k;
- proxy_connect_timeout 300;
- proxy_send_timeout 300;
- proxy_read_timeout 300;
- proxy_buffer_size 4k;
- proxy_buffers 4 32k;
- proxy_busy_buffers_size 64k;
- proxy_temp_file_write_size 64k;
gzip壓縮相關(guān)配置如下：
Gzip.conf代碼：
- gzip on;
- gzip_min_length 1000;
- gzip_types text/plain text/css application/x-javascript;
4、Tomcat配置
對于tomcat大家都很熟悉，只需要修改server.xml配置文件即可，這里我們以apache-tomcat-6.0.14為例，分別在 server目錄，解壓縮并命名為：apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。
第一處端口修改：Xml代碼
- <!-- 修改port端口：18006 倆個(gè)tomcat不能重復(fù)，端口隨意，別太小-->
- <Server port="18006" shutdown="SHUTDOWN">
第二處端口修改：Xml代碼
- <!-- port="18081" tomcat監(jiān)聽端口，隨意設(shè)置，別太小 -->
- <Connector port="18081" protocol="HTTP/1.1"
- connectionTimeout="20000"
- redirectPort="8443" />
第三處端口修改：Java代碼
- <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
Engine元素增加jvmRoute屬性：Xml代碼
<Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">
兩個(gè)tomcat的端口別重復(fù)，保證能啟動(dòng)起來，另一個(gè)tomcat配置希捷省略，監(jiān)聽端口為18080，附件中我們將上傳所有的配置信息。
5、驗(yàn)證配置與測試負(fù)載均衡
首先測試nginx配置是否正確，測試命令：nginx -t (默認(rèn)驗(yàn)證:conf\nginx.conf),也可以指定配置文件路徑。
其次驗(yàn)證tomcat，啟動(dòng)兩個(gè)tomcat，不出現(xiàn)端口沖突即為成功（tomcat依賴的java等搞“挨踢”的就廢話不說了）；
最后驗(yàn)證配置負(fù)載均衡設(shè)置，http://localhost/ 或http://localhost/index.jsp 。我修改了index.jsp頁面，增加日志輸出信息，便于觀察。注意：左上角小貓頭上的：access tomcat2、access tomcat1。說明訪問了不同的tomcat。
至此window下nginx+tomcat負(fù)載均衡配置結(jié)束，關(guān)于tomcat Session的問題通常是采用memcached，或者采用nginx_upstream_jvm_route ，他是一個(gè) Nginx 的擴(kuò)展模塊，用來實(shí)現(xiàn)基于 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步，server間相互同步session很耗資源，高并發(fā)環(huán)境容易引起Session風(fēng)暴。請根據(jù) 自己應(yīng)用情況合理采納session解決方案。
Ubuntu10.10環(huán)境：Nginx+Tomcat6
我們下面簡單說下ubuntu10.10下如何安裝配置
1、下載Nginx
地址：http://nginx.org/en/download.html ，linux版本：nginx-0.8.20.tar.。解壓縮命令：
tar -zxvf nginx-0.8.20.tar.gz
2、編譯安裝Nginx
Nginx依賴一些其他PCRE、openssl（依賴libssl-dev），本人筆記本Ubuntu環(huán)境已經(jīng)安裝PCRE，僅需安裝依賴的openssl，下面我們簡單說下如何安裝PCRE和openssl等
PCRE下載地址：ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/
Shell代碼
- tar zxvf pcre-8.01.tar.gz
- cd pcre-8.01
- sudo ./configure
- sodu make
- sodu make install
openssl通過apt-get install安裝
- sudo apt-get install openssl
- sudo apt-get install libssl-dev
- //如缺少其他包，請采用此方法安裝，ubuntu有依賴提示
依賴的軟件包安裝完畢，下面來編譯Nginx：
Shell代碼
- #將window共享目錄軟件拷貝到當(dāng)前工作目錄
- cp /mnt/fileshare/nginx-0.8.20.tar.gz ./
- #解壓縮軟件包
- tar zxvf nginx-0.8.20.tar.gz
- cd nginx-0.8.20
- //編譯源碼,默認(rèn)使用nobody，指定本機(jī)已存在的用戶，組，啟用nginx-status功能，監(jiān)控nginx狀態(tài)。啟動(dòng)debug
- sudo ./configure --user=niumd --group=niumd --with-debug --with-http_stub_status_module
- sudo make
- sudo make install
編譯安裝正確結(jié)束，按照上述window下方法檢查默認(rèn)配置，然后在默認(rèn)配置下啟動(dòng)nginx，訪問http://127.0.0.1
Nginx配置成功后我們對window下nginx.conf少做修改，如下：
Ubuntu nginx.conf代碼
- #Nginx所用用戶和組
- user niumd niumd;
- #工作的子進(jìn)程數(shù)量（通常等于CPU數(shù)量或者2倍于CPU）
- worker_processes 2;
- #錯(cuò)誤日志存放路徑
- #error_log logs/error.log;
- #error_log logs/error.log notice;
- error_log logs/error.log info;
- #指定pid存放文件
- pid logs/nginx.pid;
- events {
- #使用網(wǎng)絡(luò)IO模型linux建議epoll，F(xiàn)reeBSD建議采用kqueue
- use epoll;
- #允許最大連接數(shù)
- worker_connections 2048;
- }
- http {
- include mime.types;
- default_type application/octet-stream;
- #定義日志格式
- #log_format main '$remote_addr - $remote_user [$time_local] $request '
- # '"$status" $body_bytes_sent "$http_referer" '
- # '"$http_user_agent" "$http_x_forwarded_for"';
- #access_log off;
- access_log logs/access.log;
- client_header_timeout 3m;
- client_body_timeout 3m;
- send_timeout 3m;
- client_header_buffer_size 1k;
- large_client_header_buffers 4 4k;
- sendfile on;
- tcp_nopush on;
- tcp_nodelay on;
- #keepalive_timeout 75 20;
- include gzip.conf;
- upstream localhost {
- #ip_hash
- #ip_hash;
- server localhost:18081;
- server localhost:18080;
- }
- server {
- listen 80;
- server_name localhost;
- location / {
- proxy_connect_timeout 3;
- proxy_send_timeout 30;
- proxy_read_timeout 30;
- proxy_pass http://localhost;
- }
- }
- }
對于上面關(guān)于ubuntu下Nginx配置和window下基本相同，區(qū)別在使用的IO網(wǎng)絡(luò)模型，linux下建議使用epoll，另外就是運(yùn)行所用的用戶和組；
3、配置tomcat
請參考window下配置，完全相同。
4、啟動(dòng)停止nginx
ubuntu下啟動(dòng)nginx與window稍有不同，大致啟動(dòng)停止方法如下。
Java代碼
- #nginx目錄執(zhí)行
- sbin/nginx
- 或通過-c 指定配置文件
- sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf
Shell代碼
- niumd@niumd-laptop:/usr/local/nginx$ pwd
- /usr/local/nginx
- niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t
- the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
- configuration file /usr/local/nginx/conf/nginx.conf test is successful
- niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v
- nginx version: nginx/0.8.20
- niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V
- nginx version: nginx/0.8.20
- built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)
- configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module
- niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx
- niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx
- root 5158 1 0 22:32 ? 00:00:00 nginx: master process sbin/nginx
- niumd 5159 5158 0 22:32 ? 00:00:00 nginx: worker process
- niumd 5161 1577 0 22:32 pts/0 00:00:00 grep --color=auto nginx
- niumd@niumd-laptop:/usr/local/nginx$
我們通過ps -ef|grep nginx,看到如下結(jié)果:
注意：在啟動(dòng)時(shí)linux提示一句警告【warn】……，是因?yàn)槲覀冊O(shè)置的 #允許最大連接數(shù) worker_connections 2048，超過linux默認(rèn)1024的限制。
停止：kill -信號類型 pid
nginx/logs目錄下有個(gè)nginx。pid的文件，此文件記錄了每次運(yùn)行的pid，也可以通過ps命令查詢。
信號類型如下：
| 信號類型 | 描述 |
| RERM.INT | 快速關(guān)閉 |
| HUP | 平滑重啟，加載配置 |
| USR1 | 重新加載日志 |
| USER2 | 平滑升級執(zhí)行程序 |
| WINCH | 從容關(guān)閉工作進(jìn)程 |
| QUIT | 從容關(guān)閉 |
