Tomcat性能調(diào)優(yōu)方案
一、操作系統(tǒng)調(diào)優(yōu)
對(duì)于操作系統(tǒng)優(yōu)化來(lái)說(shuō),是盡可能的增大可使用的內(nèi)存容量、提高CPU的頻率,保證文件系統(tǒng)的讀寫(xiě)速率等。經(jīng)過(guò)壓力測(cè)試驗(yàn)證,在并發(fā)連接很多的情況下,CPU的處理能力越強(qiáng),系統(tǒng)運(yùn)行速度越快。
【適用場(chǎng)景】 任何項(xiàng)目。
二、Java虛擬機(jī)調(diào)優(yōu)
應(yīng)該選擇SUN的JVM,在滿足項(xiàng)目需要的前提下,盡量選用版本較高的JVM,一般來(lái)說(shuō)高版本產(chǎn)品在速度和效率上比低版本會(huì)有改進(jìn)。
JDK1.4比JDK1.3性能提高了近10%-20%,JDK1.5比JDK1.4性能提高25%-75%。
因此對(duì)性能要求較高的情況推薦使用 JDK1.6。
【適用場(chǎng)景】 任何項(xiàng)目。
三、Apache集成Tomcat
Web 服務(wù)器專(zhuān)門(mén)處理HTTP請(qǐng)求,應(yīng)用服務(wù)器是通過(guò)很多協(xié)議為應(yīng)用提供商業(yè)邏輯。雖然Tomcat也可以作web服務(wù)器,但其處理靜態(tài)html 的速度比不上Apache,且其作為web服務(wù)器的功能遠(yuǎn)不如Apache,因此把Apache和Tomcat集成起來(lái),將html和Jsp的功能部分進(jìn) 行明確分工,讓Tomcat只處理Jsp部分,其他的由Apache,IIS等web服務(wù)器去處理,由此大大提高Tomcat的運(yùn)行效率。
如果一個(gè)項(xiàng)目中大量使用了靜態(tài)頁(yè)面、大量的圖片等,并有有較大的訪問(wèn)量,推薦使用Apache集成Tomcat的方式來(lái)提高系統(tǒng)的整體性能。
Apache 和Tomcat的整合有三種方式,分別是JK、http_proxy和ajp_proxy.其中JK方式是最常見(jiàn)的方式,JK本身有 兩個(gè)版本分別是1和2,目前1最新版本是1.2.8,而版本2早已經(jīng)廢棄了。http_proxy是利用Apache自帶的mod_proxy模塊使用代 理技術(shù)來(lái)連接Tomcat。Ajp_proxy連接方式其實(shí)跟http_proxy方式一樣,都是由mod_proxy所提供的功能。只需要把配置中的 http://換成ajp://,同時(shí)連接的是Tomcat的AJP Connector所在的端口。
相對(duì)于JK的連接方式,后兩種在配置上比較簡(jiǎn)單的,靈活性方面也一點(diǎn)都不遜色。但就穩(wěn)定性而言不像JK這樣久經(jīng)考驗(yàn),所以建議采用JK的連接方式。
Apache+JK+Tomcat配置:
使用到的兩個(gè)配置文件分別是:httpd.conf和mod_jk.conf。其中httpd.conf是Apache服務(wù)器的配置文件,用來(lái)加載JK模塊以及指定JK配置文件信息。mod_jk.conf是到Tomcat服務(wù)器的連接定義文件。
【部署步驟】
1.安裝Apache服務(wù)器
2.部署Tomcat
3.將mod_jk.so拷貝到modules目錄下面
4.修改httpd.conf和mod_jk.conf
【適用場(chǎng)景】 大量使用靜態(tài)頁(yè)面的應(yīng)用系統(tǒng)。
四、Apache和Tomcat集群
對(duì) 于并發(fā)要求很高的系統(tǒng),我們需要采取負(fù)載均衡的方式來(lái)分擔(dān)Tomcat服務(wù)器的壓力。負(fù)載均衡實(shí)現(xiàn)大概有四種:第一是通過(guò)DNS,但只能簡(jiǎn)單的 實(shí)現(xiàn)輪流分配,不能處理故障;第二是基于MS IIS,windows 2003 server本身就帶了負(fù)載均衡服務(wù);第三是硬件方式,通過(guò)交換機(jī)功能或?qū)iT(mén)的負(fù)載均衡設(shè)備來(lái)實(shí)現(xiàn);第四種是軟件的方式,通過(guò)一臺(tái)負(fù)載均衡服務(wù)器進(jìn)行,上 面安裝軟件。使用Apache Httpd Server做負(fù)載均衡器,Tomcat集群節(jié)點(diǎn)使用Tomcat就可以做到上述第四種方式,這種方式比較靈活,成本相對(duì)比較低,另外一個(gè)很大的優(yōu)點(diǎn)就是 可以根據(jù)應(yīng)用情況和服務(wù)器的情況做一些靈活的配置。所以推薦使用Apache+Tomcat集群來(lái)實(shí)現(xiàn)負(fù)載均衡。
采用Tomcat集群可以最大程度的發(fā)揮服務(wù)器的性能,可以在配置較高的服務(wù)器上部署多個(gè)Tomcat,也可以在多臺(tái)服務(wù)器上分別部署 Tomcat,Apache和Tomcat整合的方式還是JK方式。經(jīng)過(guò)驗(yàn)證,系統(tǒng)對(duì)大用戶量使用的響應(yīng)方面,Apache+3Tomccat集 群> Apache+2Tomcat集群 > Apache集成Tomcat > 單個(gè)Tomcat。并且采用Apache+多Tomcat集群的部署方式時(shí),如果一個(gè)Tomcat出現(xiàn)宕機(jī),系統(tǒng)可以繼續(xù)使用,所以在硬件系統(tǒng)性能足夠優(yōu) 越的情況下,需要盡量發(fā)揮軟件的性能,可以采用增加Tomcat集群的方式。
Apache+Tomcat 集群的方式使用到得配置文件有httpd.conf、mod_jk.conf、 workers.properties。其中mod_jk.conf是對(duì)JK信息的配置,包括JK的路徑等,workers.properties配置文 件是對(duì)Tomcat服務(wù)器的連接定義文件。
Apache需要調(diào)整運(yùn)行參數(shù),這樣才能構(gòu)建一個(gè)適合相應(yīng)網(wǎng)絡(luò)環(huán)境的web服務(wù)。其中可進(jìn)行的優(yōu)化配置如下:
1. 設(shè)置MPM(Multi Processing Modules多道處理模塊)。ThreadPerChild,這個(gè)參數(shù)用于設(shè)置每個(gè)進(jìn)程的線程數(shù),在Windows環(huán)境下默認(rèn)值是64,最大值是 1920,建議設(shè)置為100-500之間,服務(wù)器性能高的話值大一些,反之小一些。MaxRequestPerChild表示每個(gè)子進(jìn)程能夠處理的最大請(qǐng) 求數(shù)。這個(gè)參數(shù)的值更大程度上取決于服務(wù)器的內(nèi)存,如果內(nèi)存比較大的話可以設(shè)置為很大的參數(shù),否則設(shè)置一個(gè)較小的值,建議值是3000.
2. 關(guān)閉DNS和名字解析 HostnameLookups off
3. 打開(kāi)UseCanonicalName模塊 UseCanonicalName on
4. 關(guān)閉多余模塊 一般來(lái)說(shuō),不需要加載的模塊有,mod_include.so、mod_autoindex.so、mod_access.so、mod_auth.so.
5. 打開(kāi)KeepAlive支持
KeepAlive on, KeepAliveTimeout 15 MaxKeepAliveRequests 1000
根據(jù)實(shí)際經(jīng)驗(yàn),通過(guò)Apache和Tomcat集群的方式提高系統(tǒng)性能的效果十分明顯,這種方式可以最大化的利用硬件資源,通過(guò)多個(gè)Tomcat的處理來(lái)分擔(dān)單Tomcat時(shí)的壓力。
【部署步驟】
1.安裝Apache服務(wù)器
2.部署Tomcat集群,即多個(gè)相同的Tomcat。
3.將mod_jk.so拷貝到modules目錄下面
4.修改httpd.conf、mod_jk.conf和workers.properties
【適用場(chǎng)景】 并發(fā)用戶量及在線使用用戶數(shù)量比較高的系統(tǒng)。
五、Tomcat自身優(yōu)化
1. JVM參數(shù)調(diào)優(yōu):-Xms
2. 禁用DNS查詢(xún)
當(dāng)web應(yīng)用程序向要記錄客戶端的信息時(shí),它也會(huì)記錄客戶端的IP地址或者通過(guò)域名服務(wù)器查找機(jī)器名轉(zhuǎn)換為IP地址。DNS查詢(xún)需要占用網(wǎng)絡(luò), 并且包括可能從很多很遠(yuǎn)的服務(wù)器或者不起作用的服務(wù)器上去獲取對(duì)應(yīng)的IP的過(guò)程,這樣會(huì)消耗一定的時(shí)間。為了消除DNS查詢(xún)對(duì)性能的影響我們可以關(guān)閉 DNS查詢(xún),方式是修改server.xml文件中的enableLookups參數(shù)值:
Tomcat4
<Connector className="org.apache.coyote.tomcat4.CoyoteConnector" port="80" minProcessors="5" maxProcessors="75" enableLookups="false" redirectPort="8443" acceptCount="100" debug="0" connectionTimeout="20000" useURIValidationHack="false" disableUploadTimeout="true" />
Tomcat5
<Connector port="80" maxThreads="150" minSpareThreads="25" maxSpareThreads="75" enableLookups="false" redirectPort="8443" acceptCount="100" debug="0" connectionTimeout="20000" disableUploadTimeout="true"/>
3. 調(diào)整線程數(shù)
通 過(guò)應(yīng)用程序的連接器(Connector)進(jìn)行性能控制的的參數(shù)是創(chuàng)建的處理請(qǐng)求的線程數(shù)。Tomcat使用線程池加速響應(yīng)速度來(lái)處理請(qǐng)求。在 Java中線程是程序運(yùn)行時(shí)的路徑,是在一個(gè)程序中與其它控制線程無(wú)關(guān)的、能夠獨(dú)立運(yùn)行的代碼段。它們共享相同的地址空間。多線程幫助程序員寫(xiě)出CPU最 大利用率的高效程序,使空閑時(shí)間保持最低,從而接受更多的請(qǐng)求。
Tomcat4中可以通過(guò)修改minProcessors和maxProcessors的值來(lái)控制線程數(shù)。這些值在安裝后就已經(jīng)設(shè)定為默認(rèn)值并且是足夠使 用的,但是隨著站點(diǎn)的擴(kuò)容而改大這些值。minProcessors服務(wù)器啟動(dòng)時(shí)創(chuàng)建的處理請(qǐng)求的線程數(shù)應(yīng)該足夠處理一個(gè)小量的負(fù)載。也就是說(shuō),如果一天 內(nèi)每秒僅發(fā)生5次單擊事件,并且每個(gè)請(qǐng)求任務(wù)處理需要1秒鐘,那么預(yù)先設(shè)置線程數(shù)為5就足夠了。但在你的站點(diǎn)訪問(wèn)量較大時(shí)就需要設(shè)置更大的線程數(shù),指定為 參數(shù)maxProcessors的值。maxProcessors的值也是有上限的,應(yīng)防止流量不可控制(或者惡意的服務(wù)攻擊),從而導(dǎo)致超出了虛擬機(jī)使 用內(nèi)存的大小。如果要加大并發(fā)連接數(shù),應(yīng)同時(shí)加大這兩個(gè)參數(shù)。web server允許的最大連接數(shù)還受制于操作系統(tǒng)的內(nèi)核參數(shù)設(shè)置,通常Windows是2000個(gè)左右,Linux是1000個(gè)左右。
在Tomcat5對(duì)這些參數(shù)進(jìn)行了調(diào)整,請(qǐng)看下面屬性:
maxThreads Tomcat使用線程來(lái)處理接收的每個(gè)請(qǐng)求。這個(gè)值表示Tomcat可創(chuàng)建的最大的線程數(shù)。
acceptCount 指定當(dāng)所有可以使用的處理請(qǐng)求的線程數(shù)都被使用時(shí),可以放到處理隊(duì)列中的請(qǐng)求數(shù),超過(guò)這個(gè)數(shù)的請(qǐng)求將不予處理。
connnectionTimeout 網(wǎng)絡(luò)連接超時(shí),單位:毫秒。設(shè)置為0表示永不超時(shí),這樣設(shè)置有隱患的。通??稍O(shè)置為30000毫秒。
minSpareThreads Tomcat初始化時(shí)創(chuàng)建的線程數(shù)。
maxSpareThreads 一旦創(chuàng)建的線程超過(guò)這個(gè)值,Tomcat就會(huì)關(guān)閉不再需要的socket線程。
最好的方式是多設(shè)置幾次并且進(jìn)行測(cè)試,觀察響應(yīng)時(shí)間和內(nèi)存使用情況。在不同的機(jī)器、操作系統(tǒng)或虛擬機(jī)組合的情況下可能會(huì)不同,而且并不是所有人的web站點(diǎn)的流量都是一樣的,因此沒(méi)有一刀切的方案來(lái)確定線程數(shù)的值。
六、APR庫(kù)使用
Tomcat中使用APR庫(kù),其實(shí)就是在Tomcat中使用JNI的方式來(lái)讀取文件以及進(jìn)行網(wǎng)絡(luò)傳輸??梢源蟠筇嵘齌omcat對(duì)靜態(tài)文件的處理性能,同時(shí)如果你使用了HTTPS方式傳輸?shù)脑?,也可以提升SSL的處理性能。
一 般在Windows下,可以直接下載編譯好的二進(jìn)制版本的dll庫(kù)文件來(lái)使Tomcat啟用APR,一般建議拷貝庫(kù)文件tcnative- 1.dll到Tomcat的bin目錄下。而在Linux下,可以直接解壓和安裝bin目錄下的tomcat_native.tar.gz文件,編譯之前 要確保apr庫(kù)已經(jīng)安裝。
怎么才能判斷Tomcat是否已經(jīng)啟用了APR庫(kù)呢?方法是通過(guò)看Tomcat的啟動(dòng)日志:
如果沒(méi)有啟用APR,則啟動(dòng)日志一般有這么一條:
org.apache.coyote.http11.Http11Protocol start
如果啟用了APR,則這條日志就會(huì)變成:
org.apache.coyote.http11.Http11AprProtocol start
tcnative-1.dll 下載地址:http://tomcat.heanet.ie/native/
調(diào)優(yōu)綜述
根據(jù)以上分析,如果想要Tomcat達(dá)到最優(yōu)的效果,首先要爭(zhēng)取使得操作系統(tǒng)以及網(wǎng)絡(luò)資源達(dá)到最優(yōu),并且最好使用高版本的JDK。對(duì)于有大量靜態(tài)頁(yè)面的系 統(tǒng),采用Apache集成Tomcat的方式,把靜態(tài)頁(yè)面交由Apache處理,動(dòng)態(tài)部分交由Tomcat處理,能極大解放Tomcat的處理能力。使用 ARP庫(kù)也能極大的提高Tomcat對(duì)靜態(tài)文件的處理能力。對(duì)于并發(fā)要求較高的系統(tǒng),采用Apache加Tomcat集群的方式,將負(fù)載分別分擔(dān)到多個(gè) Tomcat上,能很大的提高系統(tǒng)的性能,充分利用硬件資源。同時(shí)需要對(duì)Tomcat自身進(jìn)行優(yōu)化,包括增大內(nèi)存、調(diào)節(jié)并發(fā)線程數(shù)等。
原文:http://16.199.geisvps.com/bbs/2836/24238.html
【編輯推薦】