珍貴的線程資源,JDK VS Tomcat
哈嘍,大家好,我是了不起。
高考結束了,依然祝高考學子們取得好成績,然后報考計算機專業(yè),然后快點畢業(yè),來接收哥哥姐姐們留下的代碼文明。。。。
接到某城舉報,某迪泄露高考題目。
最近生產環(huán)境各種問題,幾百臺設備停擺,真的是亞歷山大。接手了別人的代碼,只能硬著頭皮改了,一不留神就恰班到10點多了。
今天還是說一下線程池的兩個思考。
池子
我們常用的線程池,
1. JDK的ThreadPoolExecutor.
2. CompletableFutures 默認使用了ForkJoinPool.commonPool()。
CompletableFuture.supplyAsync(()->{ return "hello word";});
3. 還有Tomcat中的線程池
org.apache.tomcat.util.threads.TaskQueue
org.apache.tomcat.util.threads.ThreadPoolExecutor
線程池維護多個線程,等待監(jiān)督管理者分配可并發(fā)執(zhí)行的任務。這種做法,一方面避免了處理任務時創(chuàng)建銷毀線程開銷的代價,另一方面避免了線程數(shù)量膨脹導致的過分調度問題,保證了對內核的充分利用。
JDK 線程池
public ThreadPoolExecutor(
int corePoolSize, //核心線程數(shù)
int maximumPoolSize,//最大線程數(shù)
long keepAliveTime, //大于核心線程數(shù)量的線程存活時間,如果沒有新任務就會關閉
TimeUnit unit, // 時間單位
BlockingQueue<Runnable> workQueue, //線程等待隊列
ThreadFactory threadFactory,//創(chuàng)建線程的工廠
RejectedExecutionHandler handler//拒絕策略
) {
JDK線程池執(zhí)行任務:
- 提交任務給線程池后,線程池會檢查線程池中正在運行的線程數(shù)量,如果線程數(shù)量小于核心線程,則創(chuàng)建一個新的線程來處理任務。
- 如果線程池中線程數(shù)量達到和corePoolSize的大小,則將線程放入等待隊列BlockingQueue中。
- 如果提交任務時連等待隊列都已經(jīng)滿了的話,線程池會繼續(xù)創(chuàng)建新的線程來處理任務,直到線程池數(shù)量達到maximumPoolSize。
- 如果線程數(shù)量達到了最大容量,則會執(zhí)行拒絕策略。
這里需要注意直接使用LinkedBlockingQueue阻塞隊列作為線程池會存在一個問題,當workcount > corePool時優(yōu)先進入隊列排隊, 當請求并發(fā)過多時會導致請求緩慢,隊列太長可能會出現(xiàn)內存溢出(先排隊再漲線程池)
Tomcat線程池
下面時Tomcat線程池的構造方法
public ThreadPoolExecutor(int corePoolSize, int maximumPoolSize, long keepAliveTime, TimeUnit unit, BlockingQueue<Runnable> workQueue, ThreadFactory threadFactory, RejectedExecutionHandler handler) {
this.ctl = new AtomicInteger(ctlOf(-536870912, 0));
this.mainLock = new ReentrantLock();
this.workers = new HashSet();
this.termination = this.mainLock.newCondition();
this.submittedCount = new AtomicInteger(0);
this.lastContextStoppedTime = new AtomicLong(0L);
this.lastTimeThreadKilledItself = new AtomicLong(0L);
this.threadRenewalDelay = 1000L;
if (corePoolSize >= 0 && maximumPoolSize > 0 && maximumPoolSize >= corePoolSize && keepAliveTime >= 0L) {
if (workQueue != null && threadFactory != null && handler != null) {
this.corePoolSize = corePoolSize;
this.maximumPoolSize = maximumPoolSize;
this.workQueue = workQueue;
this.keepAliveTime = unit.toNanos(keepAliveTime);
this.threadFactory = threadFactory;
this.handler = handler;
this.prestartAllCoreThreads();
} else {
throw new NullPointerException();
}
} else {
throw new IllegalArgumentException();
}
}
Tomcat主要針對web接口請求,不能因為LinkedBlockingQueue的排隊導致接口出現(xiàn)大量延遲和緩慢, 從而使用了tomcat的TaskQueue,TaskQueue繼承了JDK的LinkedBlockingQueue 并擴展了JDK線程池的功能。
主要有一下幾點優(yōu)化:
- Tomcat的ThreadPoolExecutor使用的TaskQueue,是無界的LinkedBlockingQueue,但是通過taskQueue的offer方法覆蓋了LinkedBlockingQueue的offer方法,修改了線程池增長規(guī)則,使得線程池能在任務較多的情況下增長線程池數(shù)量。(先漲線程池再排隊。)
- Tomcat的ThreadPoolExecutor改寫了execute方法,當任務被reject時,捕獲異常,會強制入隊
public void execute(Runnable command, long timeout, TimeUnit unit) {
this.submittedCount.incrementAndGet();
try {
this.executeInternal(command);
} catch (RejectedExecutionException var9) {
if (!(this.getQueue() instanceof TaskQueue)) {
this.submittedCount.decrementAndGet();
throw var9;
}
TaskQueue queue = (TaskQueue)this.getQueue();
try {
if (!queue.force(command, timeout, unit)) {
this.submittedCount.decrementAndGet();
throw new RejectedExecutionException(sm.getString("threadPoolExecutor.queueFull"));
}
} catch (InterruptedException var8) {
this.submittedCount.decrementAndGet();
throw new RejectedExecutionException(var8);
}
}
}
那個線程池適合
我們看看AI如何回復
了不起認為大多數(shù)情況下使用JDK的線程池就夠用了,如果覺得線程數(shù)據(jù)處理不過來,需要多一點線程直接增加核心線程數(shù)量設置就可以了。針對資源比較緊張,對線程使用代價比較高時可以考慮。
tomcat對線程池做過優(yōu)化,也必然是有一定的考量,對于線程資源的使用頻率比較高的情況下可以使用。
了不起之前也有對應的不同的例子來說明不同點。這里再放出來讓大家體會一下!
JDK線程池,線程資源較珍貴
- 有一家工廠建立,開始的時候只有10個工人,然后工廠的活越來越多,招聘新的工人肯定不是最好的策略,所以多出來的活暫時只能等著,進行排隊。(這個例子中工廠的活多了,立馬去招人肯定是不可能,只能先排單)
- 后面工廠的業(yè)務越來越多,任務擠壓過多,原來的工人干活已經(jīng)不能滿足業(yè)務需求了。為了最大化效益,招聘新的工人勢在必行,于是就招聘了新的工人,所有的工人一起來干活,加快效率。
- 當工廠的工人數(shù)量達到飽和之后,仍然不停的新增業(yè)務,此時工廠已經(jīng)飽和,沒有辦法再繼續(xù)接單。那么只能采取別的方案(拒絕策略),找別的工廠干,或者新建工廠。
- 當后面業(yè)務量比較小的時候,新招的工人就會慢慢的裁剪(線程一段時間不使用就會關掉?。?。
Tomcat線程池,線程資源使用比較頻繁
- 某學校有一個食堂,大廳里面日常至少擺100把椅子(min-spare)供學生們吃飯。
- 然而當同時吃飯的同學大于100人的時候,食堂會增加一些椅子(創(chuàng)建線程),并且這些椅子也不會立馬收回去,一段時間沒有人使用才會收回。
- 但是食堂里面最多可以擺500把椅子(maxThreads)。然后超過500人吃飯同時吃飯的話,其他人就只能在大廳里面排隊等別人吃完。食堂大廳里面可以容納1000人進行排隊等候(maxConnections)。
- 當食堂大廳1000人都排滿了,那么就只能到食堂外面排隊了,外面排隊最多一直能排200人(acceptCount)。這個時候如果再有人過來要吃飯,而且還排不上隊,就會等到不耐煩(time out),也會有人來告訴后來的同學,別來了人都滿了,上其他地方吃飯去吧。(reject)