高并發(fā)場(chǎng)景下到底應(yīng)該創(chuàng)建多少線程?
大家好,我是冰河~~
創(chuàng)建多少線程合適, 要看多線程具體的應(yīng)用場(chǎng)景。一般來(lái)說(shuō),我們可以將程序分為:CPU密集型程序和I/O密集型程序, 而針對(duì)于CPU密集型程序和I/O密集型程序,其計(jì)算最佳線程數(shù)的方法是不同的 。
CPU密集型程序
對(duì)于CPU密集型計(jì)算, 多線程本質(zhì)上是提升多核CPU的利用率, 所以對(duì)于一個(gè)4核的CPU, 每個(gè)核一個(gè)線程, 理論上創(chuàng)建4個(gè)線程就可以了, 再多創(chuàng)建線程也只是增加線程切換的成本。
所以, 對(duì)于CPU密集型的計(jì)算場(chǎng)景, 理論上“線程的量=CPU核數(shù)”就是最合適的。但是在實(shí)際工作中, 一般會(huì)將線程數(shù)量設(shè)置為“CPU核數(shù)+1”, 這樣的話, 當(dāng)線程因?yàn)榕紶柕膬?nèi)存頁(yè)失效或其他原因?qū)е伦枞麜r(shí), 這個(gè)額外的線程可以頂上, 從而保證CPU的利用率 。
所以,在CPU密集型的程序中,一般可以將線程數(shù)設(shè)置為CPU核數(shù)+1。
I/O密集型程序
對(duì)于I/O密集型的程序,最佳的線程數(shù)是與程序中CPU計(jì)算和I/O操作的耗時(shí)比相關(guān)??傮w來(lái)說(shuō),可以將其總結(jié)為如下的公式。
單核CPU
最佳線程數(shù) = 1 +(I/O耗時(shí) / CPU耗時(shí))
我們令R=I/O耗時(shí) / CPU耗時(shí), 可以這樣理解:當(dāng)線程A執(zhí)行IO操作時(shí), 另外R個(gè)線程正好執(zhí)行完各自的CPU計(jì)算。這樣CPU的利用率就達(dá)到了100%。
多核CPU
多核CPU的最佳線程數(shù)在單核CPU最佳線程數(shù)的基礎(chǔ)上,乘以CPU核數(shù)即可,如下所示。
最佳線程數(shù)=CPU核數(shù) * [ 1 +(I/O耗時(shí) / CPU耗時(shí)) ]
總結(jié)
上述公式計(jì)算的結(jié)果為最佳理論值,實(shí)際工作中還是要通過(guò)實(shí)際壓測(cè)數(shù)據(jù)來(lái)找到最佳線程數(shù),將硬件的性能發(fā)揮到極致。