詳細(xì)解讀ASP.NET的異步
在前文中,介紹了.NET下的多種異步的形式,在WEB程序中,天生就是多線程的,因此使用異步應(yīng)該更為謹(jǐn)慎。本文將著重展開ASP.NET中的異步。
【注意】本文中提到的異步指的是服務(wù)器端異步,而非客戶端異步(Ajax)。
對于HTTP的請求響應(yīng)模型,服務(wù)器無法主動通知或回調(diào)客戶端,當(dāng)客戶端發(fā)起一個請求后,必須保持連接等待服務(wù)器的返回結(jié)果,才能繼續(xù)處理,因此,對于客戶端來說,請求與響應(yīng)是無法異步進(jìn)行,也就是說無論服務(wù)器如何處理請求,對于客戶端來說沒有任何差別。
那么ASP.NET異步指的又是什么,解決了什么問題呢?
在解釋ASP.NET異步前,先來考察下ASP.NET線程模型。
ASP.NET線程模型
我們知道,一個WEB服務(wù)可以同時服務(wù)器多個用戶,我們可以想象一下,WEB程序應(yīng)該運行于多線程環(huán)境中,對于運行WEB程序的線程,我們可以稱之為WEB線程,那么,先來看看WEB線程長什么樣子吧。
我們可以用一個HttpHandler輸出一些內(nèi)容。
- public class Handler : IHttpHandler
- {
- public void ProcessRequest(HttpContext context)
- {
- context.Response.ContentType = "text/plain";
- var thread = Thread.CurrentThread;
- context.Response.Write(
- string.Format("Name:{0}\r\nManagedThreadId:{1}\r\nIsBackground:{2}\r\nIsThreadPoolThread:{3}",
- thread.Name,
- thread.ManagedThreadId,
- thread.IsBackground,
- thread.IsThreadPoolThread)
- );
- }
- public bool IsReusable
- {
- get {return true;}
- }
- }
你可以看到類似于這樣的結(jié)果:
Name:
ManagedThreadId:57
IsBackground:True
IsThreadPoolThread:True
這里可以看到,WEB線程是一個沒有名稱的線程池中的線程,如果刷新這個頁面,還有機會看到 ManagedThreadId 在不斷變化,并且可能重復(fù)出現(xiàn)。說明WEB程序有機會運行于線程池中的不同線程。
為了模擬多用戶并發(fā)訪問的情況,我們需要對這個處理程序添加人為的延時,并輸出線程相關(guān)信息與開始結(jié)束時間,再通過客戶端程序同時發(fā)起多個請求,查看返回的內(nèi)容,分析請求的處理情況。
- public void ProcessRequest(HttpContext context)
- {
- DateTime begin = DateTime.Now;
- int t1, t2, t3;
- ThreadPool.GetAvailableThreads(out t1, out t3);
- ThreadPool.GetMaxThreads(out t2, out t3);
- Thread.Sleep(TimeSpan.FromSeconds(10));
- DateTime end = DateTime.Now;
- context.Response.ContentType = "text/plain";
- var thread = Thread.CurrentThread;
- context.Response.Write(
- string.Format("TId:{0}\tApp:{1}\tBegin:{2:mm:ss,ffff}\tEnd:{3:mm:ss,ffff}\tTPool:{4}",
- thread.ManagedThreadId,
- context.ApplicationInstance.GetHashCode(),
- begin,
- end,
- t2 - t1
- )
- );
- }
我們用一個命令行程序來發(fā)起請求,并顯示結(jié)果。
- static void Main()
- {
- var url = new Uri("http://localhost:8012/Handler.ashx");
- var num = 50;
- for (int i = 0; i < num; i++)
- {
- var request = WebRequest.Create(url);
- request.GetResponseAsync().ContinueWith(t =>
- {
- var stream = t.Result.GetResponseStream();
- using (TextReader tr = new StreamReader(stream))
- {
- Console.WriteLine(tr.ReadToEnd());
- }
- });
- }
- Console.ReadLine();
- }
這里,我們同時發(fā)起了50個請求,然后觀察響應(yīng)的情況。
【注意】后面的結(jié)果會因為操作系統(tǒng)、IIS版本、管道模式、.NET版本、配置項 的不同而不同,以下結(jié)果為在Windows Server 2008 R2 + IIS7.5 + .NET 4.5 beta(.NET 4 runtime) + 默認(rèn)配置 中測試的結(jié)果,在沒有特別說明的情況下,均為重啟IIS后第一次運行的情況。
這個程序在我的電腦運行結(jié)果是這樣的:
- TId:6 App:35898671 Begin:55:30,3176 End:55:40,3182 TPool:2
- TId:5 App:22288629 Begin:55:30,3176 End:55:40,3212 TPool:2
- TId:7 App:12549444 Begin:55:31,0426 End:55:41,0432 TPool:3
- TId:8 App:22008501 Begin:55:31,5747 End:55:41,5752 TPool:4
- TId:9 App:37121646 Begin:55:32,1067 End:55:42,1073 TPool:5
- TId:10 App:33156464 Begin:55:32,6387 End:55:42,6393 TPool:6
- TId:11 App:7995840 Begin:55:33,1707 End:55:43,1713 TPool:7
- TId:12 App:36610825 Begin:55:33,7028 End:55:43,7033 TPool:8
- TId:13 App:20554616 Begin:55:34,2048 End:55:44,2054 TPool:9
- TId:14 App:15510466 Begin:55:35,2069 End:55:45,2074 TPool:10
- TId:15 App:23324256 Begin:55:36,2049 End:55:46,2055 TPool:11
- TId:16 App:34250480 Begin:55:37,2050 End:55:47,2055 TPool:12
- TId:17 App:58408916 Begin:55:38,2050 End:55:48,2056 TPool:13
- TId:18 App:2348279 Begin:55:39,2051 End:55:49,2057 TPool:14
- TId:19 App:61669314 Begin:55:40,2051 End:55:50,2057 TPool:15
- TId:6 App:35898671 Begin:55:40,3212 End:55:50,3217 TPool:15
- TId:5 App:22288629 Begin:55:40,3232 End:55:50,3237 TPool:15
- TId:7 App:12549444 Begin:55:41,0432 End:55:51,0438 TPool:15
- TId:8 App:22008501 Begin:55:41,5752 End:55:51,5758 TPool:15
- TId:9 App:37121646 Begin:55:42,1073 End:55:52,1078 TPool:15
- TId:10 App:33156464 Begin:55:42,6393 End:55:52,6399 TPool:15
- TId:11 App:7995840 Begin:55:43,1713 End:55:53,1719 TPool:15
- TId:12 App:36610825 Begin:55:43,7043 End:55:53,7049 TPool:15
- TId:13 App:20554616 Begin:55:44,2054 End:55:54,2059 TPool:15
- TId:20 App:36865354 Begin:55:45,2074 End:55:55,2080 TPool:16
- TId:14 App:15510466 Begin:55:45,2084 End:55:55,2090 TPool:16
- TId:21 App:3196068 Begin:55:46,2055 End:55:56,2061 TPool:17
- TId:15 App:23324256 Begin:55:46,2065 End:55:56,2071 TPool:17
- TId:22 App:4186222 Begin:55:47,2055 End:55:57,2061 TPool:18
- TId:16 App:34250480 Begin:55:47,2065 End:55:57,2071 TPool:18
- TId:23 App:764807 Begin:55:48,2046 End:55:58,2052 TPool:19
- TId:17 App:58408916 Begin:55:48,2056 End:55:58,2062 TPool:19
- TId:24 App:10479095 Begin:55:49,2047 End:55:59,2052 TPool:20
- TId:18 App:2348279 Begin:55:49,2057 End:55:59,2062 TPool:20
- TId:25 App:4684807 Begin:55:50,2047 End:56:00,2053 TPool:21
- TId:19 App:61669314 Begin:55:50,2057 End:56:00,2063 TPool:21
- TId:6 App:35898671 Begin:55:50,3227 End:56:00,3233 TPool:21
- TId:5 App:22288629 Begin:55:50,3237 End:56:00,3243 TPool:21
- TId:7 App:12549444 Begin:55:51,0438 End:56:01,0443 TPool:21
- TId:8 App:22008501 Begin:55:51,5758 End:56:01,5764 TPool:21
- TId:9 App:37121646 Begin:55:52,1078 End:56:02,1084 TPool:21
- TId:10 App:33156464 Begin:55:52,6399 End:56:02,6404 TPool:21
- TId:11 App:7995840 Begin:55:53,1719 End:56:03,1725 TPool:21
- TId:26 App:41662089 Begin:55:53,7049 End:56:03,7055 TPool:22
- TId:12 App:36610825 Begin:55:53,7059 End:56:03,7065 TPool:22
- TId:13 App:20554616 Begin:55:54,2069 End:56:04,2075 TPool:22
- TId:27 App:46338128 Begin:55:55,2070 End:56:05,2076 TPool:23
- TId:14 App:15510466 Begin:55:55,2090 End:56:05,2096 TPool:23
- TId:20 App:36865354 Begin:55:55,2090 End:56:05,2096 TPool:23
- TId:28 App:28975576 Begin:55:56,2051 End:56:06,2056 TPool:24
從這個結(jié)果大概可以看出,開始兩個請求幾乎同時開始處理,因為線程池最小線程數(shù)為2(可配置),緊接著后面的請求會每隔半秒鐘開始一個,因為如果池中的線程都忙,會等待半秒(.NET版本不同而不同),如果還是沒有線程釋放則開啟新的線程,直到達(dá)到最大線程數(shù)(可配置)。未能在線程池中處理的請求將被放入請求隊列,當(dāng)一個線程釋放后,下一個請求緊接著開始在該線程處理。
最終50個請求共產(chǎn)生24個線程,總用時約35.9秒。
光看數(shù)據(jù)不夠形象,用簡單的代碼把數(shù)據(jù)轉(zhuǎn)換成圖形吧,下面是100個請求的處理過程。
我們可以看到,當(dāng)WEB線程長時間被占用時,請求會由于線程池而阻塞,同時產(chǎn)生大量的線程,最終響應(yīng)時間變長。
作為對比,我們列出處理時間10毫秒的數(shù)據(jù)。
- TId:6 App:44665200 Begin:41:07,9932 End:41:08,0032 TPool:2
- TId:5 App:37489757 Begin:41:07,9932 End:41:08,0032 TPool:2
- TId:5 App:44665200 Begin:41:08,0042 End:41:08,0142 TPool:2
- TId:6 App:37489757 Begin:41:08,0052 End:41:08,0152 TPool:2
- TId:5 App:44665200 Begin:41:08,0142 End:41:08,0242 TPool:2
- TId:6 App:37489757 Begin:41:08,0152 End:41:08,0252 TPool:2
- TId:5 App:44665200 Begin:41:08,0242 End:41:08,0342 TPool:2
- TId:6 App:37489757 Begin:41:08,0252 End:41:08,0352 TPool:2
- TId:5 App:44665200 Begin:41:08,0342 End:41:08,0442 TPool:2
- TId:6 App:37489757 Begin:41:08,0352 End:41:08,0452 TPool:2
- TId:5 App:44665200 Begin:41:08,0442 End:41:08,0542 TPool:2
- TId:6 App:37489757 Begin:41:08,0452 End:41:08,0552 TPool:2
- TId:5 App:44665200 Begin:41:08,0542 End:41:08,0642 TPool:2
- TId:6 App:37489757 Begin:41:08,0552 End:41:08,0652 TPool:2
- TId:5 App:44665200 Begin:41:08,0642 End:41:08,0742 TPool:2
- TId:6 App:37489757 Begin:41:08,0652 End:41:08,0752 TPool:2
- TId:5 App:44665200 Begin:41:08,0742 End:41:08,0842 TPool:2
- TId:6 App:37489757 Begin:41:08,0752 End:41:08,0852 TPool:2
- TId:5 App:44665200 Begin:41:08,0842 End:41:08,0942 TPool:2
- TId:6 App:37489757 Begin:41:08,0852 End:41:08,0952 TPool:2
- TId:5 App:44665200 Begin:41:08,0942 End:41:08,1042 TPool:2
- TId:6 App:37489757 Begin:41:08,0952 End:41:08,1052 TPool:2
- TId:5 App:44665200 Begin:41:08,1042 End:41:08,1142 TPool:2
- TId:6 App:37489757 Begin:41:08,1052 End:41:08,1152 TPool:2
- TId:5 App:44665200 Begin:41:08,1142 End:41:08,1242 TPool:2
- TId:6 App:37489757 Begin:41:08,1152 End:41:08,1252 TPool:2
- TId:5 App:44665200 Begin:41:08,1242 End:41:08,1342 TPool:2
- TId:6 App:37489757 Begin:41:08,1252 End:41:08,1352 TPool:2
- TId:5 App:44665200 Begin:41:08,1342 End:41:08,1442 TPool:2
- TId:6 App:37489757 Begin:41:08,1352 End:41:08,1452 TPool:2
- TId:5 App:44665200 Begin:41:08,1442 End:41:08,1542 TPool:2
- TId:6 App:37489757 Begin:41:08,1452 End:41:08,1552 TPool:2
- TId:5 App:44665200 Begin:41:08,1542 End:41:08,1642 TPool:2
- TId:6 App:37489757 Begin:41:08,1552 End:41:08,1652 TPool:2
- TId:5 App:44665200 Begin:41:08,1642 End:41:08,1742 TPool:2
- TId:6 App:37489757 Begin:41:08,1652 End:41:08,1752 TPool:2
- TId:5 App:44665200 Begin:41:08,1742 End:41:08,1842 TPool:3
- TId:7 App:12547953 Begin:41:08,1752 End:41:08,1852 TPool:3
- TId:6 App:37489757 Begin:41:08,1762 End:41:08,1862 TPool:3
- TId:5 App:44665200 Begin:41:08,1842 End:41:08,1942 TPool:3
- TId:7 App:12547953 Begin:41:08,1852 End:41:08,1952 TPool:3
- TId:6 App:37489757 Begin:41:08,1862 End:41:08,1962 TPool:3
- TId:5 App:44665200 Begin:41:08,1942 End:41:08,2042 TPool:3
- TId:7 App:12547953 Begin:41:08,1952 End:41:08,2092 TPool:3
- TId:6 App:37489757 Begin:41:08,1962 End:41:08,2102 TPool:3
- TId:5 App:44665200 Begin:41:08,2052 End:41:08,2152 TPool:3
- TId:7 App:12547953 Begin:41:08,2092 End:41:08,2192 TPool:3
- TId:6 App:37489757 Begin:41:08,2102 End:41:08,2202 TPool:3
- TId:5 App:44665200 Begin:41:08,2152 End:41:08,2252 TPool:3
- TId:7 App:12547953 Begin:41:08,2192 End:41:08,2292 TPool:3
共產(chǎn)生線程3個,總用時0.236秒。
根據(jù)以上的數(shù)據(jù),我們可以得出結(jié)論,要提高系統(tǒng)響應(yīng)時間與并發(fā)處理數(shù),應(yīng)盡可能減少WEB線程的等待。
【略】請各位自行查驗當(dāng)一次并發(fā)全部處理完畢后再次測試的處理情況。
【略】請各位自行查驗當(dāng)處理程序中使用線程池處理等待任務(wù)的處理情況。
如何減少WEB線程的等待呢,那就應(yīng)該盡早的結(jié)果ProcessRequest方法,前一篇中講到,對于一些需要等待完成的任務(wù),可以使用異步方法來做,于是我們可以在ProcessRequest中調(diào)用異步方法,但問題是當(dāng)ProcessRequest結(jié)束后,請求處理也即將結(jié)束,一但請求結(jié)束,將沒有辦法在這一次請求中返回結(jié)果給客戶端,但是此時,異步任務(wù)還沒有完成,當(dāng)異步任務(wù)完成時,也許再也沒有辦法將結(jié)果傳給客戶端了。(難道用輪詢?囧)
我們需要的方案是,處理請求時可以暫停處理(不是暫停線程),并保持客戶端連接,在需要時,向客戶端輸出結(jié)果,并結(jié)束請求。
在這個模型中,可以看到,對于WebServerRuntime來說,我們的請求處理程序就是一個異步方法,而對于客戶端來說,卻并不知道后面的處理情況。無論在WebServerRuntime或是我們的處理程序,都沒有直接占用線程,一切由何時SetComplete決定。同時可以看到,這種模式需要WebServerRuntime的緊密配合,提供調(diào)用異步方法的接口。在ASP.NET中,這個接口就是IHttpAsyncHandler。
異步ASP.NET處理程序
首先,我們來實現(xiàn)第一個異步處理程序,在適當(dāng)?shù)臅r候觸發(fā)結(jié)束,在開始和結(jié)束時輸出一些信息。
- public class Handler : IHttpHandler, IHttpAsyncHandler
- {
- public void ProcessRequest(HttpContext context)
- {
- //異步處理器不執(zhí)行該方法
- }
- public bool IsReusable
- {
- //設(shè)置允許重用對象
- get { return false; }
- }
- //請求開始時由ASP.NET調(diào)用此方法
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
- {
- context.Response.ContentType = "text/xml";
- context.Response.Write("App:");
- context.Response.Write(context.ApplicationInstance.GetHashCode());
- context.Response.Write("\tBegin:");
- context.Response.Write(DateTime.Now.ToString("mm:ss,ffff"));
- //輸出當(dāng)前線程
- context.Response.Write("\tThreadId:");
- context.Response.Write(Thread.CurrentThread.ManagedThreadId);
- //構(gòu)建異步結(jié)果并返回
- var result = new WebAsyncResult(cb, context);
- //用一個定時器來模擬異步觸發(fā)完成
- Timer timer = null;
- timer = new Timer(o =>
- {
- result.SetComplete();
- timer.Dispose();
- }, null, TimeSpan.FromSeconds(5), TimeSpan.FromSeconds(5));
- return result;
- }
- //異步結(jié)束時,由ASP.NET調(diào)用此方法
- public void EndProcessRequest(IAsyncResult result)
- {
- WebAsyncResult webresult = (WebAsyncResult)result;
- webresult.Context.Response.Write("\tEnd:");
- webresult.Context.Response.Write(DateTime.Now.ToString("mm:ss,ffff"));
- //輸出當(dāng)前線程
- webresult.Context.Response.Write("\tThreadId:");
- webresult.Context.Response.Write(Thread.CurrentThread.ManagedThreadId);
- }
- //WEB異步方法結(jié)果
- class WebAsyncResult : IAsyncResult
- {
- private AsyncCallback _callback;
- public WebAsyncResult(AsyncCallback cb, HttpContext context)
- {
- Context = context;
- _callback = cb;
- }
- //當(dāng)異步完成時調(diào)用該方法
- public void SetComplete()
- {
- IsCompleted = true;
- if (_callback != null)
- {
- _callback(this);
- }
- }
- public HttpContext Context
- {
- get;
- private set;
- }
- public object AsyncState
- {
- get { return null; }
- }
- //由于ASP.NET不會等待WEB異步方法,所以不使用此對象
- public WaitHandle AsyncWaitHandle
- {
- get { throw new NotImplementedException(); }
- }
- public bool CompletedSynchronously
- {
- get { return false; }
- }
- public bool IsCompleted
- {
- get;
- private set;
- }
- }
- }
在這里,我們實現(xiàn)了一個簡單的AsyncResult,由于ASP.NET通過回調(diào)方法獲取異步完成,不會等待異步,所以不需要WaitHandle。在開始請求時,建立一個AsyncResult后直接返回,當(dāng)異步完成時,調(diào)用AsyncResult的SetComplete方法,調(diào)用回調(diào)方法,再由 ASP.NET調(diào)用異步結(jié)束。此時整個請求即完成。
當(dāng)我們訪問這個地址,可以得到類似于下面的結(jié)果:
App:11240144 Begin:37:24,2676 ThreadId:6 End:37:29,2619 ThreadId:6
可以看到開始和結(jié)束在同一個線程中運行。
當(dāng)有多個并發(fā)請求時,線程池將忙碌起來,開始與結(jié)束處理也獎有機會運行于不同的線程上。50個請求并發(fā)時的處理數(shù)據(jù):
- App:52307948 Begin:39:47,8128 ThreadId:6 End:39:52,8231 ThreadId:5
- App:58766839 Begin:39:47,8358 ThreadId:5 End:39:52,8321 ThreadId:7
- App:23825510 Begin:39:47,8348 ThreadId:5 End:39:52,8321 ThreadId:7
- App:30480920 Begin:39:47,8348 ThreadId:5 End:39:52,8321 ThreadId:7
- App:62301924 Begin:39:47,8348 ThreadId:6 End:39:52,8321 ThreadId:6
- App:28062782 Begin:39:47,8338 ThreadId:5 End:39:52,8321 ThreadId:6
- App:41488021 Begin:39:47,8338 ThreadId:6 End:39:52,8321 ThreadId:7
- App:15315213 Begin:39:47,8338 ThreadId:6 End:39:52,8321 ThreadId:6
- App:17228638 Begin:39:47,8328 ThreadId:5 End:39:52,8321 ThreadId:7
- App:51438283 Begin:39:47,8328 ThreadId:6 End:39:52,8321 ThreadId:6
- App:32901400 Begin:39:47,8328 ThreadId:5 End:39:52,8321 ThreadId:7
- App:61925337 Begin:39:47,8358 ThreadId:6 End:39:52,8321 ThreadId:6
- App:24914721 Begin:39:47,8318 ThreadId:6 End:39:52,8321 ThreadId:6
- App:26314214 Begin:39:47,8318 ThreadId:6 End:39:52,8321 ThreadId:6
- App:51004322 Begin:39:47,8358 ThreadId:6 End:39:52,8321 ThreadId:6
- App:51484875 Begin:39:47,8308 ThreadId:5 End:39:52,8321 ThreadId:7
- App:19420176 Begin:39:47,8308 ThreadId:6 End:39:52,8321 ThreadId:6
- App:16868352 Begin:39:47,8298 ThreadId:6 End:39:52,8321 ThreadId:7
- App:61115195 Begin:39:47,8298 ThreadId:5 End:39:52,8321 ThreadId:6
- App:63062333 Begin:39:47,8288 ThreadId:6 End:39:52,8321 ThreadId:6
- App:53447344 Begin:39:47,8298 ThreadId:5 End:39:52,8321 ThreadId:7
- App:31665793 Begin:39:47,8288 ThreadId:5 End:39:52,8321 ThreadId:7
- App:2174563 Begin:39:47,8288 ThreadId:6 End:39:52,8321 ThreadId:6
- App:12053474 Begin:39:47,8318 ThreadId:5 End:39:52,8321 ThreadId:7
- App:41728762 Begin:39:47,8278 ThreadId:6 End:39:52,8321 ThreadId:6
- App:6385742 Begin:39:47,8278 ThreadId:5 End:39:52,8321 ThreadId:7
- App:13009416 Begin:39:47,8268 ThreadId:6 End:39:52,8321 ThreadId:6
- App:43205102 Begin:39:47,8268 ThreadId:5 End:39:52,8321 ThreadId:7
- App:14333193 Begin:39:47,8268 ThreadId:6 End:39:52,8321 ThreadId:6
- App:2808346 Begin:39:47,8258 ThreadId:6 End:39:52,8321 ThreadId:6
- App:37489757 Begin:39:47,8128 ThreadId:5 End:39:52,8231 ThreadId:6
- App:34106743 Begin:39:47,8258 ThreadId:5 End:39:52,8321 ThreadId:7
- App:30180123 Begin:39:47,8248 ThreadId:6 End:39:52,8321 ThreadId:6
- App:44313942 Begin:39:47,8248 ThreadId:5 End:39:52,8321 ThreadId:7
- App:12611187 Begin:39:47,8248 ThreadId:6 End:39:52,8321 ThreadId:6
- App:7141266 Begin:39:47,8238 ThreadId:5 End:39:52,8321 ThreadId:7
- App:25425822 Begin:39:47,8278 ThreadId:5 End:39:52,8321 ThreadId:7
- App:51288387 Begin:39:47,8238 ThreadId:5 End:39:52,8321 ThreadId:7
- App:66166301 Begin:39:47,8228 ThreadId:6 End:39:52,8321 ThreadId:6
- App:34678979 Begin:39:47,8228 ThreadId:6 End:39:52,8321 ThreadId:7
- App:10104599 Begin:39:47,8218 ThreadId:5 End:39:52,8321 ThreadId:6
- App:47362231 Begin:39:47,8258 ThreadId:5 End:39:52,8321 ThreadId:7
- App:40535505 Begin:39:47,8218 ThreadId:6 End:39:52,8321 ThreadId:7
- App:20726372 Begin:39:47,8368 ThreadId:5 End:39:52,8321 ThreadId:5
- App:2730334 Begin:39:47,8368 ThreadId:6 End:39:52,8321 ThreadId:6
- App:59884855 Begin:39:47,8368 ThreadId:5 End:39:52,8321 ThreadId:7
- App:39774547 Begin:39:47,8238 ThreadId:6 End:39:52,8321 ThreadId:6
- App:12070837 Begin:39:47,8378 ThreadId:6 End:39:52,8491 ThreadId:7
- App:64828693 Begin:39:47,8218 ThreadId:5 End:39:52,8331 ThreadId:6
- App:14509978 Begin:39:47,9308 ThreadId:6 End:39:52,9281 ThreadId:5
可以看到,從始至終只由3個線程處理所有的請求,總共時間約5.12秒。
為簡化分析,我們用下面的圖來示意異步處理程序的并發(fā)處理過程。
這樣,我們就可以通過異步的方式,將WEB線程撤底釋放出來。由WEB線程進(jìn)行請求的接收與結(jié)束處理,耗時的操作與等待都進(jìn)行異步處理。這樣少量的WEB線程就可以承受大量的并發(fā)請求,WEB線程將不再成為系統(tǒng)的瓶頸。
在大并發(fā)的異步模式下,和前面的數(shù)據(jù)相比較,可以看到HttpApplication的對象數(shù)量隨并發(fā)處理數(shù)提高而提高,隨之帶來的一系列數(shù)據(jù)結(jié)構(gòu),如 HttpHandler緩存,是需要考慮的內(nèi)存開銷。同時,在異步模式下,請求的完成需要編程的方式來控制,在觸發(fā)完成前,客戶端連接、 HttpContext對象都保持活動狀態(tài),客戶端也一直保持等待,直到超時。因此,異步模式下需要更細(xì)致的資源操作。
我們來看ASP.NET異步 的典型應(yīng)用場景。
場景一:處理過程中有需要等待的任務(wù),并且可以使用異步完成的。
- //同步方法
- public void ProcessRequest(HttpContext context)
- {
- FileStream fs = new FileStream("", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous);
- fs.CopyTo(context.Response.OutputStream);
- }
- //異步方法開始
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
- {
- FileStream fs = new FileStream("D:\\a.txt", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous);
- var task = fs.CopyToAsync(context.Response.OutputStream);
- task.GetAwaiter().OnCompleted(() => cb(task));
- return task;
- }
- //異步方法結(jié)束
- public void EndProcessRequest(IAsyncResult result)
- {
- }
這個處理程序讀取服務(wù)器的文件并輸出到客戶端。
- //同步方法
- public void ProcessRequest(HttpContext context)
- {
- var url = context.Request.QueryString["url"];
- var request = (HttpWebRequest)WebRequest.Create(url);
- var response = request.GetResponse();
- var stream = response.GetResponseStream();
- stream.CopyTo(context.Response.OutputStream);
- }
- //異步方法開始
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
- {
- //構(gòu)建異步結(jié)果并返回
- var result = new WebAsyncResult(cb, context);
- var url = context.Request.QueryString["url"];
- var request = (HttpWebRequest)WebRequest.Create(url);
- var responseTask = request.GetResponseAsync();
- responseTask.GetAwaiter().OnCompleted(() =>
- {
- var stream = responseTask.Result.GetResponseStream();
- stream.CopyToAsync(context.Response.OutputStream).GetAwaiter().OnCompleted(() =>
- {
- result.SetComplete();
- });
- });
- return result;
- }
- //異步方法結(jié)束
- public void EndProcessRequest(IAsyncResult result)
- {
- }
這是一個簡單的代理,服務(wù)器獲取WEB資源后寫回。
在這類程序中,我們提供的異步處理程序調(diào)用了IOCP異步方法,使得大量節(jié)省了WEB線程的占用,相比同步處理程序來說,并發(fā)量會得到相當(dāng)大的提升。
【注意】前面提到,由于WEB線程屬于線程池線程,因此,如果在線程池中加入任務(wù),將同樣會影響并發(fā)處理數(shù)。而在異步處理程序中,由線程池來完成異步將得不到任何本質(zhì)上的提升,因此在異步處理程序中禁止操作線程池(ThreadPool.QueueUserWorkItem、 delegate.BeginInvoke,Task.Run等)。如果確定需要使用多線程來處理大量的計算,需要自己開啟線程或?qū)崿F(xiàn)自己的線程池。
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
- {
- return new Action(() =>
- {
- Thread.Sleep(1000);
- context.Response.Write("OK");
- }).BeginInvoke(cb, extraData);
- }
上面的代碼將無法達(dá)到異步的效果。
雖然等待工作交由另一線程去操作,但是該線程與WEB線程性質(zhì)相同,同樣會導(dǎo)致其他請求阻塞。
【思考】如果我們的程序中的確需要有大量的計算,那么可以考慮將這些計算提取到獨立的應(yīng)用服務(wù)器中,然后通過網(wǎng)絡(luò)IOCP異步調(diào)用,達(dá)到WEB服務(wù)器的高吞吐量與系統(tǒng)的平行擴展性。
典型應(yīng)用場景二:長連接消息推送。
一般來說,在WEB中獲取服務(wù)器消息,采用輪詢的方式,這種方式不可避免會有延時,當(dāng)我們需要即時消息的推送時(如WEBIM),需要用到長連接。
長連接方式,由客戶端發(fā)起請求,服務(wù)器端接收后暫停處理并保持連接,當(dāng)需要發(fā)送消息給客戶端時,輸出內(nèi)容并結(jié)束處理,客戶端得到消息或者超時后,再次發(fā)起連接。如此達(dá)到在HTTP協(xié)議上服務(wù)器消息即時推送到客戶端的目的。
在這種情況下,我們希望服務(wù)器盡可能長時間保持連接,如果采用同步處理程序,則連接數(shù)受到服務(wù)器線程數(shù)的限制,而異步處理程序則可以很好的解決這個問題。異步處理程序開始時,收集相關(guān)信息,并放入集合后返回異步結(jié)果。當(dāng)需要向這個客戶端發(fā)送消息時,從客戶端集合中找到需要發(fā)送的目標(biāo),發(fā)送完成即可。
首先,我們需要對客戶端進(jìn)行標(biāo)識,這個標(biāo)識往往采用sessionid來做,本例中簡單起見,通過客戶端傳遞參數(shù)獲取。
- public class WebAsyncResult : IAsyncResult
- {
- private AsyncCallback _callback;
- public WebAsyncResult(AsyncCallback cb, HttpContext context, string clientID)
- {
- Context = context;
- ClientID = clientID;
- _callback = cb;
- }
- //當(dāng)異步完成時調(diào)用該方法
- public void SetComplete()
- {
- IsCompleted = true;
- if (_callback != null)
- {
- _callback(this);
- }
- }
我們需要一個集合來保存連接中的客戶端,提供一個向這些客戶端發(fā)送消息的方法。
- public class WebAsyncResultCollection : List<WebAsyncResult>, ICollection<WebAsyncResult>
- {
- private static WebAsyncResultCollection _instance = new WebAsyncResultCollection();
- public static WebAsyncResultCollection Instance
- {
- get { return WebAsyncResultCollection._instance; }
- }
- public bool SendMessage(string clientID, string message)
- {
- var result = this.FirstOrDefault(r => r.ClientID == clientID);
- if (result != null)
- {
- Remove(result);
- bool sendsuccess = false;
- if (result.Context.Response.IsClientConnected)
- {
- sendsuccess = true;
- result.Context.Response.Write(message);
- }
- result.SetComplete();
- return sendsuccess;
- }
- return false;
- }
- }
對于異步處理程序的開始方法,我們收集信息并放入集合。
- public IAsyncResult BeginProcessRequest(HttpContext context, AsyncCallback cb, object extraData)
- {
- var clientID = context.Request.QueryString["id"];
- WebAsyncResultCollection.Instance.SendMessage(clientID, "ClearClientID");
- WebAsyncResult result = new WebAsyncResult(cb, context, clientID);
- WebAsyncResultCollection.Instance.Add(result);
- return result;
- }
【不完善】由于客戶端收到一次消息后結(jié)束請求,由客戶端再次發(fā)起請求,中間會有部分時間間隙,在這間隙中向該客戶端發(fā)送的消息將丟失,解決方案是維護(hù)另一個用戶是否在線的表,如果用戶不在線,則處理離線消息,如果在線,并且正在連接中,則按上述處理,如果不在連接中,則緩存在服務(wù)器,當(dāng)客戶端再次連接時,首先檢查緩存的消息,如果有未接消息,則獲取消息并立即返回。
發(fā)送消息的處理程序。
- public class SendMessage : IHttpHandler
- {
- public void ProcessRequest(HttpContext context)
- {
- var clientID = context.Request.QueryString["clientID"];
- var message = context.Request.QueryString["message"];
- WebAsyncResultCollection.Instance.SendMessage(clientID, message);
- }
- public bool IsReusable
- {
- get
- {
- return true;
- }
- }
- }
可以在任何需要的位置向客戶端發(fā)送消息。
【不完善】我們需要定時刷新客戶端集合,對于長時間未處理的客戶端進(jìn)行超時結(jié)束處理。
通過異步處理程序構(gòu)建的長連接消息推送機制,單臺服務(wù)器可以輕松支持上萬個并發(fā)連接。
異步Action
在ASP.NET MVC 4中,添加了對異步Action的支持。
在ASP.NET MVC4中,整個處理過程都是異步的。
在圖中可以看到,最右邊的ActionDescriptor將決定如何調(diào)用我們的Action方法,而如何調(diào)用是由具體的Action方法形式?jīng)Q定,ASP.NET MVC會根據(jù)不同的方法形式創(chuàng)建不同的ActionDescriptor實例,從而調(diào)用不同的處理過程。對于傳統(tǒng)的方法,則使用 ReflectedActionDescriptor,他實現(xiàn)Execute方法,調(diào)用我們的Action,并在 AsyncControllerActionInvoker包裝成同步調(diào)用。而異步調(diào)用在ASP.NET MVC 4 中有兩種模式。
異步Action模式一:AsyncController/XXXAsync/XXXCompleted
我們可以使一個Controller繼承自AsyncController,按照約定同時提供兩個方法,分別命名為 XXXAsync/XXXCompleted,ASP.NET MVC則會將他們包裝成ReflectedAsyncActionDescriptor。
- public class DefaultController : AsyncController
- {
- public void DoAsync()
- {
- //注冊一次異步
- AsyncManager.OutstandingOperations.Increment();
- Timer timer = null;
- timer = new Timer(o =>
- {
- //一次異步完成
- AsyncManager.OutstandingOperations.Decrement();
- timer.Dispose();
- },null, 5000, 5000);
- }
- public ActionResult DoCompleted()
- {
- return Content("OK");
- }
- }
由于沒有IAsyncResult,我們需要通過AsyncManager來告訴ASP.NET MVC何時完成異步,我們可以在方法內(nèi)部在啟用異步時調(diào)用 AsyncManager.OutstandingOperations.Increment()告訴ASP.NET MVC開始了一次異步,完成異步時調(diào)用AsyncManager.OutstandingOperations.Decrement()告訴 ASP.NET MVC完成了一次異步,當(dāng)所有異步完成,AsyncManager會自動觸發(fā)異步完成事件,調(diào)用回調(diào)方法,最終調(diào)用我們的XXXComplete方法。我們也可以用AsyncManager.Finish()也觸發(fā)所有異步完成。當(dāng)不使用任何AsyncManager時,則不啟用異步。
可以看到整個異步過程由ASP.NET完成,在適當(dāng)?shù)臅r候會調(diào)用我們的方法。異步的開始、結(jié)束動作與及如何觸發(fā)完成都在我們的代碼中體現(xiàn)。
異步Action模式二:Task Action
對于Action,如果返回的類型是 Task,ASP.NET MVC則會將他們包裝成TaskAsyncActionDescriptor。
- public class DefaultController : Controller
- {
- public async Task<FileResult> Download()
- {
- using (FileStream fs = new FileStream("D:\\a.txt", FileMode.Open, FileAccess.Read, FileShare.ReadWrite, 4096, FileOptions.Asynchronous))
- {
- byte[] data = new byte[fs.Length];
- await fs.ReadAsync(data, 0, data.Length);
- return new FileContentResult(data, "application/octet-stream");
- }
- }
- }
我只需要需提供一個返回類型為Task的方法即可,我里我們采用async/await語法構(gòu)建一個異步方法,在方法內(nèi)部調(diào)用其他的異步方法。
相比之前的模式,簡單了一些,特別是我們的Controller中,只有一個方法,異步的操作都交由Task完成。對于可以返回Task的方法來說(如通過async/await包裝多個異步方法),就顯得十分方便。
原文鏈接:http://www.cnblogs.com/wisdomqq/archive/2012/03/29/2417723.html
【編輯推薦】