自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

如何抓住蝴蝶效應中的那只蝴蝶

作者：白鱔
運維 數據庫運維
南美叢林的一只蝴蝶煽動翅膀，可能導致莫斯科下大雪，說明的大氣系統(tǒng)的復雜性。而DBA在日常工作中葉經常會面臨類似的問題，我們從故障的表象上分析問題處理問題，而往往我們采取的措施僅僅是解決一些表象的問題，并沒有找到問題的關鍵。也就是說，我們并沒有抓到扇翅膀的那只蝴蝶，而僅僅抓住了莫斯科上空的烏云。

南美叢林的一只蝴蝶煽動翅膀，可能導致莫斯科下大雪，說明的大氣系統(tǒng)的復雜性。而DBA在日常工作中葉經常會面臨類似的問題，我們從故障的表象上分析問題處理問題，而往往我們采取的措施僅僅是解決一些表象的問題，并沒有找到問題的關鍵。也就是說，我們并沒有抓到扇翅膀的那只蝴蝶，而僅僅抓住了莫斯科上空的烏云。

前幾天碰到一個案例，寫出來和大家共享。客戶有一套系統(tǒng)下午1點多的時候，突然出現了故障，服務無法響應，新會話連不上去。最后只能通過殺掉了大量的會話，才恢復正常?？蛻粝胝业絾栴}的原因。找到我的時候已經是下午的4點多了。出現故障的時段有大量這樣的信息：

  1. Mon Apr 11 12:52:24 2011  
  2. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_10410.trc:  
  3. ORA-00603: ORACLE server session terminated by fatal error  
  4. ORA-27544: Failed to map memory region for export  
  5. ORA-27300: OS system dependent operation:bind failed with status: 227  
  6. ORA-27301: OS failure message: Can't assign requested address  
  7. ORA-27302: failure occurred at: sskgxpcre3  
  8. Mon Apr 11 12:55:01 2011  
  9. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_13426.trc:  
  10. ORA-00603: ORACLE server session terminated by fatal error  
  11. ORA-27544: Failed to map memory region for export  
  12. ORA-27300: OS system dependent operation:bind failed with status: 227  
  13. ORA-27301: OS failure message: Can't assign requested address  
  14. ORA-27302: failure occurred at: sskgxpcre3  
  15. Mon Apr 11 12:55:25 2011  
  16. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_13934.trc:  
  17. ORA-00603: ORACLE server session terminated by fatal error  
  18. ORA-27544: Failed to map memory region for export  
  19. ORA-27300: OS system dependent operation:bind failed with status: 227  
  20. ORA-27301: OS failure message: Can't assign requested address  
  21. ORA-27302: failure occurred at: sskgxpcre3  
  22. Mon Apr 11 12:55:25 2011  
  23. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_13936.trc:  
  24. ORA-00603: ORACLE server session terminated by fatal error  
  25. ORA-27504: IPC error creating OSD context  
  26. ORA-27300: OS system dependent operation:bind failed with status: 227  
  27. ORA-27301: OS failure message: Can't assign requested address  
  28. ORA-27302: failure occurred at: sskgxpcre3  
  29. Mon Apr 11 12:55:25 2011  
  30. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_13938.trc:  
  31. ORA-00603: ORACLE server session terminated by fatal error  
  32. ORA-27504: IPC error creating OSD context  
  33. ORA-27300: OS system dependent operation:bind failed with status: 227  
  34. ORA-27301: OS failure message: Can't assign requested address  
  35. ORA-27302: failure occurred at: sskgxpcre3  
  36. Mon Apr 11 12:56:00 2011  
  37. Thread 2 advanced to log sequence 2945 (LGWR switch)  
  38.   Current log# 4 seq# 2945 mem# 0: /redolog/sjzzw2/redo04.log  
  39. Mon Apr 11 12:56:01 2011  
  40. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_14554.trc:  
  41. ORA-00603: ORACLE server session terminated by fatal error  
  42. ORA-27544: Failed to map memory region for export  
  43. ORA-27300: OS system dependent operation:bind failed with status: 227 

同時還存在一些類似的ORA-27XXX錯誤：

  1. Mon Apr 11 12:56:33 2011  
  2. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_22957.trc:  
  3. ORA-27509: IPC error receiving a message  
  4. ORA-27300: OS system dependent operation:recvmsg failed with status: 216  
  5. ORA-27301: OS failure message: Socket operation on non-socket  
  6. ORA-27302: failure occurred at: sskgxprcv1  
  7. Mon Apr 11 12:56:33 2011  
  8. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_25431.trc:  
  9. ORA-27509: IPC error receiving a message  
  10. ORA-27300: OS system dependent operation:recvmsg failed with status: 216  
  11. ORA-27301: OS failure message: Socket operation on non-socket  
  12. ORA-27302: failure occurred at: sskgxprcv1  
  13. Mon Apr 11 12:57:24 2011 

根據

  1. ORA-27300: OS system dependent operation:recvmsg failed with status: 216 

現場工程師認為是BUG 6689903導致，建議關閉NUMA?？蛻魷蕚渫砩蠈嵤╆P閉NUMA的操作，想聽聽我的建議。我覺得關閉NUMA時一個十分大的操作，應該十分謹慎，因此先要搞清楚到底是什么導致了今天的問題。從ORA-27300來看，一般來說是某種OS資源不足導致的問題。因此我們首先要從分析錯誤信息開始，HP-UX的ERRNO=227，216

  1. #  define ENOTSOCK              216     /* Socket operation on non-socket */  
  2. #  define EADDRNOTAVAIL         227     /* Can't assign requested address */  

216是在非SOCKET上操作SOCKET操作，227是無法分配地址。對于BUG 6689903，Oracle官方解釋是使用了NUMA后，Oracle存在一個BUG，導致一個會話使用了大量的UDP端口，造成UDP端口不足。可以通過打補丁或者關閉NUMA來解決這個問題。而UDP端口耗盡也可能出現ERRNO =227，無法分配地址的錯誤。因此可以初步判斷是由于UDP端口耗盡導致了問題。在這種情況下打PATCH 6689903可以解決過多UDP端口被一個會話消耗的問題，但是不一定能解決所有的問題，當系統(tǒng)負載進一步加大（系統(tǒng)設置的PROCESSES=4500，而出故障時發(fā)現會話數無法突破1600）,可能還會出問題。關閉NUMA雖然可以減少UDP端口的使用，但是會降低系統(tǒng)的性能，無法充分享受大型SMP系統(tǒng)的架構優(yōu)勢，也是不足取的。因此較好的解決這個問題是打PATCH 6689903，避免由于BUG過多消耗UDP端口，另外調整UDP端口的范圍，從而讓OS提供更多的UDP端口。通過下面命令：

  1. oracle@sjzzw22:/usr/include/sys$ ndd -get /dev/udp udp_largest_anon_port  
  2. 65535  
  3. oracle@sjzzw22:/usr/include/sys$ ndd -get /dev/udp udp_smallest_anon_port  
  4. 49152 

我們看到系統(tǒng)的UDP端口使用了缺省值，通過調整這兩個值，使中間的區(qū)間變大，就能提供更多的UDP端口號了。問題分析道這里，看樣子已經解決的差不多了?？赡艽蠖鄶礑BA到此就大功告成了。而老白認為其實不然，如果說建議NUMA只是看到了下雪時莫斯科上空的烏云，那么分析到這里也僅僅看到了西伯利亞冷空氣的影響。離那只南美洲的蝴蝶還有萬里之遙呢。

老白當然會繼續(xù)分析下去，是什么原因導致了UDP端口號被消耗光呢？客戶說平時這個系統(tǒng)會話數在1000出頭，故障時會話數達到了1600。這個是UDP端口號被消耗光的一個很好的解釋。但是為什么會話數會突增呢?通過對應用架構的了解，我們知道這個系統(tǒng)的大多數應用沒有采用連接池，而是客戶端直接連接的，當系統(tǒng)處理能力下降時，客戶端連接數據庫的連接會增加，以適應外部服務的請求。因此我們可以將懷疑點集中到系統(tǒng)出現了變慢的情況。如果在故障前的某個時段，系統(tǒng)突然變慢了，那么就有可能造成會話數增加的可能。會話數增加后，UDP端口配置過低的問題就暴露出來了。

那么接下來我們就需要分析系統(tǒng)為什么會變慢，在什么時間變慢的。我們繼續(xù)分析ALERT LOG，發(fā)現第一次報錯的時間是12點41分左右：

  1. Mon Apr 11 12:38:06 2011  
  2. Thread 2 advanced to log sequence 2940 (LGWR switch)  
  3.   Current log# 3 seq# 2940 mem# 0: /redolog/sjzzw2/redo03.log  
  4. Mon Apr 11 12:40:58 2011  
  5. Errors in file /oracle/app/oracle/admin/sjzzw2/udump/sjzzw22_ora_25451.trc:  
  6. ORA-00603: ORACLE server session terminated by fatal error  
  7. ORA-27544: Failed to map memory region for export  
  8. ORA-27300: OS system dependent operation:bind failed with status: 227  
  9. ORA-27301: OS failure message: Can't assign requested address  
  10. ORA-27302: failure occurred at: sskgxpcre3  
  11. Mon Apr 11 12:40:59 2011  
  12. Trace dumping is performing id=[cdmp_20110411124059] 

看樣子故障點應該在12點41分之前。于是我們做一個ASH報告，來看看12：:00-12:40之間系統(tǒng)發(fā)生了什么，為了便于分析，我們先按照10分鐘周期做4個報告，在前面三個報告中，一切正常，在12:30-12:40的報告中，我們發(fā)現了一個疑點：

  1. gcs drm freeze in enter server       24 

在1分鐘內，活躍會話的采樣中，出現了24次drm的等待平均等待時間600毫秒左右。而且這個時間段內的SQL執(zhí)行次數，BUFFER GET等指標明顯低于前面的時段。因此我們可以初步斷定，這可能是導致會話數量突增的一個重要疑點。而這個系統(tǒng)的另外一個節(jié)點跑的是完全不同的應用，而且還沒有投產，為什么會出現這么多DRM呢？通過LMD,LMON，LMS等的日志我們也看出，在12:36-38這段時間里的DRM數量比前面時段增加了數倍。于是我們在另外一個節(jié)點上的12:30-12:40生成了一個ASH報告，從這里我們終于看到了那只美麗的蝴蝶的真面目了，原來在這個時段，在另外一個節(jié)點上有人用SQLPLUS登陸上去，訪問了大量的故障節(jié)點的數據。而這個操作導致了DRM事件增加，短暫降低了系統(tǒng)的性能。如果UDP端口號夠用，這個影響不會被放大，而僅僅會在12點多鐘業(yè)務不繁忙時段出現短暫幾分鐘的性能下降，很快就會平息。而正是由于UDP端口號不足，才放大了這個蝴蝶扇翅膀動作。

抓住了這只蝴蝶，那么如何解決這個問題就很明顯了，盡可能不要出現類似的操作肯定是要提的。不過另外一個問題也是需要我們考慮的，在這樣的一個系統(tǒng)中，DRM其實是不必要的，因為正常情況下，兩個節(jié)點會跑自己的數據，不會交叉。因此關閉DRM是一個更靠譜的選擇。

大家可能對關閉DRM這個結局感到意外，不過如果你看過了這個抓蝴蝶的全過程，你就會認為這是順理成章的事情了。

事情就是這么簡單，但是我想大多數人只會走到這個過程中的某個步驟，就停下了。這就是DBA之間的差距，不僅僅是技術上的，更多的是態(tài)度的問題。 
 
本文鏈接：http://www.oraclefans.cn/blog/showblog.jsp?rootid=32059
 

【編輯推薦】

  1. 告訴你一些DBA求職面試技巧
  2. 這些問題，你能回答多少
  3. 在牛人眼中 數據庫有何差異化又該如何選型
  4. Oracle的安全標記算不算bug
責任編輯：艾婧 來源： oraclefans
DBA故障關鍵
相關推薦

2010-11-23 11:03:16

跳槽

2013-12-17 09:52:55

4G移動互聯(lián)網

2017-12-12 08:32:14

代碼蝴蝶效應系統(tǒng)

2013-08-02 14:27:28

2016-10-13 15:51:50

2009-09-09 12:29:36

2013-06-27 09:47:07

處理器英特爾ARM處理器

2013-10-25 10:36:19

阿里云2013阿里云開發(fā)者大云計算

2024-01-25 16:43:37

2013-10-25 10:02:52

2011-08-11 10:45:31

2025-03-31 05:55:00

2009-05-22 09:23:11

2025-03-28 07:59:41

2018-03-06 11:25:04

漫游流量運營商

2013-03-11 14:50:16

阿里云王堅云計算

2013-11-11 09:52:39

2015-08-28 13:37:39

2009-05-22 08:58:15

2022-07-03 17:15:35

數字化創(chuàng)新化科技
點贊
收藏

51CTO技術棧公眾號