自拍偷在线精品自拍偷,亚洲欧美中文日韩v在线观看不卡

聊一聊Python中的“垃圾”回收

開發(fā) 后端
對于python來說,一切皆為對象,所有的變量賦值都遵循著對象引用機制。程序在運行的時候,需要在內存中開辟出一塊空間,用于存放運行時產生的臨時變量;計算完成后,再將結果輸出到永久性存儲器中。

前言

對于python來說,一切皆為對象,所有的變量賦值都遵循著對象引用機制。程序在運行的時候,需要在內存中開辟出一塊空間,用于存放運行時產生的臨時變量;計算完成后,再將結果輸出到永久性存儲器中。如果數(shù)據(jù)量過大,內存空間管理不善就很容易出現(xiàn) OOM(out of memory),俗稱爆內存,程序可能被操作系統(tǒng)中止。而對于服務器,內存管理則顯得更為重要,不然很容易引發(fā)內存泄漏- 這里的泄漏,并不是說你的內存出現(xiàn)了信息安全問題,被惡意程序利用了,而是指程序本身沒有設計好,導致程序未能釋放已不再使用的內存。- 內存泄漏也不是指你的內存在物理上消失了,而是意味著代碼在分配了某段內存后,因為設計錯誤,失去了對這段內存的控制,從而造成了內存的浪費。也就是這塊內存脫離了gc的控制。

計數(shù)引用

因為python中一切皆為對象,你所看到的一切變量,本質上都是對象的一個指針。當一個對象不再調用的時候,也就是當這個對象的引用計數(shù)(指針數(shù))為 0 的時候,說明這個對象永不可達,自然它也就成為了垃圾,需要被回收??梢院唵蔚睦斫鉃闆]有任何變量再指向它。 

  1. import os  
  2. import psutil   
  3.  
  4. # 顯示當前 python 程序占用的內存大小 
  5.  
  6. def show_memory_info(hint):  
  7.     pid = os.getpid()  
  8.     p = psutil.Process(pid)  
  9.     info = p.memory_full_info()  
  10.     memory = info.uss / 1024.1024  
  11. print {} memory used: {} MB .format(hint, memory)) 

可以看到調用函數(shù) func(),在列表 a 被創(chuàng)建之后,內存占用迅速增加到了 433 MB:而在函數(shù)調用結束后,內存則返回正常。這是因為,函數(shù)內部聲明的列表 a 是局部變量,在函數(shù)返回后,局部變量的引用會注銷掉;此時,列表 a 所指代對象的引用數(shù)為 0,Python 便會執(zhí)行垃圾回收,因此之前占用的大量內存就又回來了。 

  1. def func():  
  2.     show_memory_info( 
  3.  initial  
  4.  
  5. global 
  6. a = [i for  i in  range( 10000000 )]  
  7.     show_memory_info( after a created ) 
  8. func()  
  9. show_memory_info( 
  10.  finished  
  11. ) 
  12. ########## 輸出 ##########  
  13. initial memory used: 48.88671875 MB  
  14. after a created memory used:433.94921875 MB  
  15. finished memory used:433.94921875 MB 

新的這段代碼中,global a 表示將 a 聲明為全局變量。那么,即使函數(shù)返回后,列表的引用依然存在,于是對象就不會被垃圾回收掉,依然占用大量內存。同樣,如果我們把生成的列表返回,然后在主程序中接收,那么引用依然存在,垃圾回收就不會被觸發(fā),大量內存仍然被占用著:

  1. def func():  
  2.     show_memory_info(  initial  
  3.     a = [i for  i in  derange( 10000000 )]  
  4.     show_memory_info(  after a created 
  5.  
  6. return a  
  7. a = func() 
  8. show_memory_info( finished) 
  9.  
  10. ########## 輸出 ##########  
  11. initial memory used:  47.96484375 MB 
  12. after a created memory used:434.515625 MB 
  13. finished memory used: 434.515625 MB 

那怎么可以看到變量被引用了多少次呢?通過 sys.getrefcount。 

  1. import sys  
  2. a = []  
  3. # 兩次引用,一次來自 a,一次來自 getrefcount 
  4. print (sys.getrefcount(a))  
  5.  
  6. def func(a):  
  7. # 四次引用,a,python 的函數(shù)調用棧,函數(shù)參數(shù),和 getrefcount  
  8. print (sys.getrefcount(a))  
  9. func(a)  
  10. # 兩次引用,一次來自 a,一次來自 getrefcount,函數(shù) func 調用已經不存在  
  11. print (sys.getrefcount(a))   
  12. ########## 輸出 ##########  
  13.  
  14.  

如果其中涉及函數(shù)調用,會額外增加兩次1. 函數(shù)棧2. 函數(shù)調用。

從這里就可以看到python不再需要像C那種的認為的釋放內存,但是python同樣給我們提供了手動釋放內存的方法 gc.collect()。

  1. import gc  
  2. show_memory_info( initial 
  3. a = [i for  i in range( 10000000 )]  
  4. show_memory_info(  after a created
  5. del a 
  6. gc.collect() 
  7. show_memory_info( finish  
  8. print (a)  
  9. ########## 輸出 ########## 
  10. initial memory used: 48.1015625 MB 
  11. after a created memory used: 434.3828125 MB  
  12. finish memory used: 48.33203125 MB 
  13. --------------------------------------------------------------------------- 
  14. NameErrorTraceback (most recent call last
  15.  
  16. <ipython-input- 12 153e15063d8a > in<module>  
  17. 11  
  18. 12 show_memory_info(  finish ) 
  19. --->  13 print (a) 
  20.  
  21. NameError : name  a  isnotdefined 

截止目前,貌似python的垃圾回收機制非常的簡單,只要對象引用次數(shù)為0,必定為觸發(fā)gc,那么引用次數(shù)為0是否是觸發(fā)gc的充要條件呢?

循環(huán)回收

如果有兩個對象,它們互相引用,并且不再被別的對象所引用,那么它們應該被垃圾回收嗎? 

  1. def func(): 
  2.     show_memory_info( initial  
  3.     a = [i for  i in  range(10000000)] 
  4.     b = [i for  in  range(10000000)]  
  5.     show_memory_info(  after a, b created  
  6.     a.append(b)  
  7.     b.append(a) 
  8. func() 
  9. show_memory_info(  finished  
  10. ########## 輸出 ##########  
  11. initial memory used: 47.984375 MB  
  12. after a, b created memory used:822.73828125 MB  
  13. finished memory used:  821.73046875 MB 

從結果顯而易見,它們并沒有被回收,但是從程序上來看,當這個函數(shù)結束的時候,作為局部變量的a,b就已經從程序意義上不存在了。但是因為它們的互相引用,導致了它們的引用數(shù)都不為0。這時要如何規(guī)避呢1. 從代碼邏輯上進行整改,避免這種循環(huán)引用2. 通過人工回收。 

  1. import gc 
  2. def func():  
  3.     show_memory_info( initial 
  4.     a = [i for  i in  range(10000000)]  
  5.     b = [i for  i in  range(10000000)] 
  6.     show_memory_info( after a, b created 
  7.     a.append(b) 
  8.     b.append(a) 
  9. func() 
  10. gc.collect() 
  11. show_memory_info( finished  
  12. ########## 輸出 ##########  
  13. initial memory used:49.51171875 MB  
  14. after a, b created memory used: 824.1328125 MB  
  15. finished memory used:49.98046875 MB 

python針對循環(huán)引用,有它的自動垃圾回收算法1. 標記清除(mark-sweep)算法2. 分代收集(generational)。

標記清除

標記清除的步驟總結為如下步驟1. GC會把所有的『活動對象』打上標記2. 把那些沒有標記的對象『非活動對象』進行回收那么python如何判斷何為非活動對象?通過用圖論來理解不可達的概念。對于一個有向圖,如果從一個節(jié)點出發(fā)進行遍歷,并標記其經過的所有節(jié)點;那么,在遍歷結束后,所有沒有被標記的節(jié)點,我們就稱之為不可達節(jié)點。顯而易見,這些節(jié)點的存在是沒有任何意義的,自然的,我們就需要對它們進行垃圾回收。但是每次都遍歷全圖,對于 Python 而言是一種巨大的性能浪費。所以,在 Python 的垃圾回收實現(xiàn)中,mark-sweep 使用雙向鏈表維護了一個數(shù)據(jù)結構,并且只考慮容器類的對象(只有容器類對象,list、dict、tuple,instance,才有可能產生循環(huán)引用)。

 

圖中把小黑圈視為全局變量,也就是把它作為root object,從小黑圈出發(fā),對象1可直達,那么它將被標記,對象2、3可間接到達也會被標記,而4和5不可達,那么1、2、3就是活動對象,4和5是非活動對象會被GC回收。 

分代回收

分代回收是一種以空間換時間的操作方式,Python將內存根據(jù)對象的存活時間劃分為不同的集合,每個集合稱為一個代,Python將內存分為了3“代”,分別為年輕代(第0代)、中年代(第1代)、老年代(第2代),他們對應的是3個鏈表,它們的垃圾收集頻率與對象的存活時間的增大而減小。新創(chuàng)建的對象都會分配在年輕代,年輕代鏈表的總數(shù)達到上限時(當垃圾回收器中新增對象減去刪除對象達到相應的閾值時),Python垃圾收集機制就會被觸發(fā),把那些可以被回收的對象回收掉,而那些不會回收的對象就會被移到中年代去,依此類推,老年代中的對象是存活時間最久的對象,甚至是存活于整個系統(tǒng)的生命周期內。同時,分代回收是建立在標記清除技術基礎之上。事實上,分代回收基于的思想是,新生的對象更有可能被垃圾回收,而存活更久的對象也有更高的概率繼續(xù)存活。因此,通過這種做法,可以節(jié)約不少計算量,從而提高 Python 的性能。所以對于剛剛的問題,引用計數(shù)只是觸發(fā)gc的一個充分非必要條件,循環(huán)引用同樣也會觸發(fā)。

調試

可以使用 objgraph來調試程序,因為目前它的官方文檔,還沒有細讀,只能把文檔放在這供大家參閱啦~其中兩個函數(shù)非常有用 1. show_refs() 2. show_backrefs()。

 

責任編輯:龐桂玉 來源: 機器學習算法與Python學習
相關推薦

2018-03-13 09:09:07

閃存垃圾回收

2024-03-28 09:02:25

PythonGetattr工具

2022-08-30 07:39:57

C++namespace隔離

2020-12-11 11:11:44

原子類JavaCAS

2023-11-02 08:37:46

Python換行轉義

2021-01-04 08:09:07

Linux內核Watchdog

2024-10-16 15:11:58

消息隊列系統(tǒng)設計

2022-03-06 20:35:41

并發(fā)串行CAP

2024-04-29 14:58:48

Python內置函數(shù)

2021-06-30 07:19:35

微服務業(yè)務MySQL

2023-07-06 13:56:14

微軟Skype

2022-11-09 08:05:15

JavaScriptsuper()

2019-12-12 14:52:10

數(shù)據(jù)庫腳本

2020-09-08 06:54:29

Java Gradle語言

2024-02-23 15:51:40

PythonBlaze延遲計算

2023-09-22 17:36:37

2020-05-22 08:16:07

PONGPONXG-PON

2021-01-28 22:31:33

分組密碼算法

2018-07-23 15:28:29

HTTPCookieHeader

2018-06-07 13:17:12

契約測試單元測試API測試
點贊
收藏

51CTO技術棧公眾號