现在的高级语言如java,c#等,都采用了垃圾收集机制,而不再是c,c++里用户自己管理维护内存的方式。自己管理内存极其自由,可以任意申请内存,但如同一把双刃剑,为大量内存泄露,悬空指针等bug埋下隐患。 对于一个字符串、列表、类甚至数值都是对象,且定位简单易用的语言,自然不会让用户去处理如何分配回收内存的问题。 python里也同java一样采用了垃圾收集机制,不过不一样的是:
引用计数机制:
python里每一个东西都是对象,它们的核心就是一个结构体:PyObject
typedef struct_object {int ob_refcnt;struct_typeobject *ob_type;} PyObject;
PyObject是每个对象必有的内容,其中ob_refcnt就是作为引用计数。
当一个对象有新的引用时,它的ob_refcnt就会增加,当引用它的对象被删除,它的ob_refcnt就会减少。
#define Py_INCREF(op) ((op)->ob_refcnt++) //增加计数#define Py_DECREF(op) \ //减少计数if (--(op)->ob_refcnt != 0) \; \else \__Py_Dealloc((PyObject *)(op))
当引用计数为0时,该对象生命就结束了。
引用计数机制的优点:
引用计数机制的缺点:
list1 = []list2 = []list1.append(list2)list2.append(list1)
list1与list2相互引用,如果不存在其他对象对它们的引用,list1与list2的引用计数也仍然为1,所占用的内存永远无法被回收,这将是致命的。
对于如今的强大硬件,缺点1尚可接受,但是循环引用导致内存泄露,注定python还将引入新的回收机制。(标记清除和分代收集)
相关内容请查看:
英文原文: visualizing garbage collection in ruby and python中文:画说 Ruby 与 Python 垃圾回收
Python中的垃圾回收是以引用计数为主,分代收集为辅。
对象被创建,例如a=23对象被引用,例如b=a对象被作为参数,传入到一个函数中,例如func(a)对象作为一个元素,存储在容器中,例如list1=[a,a]对象的别名被显式销毁,例如del a对象的别名被赋予新的对象,例如a=24一个对象离开它的作用域,例如f函数执行完毕时,func函数中的局部变量(全局变量不会)对象所在的容器被销毁,或从容器中删除对象import sysa = "hello world"sys.getrefcount(a)
可以查看a对象的引用计数,但是比正常计数大1,因为调用函数的时候传入a,这会让a的引用计数+1。
引用计数的缺陷是循环引用的问题
import gcclass ClassA():def __init__(self):print('object born,id:%s'%str(hex(id(self))))def f2():while True:c1 = ClassA()c2 = ClassA()c1.t = c2c2.t = c1del c1del c2#把python的gc关闭gc.disable()f2()
执行f2(),进程占用的内存会不断增大。
c1.t=c2和c2.t=c1后,这两块内存的引用计数变成2.#coding=utf-8import gcclass ClassA():def __init__(self):print('object born,id:%s'%str(hex(id(self))))# def __del__(self):# print('object del,id:%s'%str(hex(id(self))))def f3():print("-----0------")# print(gc.collect())c1 = ClassA()c2 = ClassA()c1.t = c2c2.t = c1print("-----1------")del c1del c2print("-----2------")print(gc.garbage)print("-----3------")print(gc.collect()) #显式执行垃圾回收print("-----4------")print(gc.garbage)print("-----5------")if __name__ == '__main__':gc.set_debug(gc.DEBUG_LEAK) #设置gc模块的日志f3()
运行结果:
-----0------object born,id:0x724b20object born,id:0x724b48-----1-----------2------[]-----3------gc: collectable <ClassAinstanceat0x724b20>gc: collectable <ClassAinstanceat0x724b48>gc: collectable <dict0x723300>gc: collectable <dict0x71bf60>4-----4------[<__main__.ClassAinstanceat0x724b20>, <__main__.ClassAinstanceat0x724b48>, {'t': <__main__.ClassAinstanceat0x724b48>}, {'t': <__main__.ClassAinstanceat0x724b20>}]-----5------
gc模块提供一个接口给开发者设置垃圾回收的选项。上面说到,采用引用计数的方法管理内存的一个缺陷是循环引用,而gc模块的一个主要功能就是解决循环引用的问题。
方法 | 描述 |
gc.set_debug(flags) | 设置gc的debug日志,一般设置为gc.DEBUG_LEAK |
gc.collect([generation]) | 显式进行垃圾回收,可以输入参数,0代表只检查第一代的对象,1代表检查一,二代的对象,2代表检查一,二,三代的对象,如果不传参数,执行一个full collection,也就是等于传2。 返回不可达(unreachable objects)对象的数目 |
gc.get_threshold() | 获取的gc模块中自动执行垃圾回收的频率。 |
gc.set_threshold(threshold0[, threshold1[, threshold2]) | 设置自动执行垃圾回收的频率。 |
gc.get_count() | 获取当前自动执行垃圾回收的计数器,返回一个长度为3的列表 |
必须要import gc模块,并且is_enable()=True才会启动自动垃圾回收。
这个机制的主要作用就是发现并处理不可达的垃圾对象。
垃圾回收=垃圾检查+垃圾回收
在Python中,采用分代收集的方法。把对象分为三代,一开始,对象在创建的时候,放在一代中,如果在一次一代的垃圾检查中,该对象存活下来,就会被放到二代中,同理在一次二代的垃圾检查中,该对象存活下来,就会被放到三代中。
gc模块里面会有一个长度为3的列表的计数器,可以通过gc.get_count()获取。
例如(488,3,0),其中488是指距离上一次一代垃圾检查,Python分配内存的数目减去释放内存的数目,注意是内存分配,而不是引用计数的增加。例如:
print gc.get_count() # (590, 8, 0)a = ClassA()print gc.get_count() # (591, 8, 0)del aprint gc.get_count() # (590, 8, 0)
3是指距离上一次二代垃圾检查,一代垃圾检查的次数,同理,0是指距离上一次三代垃圾检查,二代垃圾检查的次数。
gc模块有一个自动垃圾回收的阀值,即通过gc.get_threshold函数获取到的长度为3的元组,例如(700,10,10) 每一次计数器的增加,gc模块就会检查增加后的计数是否达到阀值的数目,如果是,就会执行对应的代数的垃圾检查,然后重置计数器
例如,假设阀值是(700,10,10)
当计数器从(699,3,0)增加到(700,3,0),gc模块就会执行gc.collect(0),即检查一代对象的垃圾,并重置计数器为(0,4,0)当计数器从(699,9,0)增加到(700,9,0),gc模块就会执行gc.collect(1),即检查一、二代对象的垃圾,并重置计数器为(0,0,1)当计数器从(699,9,9)增加到(700,9,9),gc模块就会执行gc.collect(2),即检查一、二、三代对象的垃圾,并重置计数器为(0,0,0)
gc模块唯一处理不了的是循环引用的类都有__del__方法,
所以项目中要避免定义__del__方法
import gcclass ClassA():pass# def __del__(self):# print('object born,id:%s'%str(hex(id(self))))gc.set_debug(gc.DEBUG_LEAK)a = ClassA()b = ClassA()a.next = bb.prev = aprint("--1--")print(gc.collect())print("--2--")del aprint("--3--")del bprint("--3-1--")print(gc.collect())print("--4--")
运行结果:
--1--0--2----3----3-1--gc: collectable <ClassA instance at 0x7f1dacf2aea8>gc: collectable <ClassA instance at 0x7f1dacf2aef0>gc: collectable <dict 0x7f1dacf36398>gc: collectable <dict 0x7f1dacf365c8>4--4--
如果把del打开,运行结果为:
--1--0--2----3----3-1--gc: uncollectable <ClassA instance at 0x6269b8>gc: uncollectable <ClassA instance at 0x6269e0>gc: uncollectable <dict 0x61bed0>gc: uncollectable <dict 0x6230c0>4--4--