python-daemon日志记录的一个
2023-01-31 05:01:58
python
最近用到了python-daemon这个库来使一个进程成为daemon进程,代码大致如下:
#!env Python
#coding=utf-8
import logging
import multiprocessing
import logging.config
import daemon
from test import wrapper2
logger = None
pool = None
def main():
global pool
logger.info('@@@@@@@@@@@@@@@@@@@@@@')
pool.map(wrapper2, [1, 2, 3, 4, 5])
logger.info('######################')
if __name__ == '__main__':
global logger, pool
logging.config.fileConfig("logging.cfg")
logger = logging.getLogger('analysis.main')
preserve_fds = [handler.stream for handler in logger.handlers]
with daemon.DaemonContext(files_preserve = preserve_fds):
logger.info('start main function')
pool = multiprocessing.Pool(processes = 10)
main()
test.py
的代码如下:
#!env python
#coding=utf-8
import logging
logger = logging.getLogger('analysis.test')
def wrapper2(i):
logger.info('wrapper2 %s' % (i))
然后就出现了一个问题:test.py
中的logger.info('wrapper2 %s' % (i))
的这一条日志记录死活也不会生成日志记录,一开始我以为是multiprocessing导致的,但是当我改成单进程形式也还是同样的问题,折腾了一阵没有找到原因,这个时候就只能静下心来看代码了(哈哈,这个好像一直是我的法宝)。
当我看到with daemon.DaemonContext(files_preserve = preserve_fds)
这一行的时候我好像找到了原因,那就是除了files_preserve
以外的文件IO都会在daemon中被关闭,我代码中只把analysis.main
这个对应的日志文件IO给保留了,其它的日志文件IO都会被关闭。
为了验证我的想法,我把analysis.test
对应的日志IO也保留,然后再运行就一切OK了,但是此时还没有完全结束,因为我的logging.cfg中配置了上十个的日志文件,我可不想在main
中都一个个都过一遍然后再保留,有没有办法能够把logging.cfg中所有的日志文件都列出来呢?当然是有的,就是用loggers = logging.Logger.manager.loggerDict.values()
,修改后的代码如下:
#!env python
#coding=utf-8
import logging
import multiprocessing
import logging.config
import daemon
from test import wrapper2
logger = None
pool = None
def main():
global pool
logger.info('@@@@@@@@@@@@@@@@@@@@@@')
pool.map(wrapper2, [1, 2, 3, 4, 5])
logger.info('######################')
if __name__ == '__main__':
global logger, pool
logging.config.fileConfig("logging.cfg")
logger = logging.getLogger('analysis.main')
preserve_fds = []
loggers = logging.Logger.manager.loggerDict.values()
for log in loggers:
try:
p_fds = [handler.stream for handler in log.handlers]
preserve_fds.extend(p_fds)
except Exception,e:
pass
with daemon.DaemonContext(files_preserve = preserve_fds):
logger.info('start main function')
pool = multiprocessing.Pool(processes = 10)
main()
相关文章