结合Python跟踪信息和日志记录

Question

我正在尝试编写一个高度模块化的Python日志系统（使用日志模块），并在日志消息中包含来自跟踪模块的信息

例如，我希望能够编写一行代码，如：

my_logger.log_message(MyLogFilter, "this is a message")

并让它包含“log_message”调用发生的位置的跟踪，而不是实际的记录器调用本身

除了跟踪信息来自logging.debug()调用而不是my_logger.log_message()调用之外，我几乎可以使用以下代码

class MyLogFilter(logging.Filter):

    def __init__(self):
        self.extra = {"error_code": 999}
        self.level = "debug"

    def filter(self, record):
        for key in self.extra.keys():
           setattr(record, key, self.extra[key])

class myLogger(object):

    def __init__(self):
        fid = logging.FileHandler("test.log")
        formatter = logging.Formatter('%(pathname)s:%(lineno)i, %(error_code)%I, %(message)s' 
        fid.setFormatter(formatter)

        self.my_logger = logging.getLogger(name="test")
        self.my_logger.setLevel(logging.DEBUG)
        self.my_logger.addHandler(fid)

    def log_message(self, lfilter, message):
        xfilter = lfilter()
        self.my_logger.addFilter(xfilter)
        log_funct = getattr(self.logger, xfilter.level)
        log_funct(message)

if __name__ == "__main__":

    logger = myLogger()
    logger.log_message(MyLogFilter, "debugging")

为了进行一个简单的logging.debug调用，这是一个非常麻烦的过程，但实际上，我将在不同的日志记录级别上列出许多不同版本的MyLogFilter，其中包含不同的“error\u code”属性值，我正试图使log_message()尽量短而甜，因为它会重复无数次

如果能告诉我如何做我想做的事情，或者如果我完全偏离了正确的方向，如果是这样的话，我应该怎么做，我将不胜感激

如果可能的话，我想坚持使用内部python模块“logging”和“trace”，而不是使用任何外部解决方案

Answer 1

or if I'm completely off on the wrong track and if that's the case, what I should be doing instead.

我的强烈建议是，您应将日志记录视为一个已解决的问题，并避免重新发明轮子

如果您需要的不仅仅是标准库的logging模块提供的，那么它可能类似于structlog（pip install structlog）

Structlog将为您提供：

• 数据绑定
• 云本机结构化日志记录
• 管道
• ……还有更多

它将处理大多数本地和云使用情况

下面是一个常见的配置，它将彩色日志输出到.log文件、stdout，并且可以进一步扩展到日志，例如AWS CloudWatch

注意，其中包含一个处理器：StackInfoRenderer这将包括所有日志调用的堆栈信息，堆栈信息的值为“truthy”（这也在stdlib的日志btw中）。如果您只需要异常的堆栈信息，那么您需要为日志调用执行类似exc_info=True的操作

main.py

from structlog import get_logger
from logging_config import configure_local_logging

configure_local_logging()
logger = get_logger()

logger.info("Some random info")
logger.debug("Debugging info with stack", stack_info=True)

try:
   assert 'foo'=='bar'
catch Exception as e:
   logger.error("Error info with an exc", exc_info=e)

日志记录\u config.py

import logging
import structlog

def configure_local_logging(filename=__name__):
    """Provides a structlog colorized console and file renderer for logging in eg ING tickets"""

    timestamper = structlog.processors.TimeStamper(fmt="%Y-%m-%d %H:%M:%S")
    pre_chain = [
        structlog.stdlib.add_log_level,
        timestamper,
    ]

    logging.config.dictConfig({
            "version": 1,
            "disable_existing_loggers": False,
            "formatters": {
                "plain": {
                    "()": structlog.stdlib.ProcessorFormatter,
                    "processor": structlog.dev.ConsoleRenderer(colors=False),
                    "foreign_pre_chain": pre_chain,
                },
                "colored": {
                    "()": structlog.stdlib.ProcessorFormatter,
                    "processor": structlog.dev.ConsoleRenderer(colors=True),
                    "foreign_pre_chain": pre_chain,
                },
            },
            "handlers": {
                "default": {
                    "level": "DEBUG",
                    "class": "logging.StreamHandler",
                    "formatter": "colored",
                },
                "file": {
                    "level": "DEBUG",
                    "class": "logging.handlers.WatchedFileHandler",
                    "filename": filename + ".log",
                    "formatter": "plain",
                },
            },
            "loggers": {
                "": {
                    "handlers": ["default", "file"],
                    "level": "DEBUG",
                    "propagate": True,
                },
            }
    })

    structlog.configure_once(
        processors=[
            structlog.stdlib.add_log_level,
            structlog.stdlib.PositionalArgumentsFormatter(),
            timestamper,
            structlog.processors.StackInfoRenderer(),
            structlog.processors.format_exc_info,
            structlog.stdlib.ProcessorFormatter.wrap_for_formatter,
        ],

        context_class=dict,
        logger_factory=structlog.stdlib.LoggerFactory(),
        wrapper_class=structlog.stdlib.BoundLogger,
        cache_logger_on_first_use=True,
    )

Structlog可以做更多的事情。我建议你去看看

Answer 2

事实证明，拼图中缺少的部分是使用“回溯”模块，而不是“跟踪”模块。解析traceback的输出以提取“.log_message（）”调用的源文件名和行号非常简单

如果我的日志记录需要变得更加复杂，那么我肯定会研究struct_log。谢谢你提供的信息，因为我以前从未听说过