Java Docker 容器中的应用程序未正确记录到系统日志

Java app in Docker container does not log to syslog properly

我的目标

我在主机中有几个不同的容器 运行。它们都与彼此的 /dev/log 套接字共享一个卷。主机将这些日志转发到中央日志服务器。所有其他容器日志都显示在主机 /var/log/messages 上。其他容器是 python 允许日志记录直接附加到 /dev/log unix 域套接字的程序。

基本配置

我有一个 docker 容器 运行 一个来自 jar 文件的 scala 应用程序。 /dev/log 套接字在主机和容器之间作为卷共享。该应用程序的 log4j.properties 文件对我来说似乎没问题,它设置如下:

# Root logger option
log4j.rootLogger=INFO, file, stdout, SYSLOG

# Direct log messages to a log file
log4j.appender.file=org.apache.log4j.RollingFileAppender
log4j.appender.file.File=log/associationRules.log
log4j.appender.file.MaxFileSize=10MB
log4j.appender.file.MaxBackupIndex=10
log4j.appender.file.layout=org.apache.log4j.PatternLayout
log4j.appender.file.layout.ConversionPattern=%d{yyyy-MM-dd HH:mm:ss} [%c{1}:%L] %-5p <%X{jobID}> %m%n

# Direct log messages to stdout
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.Target=System.out
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d{yyyy-MM-dd HH:mm:ss} [%c{1}:%L] %-5p <%X{jobID}> %m%n

# Log to syslog
log4j.appender.SYSLOG=org.apache.log4j.net.SyslogAppender
log4j.appender.SYSLOG.syslogHost=localhost
log4j.appender.SYSLOG.layout=org.apache.log4j.PatternLayout
log4j.appender.SYSLOG.layout.conversionPattern=%d{yyyy-MM-dd HH:mm:ss} [%c{1}:%L] %-5p <%X{jobID}> %m%n
log4j.appender.SYSLOG.Facility=LOCAL0
log4j.appender.SYSLOG.Threshold=debug
log4j.appender.SYSLOG.FacilityPrinting=true

stdout 和文件日志已正确完成,但 SYSLOG 似乎无法正常工作。日志显示在容器的 /var/log/syslog 中,但不会显示在主机的 /var/log/messages 中。我认为 SyslogAppender 也会输出到 /dev/log 但它似乎并没有这样做。

其他详细信息

这是我在容器 /var/log/syslog 中得到的输出。我发现 imuxsock 不是 运行 的一些问题,但我不明白日志是如何存储在 /var/log/syslog 上的。最后两行来自app,与stdout和file appenders一致

Jul  6 18:07:18 26056b722779 rsyslogd: [origin software="rsyslogd" swVersion="7.4.4" x-pid="25" x-info="http://www.rsyslog.com"] start
Jul  6 18:07:18 26056b722779 rsyslogd: cannot create '/dev/log': Address already in use
Jul  6 18:07:18 26056b722779 rsyslogd: imuxsock does not run because we could not aquire any socket

Jul  6 18:07:18 26056b722779 rsyslogd-3000: activation of module imuxsock failed
Jul  6 18:07:18 26056b722779 rsyslogd: imklog: cannot open kernel log (/proc/kmsg): Operation not permitted.
Jul  6 18:07:18 26056b722779 rsyslogd-2145: activation of module imklog failed [try http://www.rsyslog.com/e/2145 ]
Jul  6 18:07:19 localhost local0: 2015-07-06 18:07:19 [AssocApp$:112] INFO  <Undefined> Listening to queue ASSOCIATIONRULES 
Jul  6 18:07:19 localhost local0: 2015-07-06 18:07:19 [AssocApp$:113] INFO  <Undefined> Listening to queue ASSOCIATIONRULES

容器的基础映像是 ubuntu 14.04,安装了 java 我在容器映像的 docker 文件中的 CMD 是:

CMD sudo service rsyslog start; java -cp /root/AssociationRules.jar AssocApp

我这样启动容器:

docker run -d -v /dev/log:/dev/log <IMAGE> 

/etc/rsyslog.conf

#################
#### MODULES ####
#################

$ModLoad imuxsock # provides support for local system logging
$ModLoad imklog   # provides kernel logging support
#$ModLoad immark  # provides --MARK-- message capability

# provides UDP syslog reception
#$ModLoad imudp
#$UDPServerRun 514

# provides TCP syslog reception
#$ModLoad imtcp
#$InputTCPServerRun 514

# Enable non-kernel facility klog messages
$KLogPermitNonKernelFacility on

###########################
#### GLOBAL DIRECTIVES ####
###########################

#
# Use traditional timestamp format.
# To enable high precision timestamps, comment out the following line.
#
$ActionFileDefaultTemplate RSYSLOG_TraditionalFileFormat

# Filter duplicated messages
$RepeatedMsgReduction on

#
# Set the default permissions for all log files.
#
$FileOwner syslog
$FileGroup adm
$FileCreateMode 0640
$DirCreateMode 0755
$Umask 0022
#$PrivDropToUser syslog
#$PrivDropToGroup syslog

#
# Where to place spool and state files
#
$WorkDirectory /var/spool/rsyslog

#
# Include all config files in /etc/rsyslog.d/
#
$IncludeConfig /etc/rsyslog.d/*.conf

$ModLoad imudp
$UDPServerRun 514

和/etc/rsyslog.d/50-default.conf

auth,authpriv.*                 /var/log/auth.log                                                                                    
*.*;auth,authpriv.none          -/var/log/syslog                                                                                     
#cron.*                         /var/log/cron.log                                                                                    
#daemon.*                       -/var/log/daemon.log                                                                                 
kern.*                          -/var/log/kern.log                                                                                   
#lpr.*                          -/var/log/lpr.log                                                                                    
mail.*                          -/var/log/mail.log                                                                                   
#user.*                         -/var/log/user.log

#
# Logging for the mail system.  Split it up so that
# it is easy to write scripts to parse these files.
#
#mail.info                      -/var/log/mail.info
#mail.warn                      -/var/log/mail.warn
mail.err                        /var/log/mail.err

#
# Logging for INN news system.
#
news.crit                       /var/log/news/news.crit
news.err                        /var/log/news/news.err
news.notice                     -/var/log/news/news.notice

#
# Some "catch-all" log files.
#
#*.=debug;\
#       auth,authpriv.none;\
#       news.none;mail.none     -/var/log/debug
#*.=info;*.=notice;*.=warn;\
#       auth,authpriv.none;\
#       cron,daemon.none;\
#       mail,news.none          -/var/log/messages

#
# Emergencies are sent to everybody logged in.
#
*.emerg                                :omusrmsg:*

#
# I like to have messages displayed on the console, but only on a virtual
# console I usually leave idle.
#
#daemon,mail.*;\
#       news.=crit;news.=err;news.=notice;\
#       *.=debug;*.=info;\
#       *.=notice;*.=warn       /dev/tty8

# The named pipe /dev/xconsole is for the `xconsole' utility.  To use it,
# you must invoke `xconsole' with the `-file' option:
# 
#    $ xconsole -file /dev/xconsole [...]
#
# NOTE: adjust the list below, or you'll go crazy if you have a reasonably
#      busy site..
#
daemon.*;mail.*;\
        news.err;\
        *.=debug;*.=info;\
        *.=notice;*.=warn       |/dev/xconsole

我觉得你想多了。如果我没看错你的问题,你希望你的 Docker 容器将它的系统日志写入主机的系统日志。

您描述的错误可能是因为您在容器内启动了第二个系统日志守护程序,然后它想要打开 /dev/log 套接字(已经存在)。

想到了几个想法(不过都未经测试。请谨慎享用):

  1. 你为什么不配置 Log4j 直接写入远程 syslog 守护进程?这将消除容器内对系统日志守护程序的需要,以及将 /dev/log 挂载到容器中的需要?

    # Log to syslog
    log4j.appender.SYSLOG=org.apache.log4j.net.SyslogAppender
    log4j.appender.SYSLOG.syslogHost=<your-host-ip>  # <-- INSERT HOST IP HERE
    log4j.appender.SYSLOG.layout=org.apache.log4j.PatternLayout
    

    为了保持容器的可移植性,最好在创建容器时使用 --add-host 标志配置系统日志服务器的 IP 地址:

    docker run -d --add-host sysloghost:<host-ip-here> <IMAGE>
    

    那样的话,您可以在 Log4J 配置文件中简单地使用 sysloghost 作为主机名。

  2. 如果您坚持 运行 在应用程序容器内安装系统日志服务器,您应该能够(记住:所有未经测试!)将其配置为将所有消息中继到远程系统日志服务器(在 /etc/rsyslog.conf/etc/rsyslog.d 中的某处):

    *.* @sysloghost:512  # UDP forwarding
    # *.* @@sysloghost:512  # TCP forwarding
    
  3. 更好的是,为什么不 运行 它自己的 Docker 容器中的系统日志守护程序和 link 该容器到您的应用程序容器中?

请记住,对于这两种解决方案,您主机上的系统日志守护程序需要配置为侦听 TCP 或 UDP 套接字 [ref]:

$ModLoad imudp
$UDPServerRun 514

或者[ref]:

$ModLoad imtcp # needs to be done just once
$InputTCPMaxSessions 500
$InputTCPServerRun 514