看pod以前的日志_Pod日志采集

在现代的云原生环境中，Pod日志采集是确保应用程序健康和故障排除的关键环节，Kubernetes集群中的Pod可能会频繁地创建和销毁，因此有效地采集和持久化日志数据对于开发和运维人员至关重要，本文将详细介绍如何使用Filebeat、Fluentd等工具采集Pod日志，并探讨不同的部署方案以及优化策略。

Pod日志采集流程与工具选择

Filebeat采集配置

Filebeat是一个轻量型的日志采集器，适用于监控Kubernetes中的Pod和Events日志，以下是配置Filebeat来采集这两种类型日志的基本步骤：

1、配置输入模块：使用type: container配置，让Filebeat监控容器的标准输出和日志文件，添加add_kubernetes_metadata处理器以包含有关Pod和容器的信息。

示例代码：

“`yaml

filebeat.inputs:

type: container

paths:

/var/log/containers/*.log

processors:

add_kubernetes_metadata:

in_cluster: true

“`

2、指定输出目标：通常配置Elasticsearch或Logstash作为输出目标，将采集到的日志发送到中央存储。

示例代码：

“`yaml

output.elasticsearch:

hosts: ["elasticsearch:9200"]

“`

Fluentd采集配置

Fluentd同样可以用于Kubernetes Pod日志的采集，以下是一个基本的Fluentd配置，它包括两种不同角色：转发器（forwarder）和聚合器（aggregator），每个Kubernetes工作节点部署一个Fluentd用于将节点的容器日志转发到边缘云配置公网的工作节点，然后这些节点再将日志转发到软件部署节点。

示例配置文件代码：

“`plaintext

<source>

@type tail

path /var/log/containers/*.log

pos_file /var/log/fluentdcontainers.log.pos

format json

tag kubernetes.

time_format %Y%m%dT%H:%M:%S.%N

</source>

<match kubernetes.**>

@type forward

send_timeout 60s

recover_wait 10s

hard_timeout 60s

<server>

name myserver1

host 192.168.200.100

port 24224

weight 60

</server>

</match>

“`

高级部署方案

节点代理方式

在节点级别进行日志收集，一般使用DaemonSet部署在每个节点中，这种方式优点是耗费资源少，只需部署在节点且对应用无侵入，缺点是只适合容器内应用日志必须都是标准输出的情况。

Sidecar容器方式

通过在同一个Pod中运行一个额外的日志处理容器来收集当前Pod内的一个或多个业务容器的日志，这有两种形式：一种是Streaming sidecar container，直接将应用容器的日志重定向到标准输出；另一种是每个Pod中都启动一个日志收集agent，比如Logstash或Fluentd。

应用容器直接推送方式

最简单直接的方式是在应用内部直接将日志内容发送到日志收集服务后端，例如Kafka或Elasticsearch。

优化与最佳实践

1、动态更新Filebeat配置：利用fsnotify监听日志目录变化事件，通过模板渲染方法更新Filebeat配置文件。

示例代码：

“`shell

/var/log/xxxx/xxxxx.log {

su wwwdata wwwdata

missingok

notifempty

size 1G

copytruncate

}

“`

2、定期Rotate日志文件：利用cron创建定时任务，定期Rotate日志文件，注意应用日志文件所属用户如果不是root，可以在配置中设置切换用户。

示例配置文件代码：

“`shell

* * * * * [ x /usr/bin/rotatelogs ] && /usr/bin/rotatelogs /home/www/logs/{pattern}.log 86400

“`

3、染色方式采集特定容器日志：推荐关闭DataKit默认采集所有控制台日志的方式，通过Deployment文件中添加annotation指定需要采集的容器日志。

示例annotations配置：

“`yaml

annotations:

datakit/logs: |

[

{"disable": false, "source": "log_stdout_demo", "tags": {"region": "hangzhou"}},

{"disable": false, "type": "file", "path": "/data/app/logs/log.log", "source": "log_file_demo", "tags": {"region": "beijing"}}

]

“`

通过Filebeat和Fluentd等工具可以有效采集Kubernetes集群中的Pod日志，根据具体的应用场景选择合适的部署方案，并结合动态更新配置、定期Rotate日志文件和染色方式采集等优化策略，可以显著提高日志采集的效率和准确性。