「OBSERVABILITY」- 日志收集方案

问题描述

该笔记将记录:与集群日志收集有关的内容,以及常见问题的解决办法;

解决方案

Apache Flume

Welcome to Apache Flume — Apache Flume

GoAccess

GoAccess – Visual Web Log Analyzer

Logwatch

Logwatch download | SourceForge.net

日志类别

系统日志
容器日志

systemd-journal

属于系统日志

kubernetes-events

属于容器日志

收集方案:
1)Grafana Agent/Kubernetes Events

kubernetes-container

linux-kernel

Linux 内核日志;

关于 Linux 系统日志

日志服务

日志轮转

日志分析

关于日志的集中化管理

应用程序错误日志管理

Sentry – https://sentry.io/welcome

日志的来源可以分为两种:
1)由系统产生的日志,通常用 syslog 处理;
2)由应用程序产生的日志,写入自定义的日志文件;

shell 在手分析服务器日志不愁?

Top 8 Log Analyzers

基于 Fluentd 的日志收集方案

Fluentd | Open Source Data Collector | Unified Logging Layer

Sentry

ElastAlert – https://github.com/Yelp/elastalert

清华大学开源软件镜像站:
https://mirrors.tuna.tsinghua.edu.cn/elasticstack/

参考文献

Wikipedia/Rsyslog
Wikipedia/syslog
12 Critical Linux Log Files You Must be Monitoring