印刻数据库

外观

DB2 日志分析 ​

日志概述 ​

1. 什么是DB2日志？ ​

DB2日志是记录数据库活动的重要文件，包括事务操作、系统事件、错误信息等。通过分析DB2日志，管理员可以了解数据库的运行状态、排查故障、优化性能和确保数据安全。

2. DB2日志类型 ​

DB2主要包含以下几种类型的日志：

日志类型描述用途
事务日志记录所有事务操作用于恢复数据库、审计事务、分析性能
诊断日志记录数据库系统事件和错误用于故障排查、系统监控
活动日志记录当前活动的事务用于数据库恢复、性能监控
归档日志已完成的事务日志用于数据库恢复、历史分析
通知日志记录DB2通知和警告用于系统监控、问题预警
作业日志记录后台作业的执行情况用于作业监控、问题排查

事务日志分析 ​

1. 事务日志概述 ​

事务日志（Transaction Log）是DB2中最重要的日志类型之一，它记录了所有对数据库的修改操作，包括插入、更新、删除等。事务日志用于确保数据库的ACID属性，支持数据库恢复和复制功能。

2. 事务日志结构 ​

事务日志由多个日志文件组成，每个日志文件包含以下信息：

  • 日志记录头：包含日志记录的基本信息，如时间戳、日志类型等
  • 事务ID：唯一标识一个事务
  • 操作类型：如插入、更新、删除等
  • 表信息：操作涉及的表和列
  • 旧值和新值：修改前后的数据值
  • 提交或回滚信息：事务的最终状态

3. 事务日志分析工具 ​

3.1 db2logmgr工具 ​

bash
# 查看事务日志配置
db2 get db cfg for dbname | grep -i log

# 监控事务日志空间
db2 get snapshot for database on dbname | grep -i log
db2pd -d dbname -logs

3.2 db2fmtlog工具 ​

bash
# 格式化并查看事务日志内容
db2fmtlog /home/db2inst1/archivelogs/S0000000.LOG

# 将格式化的日志输出到文件
db2fmtlog /home/db2inst1/archivelogs/S0000000.LOG > formatted_log.txt

# 查看特定事务的日志记录
db2fmtlog /home/db2inst1/archivelogs/S0000000.LOG | grep -A 10 -B 5 "transaction ID"

3.3 db2pd工具 ​

bash
# 查看日志信息
db2pd -d dbname -logs

# 查看日志缓冲区使用情况
db2pd -d dbname -logbuf

# 查看活动事务
db2pd -d dbname -transactions

4. 事务日志分析案例 ​

4.1 案例：长时间运行的事务 ​

问题：数据库日志空间满，导致无法执行新的事务。

分析过程：

  1. 使用db2pd查看活动事务：

    bash
    db2pd -d dbname -transactions -logs

  2. 发现有一个长时间运行的事务，占用了大量日志空间：

    Transactions:
Address            AppHandl [nod-index] TranHdl    Locks      State      TID           Name            Userid      ApplName
0x00007F1234567890 1234     [000-1234]   123        456        Active     1234567890    user_transaction USER1       application1

  3. 查看该事务的详细信息：

    bash
    db2pd -d dbname -transactions -details -applhandl 1234

  4. 发现该事务已经运行了几个小时，正在处理大量数据。

解决方案：

  1. 联系应用程序开发人员，确认该事务是否可以终止
  2. 如果可以终止，执行：
    bash
    db2 force application (1234)
  3. 增加日志空间：
    bash
    db2 update db cfg for dbname using LOGFILSIZ 32768 LOGPRIMARY 20 LOGSECOND 10

诊断日志分析 ​

1. 诊断日志概述 ​

诊断日志（db2diag.log）是DB2数据库的核心日志文件，记录了数据库的系统事件、错误信息、警告和通知。诊断日志对于故障排查和性能分析非常重要。

2. 诊断日志位置和命名 ​

  • 默认位置：/home/db2inst1/sqllib/db2dump/db2diag.log
  • 日志轮换：当db2diag.log达到一定大小时，会自动轮换为db2diag.log.1, db2diag.log.2等
  • 配置位置：可以通过DIAGPATH数据库管理器配置参数修改

3. 诊断日志配置 ​

bash
# 查看诊断日志配置
db2 get dbm cfg | grep -i diag

# 修改诊断日志大小限制
db2 update dbm cfg using DIAGSIZE 1000

# 修改诊断日志目录
db2 update dbm cfg using DIAGPATH /home/db2inst1/diaglogs

# 修改诊断日志级别
db2 update dbm cfg using DIAGLEVEL 3

4. 诊断日志分析工具 ​

4.1 db2diag工具 ​

bash
# 查看诊断日志
db2diag

# 查看特定时间范围的诊断日志
db2diag -time 2023-10-01-10.00.00,2023-10-01-11.00.00

# 查看特定严重性级别的日志
db2diag -severity ERROR

# 搜索包含特定关键字的日志
db2diag -grep "deadlock"

# 按模块过滤日志
db2diag -module BSU

# 按函数过滤日志
db2diag -function sqlexLogPluginMessage

4.2 文本分析工具 ​

  • grep：用于搜索特定关键字
  • awk：用于提取和分析特定字段
  • sed：用于替换和转换日志内容
  • sort/uniq：用于排序和去重

5. 诊断日志分析案例 ​

5.1 案例：数据库启动失败 ​

问题：DB2数据库无法启动，报错"SQL1032N 没有启动数据库的权限"。

分析过程：

  1. 查看db2diag.log：

    bash
    db2diag -time 2023-10-01-09.00.00,2023-10-01-10.00.00 -severity ERROR

  2. 发现错误信息：

    2023-10-01-09.15.30.123456+0800 I1234567          LEVEL: Error
PID     : 1234                 TID : 5678           PROC : db2star2 0
INSTANCE: db2inst1             NODE : 000            DB   : -        
FUNCTION: DB2 UDB, database utilities, sqludrstrt, probe:10
MESSAGE : ZRC=0x8005000D=-2147155955=SQLZ_RC_PERM, "权限错误"
DATA #1 : String, 123 bytes
无法读取数据库配置文件，权限被拒绝。文件路径：/home/db2inst1/db2inst1/NODE0000/SQL00001/SQLOGDIR/db2rstar.cfg

  3. 检查文件权限：

    bash
    ls -l /home/db2inst1/db2inst1/NODE0000/SQL00001/SQLOGDIR/db2rstar.cfg

  4. 发现文件权限不正确，只有root用户可以访问。

解决方案：

bash
# 更改文件所有者和权限
chown db2inst1:db2iadm1 /home/db2inst1/db2inst1/NODE0000/SQL00001/SQLOGDIR/db2rstar.cfg
chmod 644 /home/db2inst1/db2inst1/NODE0000/SQL00001/SQLOGDIR/db2rstar.cfg

性能日志分析 ​

1. 性能监控概述 ​

性能日志记录了数据库的性能指标，包括CPU使用率、内存使用率、I/O操作、锁等待等。通过分析性能日志，可以识别性能瓶颈，优化数据库配置和查询。

2. 性能监控工具 ​

2.1 db2mon工具 ​

bash
# 启动性能监控
db2mon -d dbname -interval 5 -count 10 > perf_mon.log

# 分析性能日志
db2mon -format perf_mon.log > formatted_perf.log

2.2 db2top工具 ​

bash
# 启动db2top，连接到数据库
db2top -d dbname

# 保存性能数据到文件
db2top -d dbname -f perf_data.log -i 5 -n 10

2.3 快照监控 ​

bash
# 获取数据库快照
db2 get snapshot for database on dbname > db_snapshot.log

# 获取表空间快照
db2 get snapshot for tablespaces on dbname > ts_snapshot.log

# 获取缓冲池快照
db2 get snapshot for bufferpools on dbname > bp_snapshot.log

3. 性能日志分析案例 ​

3.1 案例：I/O性能瓶颈 ​

问题：数据库查询响应时间长，系统I/O等待高。

分析过程：

  1. 使用db2top查看I/O性能：

    bash
    db2top -d dbname -v fileio

  2. 发现某些数据文件的I/O等待时间很高：

    File I/O:                                             Refresh: 2s        
FileName                     PartID NodeID     Reads/s  Writes/s   ReadKB/s  WriteKB/s  ReadWait  WriteWait
/data/db2inst1/SAMPLE/T0000000.LRG       0     0        123      456       7890      12345        123       456

  3. 查看这些文件对应的表空间和表：

    bash
    db2pd -d dbname -tablespaces -files

  4. 发现这些文件对应的是一个大型表，经常被查询访问。

解决方案：

  1. 将该表移到更快的存储设备上
  2. 优化查询，减少全表扫描
  3. 增加缓冲池大小，减少物理I/O
  4. 考虑对该表进行分区

日志分析最佳实践 ​

1. 日志配置最佳实践 ​

  • 启用归档日志：始终启用归档日志模式，确保可以进行完全恢复
  • 合理设置日志大小：根据数据库负载调整日志文件大小和数量
  • 配置适当的诊断级别：根据需要调整DIAGLEVEL参数，平衡日志详细程度和性能影响
  • 使用日志压缩：启用LOGARCHCOMPR1参数，减少归档日志占用的存储空间
  • 分离日志和数据文件：将日志文件放在独立的高速存储设备上

2. 日志监控最佳实践 ​

  • 建立监控机制：定期监控日志空间和使用情况
  • 设置告警阈值：当日志使用率超过阈值时发送告警
  • 自动化分析：使用脚本自动分析日志，识别异常情况
  • 集成到监控系统：将日志分析集成到企业监控系统中
  • 定期回顾：定期回顾日志分析结果，识别潜在问题

3. 日志分析流程 ​

  1. 问题识别：明确要解决的问题或要分析的性能指标
  2. 日志收集：收集相关的日志文件
  3. 日志过滤：使用工具过滤和提取相关信息
  4. 数据分析：分析日志数据，识别模式和异常
  5. 根因定位：确定问题的根本原因
  6. 解决方案制定：根据分析结果制定解决方案
  7. 实施和验证：实施解决方案并验证效果
  8. 文档记录：记录分析过程和解决方案

4. 日志保留和管理 ​

4.1 日志保留策略 ​

日志类型保留期限处理方式
事务日志根据备份策略归档到磁带或云存储
db2diag.log30-90天压缩归档
管理通知日志7-30天定期清理
性能监控日志7-14天分析后清理
事件监控日志30天压缩归档

4.2 日志归档脚本 ​

bash
#!/bin/bash
# DB2 日志归档脚本

DIAG_DIR="/home/db2inst1/sqllib/db2dump"
ARCHIVE_DIR="/archive/db2_logs/$(date +%Y%m%d)"

# 创建归档目录
mkdir -p $ARCHIVE_DIR

# 归档db2diag.log
if [ -f $DIAG_DIR/db2diag.log ]; then
    cp $DIAG_DIR/db2diag.log $ARCHIVE_DIR/db2diag.log.$(date +%H%M%S)
    gzip $ARCHIVE_DIR/db2diag.log.*
    # 清空原日志文件
    > $DIAG_DIR/db2diag.log
fi

# 归档旧的诊断日志文件
find $DIAG_DIR -name "db2diag.log.*" -type f -mtime +1 -exec cp {} $ARCHIVE_DIR/ \;
find $DIAG_DIR -name "db2diag.log.*" -type f -mtime +1 -delete

# 归档性能监控日志
find /var/log/db2_analysis -name "*.log" -type f -mtime +7 -exec cp {} $ARCHIVE_DIR/ \;
find /var/log/db2_analysis -name "*.log" -type f -mtime +7 -delete

# 清理30天前的归档日志
find /archive/db2_logs -name "*" -type f -mtime +30 -delete

5. 故障排查案例 ​

5.1 案例：数据库连接失败 ​

问题描述：应用程序无法连接到DB2数据库，报错"SQL30082N 安全处理失败"。

分析过程：

  1. 查看db2diag.log：

    bash
    grep -i "SQL30082N" db2diag.log

  2. 发现错误信息：

    2023-10-01-14.30.25.123456+0800 I3456789          LEVEL: Error
PID     : 1234                 TID : 5678           PROC : db2sysc 0
INSTANCE: db2inst1             NODE : 000            DB   : PRODDB
APPHDL  : 0-1234               APPID: *LOCAL.db2inst1.231001143025
AUTHID  : USER1                HOSTNAME: db2server
EDUID   : 5678                 EDUNAME: db2agent (PRODDB) 0
FUNCTION: DB2 UDB, bsu security, sqlexLogPluginMessage, probe:20
MESSAGE : DIA3000I  "USER1" 认证失败，返回码为 "-24298"。

  3. 查看认证日志：

    bash
    grep -i "USER1" /var/log/secure

  4. 发现原因：用户密码已过期。

  5. 解决方案：

    bash
    # 重置用户密码

db2 connect to dbname user db2inst1 using password db2 "ALTER USER USER1 USING new_password NO EXPIRE"


#### 5.2 案例：数据库性能突然下降

**问题描述**：数据库性能突然下降，查询响应时间从毫秒级增加到秒级。

**分析过程**：

1. 查看db2diag.log，寻找相关错误：
```bash
db2diag -time 2023-10-01-15.00.00,2023-10-01-16.00.00 -severity ERROR

  1. 查看性能监控数据：

    bash
    db2top -d dbname -f perf_data.log -i 5 -n 10

  2. 查看最近的数据库配置更改：

    bash
    db2 get db cfg for dbname show detail | grep -i "Last updated"

  3. 发现最近更改了缓冲池大小，从2GB减少到512MB。

解决方案：

  1. 将缓冲池大小恢复到原来的值：

    bash
    db2 connect to dbname
db2 "ALTER BUFFERPOOL IBMDEFAULTBP SIZE 2048000"

  2. 监控性能恢复情况

日志分析自动化 ​

1. 自动化脚本示例 ​

使用脚本自动分析日志，识别异常情况：

bash
#!/bin/bash
# DB2 日志自动分析脚本

# 配置参数
DIAG_DIR="/home/db2inst1/sqllib/db2dump"
ALERT_EMAIL="dba-team@example.com"
LOG_FILE="/var/log/db2_log_analysis.log"

# 检查db2diag.log中的错误
ERROR_COUNT=$(db2diag -severity ERROR -time "$(date -d '-1 hour' +'%Y-%m-%d-%H.00.00'),$(date +'%Y-%m-%d-%H.00.00')" | wc -l)

if [ $ERROR_COUNT -gt 5 ]; then
    # 发送告警邮件
    echo "DB2数据库在过去1小时内出现$ERROR_COUNT个错误，请及时检查。" | mail -s "DB2日志告警" $ALERT_EMAIL
    
    # 保存错误日志到文件
    db2diag -severity ERROR -time "$(date -d '-1 hour' +'%Y-%m-%d-%H.00.00'),$(date +'%Y-%m-%d-%H.00.00')" > $DIAG_DIR/db2diag_errors_$(date +%Y%m%d%H%M%S).log
fi

# 记录分析结果
echo "$(date): 检查到$ERROR_COUNT个错误" >> $LOG_FILE

2. 集成到监控系统 ​

将日志分析集成到企业监控系统（如Zabbix、Prometheus等），实现实时监控和自动告警：

  1. Zabbix集成：

    • 使用Zabbix Agent的自定义脚本监控db2diag.log中的错误
    • 配置触发器，当错误数量超过阈值时发送告警
    • 创建性能监控仪表板

  2. Prometheus集成：

    • 使用DB2 Exporter收集性能指标
    • 配置PromQL查询监控慢查询和锁等待
    • 使用Grafana创建性能监控仪表板
    • 配置Alertmanager发送告警

总结 ​

DB2日志分析是数据库管理的重要组成部分，对于故障排查、性能优化和安全审计至关重要。通过掌握日志分析工具和技术，DB2管理员可以快速定位问题，优化数据库性能，确保数据库的稳定运行。

日志分析的关键在于：

  1. 熟悉各种日志类型和结构
  2. 掌握日志分析工具的使用
  3. 建立完善的日志监控和分析流程
  4. 实施自动化日志分析和告警
  5. 定期回顾和优化日志分析策略

建议DB2管理员定期进行日志分析培训和演练，不断提高日志分析技能，为数据库的稳定运行提供保障。