重要监控指标详解

使用 Ansible 部署 TiDB 集群时，一键部署监控系统 (Prometheus/Grafana)，监控架构请看 TiDB 监控框架概述。

目前 Grafana Dashboard 整体分为 PD、TiDB、TiKV、Node_exporter、Overview 等。

对于日常运维，我们单独挑选出重要的 Metrics 放在 Overview 页面，方便日常运维人员观察集群组件 (PD, TiDB, TiKV) 使用状态以及集群使用状态。

以下为 Overview Dashboard 监控说明：

说明

• Services Port Status
  • Services Online：各服务在线节点数量
  • Services Offline：各服务 Down 掉节点数量
• PD
  • Storage Capacity：TiDB 集群总可用数据库空间大小
  • Current Storage Size：TiDB 集群目前已用数据库空间大小
  • Number of Regions：当前集群的 Region 总量
  • Leader Balance Ratio：Leader 数量最多和最少节点相差的百分比，一般小于 5%，节点重启时会有比较大的波动
  • Region Balance Ratio：Region 数量最多和最少节点相差的百分比，一般小于 5%，新增/下线节点时相差比较大
  • Store Status：集群 TiKV 节点的状态
    • Up Stores：正常运行的 TiKV 节点数量
    • Disconnect Stores：短时间内通信异常的 TiKV 节点数量
    • LowSpace Stores：剩余可用空间小于 80% 的 TiKV 节点数量
    • Down Stores：停止工作的 TiKV 节点数量，如果大于 0，说明有节点不正常
    • Offline Stores：正在下线的 TiKV 节点数量（正在下线的 TiKV 节点还在提供服务）
    • Tombstone Stores：下线成功的 TiKV 节点数量
  • 99% completed_cmds_duration_seconds：单位时间内，99% 的 pd-server 请求执行时间小于监控曲线的值，一般 <= 5ms
  • handle_requests_duration_seconds：PD 发送请求的网络耗时
• TiDB
  • Statement OPS：SQL 执行数量统计（包含 select、insert、update 等）
  • Duration：SQL 执行的时间
  • QPS By Instance：每个 TiDB 上的 QPS
  • Failed Query OPM：失败 SQL 的统计，例如语法错误、主键冲突等
  • Connection count：每个 TiDB 的连接数
  • Heap Memory Usage：每个 TiDB 使用的堆内存大小
  • Transaction OPS：事务执行数量统计
  • Transaction Duration：事务执行的时间
  • KV Cmd OPS：KV 命令执行数量统计
  • KV Cmd Duration 99：KV 命令执行的时间
  • PD TSO OPS：TiDB 从 PD 获取 TSO 的数量
  • PD TSO Wait Duration：TiDB 从 PD 获取 TS 的时间
  • TiClient Region Error OPS：TiKV 返回 Region 相关错误信息的数量
  • Lock Resolve OPS：事务冲突相关的数量
  • Load Schema Duration：TiDB 从 TiKV 获取 Schema 的时间
  • KV Backoff OPS：TiKV 返回错误信息的数量（事务冲突等）
• TiKV
  • leader：各个 TiKV 节点上 Leader 的数量分布
  • region：各个 TiKV 节点上 Region 的数量分布
  • CPU：各个 TiKV 节点的 CPU 使用率
  • Memory：各个 TiKV 节点的内存使用量
  • store size：各个 TiKV 节点存储的数据量
  • cf size：集群不同 CF 存储的数据量
  • channel full：正常情况显示 No data，如果有了监控值，说明对应 TiKV 节点的消息处理不过来了
  • server report failures：正常情况显示 No data，如果出现了 Unreachable，说明 TiKV 之间通信有问题
  • scheduler pending commands：写入堆积的数量，偶尔出现峰值属于正常现象
  • coprocessor pending requests：正常情况监控为 0 或者数量很少
  • coprocessor executor count：不同类型的查询操作数量
  • coprocessor request duration：TiKV 中查询消耗的时间
  • raft store CPU：raftstore 线程的 CPU 使用率，目前为单线程，超过 80% 说明使用率很高
  • Coprocessor CPU：TiKV 查询线程的 CPU 使用率，和业务相关，复杂查询会使用大量的 CPU 资源
• System Info
  • Vcores：CPU 核心数量
  • Memory：内存总大小
  • CPU Usage：CPU 使用率，最大为 100%
  • Load [1m]：1 分钟的负载情况
  • Memory Available：剩余内存大小
  • Network Traffic：网卡流量统计
  • TCP Retrans：网络监控，TCP 相关信息统计
  • IO Util：磁盘使用率，最高为 100%，一般到 80% - 90% 就需要考虑加节点

图例