监控 Go Runtime

Go监控

GO 通常作为守护进程存在，若我们不做任何监控，放任其「自由」的使用资源，那有可能会发现意外情况，比如「Goroutine 泄露」。那我们应该如何监控，又要监控哪些指标呢？

监控指标

监控的核心是监控指标，「有用」的指标才是有意义，那 Go 有哪些有意义的指标呢？

我认为只要监控go runtime 相关的指标就行，整体分为两大类：

  1. CPU：goroutine、cgo
  2. 内存：gc、heap、stack

监控架构

既然确定了监控指标，那如何监控呢？这里要感谢 Brian Hatfield 开源的 go-runtime-metrics，我们可以利用它快速的搭建监控系统。

整体架构如下：
Go runtime 监控架构图Go runtime 监控架构图

由图可知，我们使用了Grafana，Graphite，Statsd；其中Statsd是和运行程序部署在一起的，默认是10s 上报一次，对性能的影响不是太大，真的出现瓶颈的时候，可以再抽离；Graphite 是包含图表的；这里使用的是 Grafana 集成 Graphite。

Go-runtime-metric

https://github.com/bmhatfield/go-runtime-metrics

工作原理：

  1. 程序启动后，开启一个 goroutine 采集上报 metric，数据收集使用 statsd，传输协议采用 UDP
  2. 在 main函数中使用 flag.Parse() 才会打开采集上报（上报服务地址等通过命令行参数修改）
  3. 采样率 100%，且不可修改（可以自己 fork 后修改）
  4. 上报间隔 10s，可通过命令行--pause修改
  5. 使用的 metric type 是 Gauges
  6. 所有的采集项都是通过 runtime 包完成的；统计 mem 时，会触发 STW（若关心性能，建议关闭统计 mem）

可用参数：

1
2
3
4
5
6
7
--statsd=localhost:8125 # Statsd host:port
--metric-prefix # Metric prefix path；用于区分机器/应用等
--pause=10 # 上报间隔；default 10s
--publish-runtime-stats=true # 是否采集 go runtime；采集总开关
--cpu # 是否采集 CPU
--mem # 是否采集 mem
--gc # 是否采集 GC (必须开启 --mem)

Statsd

https://github.com/statsd/statsd

基于 node.js 实现，用于收集 metric 数据，支持 UDP、TCP 协议，默认每 10s 向后端发送一次数据，支持集群部署。支持的 metric type 有 Counting、Sampling、Timing、Gauges。支持多种 backend，内置三个：Graphite,Console,Repeater，第三方见文档。

启动前使用run_tests.js 检查下环境等问题。使用起来很简单，主要是两个配置文件：exampleConfig.js、exampleProxyConfig.js，前者用于单机部署，后者用于集群部署；详细配置含义见文件内容注释。

使用Graphite示例：

1
2
3
4
5
6
7
8
9
// 单机部署
{
  graphitePort: 2003
, graphiteHost: "localhost"
, port: 8125
, server: "./servers/udp"
, debug: true
, backends: [ "./backends/console", "./backends/graphite" ]
}

Graphite

http://graphiteapp.org/

Graphite 主要作用是保存 metric 数据，并将其可视化。内置三个组件：

  1. carbon：监听时间序列数据（守护进程）
  2. whisper：存储时间序列数据（数据存储-类似 RRD）
  3. graphite-webapp：渲染时间序列数据，提供 Web & API（Web 应用）

架构图如下：
graphite 架构图graphite 架构图

Carbon

Carbon 主要是监听并处理 metric 。

配置

https://graphite.readthedocs.io/en/latest/config-carbon.html

包含多个 conf（默认在 /opt/graphite/conf）：

  1. carbon.conf
    主要是三个 sectoion：[cache] 缓存、[relay] 转发、[aggregator] 聚合

  2. storage-schemas.conf
    主要是存储周期设置。修改后不会立即生效，需要执行下whisper-resize.py

    1
    2
    3
    4
    [apache_busyWorkers]
    pattern = ^servers\.www.*\.workers\.busyWorkers$
    # 15s 一个点，存 7 天；1m 一个点，存 21 天...
    retentions = 15s:7d,1m:21d,15m:5y

  3. storage-aggregation.conf
    主要是多个相同 metric 聚合 metric，修改后不会立即生效，需要执行whisper-set-aggregation-method.py *.wsp <method>

    1
    2
    3
    4
    5
    6
    [all_min]
    pattern = \.min$
    # 上一个 retention level 至少含有下一个 level 的 10% 的值
    xFilesFactor = 0.1
    # 聚合方法
    aggregationMethod = min

  4. relay-rules.conf
    主要是转发数据

    1
    2
    3
    [example]
    pattern = ^mydata\.foo\..+
    servers = 10.1.2.3, 10.1.2.4:2004, myserver.mydomain.com

  5. aggregation-rules.conf
    主要是根据 rule、method，对 metric 进行聚合操作

    1
    output_template (frequency) = method input_pattern

  6. rewrite-rules.conf
    根据 rule 对 metric 进行重命名

    1
    regex-pattern = replacement-text

  7. whitelist.conf
    设置 metric 白名单

  8. blacklist.conf
    设置 metric 黑名单

启动

单机

https://graphite.readthedocs.io/en/latest/admin-carbon.html

使用 carbon-cache.py，相关配置：carbon.conf、storage-schemas.conf

1
/opt/graphite/bin/carbon-cache.py start

若有性能问题，可以在运行carbon-cache.py之前使用carbon-aggregator.py，对数据进行聚合，减少数据量。相关配置：carbon.conf、aggregation-rules.conf

集群

https://graphite.readthedocs.io/en/latest/carbon-daemons.html

使用 carbon-relay.py，主要作用是复制和分片。相关配置：carbon.conf、relay-rules.conf
也可以使用carbon-aggregator-cache.py,它合并了carbon-aggregator.py和carbon-cache.py两个脚本，相关配置：carbon.conf、relay-rules.conf、aggregation-rules.conf

Graphite-web

使用 Django 开发。

配置

https://graphite.readthedocs.io/en/latest/config-local-settings.html

这里的 database 主要是存储用户、dashboard 等信息。默认使用 SQLite。

启动

https://graphite.readthedocs.io/en/latest/config-webapp.html

配置 nginx + gunicorn

Whisper

https://graphite.readthedocs.io/en/latest/whisper.html

存储时间序列数据，类似RRD，一个环形数据库。

部署

本地学习环境安装，非高性能版安装。

安装步骤

  1. 安装 Graphite + statsd
    使用 Docker 安装，推荐使用 Graphite 官方的 docker repo，包含 Graphite & statsd

  2. 安装 Grafana

  3. Go 工程代码中添加 github.com/bmhatfield/go-runtime-metrics

使用示例：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
package main

import (
	"flag"
	"log"
	"net/http"
	"os"

	_ "github.com/bmhatfield/go-runtime-metrics"
)

func main() {
  // 打开采集
	flag.Parse()

	cwd, err := os.Getwd()
	if err != nil {
		log.Fatal(err)
	}

	srv := &http.Server{
		Addr:    ":8000", // Normally ":443"
		Handler: http.FileServer(http.Dir(cwd)),
	}
	log.Fatal(srv.ListenAndServe())
}

参考资料

  1. Graphite
  2. Statsd
  3. Go-runtime-metric
文章
监控 Go Runtime

GO 通常作为守护进程存在，若我们不做任何监控，放任其「自由」的使用资源，那有可能会发现意外情况，比如「Goroutine 泄露」。那我们应该如何监控，又要监控哪些指标呢？ 监控指标监控的核心是监控指标，「有用」的指标才是有意义，那 Go 有哪些有意义的指标呢？ 我认为只要监控go runtime

通过源码学习 Go 的生命周期

当我们学习一个新事物时，一定要做到「知其然知其所以然」。最近看了一些 go 的源码，对 go 的设计有了更深的认识，也让自己在工作中使用的更得心应手。 本文基于以下版本：1go version go1.12.7 darwin/amd64 四个重要结构首先，我们了解下这四个核心的 struct，有助于

Go 并发原理 - 调度篇

众所周知，Goroutine 是 Go 最小的执行单位，作为开发者，我们在使用「廉价」的 Goroutine 的时候，有没有想过背后的实现原理？有没有因为「滥用」Goroutine ，而踩过坑？我们今天来简要分析下 Go 的并发原理。 背景知识线程模型在讲解 Go Scheduler 之前，我们先来

Go 并发编程-应用篇

当提到并发编程的时候，人们往往会想到多线程，而 Go 最被人熟知的是借鉴 CSP 的 gorountine &amp; channel 并发模式，那 Go 中是否支持类似传统多线程的并发编程方式呢？答案是支持；因为 Go 的 Sync 包给我们提供了互斥锁、原子操作、条件变量等同步原语。 本文主要介

使用 OpenResty 实现 Grafana 免登录

背景公司内部都有管理后台，一般都会把第三方软件集成到后台，收敛登录入口。 本文主要介绍一种集成 Grafana 的方法。 问题假设，只有一个 token ，通过这个 token 可以获取到用户信息，在这种情况下，怎么可以免登录进入 Grafana？ 例：访问：http://grafana.com?t

页面
About
Categories
Tags
分类
GoGo
监控监控
PHPPHP
标签
grafanagrafana
runtimeruntime
graphitegraphite
源码源码
schedulerscheduler