良许Linux教程网 干货合集 远程写入prometheus存储具体方法

远程写入prometheus存储具体方法

prometheus一般都是采用pull方式获取数据,但是有一些情况下,不方便配置exporter,就希望能通过push的方式上传指标数据。

简介

prometheus一般都是采用pull方式获取数据,但是有一些情况下,不方便配置exporter,就希望能通过push的方式上传指标数据。

1、可以采用pushgateway的方式,推送到pushgateway,然后prometheus通过pushgateway拉取数据。

2、在新版本中增加了一个参数:–enable-feature=remote-write-receiver,允许远程通过接口/api/v1/write,直接写数据到prometheus里面。

pushgateway在高并发的情况下还是比较消耗资源的,特别是开启一致性检查,高并发写入的时候特别慢。

第二种方式少了一层转发,速度应该比较快。

如何远程写入prometheus存储如何远程写入prometheus存储

接口

可以通过prometheus的http接口/api/v1/write提交数据,这个接口的数据格式有有要求: 使用POST方式提交 需要经过protobuf编码,依赖github.com/gogo/protobuf/proto 可以使用snappy进行压缩,依赖github.com/golang/snappy

步骤:

收集指标名称,时间戳,值和标签 将数据转换成prometheus需要的数据格式 使用proto对数据进行编码,并用snappy进行压缩 通过httpClient提交数据

package prome

import (
   "bufio"
   "bytes"
   "context"
   "io"
   "io/ioutil"
   "net/http"
   "net/url"
   "regexp"
   "time"

   "github.com/gogo/protobuf/proto"
   "github.com/golang/snappy"
   "github.com/opentracing-contrib/go-stdlib/nethttp"
   opentracing "github.com/opentracing/opentracing-go"
   "github.com/pkg/errors"
   "github.com/prometheus/common/model"
   "github.com/prometheus/prometheus/pkg/labels"
   "github.com/prometheus/prometheus/prompb"
)

type RecoverableError struct {
   error
}

type HttpClient struct {
   url     *url.URL
   Client  *http.Client
   timeout time.Duration
}

var MetricNameRE = regexp.MustCompile(`^[a-zA-Z_:][a-zA-Z0-9_:]*$`)

type MetricPoint struct {
   Metric  string            `json:"metric"` // 指标名称
   TagsMap map[string]string `json:"tags"`   // 数据标签
   Time    int64             `json:"time"`   // 时间戳,单位是秒
   Value   float64           `json:"value"`  // 内部字段,最终转换之后的float64数值
}

func (c *HttpClient) remoteWritePost(req []byte) error {
   httpReq, err := http.NewRequest("POST", c.url.String(), bytes.NewReader(req))
   if err != nil {
       return err
   }
   httpReq.Header.Add("Content-Encoding""snappy")
   httpReq.Header.Set("Content-Type""application/x-protobuf")
   httpReq.Header.Set("User-Agent""opcai")
   httpReq.Header.Set("X-Prometheus-Remote-Write-Version""0.1.0")
   ctx, cancel := context.WithTimeout(context.Background(), c.timeout)
   defer cancel()

   httpReq = httpReq.WithContext(ctx)

   if parentSpan := opentracing.SpanFromContext(ctx); parentSpan != nil {
       var ht *nethttp.Tracer
       httpReq, ht = nethttp.TraceRequest(
           parentSpan.Tracer(),
           httpReq,
           nethttp.OperationName("Remote Store"),
           nethttp.ClientTrace(false),
       )
       defer ht.Finish()
   }

   httpResp, err := c.Client.Do(httpReq)
   if err != nil {
       // Errors from Client.Do are from (for example) network errors, so are
       // recoverable.
       return RecoverableError{err}
   }
   defer func() {
       io.Copy(ioutil.Discard, httpResp.Body)
       httpResp.Body.Close()
   }()

   if httpResp.StatusCode/100 != 2 {
       scanner := bufio.NewScanner(io.LimitReader(httpResp.Body, 512))
       line := ""
       if scanner.Scan() {
           line = scanner.Text()
       }
       err = errors.Errorf("server returned HTTP status %s: %s", httpResp.Status, line)
   }
   if httpResp.StatusCode/100 == 5 {
       return RecoverableError{err}
   }
   return err
}

func buildWriteRequest(samples []*prompb.TimeSeries) ([]byte, error) {

   req := &prompb.WriteRequest{
       Timeseries: samples,
   }
   data, err := proto.Marshal(req)
   if err != nil {
       return nil, err
   }
   compressed := snappy.Encode(nil, data)
   return compressed, nil
}

type sample struct {
   labels labels.Labels
   t      int64
   v      float64
}

const (
   LABEL_NAME = "__name__"
)

func convertOne(item *MetricPoint) (*prompb.TimeSeries, error) {
   pt := prompb.TimeSeries{}
   pt.Samples = []prompb.Sample{{}}
   s := sample{}
   s.t = item.Time
   s.v = item.Value
   // name
   if !MetricNameRE.MatchString(item.Metric) {
       return &pt, errors.New("invalid metrics name")
   }
   nameLs := labels.Label{
       Name:  LABEL_NAME,
       Value: item.Metric,
   }
   s.labels = append(s.labels, nameLs)
   for k, v := range item.TagsMap {
       if model.LabelNameRE.MatchString(k) {
           ls := labels.Label{
               Name:  k,
               Value: v,
           }
           s.labels = append(s.labels, ls)
       }
   }

   pt.Labels = labelsToLabelsProto(s.labels, pt.Labels)
   // 时间赋值问题,使用毫秒时间戳
   tsMs := time.Unix(s.t, 0).UnixNano() / 1e6
   pt.Samples[0].Timestamp = tsMs
   pt.Samples[0].Value = s.v
   return &pt, nil
}

func labelsToLabelsProto(labels labels.Labels, buf []*prompb.Label) []*prompb.Label {
   result := buf[:0]
   if cap(buf) for _, l := range labels {
       result = append(result, &prompb.Label{
           Name:  l.Name,
           Value: l.Value,
       })
   }
   return result
}

func (c *HttpClient) RemoteWrite(items []MetricPoint) (err error) {
   if len(items) == 0 {
       return
   }
   ts := make([]*prompb.TimeSeries, len(items))
   for i := range items {
       ts[i], err = convertOne(&items[i])
       if err != nil {
           return
       }
   }
   data, err := buildWriteRequest(ts)
   if err != nil {
       return
   }
   err = c.remoteWritePost(data)
   return
}

func NewClient(ur string, timeout time.Duration) (c *HttpClient, err error) {
   u, err := url.Parse(ur)
   if err != nil {
       return
   }
   c = &HttpClient{
       url:     u,
       Client:  &http.Client{},
       timeout: timeout,
   }
   return
}

测试

prometheus启动的时候记得加参数–enable-feature=remote-write-receiver

package prome

import (
   "testing"
   "time"
)

func TestRemoteWrite(t *testing.T) {
   c, err := NewClient("http://localhost:9090/api/v1/write", 10*time.Second)
   if err != nil {
       t.Fatal(err)
   }
   metrics := []MetricPoint{
       {Metric: "opcai1",
           TagsMap: map[string]string{"env""testing""op""opcai"},
           Time:    time.Now().Add(-1 * time.Minute).Unix(),
           Value:   1},
       {Metric: "opcai2",
           TagsMap: map[string]string{"env""testing""op""opcai"},
           Time:    time.Now().Add(-2 * time.Minute).Unix(),
           Value:   2},
       {Metric: "opcai3",
           TagsMap: map[string]string{"env""testing""op""opcai"},
           Time:    time.Now().Unix(),
           Value:   3},
       {Metric: "opcai4",
           TagsMap: map[string]string{"env""testing""op""opcai"},
           Time:    time.Now().Unix(),
           Value:   4},
   }
   err = c.RemoteWrite(metrics)
   if err != nil {
       t.Fatal(err)
   }
   t.Log("end...")
}

使用go test进行测试

go test -v

以上就是良许教程网为各位朋友分享的Linu系统相关内容。想要了解更多Linux相关知识记得关注公众号“良许Linux”,或扫描下方二维码进行关注,更多干货等着你 !

137e00002230ad9f26e78-265x300
本文由 良许Linux教程网 发布,可自由转载、引用,但需署名作者且注明文章出处。如转载至微信公众号,请在文末添加作者公众号二维码。
良许

作者: 良许

良许,世界500强企业Linux开发工程师,公众号【良许Linux】的作者,全网拥有超30W粉丝。个人标签:创业者,CSDN学院讲师,副业达人,流量玩家,摄影爱好者。
上一篇
下一篇

发表评论

邮箱地址不会被公开。 必填项已用*标注

联系我们

联系我们

公众号:良许Linux

在线咨询: QQ交谈

邮箱: yychuyu@163.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部