Prometheus & cadvisor & k8s / 带有空值的“图像”标签

问题描述

在 Prometheus 表达式浏览器中，执行“container_cpu_usage_seconds_total metric”在不同的 k8s 集群中得到不同标签的结果。

集群 1（k8s v1.15.9）：

container_cpu_usage_seconds_total{container="POD",container_name="POD",cpu="total",endpoint="https-metrics",id="/kubepods/besteffort/pod00xxxxx-ef9f-4959-b2cf-95e9c6dba800/bbff610aeeb79874c69228068f07b9c3a395a3933b33387fd681ef91aa188897",image="reg.k8s.io/google_containers/pause-amd64:3.1",instance="192.168.110.120:10250",job="kubelet",name="k8s_POD_guestbook-ui-57d98b678-w5csk_argo-cd_0068264c-ef9f-4959-b2cf-95e9c6dba800_0",namespace="argo-cd",node="k8s-w5",pod="guestbook-ui-57d98b678-w5csk",pod_name="guestbook-ui-57d98b678-w5csk",service="kubelet"}

集群 2（k8s v1.18.10）：

container_cpu_usage_seconds_total{cpu="total",id="/kubepods/besteffort/pod07a4289a-9ae4-42fd-a7d5-5fe7d8680071",instance="192.168.120.10:10250",metrics_path="/metrics/cadvisor",namespace="eds",node="cluster-master-1",pod="kong-7dc748b8d5-5x5qf",service="kube-kube-prometheus-stack-kubelet"}

在第二个集群中找不到“图像”“容器”标签。如何配置第二个以使其缺少标签？

他们的scrape_configs存在差异。
第二个没有 metric_relabel_configs。 metric_relabel_configs 是否影响可用标签？

  metric_relabel_configs:
  - source_labels: [__name__,image]
    separator: ;
    regex: container_([a-z_]+);
    replacement: $1
    action: drop
  - source_labels: [__name__]
    separator: ;
    regex: container_cpu_usage_seconds_total|container_memory_usage_bytes|container_memory_cache|container_network_.+_bytes_total|container_memory_working_set_bytes
    replacement: $1
    action: keep

当我在第二个集群中执行 curl 命令时，实际上结果有 image 和 container 标签，但带有 Empty value。

curl -k --header "Authorization: Bearer $TOKEN"  https://[k8s_ip]:10250/metrics/cadvisor

结果：

container_cpu_usage_seconds_total{container="",image="",name="",pod="kong-7dc748b8d5-5x5qf"} 738.009191131 1617976437601

解决方法

您的症状与this issue有些相似。

高级症状是 curl /metrics 为图像、命名空间等返回空白。

似乎 kubelet 对宇宙的看法与 Docker 有很大不同，因此它没有标记容器指标的元数据。

就我而言，我使用非标准根目录运行 Docker，并通过 --docker-root 明确告诉 kubelet 解决了问题。

cadvisor kubernetes prometheus