Prometheus Operator部署管理

2024-08-25 07:52
文章标签 部署 管理 prometheus operator

本文主要是介绍Prometheus Operator部署管理，希望对大家解决编程问题提供一定的参考价值，需要的开发者们随着小编来一起学习吧！

Prometheus Operator部署管理

Prometheus Operator & Kube-Prometheus & Helm chart 部署区别

  • Prometheus Operator 是 Kubernetes 原生的工具，它通过将 Prometheus 资源定义为 Kubernetes 对象（CRD）来简化 Prometheus 集群的管理。它自动化了在 Kubernetes 中配置和扩展 Prometheus 实例时涉及的常见任务，并提供了在 Kubernetes 环境中部署、配置和管理 Prometheus 的简单方式。
      1. 通过 kubectl 或 Kubernetes API 创建 Prometheus Operator Custom Resource Definition (CRD)。
      1. 使用 kubectl 或 YAML 文件创建 Prometheus 实例的定义。
      1. Prometheus Operator 观察配置更改并创建、更新或删除 Prometheus 实例。
    • 官方安装文档： https://prometheus-operator.dev/docs/user-guides/getting-started/ 需要Kubernetes版本至少在v1.16.x以上。
    • 官方Github地址：https://github.com/prometheus-operator/prometheus-operator
  • kube-prometheus 提供基于Prometheus & Prometheus Operator完整的集群监控配置示例，包括多实例Prometheus & Alertmanager部署与配置及node exporter的metrics采集，以及scrape Prometheus target各种不同的metrics endpoints，并提供Alerting rules一些示例，触发告警集群潜在的问题。
      1. 使用 YAML 文件或 Helm chart 安装 Kube-Prometheus。
      1. Kube-Prometheus 部署 Prometheus、Alertmanager、Grafana 和 Pushgateway 等组件。
      1. 使用 Prometheus Operator 观察和管理 Prometheus 和相关组件。
    • 官方安装文档：https://prometheus-operator.dev/docs/prologue/quick-start/
    • 安装要求：https://github.com/prometheus-operator/kube-prometheus#compatibility
    • 官方Github地址：https://github.com/prometheus-operator/kube-prometheus
  • helm chart prometheus-community/kube-prometheus-stack 提供类似kube-prometheus的功能，但是该项目是由Prometheus-community来维护。
      1. 安装 Helm 并添加 Prometheus Helm chart 存储库。
      1. 使用 Helm 安装 Prometheus chart，包括 Prometheus、Alertmanager 和 Pushgateway 等组件。
    • 具体信息参考https://github.com/prometheus-community/helm-charts/tree/main/charts/kube-prometheus-stack#kube-prometheus-stack

总结： 三者部署 Prometheus 的区别

  • Prometheus Operator 可以更加自动化的管理 Prometheus 集群；
  • Kube-Prometheus 则提供了更加全面的监控解决方案，包括 Prometheus、Grafana 和 Alertmanager 等组件；
  • Helm chart 则通过一个命令即可快速部署 Prometheus 及其相关组件，但无法方便地进行各个组件的管理。

Kube-Prometheus：目前是k8s集群监控的主流项目，主要使用Prometheus做集群监控，使用Prometheus Operator做监控的运维管理，也就是以上二者的结合。

Prometheus-Operator CRD资源

CRD 全称是 Custom Resource Definition

什么是 CRD？

以 Deployment 为实例，Deployment 没有直接创建 Pod，而是管理 RS，而 RS 管理 Pod，这就是控制器模式。控制器模式允许基于已有的资源定义更高阶的控制器，用来实现更复杂的能力

在这里插入图片描述

特点：

  • CRD 本身是 Kubernetes 的一种资源，允许用户自定义新的资源类型
  • CRD 允许用户基于已有的 Kubernetes 资源，例如 Deployment、Configmap 等，拓展集群能力
  • CRD 可以自定义一套成体系的规范，自造概念

CRD 本身是一种 Kubernetes 内置的资源类型，即自定义资源的定义，用于描述用户定义的资源是什么样子

$ kubectl get crd
NAME                                             CREATED AT
applications.app.k8s.io                          2022-08-12T10:01:21Z
authconfigs.enterprise.gloo.solo.io              2022-08-25T03:54:14Z

Prometheus-Operator CRD

Prometheus Operator的本职就是一组用户自定义的CRD资源以及Controller的实现，Prometheus Operator负责监听这些自定义资源的变化，并且根据这些资源的定义自动化的完成如Prometheus Server自身以及配置的自动化管理工作。主要包括以下几个功能：

  • Kubernetes 自定义资源：使用 Kubernetes CRD 来部署和管理 Prometheus、Alertmanager 和相关组件。
  • 简化的部署配置：直接通过 Kubernetes 资源清单配置 Prometheus，比如版本、持久化、副本、保留策略等等配置。
  • Prometheus 监控目标配置：基于熟知的 Kubernetes 标签查询自动生成监控目标配置，无需学习 Prometheus 特地的配置

image-20240824205041268

上面架构图中，各组件以不同的方式运行在 Kubernetes 集群中（之前都是用配置文件来配置，现在都是通过资源对象）

CRD 名称作用
Operator根据自定义资源（Custom Resource Definition / CRDs）来部署和管理 Prometheus Server，同时监控这些自定义资源事件的变化来做相应的处理，是整个系统的控制中心。
Prometheus最核心的一个CRD, 控制prometheus server的statefulset状态。该CRD用于部署、管理prometheus stateful实例，以及配置该prometheus实例与ServiceMonitor(通过serviceMonitorNamespaceSelector标签)、Altermanager(通过alertmanagers标签)、PromtheusRule(通过ruleSelector标签)之间的关联。 一个Prometheus crd 资源创建后，promtheus-operator会自动创建一个prometheus stateful实例。
Prometheus ServerOperator 根据自定义资源 Prometheus 类型中定义的内容而部署的 Prometheus Server 集群，这些自定义资源可以看作是用来管理 Prometheus Server 集群的 StatefulSets 资源。
ServiceMonitor纯配置，Operator告诉prometheus server , 要监控的 targets是基于k8s service动态发现。 Operator基于servicemonitor的配置生成promtheus的标准配置文件promtheus.yml。注意的是，ServiceMonitor中的endpoint被转换为prometheus.yml中的kubernetes_sd_configs标签，即服务发现仍然是通过prometheus的原生能力完成的，ServiceMonitor或prometheus-operator并不具备服务发现能力，仅仅是配置转换与应用能力。
Service简单的说就是 Prometheus 监控的对象。提供给ServiceMonitor选取，让Prometheus Server来获取信息。
Alertmanager用于部署和管理promtheus的Altermanager实例.一个Altermanager资源定义会对应于一个stateful实例，prometheus-opertaor会根据Alertmanager中指定replicas、image、RBAC等信息将promtheus的altermanager pod部署，prometheus实例会自动与该Alertmanager相关联，共同完成监控->告警的链路。
PrometheusRule用于生成promtheus的告警规则文件.纯配置项。promtheus-operator会将该资源转换为prometheus的rule文件，挂在于prometheus实例的文件系统中。

部署 Kube-Prometheus

概述

kube-prometheus 是一整套监控解决方案，它使用 Prometheus 采集集群指标，Grafana 做展示，包含如下组件

  • The Prometheus Operator
  • Highly available Prometheus
  • Highly available Alertmanager
  • Prometheus node-exporter
  • Prometheus Adapter for Kubernetes Metrics APIs （k8s-prometheus-adapter）
  • kube-state-metrics
  • Grafana

**注意：**kube-promethues与kubernetes的版本对应关系如下：

prometheus-operator/kube-prometheus: Use Prometheus to monitor Kubernetes and applications running on Kubernetes (github.com)

kube-prometheus stackKubernetes 1.22Kubernetes 1.23Kubernetes 1.24Kubernetes 1.25Kubernetes 1.26Kubernetes 1.27Kubernetes 1.28
release-0.10✔✔✗✗xxx
release-0.11✗✔✔✗xxx
release-0.12✗✗✔✔xxx
release-0.13✗✗✗x✔✔✔
main✗✗✗xx✔✔

下载 Kube-Prometheus 代码

方法一

$ git clone https://github.com/prometheus-operator/kube-prometheus.git
$ cd kube-prometheus
$ git branch -r   # 查看当前分支有哪些
$ git checkout release-0.12    # 切换到自己 Kubernetes 兼容的版本

方法二

git clone -b release-0.9 https://github.com/prometheus-operator/kube-prometheus.git

注：在release-0.11版本之后新增了NetworkPolicy

默认是允许自己访问，如果了解NetworkPolicy可以修改一下默认的规则，可以用查看 ls networkPolicy

如果不修改，则会影响到修改NodePort类型也无法访问

如果不会Networkpolicy可以直接删除就行

修改 Kube-Prometheus 镜像源

国外镜像源某些镜像无法拉取，我们这里修改prometheus-operator，prometheus，alertmanager，kube-state-metrics，node-exporter，prometheus-adapter的镜像源为国内镜像源。这里使用的是daocloud镜像源

k8s-gcr.m.daocloud.io# 进入修改的目录
cd ./kube-prometheus/manifests/
# 镜像替换
sed -i 's/quay.io/quay.m.daocloud.io/g' setup/prometheus-operator-deployment.yaml
sed -i 's/quay.io/quay.m.daocloud.io/g' prometheus-prometheus.yaml 
sed -i 's/quay.io/quay.m.daocloud.io/g' alertmanager-alertmanager.yaml
sed -i 's/quay.io/quay.m.daocloud.io/g' kube-state-metrics-deployment.yaml
sed -i 's/k8s.gcr.io/k8s-gcr.m.daocloud.io/g' kube-state-metrics-deployment.yaml
sed -i 's/quay.io/quay.m.daocloud.io/g' node-exporter-daemonset.yaml
sed -i 's/quay.io/quay.m.daocloud.io/g' prometheus-adapter-deployment.yaml
sed -i 's/k8s.gcr.io/k8s-gcr.m.daocloud.io/g' prometheus-adapter-deployment.yaml
# 确认一下是否还有国外镜像
grep "image: " * -r

安装operator & kube-Prometheus

创建namespace & CRD资源，如下：

setup 文件夹中包含所有自定义资源配置 CustomResourceDefinition（一般不用修改，也不要轻易修改）

# 下载prometheus-operator镜像需要花费几分钟，这里等待几分钟，直到prometheus-operator变成running状态
$ kubectl create -f manifests/setup

创建所有应用资源：

$ kubectl create -f manifests/
# 等待所有镜像变成Running状态
watch kubectl get po -n monitoring

需要关注的几个控制器文件：

prometheus-adapter-deployment.yaml：kubernetes自定义监控指标
blackbox-exporter-deployment.yaml：黑盒监控控制器
kube-state-metrics-deployment.yaml：监听API Server生成有关资源对象的状态指标
setup/prometheus-operator-deployment.yaml：prometheus-operator控制器文件
prometheus-prometheus.yaml：prometheus主控制器文件
alertmanager-alertmanager.yaml：alertmanager主控制器文件
grafana-deployment.yaml：grafana主控制器文件

删除所有资源：

$ kubectl delete --ignore-not-found=true -f manifests/ -f manifests/setup

配置Ingress资源对象

vim prometheus-all-ingress.yaml

apiVersion: networking.k8s.io/v1
kind: Ingress
metadata:namespace: monitoringname: prometheus-ingress
spec:ingressClassName: nginxrules:- host: grafana-opera.kubernets.cn  # 访问 Grafana 域名http:paths:- pathType: Prefixbackend:service:name: grafanaport:number: 3000path: /- host: prometheus-opera.kubernets.cn  # 访问 Prometheus 域名http:paths:- pathType: Prefixbackend:service:name: prometheus-k8sport:number: 9090path: /- host: alertmanager-opera.kubernets.cn  # 访问 alertmanager 域名http:paths:- pathType: Prefixbackend:service:name: alertmanager-mainport:number: 9093path: /

访问验证

prometheus

两个Prometheus实例的， Service 添加 sessionAffinity: ClientIP 属性，会根据 ClientIP 来做 session 亲和性，所以我们不用担心请求会到不同的副本上去

$ curl prometheus-opera.kubernets.cn

granfana

$ curl grafana-opera.kubernets.cn

alertmanager

$ curl alertmanager-opera.kubernets.cn

总结

  • Prometheus整体监控结构略微复杂，一个个部署并不简单，kube-prometheus大大提升了部署的方式
  • 通过自定义资源CRD维护简单，不用再次维护大量的configmap配置文件，操作流程大大简化
  • Kube-Prometheus 则提供了更加全面的监控解决方案，包括 Prometheus、Grafana 和 Alertmanager 等组件

这篇关于Prometheus Operator部署管理的文章就介绍到这儿，希望我们推荐的文章对编程师们有所帮助！

原文地址:
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.chinasem.cn/article/1104976。

相关文章

Mysql中的用户管理实践

Mysql中的用户管理实践

《Mysql中的用户管理实践》：本文主要介绍Mysql中的用户管理实践,本文通过实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录13. 用户管理13.1 用户 13.1.1 用户信息 13.1.2 创建用户 13.1.3 删除用户 13.1.4 修改用户
阅读更多...
Web技术与Nginx网站环境部署教程

Web技术与Nginx网站环境部署教程

《Web技术与Nginx网站环境部署教程》：本文主要介绍Web技术与Nginx网站环境部署教程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、Web基础1.域名系统DNS2.Hosts文件3.DNS4.域名注册二.网页与html1.网页概述2.HTML概述3.
阅读更多...
linux服务之NIS账户管理服务方式

linux服务之NIS账户管理服务方式

《linux服务之NIS账户管理服务方式》：本文主要介绍linux服务之NIS账户管理服务方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、所需要的软件二、服务器配置1、安装 NIS 服务2、设定 NIS 的域名 (NIS domain name)3、修改主
阅读更多...
Nginx使用Keepalived部署web集群（高可用高性能负载均衡）实战案例

Nginx使用Keepalived部署web集群（高可用高性能负载均衡）实战案例

《Nginx使用Keepalived部署web集群（高可用高性能负载均衡）实战案例》本文介绍Nginx+Keepalived实现Web集群高可用负载均衡的部署与测试,涵盖架构设计、环境配置、健康检查、... 目录前言一、架构设计二、环境准备三、案例部署配置 前端 Keepalived配置 前端 Nginx
阅读更多...
ubuntu如何部署Dify以及安装Docker? Dify安装部署指南

ubuntu如何部署Dify以及安装Docker? Dify安装部署指南

《ubuntu如何部署Dify以及安装Docker?Dify安装部署指南》Dify是一个开源的大模型应用开发平台，允许用户快速构建和部署基于大语言模型的应用，ubuntu如何部署Dify呢？详细请... Dify是个不错的开源LLM应用开发平台，提供从 Agent 构建到 AI workflow 编排、RA
阅读更多...
ubuntu16.04如何部署dify? 在Linux上安装部署Dify的技巧

ubuntu16.04如何部署dify? 在Linux上安装部署Dify的技巧

《ubuntu16.04如何部署dify?在Linux上安装部署Dify的技巧》随着云计算和容器技术的快速发展，Docker已经成为现代软件开发和部署的重要工具之一，Dify作为一款优秀的云原生应用... Dify 是一个基于 docker 的工作流管理工具，旨在简化机器学习和数据科学领域的多步骤工作流。它
阅读更多...
Nginx部署React项目时重定向循环问题的解决方案

Nginx部署React项目时重定向循环问题的解决方案

《Nginx部署React项目时重定向循环问题的解决方案》Nginx在处理React项目请求时出现重定向循环,通常是由于`try_files`配置错误或`root`路径配置不当导致的,本文给大家详细介... 目录问题原因1. try_files 配置错误2. root 路径错误解决方法1. 检查 try_f
阅读更多...
Python+PyQt5开发一个Windows电脑启动项管理神器

Python+PyQt5开发一个Windows电脑启动项管理神器

《Python+PyQt5开发一个Windows电脑启动项管理神器》：本文主要介绍如何使用PyQt5开发一款颜值与功能并存的Windows启动项管理工具,不仅能查看/删除现有启动项,还能智能添加新... 目录开篇：为什么我们需要启动项管理工具功能全景图核心技术解析1. Windows注册表操作2. 启动文件
阅读更多...
gradle第三方Jar包依赖统一管理方式

gradle第三方Jar包依赖统一管理方式

《gradle第三方Jar包依赖统一管理方式》：本文主要介绍gradle第三方Jar包依赖统一管理方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录背景实现1.顶层模块build.gradle添加依赖管理插件2.顶层模块build.gradle添加所有管理依赖包
阅读更多...
基于Python打造一个智能单词管理神器

基于Python打造一个智能单词管理神器

《基于Python打造一个智能单词管理神器》这篇文章主要为大家详细介绍了如何使用Python打造一个智能单词管理神器,从查询到导出的一站式解决,感兴趣的小伙伴可以跟随小编一起学习一下... 目录1. 项目概述：为什么需要这个工具2. 环境搭建与快速入门2.1 环境要求2.2 首次运行配置3. 核心功能使用指
阅读更多...

Copyright China编程 23002807@qq.com

沪ICP备2023033072号-2