Gitlab的流水线任务【实现每小时自动测试 dev分支的更新】

2024-03-23 05:36

本文主要是介绍Gitlab的流水线任务【实现每小时自动测试 dev分支的更新】,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

背景

在现代软件开发实践中,持续集成(Continuous Integration, CI)是确保代码质量和快速响应软件缺陷的关键策略。GitLab 提供了强大的 CI/CD 功能,允许开发者自动化测试和部署流程。本文将介绍如何设置 GitLab 流水线计划任务,以实现对 dev 分支每小时的自动测试。

需求: GitLab 流水线计划任务(pipeline-schedules):实现每小时自动测试 dev 分支的更新

环境

Gitlab企业版本:v16.9.2-ee
在这里插入图片描述
GitLab 流水线是一系列作业(jobs)的集合,这些作业可以并行或顺序执行,以完成构建、测试、部署等任务。流水线可以由代码提交、定时计划或其他事件触发。

计划任务是 GitLab 流水线的一个特性,它允许你按计划执行流水线,而不需要代码提交或其他触发条件。这对于定期运行测试、备份或其他维护任务特别有用。

每小时自动测试 dev 分支的步骤

创建 .gitlab-ci.yml 配置文件

在项目的根目录下,创建或编辑 .gitlab-ci.yml 文件,这是 GitLab 流水线的配置文件。我们将定义两个作业:一个是常规的测试作业,另一个是计划任务作业。

stages:- test- alert- jarbefore_script:- export PATH=/usr/lib/jvm/java-21/bin:${PATH}        # 将java路径添加到PATH路径中。如果是java 11,使用/usr/lib/jvm/java-11/bin。ci_test:stage: testscript:- |if [ "$(git log origin/dev --since='1 hour ago' --pretty=format:'%h')" != "" ]; thenmvn clean testelseecho "No changes in the last hour"fi- exportrules:- if: '$CI_PIPELINE_SOURCE == "schedule" && $CI_COMMIT_BRANCH == "dev"'dingTalk_fail_alert:stage: alertscript:- /bin/bash /opt/k8s/dingtalk/ding_ci_alert.sh failwhen: on_failureallow_failure: truerules:- if: '$CI_PIPELINE_SOURCE == "schedule" && $CI_COMMIT_BRANCH == "dev"'dingTalk_succes_alert:stage: alertscript:- /bin/bash /opt/k8s/dingtalk/ding_ci_alert.sh successwhen: on_successallow_failure: truerules:- if: '$CI_PIPELINE_SOURCE == "schedule" && $CI_COMMIT_BRANCH == "dev"'jar:stage: jartags:- pddcache:paths:- manage-analysis/target/*.jar- manage-listener/target/*.jar- manage-backend/target/*.jarpolicy: pushkey: ${CI_BUILD_REF_NAME}script:- mvn clean install -Dmaven.test.skip=truerules:- if: '$CI_PIPELINE_SOURCE != "schedule" && $CI_COMMIT_BRANCH == "dev"'

配置钉钉告警机器人

配置钉钉告警机器人:关键字认证 “告警”
在这里插入图片描述

配置告警脚本脚本模板

在GitLab CI/CD 管道中,我们设计了一个名为 ding_ci_alert.sh 的Shell脚本,用于对接钉钉机器人发送构建状态的通知。针对不同的构建结果,我们有如下需求:

  1. 当Maven测试任务失败时,我们会向脚本传递一个参数 "fail",表示构建失败。此时,脚本不仅会调用钉钉机器人发送一条包含失败详情的告警消息,还会将此次失败的构建ID写入一个专门记录失败构建的文件中。
  2. 当后续的Maven测试任务成功时,我们将向脚本传递一个参数 "success",以标识构建成功。这时,脚本首先会检查记录失败构建的文件中是否存在当前构建ID。如果存在,则调用钉钉机器人发送一条成功恢复的消息,并从记录文件中移除此构建ID;反之,若当前构建ID未在文件中找到,则不发送成功告警信息。

这样,我们通过灵活调用和智能判断,确保了在构建失败时及时通知相关人员,并在问题得到解决后发送成功通知,既避免了不必要的通知干扰,又保证了团队能够及时了解到构建状态的变化。在实际的博客文章中,您可以插入示例代码和详细说明,让读者更直观地理解这一过程。

vim /opt/k8s/dingtalk/ding_ci_alert.sh

#!/bin/bashWEBHOOK_URL="https://oapi.dingtalk.com/robot/send?access_token=xxxxx"
# 检查是否提供了参数
if [ "$#" -ne 1 ]; thenecho "Usage: $0 <success|fail>"exit 1
fi# 定义记录文件路径
RECORD_FILE="/tmp/build_records.txt"# 根据传入的参数执行相应操作
case $1 infail)# 构建失败,发送告警并记录echo "构建失败,发送告警..."# 准备告警消息JSON_DATA=$(printf '{"msgtype": "markdown","markdown": {"title": "告警:构建失败通知","text": "#### **[%s 的 Maven 测试未通过构建失败](%s/pipelines/%s)**\n\n> - **提交信息**: %s\n> - **提交者名称**: %s\n> - **提交时间**: %s\n\n请及时处理,更多详情可点击项目名称。"},"at": {"isAtAll": false}}' "$CI_PROJECT_NAME" "$CI_PROJECT_URL" "$CI_PIPELINE_ID" "$CI_COMMIT_MESSAGE" "$CI_COMMIT_AUTHOR" "$CI_COMMIT_TIMESTAMP")# 发送告警curl "$WEBHOOK_URL" -X POST -H 'Content-Type: application/json;charset=utf-8' -d "$JSON_DATA"# 记录失败的构建echo "$CI_PROJECT_NAME failed" >> "$RECORD_FILE";;success)# 构建成功,检查记录文件if grep -q "$CI_PROJECT_NAME failed" "$RECORD_FILE"; thenecho "构建成功,发送告警..."# 准备成功告警消息SUCCESS_JSON_DATA=$(printf '{"msgtype": "markdown","markdown": {"title": "告警:构建成功通知","text": "#### **[%s 的 Maven 测试已通过构建成功]**\n\n> - **提交信息**: %s\n> - **提交者名称**: %s\n> - **提交时间**: %s\n\n构建成功,可以进行下一步操作。"},"at": {"isAtAll": false}}' "$CI_PROJECT_NAME" "$CI_COMMIT_MESSAGE" "$CI_COMMIT_AUTHOR" "$CI_COMMIT_TIMESTAMP")# 发送成功告警curl "$WEBHOOK_URL" -X POST -H 'Content-Type: application/json;charset=utf-8' -d "$SUCCESS_JSON_DATA"# 清除记录sed -i "/$CI_PROJECT_NAME failed/d" "$RECORD_FILE"elseecho "没有找到构建失败的记录,不发送成功告警。"fi;;*)echo "Invalid argument: $1. Expected 'success' or 'fail'."exit 1;;
esacexit 0

设置流水线计划

步骤1:登录GitLab并进入项目

  1. 登录到您的GitLab账号。
  2. 导航到您想要设置流水线计划的项目。

步骤2:进入CI/CD设置

  1. 在项目主页,点击左侧面板中的“CI/CD”选项卡。
  2. 在CI/CD设置区域,点击“Schedules”(调度)。

步骤3:创建新的流水线计划

  1. 在“Schedules”页面,点击“New schedule”按钮以创建一个新的流水线计划。

步骤4:配置流水线计划详细信息

  1. 描述:为您的流水线计划提供一个易于理解的描述,以便日后识别。
  2. CRON 表达式:输入一个cron表达式来定义计划执行的时间规律。例如,每天凌晨1点执行,可以输入0 1 * * *。请参考cron表达式文档以获取更多信息。
  3. 分支/标签:可以选择流水线将在哪个分支或标签上执行,默认通常是当前项目的默认分支(如master/main)。
  4. 额外变量(可选):如果需要,您可以为流水线提供额外的环境变量,这将在计划执行时注入到环境中。
  5. 保护(可选):如有必要,您可以勾选“Protect this pipeline”,这样只有具有适当权限的用户才能执行或修改该流水线计划。

步骤5:保存流水线计划

  1. 配置完所有选项后,滚动到底部并点击“Save changes”。

步骤6:验证流水线计划

  1. 在指定的时间,GitLab将根据您设置的cron表达式自动触发流水线。您可以在项目的历史流水线记录中查看流水线计划的执行情况。

注意事项

  • 确保您的项目中有.gitlab-ci.yml文件,并且文件中定义了适当的CI/CD流水线配置,这样才能在计划时间到来时执行预定的任务。
  • 如果流水线涉及到敏感信息,您可能需要预先配置好变量并通过密钥管理或GitLab的受保护变量功能来安全地传递这些信息。
  • 某些高级设置,如运行特定job,需要在.gitlab-ci.yml文件中通过rulesonly/except关键字进行定义。
    在这里插入图片描述
    在这里插入图片描述

验证流水线自动化

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

这篇关于Gitlab的流水线任务【实现每小时自动测试 dev分支的更新】的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/837302

相关文章

分布式锁在Spring Boot应用中的实现过程

《分布式锁在SpringBoot应用中的实现过程》文章介绍在SpringBoot中通过自定义Lock注解、LockAspect切面和RedisLockUtils工具类实现分布式锁,确保多实例并发操作... 目录Lock注解LockASPect切面RedisLockUtils工具类总结在现代微服务架构中,分布

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我

Redis客户端连接机制的实现方案

《Redis客户端连接机制的实现方案》本文主要介绍了Redis客户端连接机制的实现方案,包括事件驱动模型、非阻塞I/O处理、连接池应用及配置优化,具有一定的参考价值,感兴趣的可以了解一下... 目录1. Redis连接模型概述2. 连接建立过程详解2.1 连php接初始化流程2.2 关键配置参数3. 最大连

Python实现网格交易策略的过程

《Python实现网格交易策略的过程》本文讲解Python网格交易策略,利用ccxt获取加密货币数据及backtrader回测,通过设定网格节点,低买高卖获利,适合震荡行情,下面跟我一起看看我们的第一... 网格交易是一种经典的量化交易策略,其核心思想是在价格上下预设多个“网格”,当价格触发特定网格时执行买

SQL Server跟踪自动统计信息更新实战指南

《SQLServer跟踪自动统计信息更新实战指南》本文详解SQLServer自动统计信息更新的跟踪方法,推荐使用扩展事件实时捕获更新操作及详细信息,同时结合系统视图快速检查统计信息状态,重点强调修... 目录SQL Server 如何跟踪自动统计信息更新:深入解析与实战指南 核心跟踪方法1️⃣ 利用系统目录

python设置环境变量路径实现过程

《python设置环境变量路径实现过程》本文介绍设置Python路径的多种方法:临时设置(Windows用`set`,Linux/macOS用`export`)、永久设置(系统属性或shell配置文件... 目录设置python路径的方法临时设置环境变量(适用于当前会话)永久设置环境变量(Windows系统

Python对接支付宝支付之使用AliPay实现的详细操作指南

《Python对接支付宝支付之使用AliPay实现的详细操作指南》支付宝没有提供PythonSDK,但是强大的github就有提供python-alipay-sdk,封装里很多复杂操作,使用这个我们就... 目录一、引言二、准备工作2.1 支付宝开放平台入驻与应用创建2.2 密钥生成与配置2.3 安装ali

Spring Security 单点登录与自动登录机制的实现原理

《SpringSecurity单点登录与自动登录机制的实现原理》本文探讨SpringSecurity实现单点登录(SSO)与自动登录机制,涵盖JWT跨系统认证、RememberMe持久化Token... 目录一、核心概念解析1.1 单点登录(SSO)1.2 自动登录(Remember Me)二、代码分析三、

PyCharm中配置PyQt的实现步骤

《PyCharm中配置PyQt的实现步骤》PyCharm是JetBrains推出的一款强大的PythonIDE,结合PyQt可以进行pythion高效开发桌面GUI应用程序,本文就来介绍一下PyCha... 目录1. 安装China编程PyQt1.PyQt 核心组件2. 基础 PyQt 应用程序结构3. 使用 Q