jenkins远程部署使用shell脚本进行备份与find和grep匹配的区别

本文主要是介绍jenkins远程部署使用shell脚本进行备份与find和grep匹配的区别,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

需求

公司想jenkins在远程部署项目的同时,还要进行项目备份,
之前只备份最近一次构建的数据,也就是只保留到一份,
现在公司希望能保留按时间进行倒序,保留三份备份包。

思路

1、使用rm -rf 文件名把我们要保留的三份备份包排除掉。
2、要排除查询到的文件,可以使用grep -v命令。排除多少个可以使用head -n 3

rm -rf `ls | grep "ggservice-dataservice-.*" | grep -v `find . -name "ggservice-dataservice-*" | xargs ls -t | head -n 3|xargs|sed "s/.\///g"|xargs|sed "s/ /\\\\\\|/g"``

这么一条命令太长了。我们使用变量的方式:

# 打包的文件名
fileName="ggservice-dataservice"backup=`find . -name "${fileName}-*" | xargs ls -t | head -n 3|xargs|sed "s/.\///g"|xargs|sed "s/ /\\\\\\|/g"`
echo "保留最近三个备份包:" \"$backup\"
echo "删除的备份包:"`ls | grep "${fileName}-.*" | grep -v $backup`
#删除ggservice的备份包
rm -rf `ls | grep "${fileName}-.*" | grep -v $backup`

1、我们先查询出需要保留的三个备份包。

backup=`find . -name "${fileName}-*" | xargs ls -t | head -n 3|xargs|sed "s/.\///g"|xargs|sed "s/ /\\\\\\|/g"`

①首先find命令去模糊查询文件名为ggservice-dataservice-*

find和grep匹配的区别

注意: find命令中*号表示是通配符,而不是正则表达式。 grep 中的则是正则表达式。
Linux通配符与正则表达式
http://blog.csdn.net/nybornhawk/article/details/43730667
详细区别,自己百度吧!

以我自己例子;查询结果为:

./ggservice-dataservice-20161210
./ggservice-dataservice-20161211
./ggservice-dataservice-20161209
./ggservice-dataservice-20161202
./ggservice-dataservice-20161212

看到这个我们肯定希望把它们拼成如下形式:

ggservice-dataservice-20161212\|ggservice-dataservice-20161211\|ggservice-dataservice-20161202

为什么要拼成这种实现呢?

我们要知道grep -v同时排除多个文件的方法是这样的!

grep -v 'aaaa\|bbbb'

也就是说当有多个文件时,需要 |,进行分割,但是在Linux|是管道的意思,
所以需要使用反斜杠进行转义;所以是\|

xargs ls -t 是进行按日期排序(倒序)。
head -n 3 取前三个。
xargs|sed "s/.\///g"把查询文件结果中 ./ 去除掉。
sed是 正则 替换 格式:s/填写需要替换字符/填写需要替换成什么字符/g
s/被替换字符1/替换字符/g
xargs|sed "s/ /\\\\\|/g" 把查询文件结果中的空格替换成|

这里说明下⑤,在命令行中写成三个反斜杠即xargs|sed "s/ /\\\|/g",但是写到shell里,或是赋值给一个变量时,会把反斜杠弄没了:

ggservice-dataservice-20161212|ggservice-dataservice-20161211|ggservice-dataservice-20161202

后来经过我不断尝试,连续五个反斜杠就可以啦!即便是赋值给变量也是可以的。

最后backup变量得到的就是:

ggservice-dataservice-20161212\|ggservice-dataservice-20161211\|ggservice-dataservice-20161202

有了这个后,我们就可以开始删除了。

#删除ggservice的备份包
rm -rf `ls | grep "^${fileName}-.*" | grep -v $backup`

rm -rf 文件名,由于文件名是通过命令来查询出来的。所以需要使用`符号包裹起来,
也就是键盘数字1左边的那个键。
grep “^${fileName}-.这里面的.是正则表达式,匹配查询到相应格式的文件。
这里添加
^这个符号表示的是以指定字符开头进行匹配。
grep -v $backup`这里是排除掉我需要备份的文件。即不删除它们,其余匹配查询到的文件都进行删除。
至此,我的需求已经达到要求了。

下面是我自己写的完整脚本:

#!/bin/bash
export PATH=~/gogoal_platform/ggopenapi:~/play-1.2.7:$PATH
echo "构建后的路径pwd:"`pwd`
whoami
cd /home/developer/gogoal_platform/ggopenapi/
cur=$(pwd)
currday=`date +%Y%m%d`
# 打包的文件名
fileName="api"#创建最新的备份包
gogalwebfile=${cur}/${fileName}-$currday
if [ ! -d $gogalwebfile ]; then
echo "不存在":$gogalwebfile
cp -r ${fileName} ${fileName}-$currday
fibackup=`ls -lt | find . -name "${fileName}-*" | sort -r | head -n 3|xargs|sed "s/.\///g"|xargs|sed "s/ /\\\\\\|/g"`
echo "保留最近三个备份包:" \"$backup\"
echo "删除的备份包:"`ls | grep "^${fileName}-.*" | grep -v $backup`
# 删除备份包
rm -rf `ls | grep "^${fileName}-.*" | grep -v $backup | xargs | sed "s/ / /g"`# 将分批打包的jar拷贝到ggservice项目中
cp -r package/* /home/developer/gogoal_platform/ggopenapi/api/ggservice/
rm -rf packagecd /home/developer/gogoal_platform/ggopenapi/api/ggservice/cp /dev/null nohup.out
nohup ./ggservice.sh

更新

注:
2017-2-15修改
1、

backup=`ls -lt | find . -name "${fileName}-*" | sort -r | head -n 3|xargs|sed "s/.\///g"|xargs|sed "s/ /\\\\\\|/g"`

添加了sort -r,因为在使用ls -lt排序后,再使用find命令,会导致之前排好的顺序变成无须,所以再使用sort命令在排序一次,sort默认是升序,所以我们要进行添加参数-r,进行取反。

2、由于我打包的是.class文件,命令如下:

#!/bin/bash
export PATH=~/play-1.2.7:$PATH
#获得当前目录
cur=$(pwd)
echo "pwd:"${cur}
rm -rf ggservice-dataservice.jar
output_path=${cur}/classes
package=${cur}/package
echo $output_path
if [ ! -d $output_path ]; thenmkdir $output_path
fiif [ ! -d $package ]; thenmkdir $package
fi## 获取依赖库和需要编译的java文件
export libs=`find ./dataservice/lib -name "*.jar" |xargs|sed "s/ /:/g"`
export javafiles=`find ./dataservice/ -name "*.java" |xargs|sed "s/ / /g"`
export javautils=`find ./utils/app/ -name "*.java" |xargs|sed "s/ / /g"`
export play_lib=/opt/play-1.2.7/framework/play-1.2.7.jar
export play_lib_common=`find /opt/play-1.2.7/framework/lib/ -name "*.jar" |xargs|sed "s/ /:/g"`
#echo ${javafiles}
#echo "公共---------"
#echo ${javautils}# 清除
rm -rf package/*
# 清除编译后的class文件
rm -rf ${output_path}/*##编译
javac -d ${cur}/classes -cp ${libs}:$play_lib:$play_lib_common -encoding utf-8 ${javafiles} ${javautils}
##打包
cd /home/jenkins/workspace/ggservice/dataservice/app/ggservice/v1/
dir=$(ls -l |awk '/^d/ {print $NF}')
cd $output_path
for i in $dir
doecho "ggservice-"${i}".jar打包情况":jar -cvf ${package}/ggservice-${i}.jar */v1/$i/*
done

每次打jar包的时候,最好先清除class文件,今天就这个原因导致浪费很多时间。

# 清除编译后的class文件
rm -rf ${output_path}/*

2017-6-22修改

今天偶然发现执行上面的脚本居然把不想删除的文件给删除啦!

这里写图片描述

结果呢?其把ggopenapi-mongo3这个文件也删除啦!

这里写图片描述

看了看我的脚本:

echo "删除的备份包:"`ls | grep "${fileName}-.*" | grep -v $backup`

由于grep是正则匹配,所以只要包含指定的字符就匹配成功,所以呢,我们需要加上^

echo "删除的备份包:"`ls | grep "^${fileName}-.*" | grep -v $backup`

这篇关于jenkins远程部署使用shell脚本进行备份与find和grep匹配的区别的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1112217

相关文章

shell脚本批量导出redis key-value方式

《shell脚本批量导出rediskey-value方式》为避免keys全量扫描导致Redis卡顿,可先通过dump.rdb备份文件在本地恢复,再使用scan命令渐进导出key-value,通过CN... 目录1 背景2 详细步骤2.1 本地docker启动Redis2.2 shell批量导出脚本3 附录总

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我

MySQL中EXISTS与IN用法使用与对比分析

《MySQL中EXISTS与IN用法使用与对比分析》在MySQL中,EXISTS和IN都用于子查询中根据另一个查询的结果来过滤主查询的记录,本文将基于工作原理、效率和应用场景进行全面对比... 目录一、基本用法详解1. IN 运算符2. EXISTS 运算符二、EXISTS 与 IN 的选择策略三、性能对比

Oracle数据库定时备份脚本方式(Linux)

《Oracle数据库定时备份脚本方式(Linux)》文章介绍Oracle数据库自动备份方案,包含主机备份传输与备机解压导入流程,强调需提前全量删除原库数据避免报错,并需配置无密传输、定时任务及验证脚本... 目录说明主机脚本备机上自动导库脚本整个自动备份oracle数据库的过程(建议全程用root用户)总结

使用Python构建智能BAT文件生成器的完美解决方案

《使用Python构建智能BAT文件生成器的完美解决方案》这篇文章主要为大家详细介绍了如何使用wxPython构建一个智能的BAT文件生成器,它不仅能够为Python脚本生成启动脚本,还提供了完整的文... 目录引言运行效果图项目背景与需求分析核心需求技术选型核心功能实现1. 数据库设计2. 界面布局设计3

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

Android Paging 分页加载库使用实践

《AndroidPaging分页加载库使用实践》AndroidPaging库是Jetpack组件的一部分,它提供了一套完整的解决方案来处理大型数据集的分页加载,本文将深入探讨Paging库... 目录前言一、Paging 库概述二、Paging 3 核心组件1. PagingSource2. Pager3.

Python进行JSON和Excel文件转换处理指南

《Python进行JSON和Excel文件转换处理指南》在数据交换与系统集成中,JSON与Excel是两种极为常见的数据格式,本文将介绍如何使用Python实现将JSON转换为格式化的Excel文件,... 目录将 jsON 导入为格式化 Excel将 Excel 导出为结构化 JSON处理嵌套 JSON:

python使用try函数详解

《python使用try函数详解》Pythontry语句用于异常处理,支持捕获特定/多种异常、else/final子句确保资源释放,结合with语句自动清理,可自定义异常及嵌套结构,灵活应对错误场景... 目录try 函数的基本语法捕获特定异常捕获多个异常使用 else 子句使用 finally 子句捕获所