大数据之Shell脚本语言简单入门(打通任督二脉)

2023-11-22 10:20

本文主要是介绍大数据之Shell脚本语言简单入门(打通任督二脉),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

 一. Shell概述

Shell脚本其实是一个命令解释器,它接收的是应用程序的命令,然后调用操作系统内核。同时Shell还是一个功能相当强大的编程语言,易编写,易调试,灵活性强。Shell在Linux系统中的位置如下图所示:

二. Shell脚本入门

2.1 脚本格式与执行

Linux系统对于解释Shell命令提供了解析器,通过指令cat /etc/shells可以查看:

2.1.1 脚本输出HelloWorld

脚本以指定解析器#!/bin/bash开头,创建一个hello.sh文件的脚本,添加如下内容:

#!/bin/bash
echo "helloworld"

执行脚本方式一

bash hello.sh

bash直接加上文件名或者文件路径(绝对路径或者相对路径)执行

执行脚本方式二

不使用bash,进行当前环境下绝对路径执行对应的Sheel脚本,必须赋予可执行权限:

赋予权限后执行:

chmod +x /root/script/hello.sh

直接使用绝对路径执行脚本,就会输出helloworld:

/root/script/hello.sh

三. Shell脚本语法

3.1 系统预定义变量

3.1.1 常用系统变量  

比如$HOME,$PWD,$SHELL,$USER

查看系统变量的值使用echo:

echo $HOME

查看系统变量的所有Shell变量:

set

查看所有的系统环境变量使用env命令

3.2 自定义变量

3.2.1 基本语法

zs=14 # 定义变量zs
echo $zs # 获得zs值14

直接变量名=赋值,这种方式声明的只是局部变量,声明或升级全局变量使用export

export zs

zs已变成全局变量,如何定义只读变量?使用readonly

readonly zs=14

当自定义变量越来越多,可以进行撤销使用unset,只读变量不可撤销。

unset a

3.3 特殊变量

3.3.1 基本语法

1. $n n表示数字,$0表示脚本名称,当n大于10需用大括号包含:${10}。它表示的是第一到第n个参数。

看一个简单的例子,在执行脚本的时候可以在其后面设置值来让shell脚本输出对应的值:

#!/bin/bash
echo '========$n============'
echo script name: $0
echo param01: $1
echo param02: $2echo '===========$n===================='

执行成功后输出:

2. $#,获取所有参数个数,常用于循环,判断参数的个数是否正确加强脚本的健壮性。

还是上面的案例,统计出脚本执行后的变量数:

#!/bin/bash
echo '========$n============'
echo script name: $0
echo param01: $1
echo param02: $2echo '===========$n========='
echo numbers: $#

执行成功后输出:

3. $*与$@都是代表命令行中的所有参数,不同的就是$*将所有参数看做一个整体,$@则是将每个参数区分对待(了解自行验证)。

4. $?表示最后一次执行状态命令的返回状态,若此变量为0,表示脚本正常进行,若非0,则表示上一个脚本执行不正确。

3.4 运算符

对于shell脚本做运算,使用$[表达式]或者$((表达式))来表示计算两个数的和:

#!/bin/bash
sum=$[$1+$2]
echo sum=$sum

执行成功输入参数后:

3.5 条件判断

3.5.1 基本语法

用两种方式来进行表达式的条件判断,分别是

  • test 表达式
  • [ 表达式 ] 注意表达式前后都要有空格

第一种不常用,主要介绍第二种。

常见的判断条件有:

符号描述
-eq等于
-ne不等于
-lt小于
-le小于等于
-gt大于
-ge大于等于

例子:

[ 2 -lt 8 ]
[ 1 -eq 1 ]
[ 3 -ne 2 ]
[ 2 -le 5 ]
[ 6 -gt 5 ]

3.6 流程控制

关于流程控制主要分为单分支与多分支的操作。

3.6.1 单分支语法

if [ 条件判断 ];then程序
fi

或者

if [ 条件表达式 ]
then程序
fi

3.6.2 多分支语法

if [ 条件表达式 ]
then程序
elif [ 条件表达式 ]
then程序
else程序
fi

3.6.3 case语法

case $变量名 in
"值1")若目标值为1,执行程序1
;;
"值2")若目标值为2,执行程序2
;;...其它分支...
*)若变量的值都不是上面的值,则执行此程序
;;
esac

注意:

  1. ;;表示程序结束相当于java中的break
  2. *)表示默认的模式,相当于java的default

3.7 循环操作

3.7.1 for循环

for((初始值;循环控制条件;变量变化))
do程序
done

例子:求前100的整数和

#!/bin/bash
for(( i=0; i <= $1 ; i++ ))
dosum=$[ $sum + $i ]
done
echo $sum

3.7.2 while循环

while [ 条件表达式 ]
do程序
done

例子:求前100的整数和

a=1
while [ a -le 100 ]
dosum=$[ $sum + $a ]a=$[ $a + 1]
done
echo $sum

3.8 函数

3.8.1 系统函数

1. basename

删除所有前缀包括最后一个"/"的字符 ,相当于提取文件名称,语法如下:

basename[ string / pathname ] suffix]

例:获取文件名,讲后缀去掉。

$(basename $0 .txt)

2. dirname

获取文件的绝对路径。

cd $(dirname $0)

3.8.2 自定义函数

基本语法:[ ]表示可以省略

[function] name[()]

{

        Action; 

        [return int;]

}

注意,函数必须事先声明,return只能返回0-255的数字。

例子:计算两数之和。

#!/bin/bash
function add(){s=$[$1 + $2]echo $s
}
read -p "输入a=" a
read -p "输入b=" b
sum=$(add $a $b)
echo "a+b="$sum

四. 综合应用案例

4.1 归档文件

在实际的生产应用中,需要对重要的数据进行归档备份,实现一个对指定目录进行归档备份的脚本,输入一个目录名称,将此目录下的文档按天进行归档保存,并将归档日期附加至归档的文件名上。

#!/bin/bash#首先判断输入参数是否是1
if [ $# -ne 1 ]
thenecho "参数个数错误,输入一个参数,作为文档目录名称"exit
fi# 从参数中获取目录名称
if [ -d $1 ]
thenecho
elseechoecho "目录不存在!"echoexit
fiDIR_NAME=$(basename $1)
DIR_PATH=$(cd $(dirname $1); pwd)# 获取当前日期
DATE=$(date +%y%m%d)#定义生成的归档文件名称
FILE=file_${DIR_NAME}_$DATE.tar.gz
DEST=/home/tongbing/$FILE#开始归档目录文件echo "开始归档..."
echotar -czf $DEST $DIR_PATH/$DIR_NAMEif  [ $? -eq 0 ]
thenechoecho "归档成功"echo "归档文件:$DEST"echofi

这篇关于大数据之Shell脚本语言简单入门(打通任督二脉)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/409454

相关文章

shell脚本批量导出redis key-value方式

《shell脚本批量导出rediskey-value方式》为避免keys全量扫描导致Redis卡顿,可先通过dump.rdb备份文件在本地恢复,再使用scan命令渐进导出key-value,通过CN... 目录1 背景2 详细步骤2.1 本地docker启动Redis2.2 shell批量导出脚本3 附录总

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

Spring WebClient从入门到精通

《SpringWebClient从入门到精通》本文详解SpringWebClient非阻塞响应式特性及优势,涵盖核心API、实战应用与性能优化,对比RestTemplate,为微服务通信提供高效解决... 目录一、WebClient 概述1.1 为什么选择 WebClient?1.2 WebClient 与

linux下shell脚本启动jar包实现过程

《linux下shell脚本启动jar包实现过程》确保APP_NAME和LOG_FILE位于目录内,首次启动前需手动创建log文件夹,否则报错,此为个人经验,供参考,欢迎支持脚本之家... 目录linux下shell脚本启动jar包样例1样例2总结linux下shell脚本启动jar包样例1#!/bin

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使

Java中使用 @Builder 注解的简单示例

《Java中使用@Builder注解的简单示例》@Builder简化构建但存在复杂性,需配合其他注解,导致可变性、抽象类型处理难题,链式编程非最佳实践,适合长期对象,避免与@Data混用,改用@G... 目录一、案例二、不足之处大多数同学使用 @Builder 无非就是为了链式编程,然而 @Builder

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分