linux三剑客之流编辑器sed

2024-04-04 21:20

本文主要是介绍linux三剑客之流编辑器sed,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

sed(stream editor)是Linux和Unix系统中一个非常强大的文本处理工具。它主要用于对文本数据进行过滤和转换。sed 可以在不打开文件的情况下,直接对输入流进行操作,并且可以将结果输出到标准输出或文件。

基本语法:

sed [options] 'script' [input [output]]'
  • [options]:sed 的命令行选项,如 -i 用于直接修改文件。
  • script:定义了要执行的编辑操作的脚本。
  • [input]:输入文件,默认为标准输入(stdin)。
  • [output]:输出文件,默认为标准输出(stdout)。

常用sed命令:

  • sed 's/pattern/replacement/':替换命令,将pattern替换为replacement。
    • g:全局替换,替换行中的所有匹配项。
    • p:打印,只打印匹配的行。
    • n:原样打印,不进行任何替换。
  • sed -n 'pattern':只打印匹配pattern的行。
  • sed -e 'command1' -e 'command2':执行多个命令。
  • sed -i 's/old/new/' file:直接修改文件内容,将old替换为new。
  • sed 'N;N;s/\n//g':合并连续的空行。
  • sed '1,5 s/.*/Hello/':对文件的第1行到第5行执行替换操作。
  • sed '$!N;s/\n//g':除了最后一行外,合并所有行,删除换行符。
  • sed -n '1,5p;1,5!d':打印文件的第1行到第5行,并删除这些行。

正则表达式:

sed 使用基本正则表达式(Basic Regular Expressions, BRE)进行模式匹配。在sed中使用正则表达式时,你需要对特殊字符进行转义。

示例:

  • 将文件input.txt中所有的old替换为new,并将结果保存到output.txt:
sed 's/old/new/' input.txt > output.txt
  • 直接在file.txt文件中替换所有的old为new:
sed -i 's/old/new/' file.txt
  • 打印文件的第1行到第3行:
sed -n '1,3p' file.txt
  • 删除文件中的所有空行:
复制
sed '/^$/d' file.txt

应用场景

sed(stream editor)是一个流编辑器,它在Unix和类Unix系统中广泛应用于各种文本处理任务。以下是一些典型的sed应用场景:

1.文本替换:

sed 's/oldtext/newtext/g' inputfile > outputfile

这个命令会在inputfile中查找所有的oldtext字符串,并将其替换为newtext,结果会被输出到outputfile。

2.文本删除:

sed '/pattern/d' inputfile > outputfile

这个命令会删除inputfile中所有包含pattern的行,并将其余内容输出到outputfile。

3.文本插入:

sed '5i\ New text' inputfile > outputfile

这个命令会在inputfile的第5行之前插入New text,并将结果输出到outputfile。

4.文本追加:

sed '$a\ Additional text' inputfile > outputfile

这个命令会在inputfile的末尾追加Additional text,并将结果输出到outputfile。

5.文本格式化:

sed '=; s/^/    /' inputfile > outputfile

这个命令会将inputfile中的每一行都缩进,并在文件顶部添加行号,结果输出到outputfile。

6.文本过滤:

sed -n '1,5p' inputfile > outputfile

这个命令会从inputfile中提取第1行到第5行的内容,并将这些内容输出到outputfile。

7.日志文件处理:

sed -n '/error/p' inputfile > outputfile

这个命令会从inputfile中提取所有包含error的行,并将这些行输出到outputfile。

8.文本转换:

sed 's/\t/,/g' inputfile > outputfile

这个命令会将inputfile中的所有制表符(\t)替换为逗号(,),并将结果输出到outputfile。

9.文本排序:

sed '1d; s/^/ /' inputfile | sort > outputfile

这个命令会删除inputfile的第一行,然后在每一行前添加空格,之后通过sort命令进行排序,并将结果输出到outputfile。

10.自动化脚本:

sed_script.sh

您可以创建一个shell脚本sed_script.sh,其中包含多个sed命令来自动化文本处理任务。

11.数据提取和报告生成:

sed -n '1,$p' inputfile | awk '{print $1}' > reportfile

这个命令会提取inputfile中每一行的第一个字段,并将这些字段保存到reportfile中,作为报告的一部分。

12.文本加密和解密:

解释# 加密(简单的倒序)
sed '1,$!G;h;$!d;$!N;s/\n//g' inputfile > encryptedfile
# 解密
sed '1,$!G;s/$.*$$.*$/\2 \1/;s/ //g' encryptedfile > decryptedfile

这是一个简单的加密和解密示例,通过倒序文本来实现。

13.批量重命名文件:

sed 's/\.txt$/改名后.txt/' filelist.txt | xargs -I {} mv {} {}

这个命令会从一个包含文件名列表的filelist.txt文件中读取,将所有.txt结尾的文件重命名为改名后.txt。

工作场景

sed(stream editor)在实际工作中有许多应用,尤其在处理文本文件和自动化任务时非常有用。以下是一些实际工作中的应用示例:

1. 日志文件分析

在服务器日志文件中搜索特定的错误信息或过滤出特定用户的活动记录。例如,查找所有404错误:

sed -n '/404/' /var/log/apache2/access.log

2. 配置文件编辑

批量修改配置文件中的参数。例如,更新所有监听端口:

sed -i 's/listen 80/listen 8080/' /etc/httpd/conf/httpd.conf

3. 文本替换

在大型文本文件中替换字符串。例如,将所有的foo替换为bar:

sed 's/foo/bar/g' input.txt > output.txt

4. 数据清洗

删除或格式化数据,如去除文本文件中的空行或注释行:

sed '/^$/d' data.txt  # 删除空行
sed '/^#/d' data.txt  # 删除以#开头的注释行

5. 批量文件重命名

使用sed生成新的文件名列表,然后使用mv命令批量重命名文件:

sed 's/\.txt$/_renamed.txt/' files.txt | xargs -I {} mv {} {}

6. 文本流编辑

在管道操作中使用sed来处理流数据。例如,查找进程列表中CPU使用率超过50%的进程:

ps aux | sed -n '$p; /cpu/ p'

7. 自动生成报告

从日志或其他文本文件中提取信息,生成报告。例如,提取特定服务的访问日志:

sed -n '/myservice/' /var/log/messages > myservice.log

8. 临时更改配置

在不修改原始文件的情况下,临时更改配置文件的参数,例如,临时增加日志级别:

sed 's/LogLevelWarn/LogLevelInfo/' /etc/myapp/myapp.conf > temp.conf && source temp.conf

9. 密码隐藏

在脚本中隐藏敏感信息,如密码:

sed 's/password: .*/password: ***/' /etc/passwd

10. 条件执行命令

根据匹配到的文本执行特定的命令。例如,如果文件中包含某个关键词,则执行备份操作:

复制
sed -n '/critical issue/{=; /$/q;} p' /var/log/syslog | xargs -I {} tar -czf {}_backup.tar.gz /path/to/data

这篇关于linux三剑客之流编辑器sed的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/876847

相关文章

linux系统上安装JDK8全过程

《linux系统上安装JDK8全过程》文章介绍安装JDK的必要性及Linux下JDK8的安装步骤,包括卸载旧版本、下载解压、配置环境变量等,强调开发需JDK,运行可选JRE,现JDK已集成JRE... 目录为什么要安装jdk?1.查看linux系统是否有自带的jdk:2.下载jdk压缩包2.解压3.配置环境

Linux搭建ftp服务器的步骤

《Linux搭建ftp服务器的步骤》本文给大家分享Linux搭建ftp服务器的步骤,本文通过图文并茂的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下吧... 目录ftp搭建1:下载vsftpd工具2:下载客户端工具3:进入配置文件目录vsftpd.conf配置文件4:

Linux实现查看某一端口是否开放

《Linux实现查看某一端口是否开放》文章介绍了三种检查端口6379是否开放的方法:通过lsof查看进程占用,用netstat区分TCP/UDP监听状态,以及用telnet测试远程连接可达性... 目录1、使用lsof 命令来查看端口是否开放2、使用netstat 命令来查看端口是否开放3、使用telnet

Linux系统管理与进程任务管理方式

《Linux系统管理与进程任务管理方式》本文系统讲解Linux管理核心技能,涵盖引导流程、服务控制(Systemd与GRUB2)、进程管理(前台/后台运行、工具使用)、计划任务(at/cron)及常用... 目录引言一、linux系统引导过程与服务控制1.1 系统引导的五个关键阶段1.2 GRUB2的进化优

AOP编程的基本概念与idea编辑器的配合体验过程

《AOP编程的基本概念与idea编辑器的配合体验过程》文章简要介绍了AOP基础概念,包括Before/Around通知、PointCut切入点、Advice通知体、JoinPoint连接点等,说明它们... 目录BeforeAroundAdvise — 通知PointCut — 切入点Acpect — 切面

Linux查询服务器 IP 地址的命令详解

《Linux查询服务器IP地址的命令详解》在服务器管理和网络运维中,快速准确地获取服务器的IP地址是一项基本但至关重要的技能,下面我们来看看Linux中查询服务器IP的相关命令使用吧... 目录一、hostname 命令:简单高效的 IP 查询工具命令详解实际应用技巧注意事项二、ip 命令:新一代网络配置全

linux安装、更新、卸载anaconda实践

《linux安装、更新、卸载anaconda实践》Anaconda是基于conda的科学计算环境,集成1400+包及依赖,安装需下载脚本、接受协议、设置路径、配置环境变量,更新与卸载通过conda命令... 目录随意找一个目录下载安装脚本检查许可证协议,ENTER就可以安装完毕之后激活anaconda安装更

Linux查询服务器系统版本号的多种方法

《Linux查询服务器系统版本号的多种方法》在Linux系统管理和维护工作中,了解当前操作系统的版本信息是最基础也是最重要的操作之一,系统版本不仅关系到软件兼容性、安全更新策略,还直接影响到故障排查和... 目录一、引言:系统版本查询的重要性二、基础命令解析:cat /etc/Centos-release详

Linux grep 命令的使用指南

《Linuxgrep命令的使用指南》本文给大家介绍Linuxgrep命令的使用指南,包括基础搜索语法、实践指南,感兴趣的朋友跟随小编一起看看吧... 目录linux grep 命令全面使用指南一、基础搜索语法1. 基本文本搜索2. 多文件搜索二、常用选项详解1. 输出控制选项2. 上下文控制选项三、正则表达

Linux部署中的文件大小写问题的解决方案

《Linux部署中的文件大小写问题的解决方案》在本地开发环境(Windows/macOS)一切正常,但部署到Linux服务器后出现模块加载错误,核心原因是Linux文件系统严格区分大小写,所以本文给大... 目录问题背景解决方案配置要求问题背景在本地开发环境(Windows/MACOS)一切正常,但部署到