优化测试稳定性的失败重试工具:pytest-rerunfailures详解!

本文主要是介绍优化测试稳定性的失败重试工具:pytest-rerunfailures详解!,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一.前言

笔者在执行自动化测试用例时,会发现有时候用例失败并非代码问题,而是由于服务正在发版,导致请求失败,从而降低了自动化用例的稳定性,最后还要花时间定位到底是自身case的原因还是业务逻辑问题,还是其他原因,增加了定位成本。增加容错机制失败重试,会解决大部分由于网络原因、服务重启等原因造成的case失败问题。那该如何增加失败重试机制呢?带着问题我们一起探索。

pytest-rerunfailures插件 先给出答案,我们将使用pytest-rerunfailures插件来实现失败重试功能。

二.什么是pytest-rerunfailures

pytest-rerunfailures是一个基于pytest框架的插件,它允许我们对测试用例进行失败重试。当一个测试用例失败时,插件会自动重新运行失败的测试用例,直到达到预定的重试次数或测试用例通过为止。这样可以增加用例的稳定性,并减少因为偶发性问题导致的测试失败。

三.如何使用pytest-rerunfailures

1.方式一

首先,确保已经安装了pytest-rerunfailures插件。可以使用以下命令进行安装

pip install pytest-rerunfailures

安装完成后,在项目中使用pytest运行测试用例时,pytest-rerunfailures插件会自动生效。

接下来,在编写测试用例时,可以通过添加@pytest.mark.flaky装饰器将需要重试的测试用例标记起来。例如:

import pytest@pytest.mark.flaky(reruns=3, reruns_delay=2)
def test_case():assert 1 == 2

在上述示例中,我们使用了@pytest.mark.flaky装饰器来标记测试用例test_case为可重试的。参数reruns指定了重试次数,而 reruns_delay则指定了每次重试之间的延迟时间(以秒为单位)。

我们来运行case,看一下执行结果:

执行命令:

pytest -s -v test_demo.py::test_case

会看到如下结果:

RERUN
test_dir/test_demo.py::test_case RERUN
test_dir/test_demo.py::test_case RERUN
test_dir/test_demo.py::test_case FAILED

可以看到,重试了3次,最终结果为失败。

注意:如果你是在pycharm中点击绿色三角形直接运行是不生效的

现在我也找了很多测试的朋友,做了一个分享技术的交流群,共享了很多我们收集的技术文档和视频教程。
如果你不想再体验自学时找不到资源,没人解答问题,坚持几天便放弃的感受
可以加入我们一起交流。而且还有很多在自动化,性能,安全,测试开发等等方面有一定建树的技术大牛
分享他们的经验,还会分享很多直播讲座和技术沙龙
可以免费学习!划重点!开源的!!!
qq群号:691998057【暗号:csdn999】

总结一下

当运行测试时,如果测试用例失败,pytest-rerunfailures插件会根据我们配置的重试次数和延迟时间自动重新运行该测试用例,直到达到最大重试次数或测试通过为止。

2.方式二

除了使用装饰器来标记测试用例外,pytest-rerunfailures还支持使用命令行选项和配置文件的方式进行配置。

命令行执行的话,可以这样写:

pytest -s -v --reruns 3 --reruns-delay 2 test_demo.py::test_case

或者代码运行的话,可以这样写:

pytest.main(["-s", "-v", "--reruns", "3", "--reruns-delay", "2", "test_demo.py::test_case"])

四.运行机制

到这里,应该会使用了。我们简单概括一下它的运行机制:

pytest通过插件系统加载pytest-rerunfailures插件,并启用其功能。

pytest运行测试时,对每个测试用例的执行进行监控。

如果一个测试用例执行失败,pytest-rerunfailures插件会捕获该失败,并判断是否需要进行重试。

如果该测试用例被标记为可重试(使用了@pytest.mark.flaky装饰器),插件会根据配置的重试次数和延迟时间重新运行该测试用例。

在每次重试之前,插件会根据设置的延迟时间暂停一段时间。

如果测试用例在重试次数达到上限之前通过了,即成功执行,则插件会将该测试用例标记为通过。

如果测试用例在达到最大重试次数后仍然失败,则插件会返回最后一次失败的结果作为最终的结果。

总结起来,pytest-rerunfailures插件在测试执行失败时,根据配置的重试次数和延迟时间重新运行测试用例,并根据重试结果判断最终的测试结果。这样可以提高测试用例的稳定性,并减少偶发性问题导致的测试失败。

五.源码解读:

https://github.com/pytest-dev/pytest-rerunfailures/blob/master/pytest_rerunfailures.py

使用阶段,我们使用mark标记,那源码中应该添加了该标记

def pytest_configure(config):# add flaky markerconfig.addinivalue_line("markers","flaky(reruns=1, reruns_delay=0): mark test to re-run up ""to 'reruns' times. Add a delay of 'reruns_delay' seconds ""between re-runs.",)......

简单解释一下:pytest_configure(config)pytest的一个钩子函数,用于在pytest配置阶段对配置进行自定义操作。

config.addinivalue_line()pytest的配置方法,用于向配置中添加新的配置项或配置信息。

在这段代码中,通过config.addinivalue_line()方法,插件向pytest的配置中加入了一行字符串。

这行字符串指定了标记名称为flaky,并使用参数rerunsreruns_delay来说明重试次数和延迟时间的默认值。

标记的含义是将被标记的测试用例重新运行最多 reruns次,每次重试之间间隔reruns_delay秒。

通过这个自定义的标记,就可以使用@pytest.mark.flaky装饰器来标记需要进行重试的测试用例,并且可以在装饰器中指定具体的重试次数和延迟时间。

我们看看实现失败重试的源码,这才是重点

def pytest_runtest_protocol(item, nextitem):"""Run the test protocol.Note: when teardown fails, two reports are generated for the case, one forthe test case and the other for the teardown error."""reruns = get_reruns_count(item)if reruns is None:# global setting is not specified, and this test is not marked with# flakyreturn# while this doesn't need to be run with every item, it will fail on the# first item if necessarycheck_options(item.session.config)delay = get_reruns_delay(item)parallel = not is_master(item.config)db = item.session.config.failures_dbitem.execution_count = db.get_test_failures(item.nodeid)db.set_test_reruns(item.nodeid, reruns)if item.execution_count > reruns:return Trueneed_to_run = Truewhile need_to_run:item.execution_count += 1item.ihook.pytest_runtest_logstart(nodeid=item.nodeid, location=item.location)reports = runtestprotocol(item, nextitem=nextitem, log=False)for report in reports:  # 3 reports: setup, call, teardownreport.rerun = item.execution_count - 1if _should_not_rerun(item, report, reruns):# last run or no failure detected, log normallyitem.ihook.pytest_runtest_logreport(report=report)else:# failure detected and reruns not exhausted, since i < rerunsreport.outcome = "rerun"time.sleep(delay)if not parallel or works_with_current_xdist():# will rerun test, log intermediate resultitem.ihook.pytest_runtest_logreport(report=report)# cleanin item's cashed results from any level of setups_remove_cached_results_from_failed_fixtures(item)_remove_failed_setup_state_from_session(item)break  # trigger rerunelse:need_to_run = Falseitem.ihook.pytest_runtest_logfinish(nodeid=item.nodeid, location=item.location)return True

简单解释一下:首先,通过函数get_reruns_count(item)获取当前测试用例需要重试的次数。如果没有设置重试次数,则直接返回。

然后,检查配置选项并获取重试的延迟时间,并确定是否运行在并行模式下。还会获取失败记录数据库对象,并获取当前测试用例已经执行的次数。

接下来,通过比较已执行次数和设定的重试次数,判断是否需要进行重试。如果已执行次数大于等于设定的重试次数,则不再进行重试,直接返回。

如果需要重试,会进入一个循环,每次重试会增加已执行次数。在重试过程中,会调用pytest_runtest_logstart函数记录测试用例开始执行的日志。

然后,通过调用runtestprotocol函数执行测试用例,并获取测试结果。在这里,生成的报告会被标记为执行次数减一,以便区分原始执行和重试执行的报告。

接着,通过_should_not_rerun函数判断当前报告是否满足不需要重试的条件。如果满足,则继续执行后续操作。

如果报告表明需要重试,并且重试次数未达到设定的次数,会将报告的结果设置为rerun,并根据设定的延迟时间暂停一段时间。

然后,根据并行模式和当前使用的xdist版本,决定是否记录中间结果。同时,会清除缓存的结果和执行状态。

之后,重试循环会继续,直到不满足重试条件为止。最后,会调用pytest_runtest_logfinish函数记录测试用例结束执行的日志。

最后,函数返回True,表示已经实现重试机制。

总结起来,这段代码通过循环执行测试用例,并在满足重试条件时进行重试,直到满足退出条件为止。在重试过程中,会记录日志、生成报告,并根据设定的重试次数和延迟时间进行控制。

六.最后

失败重试功能并不是解决所有测试问题的法宝,它应该被视为一种提高测试稳定性的辅助手段。在使用pytest-rerunfailures进行失败重试时,我们应该仔细分析失败的原因,确保重试次数和延迟时间设置合理,并与团队成员共同讨论和决定是否需要重试测试用例。

总结起来,pytest-rerunfailures是一个非常有用的工具,可以提高测试用例的稳定性。通过使用它,我们可以轻松地实现失败重试功能,并减少由于偶发性问题导致的测试失败。

下面是配套资料,对于做【软件测试】的朋友来说应该是最全面最完整的备战仓库,这个仓库也陪伴我走过了最艰难的路程,希望也能帮助到你!

最后: 可以在公众号:自动化测试老司机 ! 免费领取一份216页软件测试工程师面试宝典文档资料。以及相对应的视频学习教程免费分享!,其中包括了有基础知识、Linux必备、Shell、互联网程序原理、Mysql数据库、抓包工具专题、接口测试工具、测试进阶-Python编程、Web自动化测试、APP自动化测试、接口自动化测试、测试高级持续集成、测试架构开发测试框架、性能测试、安全测试等。

如果我的博客对你有帮助、如果你喜欢我的博客内容,请 “点赞” “评论” “收藏” 一键三连哦!

这篇关于优化测试稳定性的失败重试工具:pytest-rerunfailures详解!的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/747909

相关文章

Python函数作用域示例详解

《Python函数作用域示例详解》本文介绍了Python中的LEGB作用域规则,详细解析了变量查找的四个层级,通过具体代码示例,展示了各层级的变量访问规则和特性,对python函数作用域相关知识感兴趣... 目录一、LEGB 规则二、作用域实例2.1 局部作用域(Local)2.2 闭包作用域(Enclos

Linux中压缩、网络传输与系统监控工具的使用完整指南

《Linux中压缩、网络传输与系统监控工具的使用完整指南》在Linux系统管理中,压缩与传输工具是数据备份和远程协作的桥梁,而系统监控工具则是保障服务器稳定运行的眼睛,下面小编就来和大家详细介绍一下它... 目录引言一、压缩与解压:数据存储与传输的优化核心1. zip/unzip:通用压缩格式的便捷操作2.

Python实现对阿里云OSS对象存储的操作详解

《Python实现对阿里云OSS对象存储的操作详解》这篇文章主要为大家详细介绍了Python实现对阿里云OSS对象存储的操作相关知识,包括连接,上传,下载,列举等功能,感兴趣的小伙伴可以了解下... 目录一、直接使用代码二、详细使用1. 环境准备2. 初始化配置3. bucket配置创建4. 文件上传到os

Java内存分配与JVM参数详解(推荐)

《Java内存分配与JVM参数详解(推荐)》本文详解JVM内存结构与参数调整,涵盖堆分代、元空间、GC选择及优化策略,帮助开发者提升性能、避免内存泄漏,本文给大家介绍Java内存分配与JVM参数详解,... 目录引言JVM内存结构JVM参数概述堆内存分配年轻代与老年代调整堆内存大小调整年轻代与老年代比例元空

Python中注释使用方法举例详解

《Python中注释使用方法举例详解》在Python编程语言中注释是必不可少的一部分,它有助于提高代码的可读性和维护性,:本文主要介绍Python中注释使用方法的相关资料,需要的朋友可以参考下... 目录一、前言二、什么是注释?示例:三、单行注释语法:以 China编程# 开头,后面的内容为注释内容示例:示例:四

mysql表操作与查询功能详解

《mysql表操作与查询功能详解》本文系统讲解MySQL表操作与查询,涵盖创建、修改、复制表语法,基本查询结构及WHERE、GROUPBY等子句,本文结合实例代码给大家介绍的非常详细,感兴趣的朋友跟随... 目录01.表的操作1.1表操作概览1.2创建表1.3修改表1.4复制表02.基本查询操作2.1 SE

MySQL中的锁机制详解之全局锁,表级锁,行级锁

《MySQL中的锁机制详解之全局锁,表级锁,行级锁》MySQL锁机制通过全局、表级、行级锁控制并发,保障数据一致性与隔离性,全局锁适用于全库备份,表级锁适合读多写少场景,行级锁(InnoDB)实现高并... 目录一、锁机制基础:从并发问题到锁分类1.1 并发访问的三大问题1.2 锁的核心作用1.3 锁粒度分

MySQL数据库中ENUM的用法是什么详解

《MySQL数据库中ENUM的用法是什么详解》ENUM是一个字符串对象,用于指定一组预定义的值,并可在创建表时使用,下面:本文主要介绍MySQL数据库中ENUM的用法是什么的相关资料,文中通过代码... 目录mysql 中 ENUM 的用法一、ENUM 的定义与语法二、ENUM 的特点三、ENUM 的用法1

MySQL count()聚合函数详解

《MySQLcount()聚合函数详解》MySQL中的COUNT()函数,它是SQL中最常用的聚合函数之一,用于计算表中符合特定条件的行数,本文给大家介绍MySQLcount()聚合函数,感兴趣的朋... 目录核心功能语法形式重要特性与行为如何选择使用哪种形式?总结深入剖析一下 mysql 中的 COUNT

一文详解Git中分支本地和远程删除的方法

《一文详解Git中分支本地和远程删除的方法》在使用Git进行版本控制的过程中,我们会创建多个分支来进行不同功能的开发,这就容易涉及到如何正确地删除本地分支和远程分支,下面我们就来看看相关的实现方法吧... 目录技术背景实现步骤删除本地分支删除远程www.chinasem.cn分支同步删除信息到其他机器示例步骤