【SQLAlchemy】MySQL server has gone away 原因分析、解决方法

2023-12-31 21:08

本文主要是介绍【SQLAlchemy】MySQL server has gone away 原因分析、解决方法,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

SQLAlchemy报错:MySQL server has gone away

错误日志

2020-01-03 20:00:00,072 - update_example_table.py - get_pcodes_arr_by_kind_from_db[line:147] - ERROR: (pymysql.err.OperationalError) (2006, “MySQL server has gone away (error(10053, ‘’))”)
[SQL: SELECT example_menu.p_codes AS example_menu_p_codes
FROM example_menu
WHERE example_menu.isactive = %(isactive_1)s AND example_menu.kind = %(kind_1)s]
[parameters: {u’kind_1’: ‘BLACK’, u’isactive_1’: 1}]
(Background on this error at: http://sqlalche.me/e/e3q8)

错误原因

从字面理解,就是你连接的MySQL已经走人了,不在了。相当于你和另外一个人打电话,你一直没有挂电话,但是你把电话放一边了,直到你重新拎起电话想说点啥,才听到里面『嘟,嘟,嘟,嘟…』的挂机声,于是你就知道电话另一头的人已经gone away了。

线上碰到这个问题时,通常就是抛一个异常,然后(主动/被动)重新连接一下,你下次就重新执行一下要执行的语句就行。这就像你觉得有一番话非说不可,然后重新拨了个电话过去。

什么情况下会gone away?就像刚才说的,当你拿着一个电话太久,又不说话的时候,对面肯定就把你挂了;

当sqlalchemy与MySQL建立了一个连接,而sqlalchemy又不对这个连接执行任何(有含义)的语句,这个连接对于MySQL而言就处于sleep,当sleep了太久,MySQL就把连接一头关闭了(可能说了句"啥玩意儿")

这时,如果sqlalchemy在这个连接上尝试执行语句,就会出现gone away的错误。

conn.close() 是把连接放回连接池,不是真正的关闭;池子里的空闲连接在MySQL线程里sleep,长时间不操作,MySQL把连接一端关闭了,所以第二天SQLAlchemy再用这个连接的时候,抛出MySQL server has gone away…

解决方法

1. 设置SQLAlchemy的连接有效期,在MySQL关闭它之前,我先关闭它

因为scoped_session是threadlocal的,相同线程会用到相同的session,如果session还持有connection,从pool里checkout connection时不会进行过期的检查操作,直接使用,所以必须设置SQLAIchemy的有效期

SQLAlchemy连接池重新生成的周期默认为timeout是2小时,通过 SHOW VARIABLES 可以查看数据库配置的timeout时间(如下图所示),所以设置sqlalchemy的 "pool_recycle"参数小于360s,就会在数据库服务器断开连接之前,自己断开并重新生成连接

2. 在Web框架的层面,每次请求处理完毕时,显式地关闭session。

a. web框架显示关闭session的方法有很多,常规方法如下,在finally中主动关闭seession
b. Django和Flask都有middleware机制,可以在接收请求之前和处理完请求之后对session进行remove
c. Flask有一类修饰器hook,可以在请求后或请求前做一些事情,使用hook显示关闭session如下

了解其他hook修饰器:

before_first_request:注册一个函数,在处理第一个请求之前运行。
before_request:注册一个函数,在每次请求之前运行。
after_request:注册一个函数,如果没有未处理的异常抛出,在每次请求之后运行。
teardown_request:注册一个函数,即使有未处理的异常抛出,也在每次请求之后运行。
在使用session之前,先检查其有效性,无效则创建新的session以供使用

3. 在使用session之前,先检查其有效性,无效则创建新的session以供使用
在这里插入图片描述


拓展:类似问题 - Lost connection to mysql server during query

(使用的是Flask-SQLAlchemy)

一般由以下四种情况造成, 通过SHOW VARIABLES LIKE ‘’查看一下字段:

1、查询中大量数据被发送,由于数据传输时间不够导致,可以增加net_read_timeout的值。

net_read_timeout : mysql服务端从客户端读取(接收)数据时,服务端等待客户端响应的超时时间,当服务端正在从客户端读取数据时,net_read_timeout控制何时超时

2、初次连接时,连接时间设定太少,可以增加connect_timeout的值改善。

connect_timeout:在获取连接阶段(authenticate)起作用, 获取MySQL连接是多次握手的结果,除了用户名和密码的匹配校验外,还有IP->HOST->DNS->IP验证,任何一步都可能因为网络问题导致线程阻塞。为 了防止线程浪费在不必要的校验等待上,超过connect_timeout的连接请求将会被拒绝。

3、有些少见的情况可以show global status like 'aborted_connets',这个全局变量在每一次服务器终止时会增加1,查看"reading authorization packet"获取错误信息。

4、BLOB值太大的问题,调整配置文件max_allowed_packet

mysql根据配置文件会限制server接受的数据包大小。有时候大的插入和更新会被max_allowed_packet 参数限制掉,导致失败。


拓展:【Python】SQLAlchemy:session何时commit,何时close?

Engine 相当于一个创建连接的工厂,而不是连接本身。当使用conn.close()时,连接被放回到Engine的连接池当中,而不是真正的关闭了。

如果想要在调用conn.close()时,真正的关闭连接,可以使用poolclass=NullPool属性:

from sqlalchemy.pool import NullPool
db = create_engine('mysql://root@localhost/test_database', poolclass=NullPool)

拓展:初始问题 - 【Python】SQLAlchemy长时间未请求,数据库连接断开的原因、解决方案

一个基于apscheduler的定时任务,里面的任务使用了sqlalchemy,这个任务每天跑,但是第二天就连不上数据库

这篇关于【SQLAlchemy】MySQL server has gone away 原因分析、解决方法的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/557141

相关文章

在Android中使用WebView在线查看PDF文件的方法示例

《在Android中使用WebView在线查看PDF文件的方法示例》在Android应用开发中,有时我们需要在客户端展示PDF文件,以便用户可以阅读或交互,:本文主要介绍在Android中使用We... 目录简介:1. WebView组件介绍2. 在androidManifest.XML中添加Interne

Java中字符编码问题的解决方法详解

《Java中字符编码问题的解决方法详解》在日常Java开发中,字符编码问题是一个非常常见却又特别容易踩坑的地方,这篇文章就带你一步一步看清楚字符编码的来龙去脉,并结合可运行的代码,看看如何在Java项... 目录前言背景:为什么会出现编码问题常见场景分析控制台输出乱码文件读写乱码数据库存取乱码解决方案统一使

PHP轻松处理千万行数据的方法详解

《PHP轻松处理千万行数据的方法详解》说到处理大数据集,PHP通常不是第一个想到的语言,但如果你曾经需要处理数百万行数据而不让服务器崩溃或内存耗尽,你就会知道PHP用对了工具有多强大,下面小编就... 目录问题的本质php 中的数据流处理:为什么必不可少生成器:内存高效的迭代方式流量控制:避免系统过载一次性

C++右移运算符的一个小坑及解决

《C++右移运算符的一个小坑及解决》文章指出右移运算符处理负数时左侧补1导致死循环,与除法行为不同,强调需注意补码机制以正确统计二进制1的个数... 目录我遇到了这么一个www.chinasem.cn函数由此可以看到也很好理解总结我遇到了这么一个函数template<typename T>unsigned

MySQL的JDBC编程详解

《MySQL的JDBC编程详解》:本文主要介绍MySQL的JDBC编程,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言一、前置知识1. 引入依赖2. 认识 url二、JDBC 操作流程1. JDBC 的写操作2. JDBC 的读操作总结前言本文介绍了mysq

java.sql.SQLTransientConnectionException连接超时异常原因及解决方案

《java.sql.SQLTransientConnectionException连接超时异常原因及解决方案》:本文主要介绍java.sql.SQLTransientConnectionExcep... 目录一、引言二、异常信息分析三、可能的原因3.1 连接池配置不合理3.2 数据库负载过高3.3 连接泄漏

python获取指定名字的程序的文件路径的两种方法

《python获取指定名字的程序的文件路径的两种方法》本文主要介绍了python获取指定名字的程序的文件路径的两种方法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要... 最近在做项目,需要用到给定一个程序名字就可以自动获取到这个程序在Windows系统下的绝对路径,以下

Linux下MySQL数据库定时备份脚本与Crontab配置教学

《Linux下MySQL数据库定时备份脚本与Crontab配置教学》在生产环境中,数据库是核心资产之一,定期备份数据库可以有效防止意外数据丢失,本文将分享一份MySQL定时备份脚本,并讲解如何通过cr... 目录备份脚本详解脚本功能说明授权与可执行权限使用 Crontab 定时执行编辑 Crontab添加定

JavaScript中的高级调试方法全攻略指南

《JavaScript中的高级调试方法全攻略指南》什么是高级JavaScript调试技巧,它比console.log有何优势,如何使用断点调试定位问题,通过本文,我们将深入解答这些问题,带您从理论到实... 目录观点与案例结合观点1观点2观点3观点4观点5高级调试技巧详解实战案例断点调试:定位变量错误性能分

Python中 try / except / else / finally 异常处理方法详解

《Python中try/except/else/finally异常处理方法详解》:本文主要介绍Python中try/except/else/finally异常处理方法的相关资料,涵... 目录1. 基本结构2. 各部分的作用tryexceptelsefinally3. 执行流程总结4. 常见用法(1)多个e