【性能问题】如何解决MySQL索引失效带来的性能瓶颈这个棘手问题?

2024-01-18 00:44

本文主要是介绍【性能问题】如何解决MySQL索引失效带来的性能瓶颈这个棘手问题?,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、背景

在上线的一个S1服务中,偶现db请求高时延,触发了sql执行超过2秒阈值告警,连续好几天都不规律触发告警,频率为每天1次。涉及的影响:如果超时,会导致新用户注册失败。所以Dev决定联合dba排查一下该现象的原因。

二、分析过程

2.1 live环境确认

dba根据告警日志信息,抓取抓取高时延SQL请求,在生产环境执行该sql,分析该SQL会全表扫描,没有预期的索引查询,耗时高达:40秒。

SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c1 = 'v1'OR c2 = 'v2'OR c3 = 'v3'OR c4 = 'v4'OR c5 = 'v5'OR c6 = 'v6'OR c7 = 'v7'OR c8 = 'v8'
2.2 non-live环境复现

验证发现,nonlive的执行计划会走索引查询,而不是live环境的全表扫描。

2.3 nonlive&live执行计划不一致原因分析

数据量不一致:nolive环境查询出1条记录,live环境可以查询处20000+条记录,可能导致mysql优化器认为全表扫描比使用索引更高效(不是所有请求都走全表扫描可以解释live环境高时延偶现现象)

三、优化方式

or 语句改成 union 语句,强制mysql走索引查询

(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c1 = 'v1')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c2 = 'v2')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c3 = 'v3')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c4 = 'v4')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c5 = 'v5')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c6 = 'v6')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c7 = 'v7')
UNION
(SELECT c1, c2, c3, c4, c5, c6, c7, c8, c9, c10
FROM tab_t1
WHERE c8 = 'v8')

四、知识总结–MySQL索引失效的原因

MySQL索引失效的原因有很多,下面列举几个比较常见的原因。

1.数据量太大
如果数据库中的数据量太大,索引可能会失效。这是因为当查询条件返回的数据太多时,MySQL会选择放弃使用索引而使用全表扫描。

2.索引列数据类型不匹配
如果索引列的数据类型与查询条件的数据类型不匹配,索引也会失效。例如,如果索引列的数据类型是VARCHAR,而查询条件是INT,MySQL将无法使用该索引。

3.索引列被函数处理
如果查询条件中包含函数,那么MySQL将无法使用索引。例如,如果查询条件是“SELECT * FROM my_table WHERE YEAR(created_at) = 2022”,MySQL将无法使用索引。

4.索引列使用了函数
如果索引列中使用了函数,MySQL将无法使用该索引。例如,如果索引列是“CONCAT(first_name, ’ ', last_name)”而查询条件是“WHERE first_name = ‘Tom’”,MySQL将无法使用该索引。

5.索引列过多
如果表中有太多的索引列,索引的效率将降低。这是因为MySQL需要在多个索引中进行选择,导致查询变慢。

6.查询条件中使用了OR
如果查询条件中使用了OR,MySQL将无法使用索引。例如,“SELECT * FROM my_table WHERE age = 20 OR age = 30”,MySQL将无法使用索引。

7.索引列上存在NULL值
如果索引列上存在NULL值,MySQL将无法使用该索引。这是因为NULL值不能与其他值进行比较。

五、知识总结–如何检测MySQL索引失效

1.使用EXPLAIN
EXPLAIN命令可以帮助我们分析查询语句的执行计划,从而找出索引失效的原因。例如,我们可以运行“EXPLAIN SELECT * FROM my_table WHERE age = 20”来查看MySQL是否使用了索引。如果MySQL使用了索引,我们会在Extra列中看到“Using index”。

2.使用慢查询日志
MySQL慢查询日志可以记录执行时间超过指定阈值的SQL语句,从而帮助我们找出可能存在索引失效的查询语句。可以通过修改MySQL配置文件中的slow_query_log参数来开启慢查询日志。然后通过分析慢查询日志来确定哪些查询语句执行时间过长,并检查是否存在索引失效的情况。

3.使用监控工具
MySQL有很多监控工具可以帮助我们分析数据库的性能瓶颈。其中一些工具可以分析查询语句的执行计划,并找出可能存在索引失效的问题。例如,Percona Toolkit和pt-query-digest可以帮助我们分析查询语句的执行计划,并找出可能存在索引失效的问题。

六、知识总结–如何修复MySQL索引失效

1.优化查询语句
如果查询语句不够优化,MySQL可能会放弃使用索引。我们可以通过重构查询语句来解决这个问题。例如,我们可以尽可能地避免使用OR,避免在索引列上使用函数,避免在查询条件中使用NULL值等等。

2.添加索引
如果某个查询语句没有使用索引,我们可以考虑为相应的列添加索引。但是要注意不要过度添加索引,因为这会影响MySQL的性能。

3.优化数据表结构
如果数据表结构不够优化,索引的效率也会受到影响。我们可以考虑优化数据表结构,例如将大型文本字段拆分为多个字段,将多个表拆分为多个表等等。

4.调整MySQL配置参数
MySQL有许多配置参数可以影响索引的效率。我们可以根据具体情况调整这些参数,例如key_buffer_size、innodb_buffer_pool_size等等。

这篇关于【性能问题】如何解决MySQL索引失效带来的性能瓶颈这个棘手问题?的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/617665

相关文章

Oracle查询表结构建表语句索引等方式

《Oracle查询表结构建表语句索引等方式》使用USER_TAB_COLUMNS查询表结构可避免系统隐藏字段(如LISTUSER的CLOB与VARCHAR2同名字段),这些字段可能为dbms_lob.... 目录oracle查询表结构建表语句索引1.用“USER_TAB_COLUMNS”查询表结构2.用“a

Springboot项目启动失败提示找不到dao类的解决

《Springboot项目启动失败提示找不到dao类的解决》SpringBoot启动失败,因ProductServiceImpl未正确注入ProductDao,原因:Dao未注册为Bean,解决:在启... 目录错误描述原因解决方法总结***************************APPLICA编

MySQL中EXISTS与IN用法使用与对比分析

《MySQL中EXISTS与IN用法使用与对比分析》在MySQL中,EXISTS和IN都用于子查询中根据另一个查询的结果来过滤主查询的记录,本文将基于工作原理、效率和应用场景进行全面对比... 目录一、基本用法详解1. IN 运算符2. EXISTS 运算符二、EXISTS 与 IN 的选择策略三、性能对比

MySQL常用字符串函数示例和场景介绍

《MySQL常用字符串函数示例和场景介绍》MySQL提供了丰富的字符串函数帮助我们高效地对字符串进行处理、转换和分析,本文我将全面且深入地介绍MySQL常用的字符串函数,并结合具体示例和场景,帮你熟练... 目录一、字符串函数概述1.1 字符串函数的作用1.2 字符串函数分类二、字符串长度与统计函数2.1

SQL Server跟踪自动统计信息更新实战指南

《SQLServer跟踪自动统计信息更新实战指南》本文详解SQLServer自动统计信息更新的跟踪方法,推荐使用扩展事件实时捕获更新操作及详细信息,同时结合系统视图快速检查统计信息状态,重点强调修... 目录SQL Server 如何跟踪自动统计信息更新:深入解析与实战指南 核心跟踪方法1️⃣ 利用系统目录

MySQL 内存使用率常用分析语句

《MySQL内存使用率常用分析语句》用户整理了MySQL内存占用过高的分析方法,涵盖操作系统层确认及数据库层bufferpool、内存模块差值、线程状态、performance_schema性能数据... 目录一、 OS层二、 DB层1. 全局情况2. 内存占js用详情最近连续遇到mysql内存占用过高导致

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

解决RocketMQ的幂等性问题

《解决RocketMQ的幂等性问题》重复消费因调用链路长、消息发送超时或消费者故障导致,通过生产者消息查询、Redis缓存及消费者唯一主键可以确保幂等性,避免重复处理,本文主要介绍了解决RocketM... 目录造成重复消费的原因解决方法生产者端消费者端代码实现造成重复消费的原因当系统的调用链路比较长的时

Mysql中设计数据表的过程解析

《Mysql中设计数据表的过程解析》数据库约束通过NOTNULL、UNIQUE、DEFAULT、主键和外键等规则保障数据完整性,自动校验数据,减少人工错误,提升数据一致性和业务逻辑严谨性,本文介绍My... 目录1.引言2.NOT NULL——制定某列不可以存储NULL值2.UNIQUE——保证某一列的每一

解密SQL查询语句执行的过程

《解密SQL查询语句执行的过程》文章讲解了SQL语句的执行流程,涵盖解析、优化、执行三个核心阶段,并介绍执行计划查看方法EXPLAIN,同时提出性能优化技巧如合理使用索引、避免SELECT*、JOIN... 目录1. SQL语句的基本结构2. SQL语句的执行过程3. SQL语句的执行计划4. 常见的性能优