SQL 人要敢于说不

2024-02-11 04:59
文章标签 sql database 人要 敢于

本文主要是介绍SQL 人要敢于说不,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

“哎,小 C 帮导个数据,很简单,我只要 5 万条”

 

我们组的小姑娘经常会被这种无脑的要求,折腾得哭笑不得。曾几何时我做 SQL 开发的时候也经常遇到这种不定期,无规范的 ad hoc 查询。这是数据应用初期常有的拍脑袋案例。

 

但如果真的开了这种口子,我们来猜猜会怎么样:

 

各个部门都要来开这样的接口,一次导出数据,具体数据量不可控;有时候,多个部门同时开始导出全年或者前 5 年的历史数据;然后,你的系统经常无缘无故被投诉拖卡慢,然后你的年终奖,886.

 

然后我们来说说小 C 面对的这个业务提出的需求,导出 5 万条数据,真的是很困难么?为什么要告诉业务,“你这个需求不简单,难!!!”

 

首先,你司的系统并不是为你一个人/部门服务的。

抛开你的个人烦恼先不说。你先了解下你们公司有多少部门,多少人在用这套系统。假如每个人都想开个独特的流程去导个数万条数据,无疑加大了你们这套系统的负荷。加上原本这套系统可能就服务了上百万名用户(互联网公司用户特别多),那么每个部门都同时拉取数万条数据有可能就直接把内存、硬盘 IO、网络给占爆(再说一遍,你司的系统并不是为你一个人/部门服务的)

接着,说说技术上的不可实现。

基于第一点,假设有很多部门都在同时拉取数万条数据,从技术上来讲,数据都是从硬盘读到内存,经由网络输出到你部门。大批量的数据必定占用高内存,高 IO, 高网络占用率。任何经过严格控制的 OLTP 系统并不会给到这么一个接口,让大家都去无限量的读取数据。有时候为了数据库的稳定,我们还会对数据接口做限流和熔断。

最后,解决你要导出数据的问题。

你做了活动,要做一些数据分析和统计,这是件头等大事。数据运营在 BAT 是常见的手段了,所以这样的需求要培养,要规划。养数据到用数据,是企业信息化的必经之路。但为了系统的稳定,必须采用特殊架构来帮助更好、更健壮、更有效率的完成数据分析的工作。这就涉及到数据架构规划的问题了。业界最佳实践采用的是读写分离架构。写操作放在 MySQL 实时进行,而读数据(也就是满足你数据需求的操作)就放到另一台数据归档(简称数据仓库)服务器上进行。此时,你提出拉数据的需求,可以让服务器的任务管理器帮你调度,而不影响其他任务的执行。

 

640

昨天在曹大的星球中,发现一个好玩的收二手书的小程序。老读者肯定知道我其实还算得上比较爱看书的那种,所以我的读者肯定都是爱读书的,推荐给大家。

如果你有旧书 放到这上面来卖 让原本的书的价值在此流动起来 你还可以低价重新购买别的书

 

 

 

这篇关于SQL 人要敢于说不的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/698891

相关文章

MySQL中EXISTS与IN用法使用与对比分析

《MySQL中EXISTS与IN用法使用与对比分析》在MySQL中,EXISTS和IN都用于子查询中根据另一个查询的结果来过滤主查询的记录,本文将基于工作原理、效率和应用场景进行全面对比... 目录一、基本用法详解1. IN 运算符2. EXISTS 运算符二、EXISTS 与 IN 的选择策略三、性能对比

MySQL常用字符串函数示例和场景介绍

《MySQL常用字符串函数示例和场景介绍》MySQL提供了丰富的字符串函数帮助我们高效地对字符串进行处理、转换和分析,本文我将全面且深入地介绍MySQL常用的字符串函数,并结合具体示例和场景,帮你熟练... 目录一、字符串函数概述1.1 字符串函数的作用1.2 字符串函数分类二、字符串长度与统计函数2.1

SQL Server跟踪自动统计信息更新实战指南

《SQLServer跟踪自动统计信息更新实战指南》本文详解SQLServer自动统计信息更新的跟踪方法,推荐使用扩展事件实时捕获更新操作及详细信息,同时结合系统视图快速检查统计信息状态,重点强调修... 目录SQL Server 如何跟踪自动统计信息更新:深入解析与实战指南 核心跟踪方法1️⃣ 利用系统目录

MySQL 内存使用率常用分析语句

《MySQL内存使用率常用分析语句》用户整理了MySQL内存占用过高的分析方法,涵盖操作系统层确认及数据库层bufferpool、内存模块差值、线程状态、performance_schema性能数据... 目录一、 OS层二、 DB层1. 全局情况2. 内存占js用详情最近连续遇到mysql内存占用过高导致

Mysql中设计数据表的过程解析

《Mysql中设计数据表的过程解析》数据库约束通过NOTNULL、UNIQUE、DEFAULT、主键和外键等规则保障数据完整性,自动校验数据,减少人工错误,提升数据一致性和业务逻辑严谨性,本文介绍My... 目录1.引言2.NOT NULL——制定某列不可以存储NULL值2.UNIQUE——保证某一列的每一

解密SQL查询语句执行的过程

《解密SQL查询语句执行的过程》文章讲解了SQL语句的执行流程,涵盖解析、优化、执行三个核心阶段,并介绍执行计划查看方法EXPLAIN,同时提出性能优化技巧如合理使用索引、避免SELECT*、JOIN... 目录1. SQL语句的基本结构2. SQL语句的执行过程3. SQL语句的执行计划4. 常见的性能优

SQL Server 中的 WITH (NOLOCK) 示例详解

《SQLServer中的WITH(NOLOCK)示例详解》SQLServer中的WITH(NOLOCK)是一种表提示,等同于READUNCOMMITTED隔离级别,允许查询在不获取共享锁的情... 目录SQL Server 中的 WITH (NOLOCK) 详解一、WITH (NOLOCK) 的本质二、工作

MySQL 强制使用特定索引的操作

《MySQL强制使用特定索引的操作》MySQL可通过FORCEINDEX、USEINDEX等语法强制查询使用特定索引,但优化器可能不采纳,需结合EXPLAIN分析执行计划,避免性能下降,注意版本差异... 目录1. 使用FORCE INDEX语法2. 使用USE INDEX语法3. 使用IGNORE IND

SQL Server安装时候没有中文选项的解决方法

《SQLServer安装时候没有中文选项的解决方法》用户安装SQLServer时界面全英文,无中文选项,通过修改安装设置中的国家或地区为中文中国,重启安装程序后界面恢复中文,解决了问题,对SQLSe... 你是不是在安装SQL Server时候发现安装界面和别人不同,并且无论如何都没有中文选项?这个问题也

2025版mysql8.0.41 winx64 手动安装详细教程

《2025版mysql8.0.41winx64手动安装详细教程》本文指导Windows系统下MySQL安装配置,包含解压、设置环境变量、my.ini配置、初始化密码获取、服务安装与手动启动等步骤,... 目录一、下载安装包二、配置环境变量三、安装配置四、启动 mysql 服务,修改密码一、下载安装包安装地