SQL 人要敢于说不

2024-02-11 04:59
文章标签 sql database 人要 敢于

本文主要是介绍SQL 人要敢于说不,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

“哎,小 C 帮导个数据,很简单,我只要 5 万条”

 

我们组的小姑娘经常会被这种无脑的要求,折腾得哭笑不得。曾几何时我做 SQL 开发的时候也经常遇到这种不定期,无规范的 ad hoc 查询。这是数据应用初期常有的拍脑袋案例。

 

但如果真的开了这种口子,我们来猜猜会怎么样:

 

各个部门都要来开这样的接口,一次导出数据,具体数据量不可控;有时候,多个部门同时开始导出全年或者前 5 年的历史数据;然后,你的系统经常无缘无故被投诉拖卡慢,然后你的年终奖,886.

 

然后我们来说说小 C 面对的这个业务提出的需求,导出 5 万条数据,真的是很困难么?为什么要告诉业务,“你这个需求不简单,难!!!”

 

首先,你司的系统并不是为你一个人/部门服务的。

抛开你的个人烦恼先不说。你先了解下你们公司有多少部门,多少人在用这套系统。假如每个人都想开个独特的流程去导个数万条数据,无疑加大了你们这套系统的负荷。加上原本这套系统可能就服务了上百万名用户(互联网公司用户特别多),那么每个部门都同时拉取数万条数据有可能就直接把内存、硬盘 IO、网络给占爆(再说一遍,你司的系统并不是为你一个人/部门服务的)

接着,说说技术上的不可实现。

基于第一点,假设有很多部门都在同时拉取数万条数据,从技术上来讲,数据都是从硬盘读到内存,经由网络输出到你部门。大批量的数据必定占用高内存,高 IO, 高网络占用率。任何经过严格控制的 OLTP 系统并不会给到这么一个接口,让大家都去无限量的读取数据。有时候为了数据库的稳定,我们还会对数据接口做限流和熔断。

最后,解决你要导出数据的问题。

你做了活动,要做一些数据分析和统计,这是件头等大事。数据运营在 BAT 是常见的手段了,所以这样的需求要培养,要规划。养数据到用数据,是企业信息化的必经之路。但为了系统的稳定,必须采用特殊架构来帮助更好、更健壮、更有效率的完成数据分析的工作。这就涉及到数据架构规划的问题了。业界最佳实践采用的是读写分离架构。写操作放在 MySQL 实时进行,而读数据(也就是满足你数据需求的操作)就放到另一台数据归档(简称数据仓库)服务器上进行。此时,你提出拉数据的需求,可以让服务器的任务管理器帮你调度,而不影响其他任务的执行。

 

640

昨天在曹大的星球中,发现一个好玩的收二手书的小程序。老读者肯定知道我其实还算得上比较爱看书的那种,所以我的读者肯定都是爱读书的,推荐给大家。

如果你有旧书 放到这上面来卖 让原本的书的价值在此流动起来 你还可以低价重新购买别的书

 

 

 

这篇关于SQL 人要敢于说不的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/698891

相关文章

MySQL数据库双机热备的配置方法详解

《MySQL数据库双机热备的配置方法详解》在企业级应用中,数据库的高可用性和数据的安全性是至关重要的,MySQL作为最流行的开源关系型数据库管理系统之一,提供了多种方式来实现高可用性,其中双机热备(M... 目录1. 环境准备1.1 安装mysql1.2 配置MySQL1.2.1 主服务器配置1.2.2 从

深入理解Mysql OnlineDDL的算法

《深入理解MysqlOnlineDDL的算法》本文主要介绍了讲解MysqlOnlineDDL的算法,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小... 目录一、Online DDL 是什么?二、Online DDL 的三种主要算法2.1COPY(复制法)

mysql8.0.43使用InnoDB Cluster配置主从复制

《mysql8.0.43使用InnoDBCluster配置主从复制》本文主要介绍了mysql8.0.43使用InnoDBCluster配置主从复制,文中通过示例代码介绍的非常详细,对大家的学习或者... 目录1、配置Hosts解析(所有服务器都要执行)2、安装mysql shell(所有服务器都要执行)3、

k8s中实现mysql主备过程详解

《k8s中实现mysql主备过程详解》文章讲解了在K8s中使用StatefulSet部署MySQL主备架构,包含NFS安装、storageClass配置、MySQL部署及同步检查步骤,确保主备数据一致... 目录一、k8s中实现mysql主备1.1 环境信息1.2 部署nfs-provisioner1.2.

MySQL中VARCHAR和TEXT的区别小结

《MySQL中VARCHAR和TEXT的区别小结》MySQL中VARCHAR和TEXT用于存储字符串,VARCHAR可变长度存储在行内,适合短文本;TEXT存储在溢出页,适合大文本,下面就来具体的了解... 目录一、VARCHAR 和 TEXT 基本介绍1. VARCHAR2. TEXT二、VARCHAR

MySQL中C接口的实现

《MySQL中C接口的实现》本节内容介绍使用C/C++访问数据库,包括对数据库的增删查改操作,主要是学习一些接口的调用,具有一定的参考价值,感兴趣的可以了解一下... 目录准备mysql库使用mysql库编译文件官方API文档对象的创建和关闭链接数据库下达sql指令select语句前言:本节内容介绍使用C/

mybatis直接执行完整sql及踩坑解决

《mybatis直接执行完整sql及踩坑解决》MyBatis可通过select标签执行动态SQL,DQL用ListLinkedHashMap接收结果,DML用int处理,注意防御SQL注入,优先使用#... 目录myBATiFBNZQs直接执行完整sql及踩坑select语句采用count、insert、u

MySQL之搜索引擎使用解读

《MySQL之搜索引擎使用解读》MySQL存储引擎是数据存储和管理的核心组件,不同引擎(如InnoDB、MyISAM)采用不同机制,InnoDB支持事务与行锁,适合高并发场景;MyISAM不支持事务,... 目录mysql的存储引擎是什么MySQL存储引擎的功能MySQL的存储引擎的分类查看存储引擎1.命令

一文详解MySQL索引(六张图彻底搞懂)

《一文详解MySQL索引(六张图彻底搞懂)》MySQL索引的建立对于MySQL的高效运行是很重要的,索引可以大大提高MySQL的检索速度,:本文主要介绍MySQL索引的相关资料,文中通过代码介绍的... 目录一、什么是索引?为什么需要索引?二、索引该用哪种数据结构?1. 哈希表2. 跳表3. 二叉排序树4.

MySQL批量替换数据库字符集的实用方法(附详细代码)

《MySQL批量替换数据库字符集的实用方法(附详细代码)》当需要修改数据库编码和字符集时,通常需要对其下属的所有表及表中所有字段进行修改,下面:本文主要介绍MySQL批量替换数据库字符集的实用方法... 目录前言为什么要批量修改字符集?整体脚本脚本逻辑解析1. 设置目标参数2. 生成修改表默认字符集的语句3