【直击DTCC】业务量暴增50倍之易到数据库成长烦恼

2023-11-06 19:20

本文主要是介绍【直击DTCC】业务量暴增50倍之易到数据库成长烦恼,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

【IT168 技术】最近,易到用车的新闻很多也很劲爆,获得网约车牌照,被消协约谈,创始团队集体辞职,被爆资金匮乏等等,危机不断。但这些都与技术无关,也不能否认易到用车曾经的辉煌,至少在2016年7月,易到用车日订单破百万,仅次于滴滴。业务量的暴增让易到的数据库压力剧增,也经历了成长的烦恼,而这个过程中易到数据库演化/迭代的过程和思路,相信对DBA们还是颇具参考价值。

  

5月11日,第八届中国数据库技术大会(DTCC 2017)在北京国际会议中心拉开帷幕。作为国内数据库与大数据领域最大规模的技术盛宴,本次大会吸引了近5000名IT人士参会。

  

在11日下午的分会场,来自易到用车数据库总监徐海鹏分享了主题为《年业务量暴涨50倍之数据库成长烦恼》。


▲易到用车数据库总监徐海鹏

  

徐海鹏,有着17年数据库部门管理经验,先后任职于美国DoubleClick、加拿大保险局,后因为情怀和机缘, 回到中国并出任易到数据库总监。

  

早期的易到作为共享出行的先行者,从2015年的日均2万单迅速发展到去年巅峰时期的百万单, 经历了50倍的暴涨。这是一个典型的互联网公司高速成长期系统演化案例。易到用车如何用非常有限的资源, 通过引入各种成熟的方案, 在短期内取得巨大的提升的?

  

徐海鹏在演讲时说,最初的易到面对业务量暴增,应对方式很简单粗暴,靠不断堆砌服务器来提升数据库的处理能力。而易到初期的系统架构也非常简单,3级系统分别是app层,服务层,数据库层。这种模式下带来的问题是,数据库高度耦合, 成为系统瓶颈。难扩展,垂直扩展的路走到尽头。系统容易产生雪崩效应。主从复制的性能低下, 容易产生高延迟, 影响系统可用性。

  

因此,最终为了解决这些问题,徐海鹏带领团队痛下决心,拆。其过程主要分为二个阶段。

  

而第一阶段,首先进行的是解耦、拆分。对业务模块解耦,引入Redis缓存、MariaDB、数据库水平扩展、分库分表。其中数据库水平拆分,最高1024个分库和分表。按用户ID、司机ID和汇总表三个维度分库,新系统提供的接口与老系统完全一致新老系统并存,通过Proxy分流,逐步将流量切到新系统,最终新系统完全取代老系统,实现平滑升级。

  

经过第一阶段解耦、拆分效果是显著的。


▲第一阶段成果

  

第二阶段,全面优化主要包含:冷热数据分离、数据抽取优化、精细化数据库管理、高可用实施、NoSQL应用。

  

冷热数据分离,一级存储使用SSD磁盘的OLTP, 3个月数据。二级存储使用SAS的低成本数据库,保存2年的交易数据和日志。三级存储压缩文件存储系统,保存需要永久保存的交易数据。通过自己开发的数据库脚本,来每天退出线上数据。

  

高可用实施,经过多个方案的比较, 采取MHA+keepalived 方案,可用性标准从3个9提升至4个9。


▲第二阶段成果

  

最后,徐海鹏强调,作为DBA不能等到出现数据问题, 才去排查,那个时候往往已经造成了较大后果,需要根据数据间的一致性逻辑, 进行校验及时发现纠正问题。

这篇关于【直击DTCC】业务量暴增50倍之易到数据库成长烦恼的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:https://blog.csdn.net/gaokeke/article/details/106377273
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/358551

相关文章

MySQL数据库中ENUM的用法是什么详解

《MySQL数据库中ENUM的用法是什么详解》ENUM是一个字符串对象,用于指定一组预定义的值,并可在创建表时使用,下面:本文主要介绍MySQL数据库中ENUM的用法是什么的相关资料,文中通过代码... 目录mysql 中 ENUM 的用法一、ENUM 的定义与语法二、ENUM 的特点三、ENUM 的用法1

Java中调用数据库存储过程的示例代码

《Java中调用数据库存储过程的示例代码》本文介绍Java通过JDBC调用数据库存储过程的方法,涵盖参数类型、执行步骤及数据库差异,需注意异常处理与资源管理,以优化性能并实现复杂业务逻辑,感兴趣的朋友... 目录一、存储过程概述二、Java调用存储过程的基本javascript步骤三、Java调用存储过程示

Go语言数据库编程GORM 的基本使用详解

《Go语言数据库编程GORM的基本使用详解》GORM是Go语言流行的ORM框架,封装database/sql,支持自动迁移、关联、事务等,提供CRUD、条件查询、钩子函数、日志等功能,简化数据库操作... 目录一、安装与初始化1. 安装 GORM 及数据库驱动2. 建立数据库连接二、定义模型结构体三、自动迁

嵌入式数据库SQLite 3配置使用讲解

《嵌入式数据库SQLite3配置使用讲解》本文强调嵌入式项目中SQLite3数据库的重要性,因其零配置、轻量级、跨平台及事务处理特性,可保障数据溯源与责任明确,详细讲解安装配置、基础语法及SQLit... 目录0、惨痛教训1、SQLite3环境配置(1)、下载安装SQLite库(2)、解压下载的文件(3)、

MySQL数据库的内嵌函数和联合查询实例代码

《MySQL数据库的内嵌函数和联合查询实例代码》联合查询是一种将多个查询结果组合在一起的方法,通常使用UNION、UNIONALL、INTERSECT和EXCEPT关键字,下面:本文主要介绍MyS... 目录一.数据库的内嵌函数1.1聚合函数COUNT([DISTINCT] expr)SUM([DISTIN

MySQL追踪数据库表更新操作来源的全面指南

《MySQL追踪数据库表更新操作来源的全面指南》本文将以一个具体问题为例,如何监测哪个IP来源对数据库表statistics_test进行了UPDATE操作,文内探讨了多种方法,并提供了详细的代码... 目录引言1. 为什么需要监控数据库更新操作2. 方法1:启用数据库审计日志(1)mysql/mariad

postgresql数据库基本操作及命令详解

《postgresql数据库基本操作及命令详解》本文介绍了PostgreSQL数据库的基础操作,包括连接、创建、查看数据库,表的增删改查、索引管理、备份恢复及退出命令,适用于数据库管理和开发实践,感兴... 目录1. 连接 PostgreSQL 数据库2. 创建数据库3. 查看当前数据库4. 查看所有数据库

从入门到精通MySQL 数据库索引(实战案例)

《从入门到精通MySQL数据库索引(实战案例)》索引是数据库的目录,提升查询速度,主要类型包括BTree、Hash、全文、空间索引,需根据场景选择,建议用于高频查询、关联字段、排序等,避免重复率高或... 目录一、索引是什么?能干嘛?核心作用:二、索引的 4 种主要类型(附通俗例子)1. BTree 索引(

Oracle 数据库数据操作如何精通 INSERT, UPDATE, DELETE

《Oracle数据库数据操作如何精通INSERT,UPDATE,DELETE》在Oracle数据库中,对表内数据进行增加、修改和删除操作是通过数据操作语言来完成的,下面给大家介绍Oracle数... 目录思维导图一、插入数据 (INSERT)1.1 插入单行数据,指定所有列的值语法:1.2 插入单行数据,指

k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)

《k8s上运行的mysql、mariadb数据库的备份记录(支持x86和arm两种架构)》本文记录在K8s上运行的MySQL/MariaDB备份方案,通过工具容器执行mysqldump,结合定时任务实... 目录前言一、获取需要备份的数据库的信息二、备份步骤1.准备工作(X86)1.准备工作(arm)2.手