云数据库(林子雨慕课课程)

2023-10-11 03:52
文章标签 数据库 课程 慕课 林子

本文主要是介绍云数据库(林子雨慕课课程),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

文章目录

    • 6.云数据库
      • 6.1 云数据库概述
      • 6.2 云数据库产品
      • 6.3 UMP系统
        • 6.3.1 UMP系统概述
        • 6.3.2 UMP系统架构
        • 6.3.3 UMP系统功能
      • 6.4 Amazon云数据库
        • 6.4.1 Amazon和云计算的渊源
        • 6.4.2 Amazon AWS
        • 6.4.3 AWS平台上的云数据库
        • 6.5 微软云数据库SQL Azure

6.云数据库

6.1 云数据库概述

  • 云计算概念:通过网络以服务的方式为用户提供非常廉价的IT资源

    image-20231009161523277

  • 云计算的八大优势

    • 按需服务

    • 随时服务

    • 通用性:满足各种不同类型的用户需求

    • 高可靠性:集群出现故障,通过备份机迅速提供服务

    • 极其廉价:只需要开通云计算服务,按照实际情况付费

    • 超大规模:云计算底层聚集大量的基础设施

    • 虚拟化技术:将底层资源统一放到资源池中去,进行统一调配和使用

      image-20231009161953122

    • 可扩展性强

  • 云数据库继承云计算相关特点

    • 非常廉价
    • 可扩展性、可靠性
  • 云数据库优点:

    • 动态可扩展
    • 高可用性:可以保证不间断服务
    • 较低的使用代价:
    • 易用性
    • 免维护特性
    • 高性能
    • 安全:有安全保障团队保障其安全性
  • 腾讯云数据库和自建数据库比较

    image-20231009162456902

  • 个性化存储需求

    • 通过云数据库满足大企业海量数据的存储需求

      image-20231009162729467

    • 通过云数据库的投入成本低,降低中小企业的数据库投入成本

      image-20231009162741557

    • 满足企业动态的存储需求

      image-20231009162801340

  • 云数据库和其他数据库的关系

    • 数据模型角度

      image-20231009162939793

    • 云数据库产品

      image-20231009163015827

    • 云数据库一部分采用SQL存储,一部分采用NoSQL存储

      image-20231009163126928

6.2 云数据库产品

服务:通过网络以服务的方式来获得

  • Amazon:提供了相关的云数据库服务

    • 亚马逊RDS:提供云上的关系型数据库
    • SimpleDB:在云中提供键值数据库
    • DynamoDB:在云中提供NoSQL数据库
    • Amazon ElastiCache:分布式内存缓存服务
  • Google:Google Cloud SQL

    image-20231009163633399

    • 谷歌还提供带JDBC和DB-API支持的传统MYSQL数据库环境

    • 谷歌Cloud SQL优势:和Google APP Engine集成的

      image-20231009163854473

  • 微软Microsoft-> Miscrosoft SQL Azure(基于关系型数据库)

    image-20231009163934715

6.3 UMP系统

6.3.1 UMP系统概述
  • UMP:Unified MYSQL Platform

    image-20231009164152746

  • UMP突出特性:

    • 低成本,高性能
    • 开源数据库
  • UMP在设计时要实现以下原则

    • 整个系统保持单一的对外访问入口

    • 消除单点故障,保持服务的高可用性(设置多个Controller)

    • 具有良好的可伸缩性,能够动态的增加、减少计算资源

    • 可以实现资源之间的相互隔离

      • 云数据库是多租户:一个服务部署在云端需要满足多个租户的需求

        image-20231009164616098

      • 多租户带来问题?

        • 可能会出现某个用户消耗的资源过多
        • 可能会影响其他用户相关的应用程序执行
6.3.2 UMP系统架构
  • UMP系统的整体架构

    image-20231009165425799

  • UMP系统中的各个角色和组件

    • Mnesia

      • 是一个分布式数据库管理系统

      • 支持事务,支持透明的数据分片,利用两阶段锁会实现分布式事务,可以线性扩展到至少50个节点

      • Mnesia的数据库模式(schema)可在运行时动态重配置

        image-20231009165845329

      • Mnesia系统的特性优良,因此阿里巴巴将其纳入UMP系统的开发框架中

    • RabbitMQ:工业级的消息队列产品

      • 通过消息队列实现各个组件之间的异步信息传递

        image-20231009165930711

      • 消息队列传递消息方式

        image-20231009170050879

    • Zookeeper:提供高效协调服务

      • 统一命名服务、状态同步服务、集群管理、分布式锁
      • 在UMP系统中Zookeeper主要发挥的三个作用
        • 作为全局的配置服务器,很多服务器需要相同的配置文件,一旦一个服务器配置文件修改,会被zookeeper监听到,并通知其他服务器修改
        • 提供分布式锁(选出一个集群的“总管”):多个controller服务器中由zookeeper选出主管服务器
        • 监控所有MYSQL实例的正常运行:一旦监听到故障,zookeeper能够及时探测到,并启用其他备份
    • LVS Linux Virtual Server:Linux 虚拟服务器集群系统

      • UMP系统借助LVS实现集群内部的负载均衡
      • LVS集群采用IP负载均衡技术和基于内容的请求分发技术
      • 调度器是LVS集群系统的唯一入口点:调度器可以接受用户请求,并均匀分发到集群内部不同的服务器节点上去,实现负载均衡,且集群内部有服务器发生故障,其可以自动将其屏蔽
      • 整个服务器集群的结构对客户是透明的
    • Controller服务器:UMP集群的总管

      • 集群成员的管理

      • 元数据的存储

      • MYSQL实例管理

      • 故障恢复

      • 备份迁移扩容

      • Controller服务器上运行了一组Mnesia分布式数据库服务

        • 集群成员、用户的配置和状态信息、“路由表”
      • 为了避免单点故障

        image-20231009171638182

    • Web控制台:帮助用户提供系统关系界面

      image-20231009171828088

    • Proxy服务器:向用户提供访问Mysql数据库的服务

      • 使用MySQL数据库时下载客户端,连接MySQL服务器

        image-20231009172026256

    • Agent服务器:部署运行MySQL进程的机器上,用来管理每台物理机上的MySQL实例

      image-20231009172215971

    • 日志分析服务器:对整个日志进行分析

      • 分析一些较长查询的原因

        image-20231009172350149

    • 信息统计服务器:记录系统运营数据

      image-20231009172435545

    • 愚公系统:数据迁移

      • 系统允许在不停机的情况下,可以实现动态的扩容、缩容、迁移
6.3.3 UMP系统功能
  • 容灾:是云数据库必须要具备的基础功能

    • 主库和从库的状态由Zookeeper负责维护

    image-20231009172914879

    • 主库发生故障时,如何进行主从切换?

      image-20231009173138415

    • 如何进行主库的恢复

      image-20231009173347022

  • 读写分离:充分利用主从库实现用户读写操作的分离,实现负载均衡

    image-20231009173449897

  • 分库分表:UMP支持对用户透明的分库分表

    • 采用分库分表后,一个sql语句的表可能已经被分为多个子表,此时系统处理用户查询的过程如下:

      image-20231009173659515

  • 资源管理:采用资源池机制对所有资源进行管理

    image-20231009173727107

    • 具体MySQL实例的资源分配过程:

      image-20231009173959771

  • 资源调度:

    • UMP系统中有三种用户:数据量、流量都非常小;中等规模用户、数据量非常大需要进行分库分表

      image-20231009174124157

  • 资源隔离:UMP采用两种资源隔离方式

    image-20231009174215583

  • 数据安全:UMP系统中提供了非常多数据安全机制

    image-20231009174425457

6.4 Amazon云数据库

6.4.1 Amazon和云计算的渊源
  • 亚马逊和云计算的关系

    • 亚马逊开创了云计算的服务模式–把IT资源作为一种服务出租给美国中小企业
  • 亚马逊的云计算发展

    image-20231009174818903

6.4.2 Amazon AWS
  • Amazon AWS架构图

    image-20231009192308091

  • 架构图组成部分详细介绍

    • AES GLobal Insfrastructure(全球基础设施):Amazon在全球构建多个数据中心,构成了云计算服务的基础,云计算所有应用都部署在这些基础设施之上

      • 其拓扑结构由大到小分为:Region(地区)、Availability Zone(可用区)、Edge Locations(边缘节点)

        image-20231009192724115

    • Networking

      • 提供直连服务
      • VPN方式去跟亚马逊进行连接
      • 可以在云平台专门划分一块区域作为私有云,面向某个企业提供服务
      • Route 53:提供高可用的云域名解析系统
    • Compute

      • EC2,弹性计算云,相当于虚拟机,可以在上面运行、安装应用
      • ELB,提供负载均衡器,负责申请的多个EC2服务器的负载均衡
    • Storage

      • S3:简单对象存储服务
      • EBS:弹性块存储服务,专门针对EC2虚拟机设置
      • Glacier:用于较少使用的文档存储和备份,价格便宜
    • Database:

      • SimpleDB:基于云的键值存储服务
      • DynamoDB:性能高,容错性强,支持分布式
      • MySQL,SQL Server和Oracle等数据库
      • Amazon ElastiCache:数据库缓存服务
    • App Services:

      • 企业搜索级服务
      • 队列服务
      • 工作流服务
      • 内容分发服务
      • 弹性MapReduce:将Hadoop平台部署到了亚马逊平台
    • Deloyment& Administration(部署和管理服务)

      • 自动化一键部署
      • 提供相关的访问和认证服务
  • Amazon AWS产品分类

    • 计算类服务:

      image-20231009194332382

    • 存储类

      image-20231009194412684

    • 其还提供相关的工具支持

      image-20231009194443998

  • Amazon EC2架构

    • 整体架构

      image-20231009194534018

    • EC2最大特性:允许用户根据需求动态调整运行的实例类型和数量,实现按需付费

    • EC2平台包含内容:

      • EC2实例(AMI)
      • 弹性块存储
      • 弹性负载均衡
    • 如何将平时相关的应用部署到EC2

      image-20231009194752508

    • EC2数据存储:

      image-20231009194837607

      • EC2本地存储是实例自带的磁盘空间,但它并不是持久的
        • 若本地磁盘的相关服务已停止使用或本地磁盘的服务发生故障,本地磁盘的数据会被清空掉
      • 为了解决本地存储不可靠问题,EC2推出了EBS
      • EBS通过卷来组织数据,每个EBS卷只能挂载一个EC2实例
      • EBS卷并不与实例绑定,而是与用户帐号绑定
    • Amazon S3和EBS的区别

      image-20231009195553960

    • EC2x虚拟机类型

      image-20231009195728314

    • Amazon AWS云管理平台运行过程

      • 启动服务
      • 监控相关需求
      • 服务无人用时停止
      • 清楚相关资源

      image-20231009195809007

    • Hadoop作业AWS操作流程

      image-20231009195912540

      • 消息平台向Lauch Controller发送命令,将启动信息放在SimpleDB中,分配EC2
      • 启动Hadoop操作,EC2中执行大数据分析
      • 执行过程中通过Monitor Controller对状态信息进行监控,将监控信息更新到SimpleDB中,监控过程中会动态的增加或减少系统资源
      • 所有计算结束后,通过shoutdown Controller关闭EC2虚拟机和hadoop服务
      • Billing Controller根据消耗的资源出账单
6.4.3 AWS平台上的云数据库
  • AWS平台上提供云数据服务包括

    • 关系型数据库RDS
    • 键值数据库SimpleDB
    • NoSQL数据库SimpleDB
    • 数据仓库Redshift
    • 分布式内存缓存ElastiCache
  • SimpleDB

    image-20231009200839341

  • DynamoDB

    • 避免如SimpleDB对多个键的索引

      image-20231009200950853

  • RDS

    image-20231009201011781

  • 允许建立3TB数据,带三万个DB实例

6.5 微软云数据库SQL Azure
  • SQL Azure特点:将这个应用锁涉及到的相关数据都放到一个表组里

  • 数据模型

    • 必须将一个行组里的数组存在一起例如Id=34的两行数据都会被分到一个分区中
    • 在实现事务时,针对一个分区的行组实现一个事务
    • 可以针对行组实现一个事务,但是它不支持跨分区事务

    image-20231009201301002

  • 提供数据冗余备份:一般一主二从

    image-20231009201837890

    • 例如有四台服务器,分别放置了A、B、C、D四个分区,每个分区都有一个主副本和两个从副本

      image-20231009202034913

  • SQL Azure四个组成部分

    image-20231009202117761

    image-20231009202302290

    • 全局分区管理器:维护分区映射表信息

    • 协议网关负责将用户的数据库连接请求转发到相应的主分区上

      image-20231009202546781

这篇关于云数据库(林子雨慕课课程)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/185339

相关文章

JavaWeb项目创建、部署、连接数据库保姆级教程(tomcat)

《JavaWeb项目创建、部署、连接数据库保姆级教程(tomcat)》:本文主要介绍如何在IntelliJIDEA2020.1中创建和部署一个JavaWeb项目,包括创建项目、配置Tomcat服务... 目录简介:一、创建项目二、tomcat部署1、将tomcat解压在一个自己找得到路径2、在idea中添加

MySQL MHA集群详解(数据库高可用)

《MySQLMHA集群详解(数据库高可用)》MHA(MasterHighAvailability)是开源MySQL高可用管理工具,用于自动故障检测与转移,支持异步或半同步复制的MySQL主从架构,本... 目录mysql 高可用方案:MHA 详解与实战1. MHA 简介2. MHA 的组件组成(1)MHA

MySQL 数据库进阶之SQL 数据操作与子查询操作大全

《MySQL数据库进阶之SQL数据操作与子查询操作大全》本文详细介绍了SQL中的子查询、数据添加(INSERT)、数据修改(UPDATE)和数据删除(DELETE、TRUNCATE、DROP)操作... 目录一、子查询:嵌套在查询中的查询1.1 子查询的基本语法1.2 子查询的实战示例二、数据添加:INSE

通过DBeaver连接GaussDB数据库的实战案例

《通过DBeaver连接GaussDB数据库的实战案例》DBeaver是一个通用的数据库客户端,可以通过配置不同驱动连接各种不同的数据库,:本文主要介绍通过DBeaver连接GaussDB数据库的... 目录​一、前置条件​二、连接步骤​三、常见问题与解决方案​1. 驱动未找到​2. 连接超时​3. 权限不

MySQL数据库读写分离与负载均衡的实现逻辑

《MySQL数据库读写分离与负载均衡的实现逻辑》读写分离与负载均衡是数据库优化的关键策略,读写分离的核心是将数据库的读操作与写操作分离,本文给大家介绍MySQL数据库读写分离与负载均衡的实现方式,感兴... 目录读写分离与负载均衡的核心概念与目的读写分离的必要性与实现逻辑读写分离的实现方式及优缺点读负载均衡

Go语言中如何进行数据库查询操作

《Go语言中如何进行数据库查询操作》在Go语言中,与数据库交互通常通过使用数据库驱动来实现,Go语言支持多种数据库,如MySQL、PostgreSQL、SQLite等,每种数据库都有其对应的官方或第三... 查询函数QueryRow和Query详细对比特性QueryRowQuery返回值数量1个:*sql

Mysql数据库聚簇索引与非聚簇索引举例详解

《Mysql数据库聚簇索引与非聚簇索引举例详解》在MySQL中聚簇索引和非聚簇索引是两种常见的索引结构,它们的主要区别在于数据的存储方式和索引的组织方式,:本文主要介绍Mysql数据库聚簇索引与非... 目录前言一、核心概念与本质区别二、聚簇索引(Clustered Index)1. 实现原理(以 Inno

MySQL数据库双机热备的配置方法详解

《MySQL数据库双机热备的配置方法详解》在企业级应用中,数据库的高可用性和数据的安全性是至关重要的,MySQL作为最流行的开源关系型数据库管理系统之一,提供了多种方式来实现高可用性,其中双机热备(M... 目录1. 环境准备1.1 安装mysql1.2 配置MySQL1.2.1 主服务器配置1.2.2 从

SpringBoot基于注解实现数据库字段回填的完整方案

《SpringBoot基于注解实现数据库字段回填的完整方案》这篇文章主要为大家详细介绍了SpringBoot如何基于注解实现数据库字段回填的相关方法,文中的示例代码讲解详细,感兴趣的小伙伴可以了解... 目录数据库表pom.XMLRelationFieldRelationFieldMapping基础的一些代

使用Node.js和PostgreSQL构建数据库应用

《使用Node.js和PostgreSQL构建数据库应用》PostgreSQL是一个功能强大的开源关系型数据库,而Node.js是构建高效网络应用的理想平台,结合这两个技术,我们可以创建出色的数据驱动... 目录初始化项目与安装依赖建立数据库连接执行CRUD操作查询数据插入数据更新数据删除数据完整示例与最佳