千万级SQL Server数据库表分区的实现

2024-02-29 14:58

本文主要是介绍千万级SQL Server数据库表分区的实现,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

千万级SQL Server数据库表分区的实现

2012-12-04 14:48 by swarb, ... 阅读, ... 评论, 收藏, 编辑

一般在千万级的数据压力下,分区是一种比较好的提升性能方法。本文将介绍SQL Server数据库表分区的实现。

AD:

最近使用SQL SERVER一个的缓存,数据量一天100w的速度增长,同时接受客户查询,速度由于数据量越来越大越来越慢,这里感谢  KillKill 和 邀约, 最近读了一套书不错,感兴趣的同学可以读读<<活法>>

回顾下经常使用的索引

一 .聚集索引

聚集索引的页级别包含了索引键,还包含数据页,因此,关于 除了键值以外聚集索引的叶级别还存放了什么的答案就是一切,也就是说,每行的所有字段都在叶级别种。
另一种说话是:数据本身也是聚集索引的一部分,聚集索引基于键值保持表中的数据有序。

SQL SERVER 中,所有的聚集索引都是唯一的,如果在创建聚集索引时没有指定UNIQUE 关键字,SQL SERVER 会在需要时通过往记录中添加一个唯一标识符(Uniqueifier)在内部保证索引的唯一性,该唯一标识符是一个4字节的值,作为附加在聚集索引键的字段添加到数据中,只有那些声明为索引键字段并拥有重复值的行才会被添加。

二 .非聚集索引

对于非聚集索引,叶级别不包含全部的数据。除了键值以外,每个叶级别(树的最低层)中的索引行包含了一个书签(bookmark),告诉SQL Server 可以在哪里找到与索引键相应的数据行。一个书签课能有两种格式。如果表上存在聚集索引,书签就是相应的数据行的聚集索引键。如果表是堆(heap)结构 ,就是没有聚集索引的情况下 ,书签就是一个行标识符 row identifier,rid ,以 文件号 页号 槽号 的格式来定位实际的行。

非聚集索引的存在与否并不影响数据分页的组织,因此每张表上并不像聚集索引那样只局限于拥有一个非聚集索引,SQL  Server 2005  每张表能够包含249 个非聚集索引 SQL Server 2008 每张表能够包含999 个非聚集索引 ,但是实际上所用到的比这个数要少的多。

三 .包含索引

索引键字段数量限制是16个,总共900个字节大小 ,包含性列只在叶级别中出现而且不以任何方式控制索引行的排序。它们的目的是使叶级别能够包含更多的信息从而更大地发挥覆盖索引(Covering index)的索引调优能力.覆盖索引是一种非聚集索引,在其叶级别就可以找到满足查询的全部信息,这样sql server就根本没有必要访问数据分页了,在一些情况下 sql serer 会悄悄的为索引添加一个包含性列。这可能发生在索引建立于分区表 也就是我今天是发的博客 O(∩_∩)O (partitioned table )上没有指定 on filegroup  或者 no partition_scheme  的情况下。

一 .SQL SERVER 表分区介绍:

SQL Server  引入的表分区技术,让用户能够把数据分散存放到不同的物理磁盘中,提高这些磁盘的并行处理性能以优化查询性能……

二 .SQL SERVER 数据库表分区由三个步骤来完成:

1.创建分区函数

2.创建分区架构

3.对表进行分区

基于缓存更新机制,我使用时间来进行分区,这里大家根据业务的要求使用合适的字段来作为分区

创建数据库分区文件数量,这里存储一年的数据分成十二个分区,需要现在D盘建立好Data 的文件夹 里面包含Primary 文件夹和 FG1 FG2 FG3 FG4............

 
  1. IF EXISTS (SELECT name FROM sys.databases WHERE name = N'AirAvCache')
  2. DROP DATABASE [AirAvCache]
  3. GO
  4. CREATE DATABASE [AirAvCache]
  5. ON PRIMARY
  6. (NAME='Data Partition DB Primary FG',
  7. FILENAME=
  8. 'D:\Data\Primary\AirAvCache Primary FG.mdf',
  9. SIZE=5,
  10. MAXSIZE=500,
  11. FILEGROWTH=1 ),
  12. FILEGROUP [AirAvCache FG1]
  13. (NAME = 'AirAvCache FG1',
  14. FILENAME =
  15. 'D:\Data\FG1\AirAvCache FG1.ndf',
  16. SIZE = 5MB,
  17. MAXSIZE=500,
  18. FILEGROWTH=1 ),
  19. FILEGROUP [AirAvCache FG2]
  20. (NAME = 'AirAvCache FG2',
  21. FILENAME =
  22. 'D:\Data\FG2\AirAvCache FG2.ndf',
  23. SIZE = 5MB,
  24. MAXSIZE=500,
  25. FILEGROWTH=1 ),
  26. FILEGROUP [AirAvCache FG3]
  27. (NAME = 'AirAvCache FG3',
  28. FILENAME =
  29. 'D:\Data\FG3\AirAvCache FG3.ndf',
  30. SIZE = 5MB,
  31. MAXSIZE=500,
  32. FILEGROWTH=1 ),
  33. FILEGROUP [AirAvCache FG4]
  34. (NAME = 'AirAvCache FG4',
  35. FILENAME =
  36. 'D:\Data\FG4\AirAvCache FG4.ndf',
  37. SIZE = 5MB,
  38. MAXSIZE=500,
  39. FILEGROWTH=1 ),
  40. FILEGROUP [AirAvCache FG5]
  41. (NAME = 'AirAvCache FG5',
  42. FILENAME =
  43. 'D:\Data\FG5\AirAvCache FG5.ndf',
  44. SIZE = 5MB,
  45. MAXSIZE=500,
  46. FILEGROWTH=1 ),
  47. FILEGROUP [AirAvCache FG6]
  48. (NAME = 'AirAvCache FG6',
  49. FILENAME =
  50. 'D:\Data\FG6\AirAvCache FG6.ndf',
  51. SIZE = 5MB,
  52. MAXSIZE=500,
  53. FILEGROWTH=1 ),
  54. FILEGROUP [AirAvCache FG7]
  55. (NAME = 'AirAvCache FG7',
  56. FILENAME =
  57. 'D:\Data\FG7\AirAvCache FG7.ndf',
  58. SIZE = 5MB,
  59. MAXSIZE=500,
  60. FILEGROWTH=1 ),
  61. FILEGROUP [AirAvCache FG8]
  62. (NAME = 'AirAvCache FG8',
  63. FILENAME =
  64. 'D:\Data\FG8\AirAvCache FG8.ndf',
  65. SIZE = 5MB,
  66. MAXSIZE=500,
  67. FILEGROWTH=1 ),
  68. FILEGROUP [AirAvCache FG9]
  69. (NAME = 'AirAvCache FG9',
  70. FILENAME =
  71. 'D:\Data\FG9\AirAvCache FG9.ndf',
  72. SIZE = 5MB,
  73. MAXSIZE=500,
  74. FILEGROWTH=1 ),
  75. FILEGROUP [AirAvCache FG10]
  76. (NAME = 'AirAvCache FG10',
  77. FILENAME =
  78. 'D:\Data\FG10\AirAvCache FG10.ndf',
  79. SIZE = 5MB,
  80. MAXSIZE=500,
  81. FILEGROWTH=1 ),
  82. FILEGROUP [AirAvCache FG11]
  83. (NAME = 'AirAvCache FG11',
  84. FILENAME =
  85. 'D:\Data\FG11\AirAvCache FG11.ndf',
  86. SIZE = 5MB,
  87. MAXSIZE=500,
  88. FILEGROWTH=1 ),
  89. FILEGROUP [AirAvCache FG12]
  90. (NAME = 'AirAvCache FG12',
  91. FILENAME =
  92. 'D:\Data\FG12\AirAvCache FG12.ndf',
  93. SIZE = 5MB,
  94. MAXSIZE=500,
  95. FILEGROWTH=1 )

创建好后如图:

打开FG1 文件夹 看到多了AirAvCacheFG1.ndf 文件

创建分区函数

 
  1. USE AirAvCache
  2. GO
  3. -- 创建函数
  4. CREATE PARTITION FUNCTION [AirAvCache Partition Range](DATETIME)
  5. AS RANGE LEFT FOR VALUES ('2010-09-01','2010-10-01','2010-11-01',
  6. '2010-12-01','2011-01-01','2011-02-01','2011-03-01','2011-04-01',
  7. '2011-05-01','2011-06-01','2010-07-01');

创建分区架构

 
  1. CREATE PARTITION SCHEME [AirAvCache Partition Scheme]
  2. AS PARTITION [AirAvCache Partition Range]
  3. TO ([AirAvCache FG1], [AirAvCache FG2], [AirAvCache FG3],[AirAvCache FG4],[AirAvCache FG5],[AirAvCache FG6],[AirAvCache FG7],[AirAvCache FG8],
  4. [AirAvCache FG9],[AirAvCache FG10],[AirAvCache FG11],[AirAvCache FG12]);

创建一个使用AirAvCache Partitiion Scheme 架构的表

 
  1. CREATE TABLE [dbo].[AvCache](
  2. [CityPair] [varchar](6) NOT NULL,
  3. [FlightNo] [varchar](10) NULL,
  4. [FlightDate] [datetime] NOT NULL,
  5. [CacheTime] [datetime] NOT NULL DEFAULT (getdate()),
  6. [AVNote] [varchar](300) NULL
  7. ) ON [AirAvCache Partition Scheme] (FlightDate);
  8. --注意这里使用[AirAvCache Partition Scheme]架构,根据FlightDate 分区

查询分区情况

 
  1. -- 查看使用情况
  2. SELECT *, $PARTITION.[AirAvCache Partition Range](FlightDate)
  3. FROM dbo.AVCache

可以看到9 月和 10 月已经分开了。

原文标题:SQL SERVER 表分区

 

这篇关于千万级SQL Server数据库表分区的实现的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/759189

相关文章

Spring Boot 实现 IP 限流的原理、实践与利弊解析

《SpringBoot实现IP限流的原理、实践与利弊解析》在SpringBoot中实现IP限流是一种简单而有效的方式来保障系统的稳定性和可用性,本文给大家介绍SpringBoot实现IP限... 目录一、引言二、IP 限流原理2.1 令牌桶算法2.2 漏桶算法三、使用场景3.1 防止恶意攻击3.2 控制资源

SQL BETWEEN 语句的基本用法详解

《SQLBETWEEN语句的基本用法详解》SQLBETWEEN语句是一个用于在SQL查询中指定查询条件的重要工具,它允许用户指定一个范围,用于筛选符合特定条件的记录,本文将详细介绍BETWEEN语... 目录概述BETWEEN 语句的基本用法BETWEEN 语句的示例示例 1:查询年龄在 20 到 30 岁

MySQL DQL从入门到精通

《MySQLDQL从入门到精通》通过DQL,我们可以从数据库中检索出所需的数据,进行各种复杂的数据分析和处理,本文将深入探讨MySQLDQL的各个方面,帮助你全面掌握这一重要技能,感兴趣的朋友跟随小... 目录一、DQL 基础:SELECT 语句入门二、数据过滤:WHERE 子句的使用三、结果排序:ORDE

springboot下载接口限速功能实现

《springboot下载接口限速功能实现》通过Redis统计并发数动态调整每个用户带宽,核心逻辑为每秒读取并发送限定数据量,防止单用户占用过多资源,确保整体下载均衡且高效,本文给大家介绍spring... 目录 一、整体目标 二、涉及的主要类/方法✅ 三、核心流程图解(简化) 四、关键代码详解1️⃣ 设置

Nginx 配置跨域的实现及常见问题解决

《Nginx配置跨域的实现及常见问题解决》本文主要介绍了Nginx配置跨域的实现及常见问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来... 目录1. 跨域1.1 同源策略1.2 跨域资源共享(CORS)2. Nginx 配置跨域的场景2.1

Python中提取文件名扩展名的多种方法实现

《Python中提取文件名扩展名的多种方法实现》在Python编程中,经常会遇到需要从文件名中提取扩展名的场景,Python提供了多种方法来实现这一功能,不同方法适用于不同的场景和需求,包括os.pa... 目录技术背景实现步骤方法一:使用os.path.splitext方法二:使用pathlib模块方法三

CSS实现元素撑满剩余空间的五种方法

《CSS实现元素撑满剩余空间的五种方法》在日常开发中,我们经常需要让某个元素占据容器的剩余空间,本文将介绍5种不同的方法来实现这个需求,并分析各种方法的优缺点,感兴趣的朋友一起看看吧... css实现元素撑满剩余空间的5种方法 在日常开发中,我们经常需要让某个元素占据容器的剩余空间。这是一个常见的布局需求

HTML5 getUserMedia API网页录音实现指南示例小结

《HTML5getUserMediaAPI网页录音实现指南示例小结》本教程将指导你如何利用这一API,结合WebAudioAPI,实现网页录音功能,从获取音频流到处理和保存录音,整个过程将逐步... 目录1. html5 getUserMedia API简介1.1 API概念与历史1.2 功能与优势1.3

Java实现删除文件中的指定内容

《Java实现删除文件中的指定内容》在日常开发中,经常需要对文本文件进行批量处理,其中,删除文件中指定内容是最常见的需求之一,下面我们就来看看如何使用java实现删除文件中的指定内容吧... 目录1. 项目背景详细介绍2. 项目需求详细介绍2.1 功能需求2.2 非功能需求3. 相关技术详细介绍3.1 Ja

MySQL MCP 服务器安装配置最佳实践

《MySQLMCP服务器安装配置最佳实践》本文介绍MySQLMCP服务器的安装配置方法,本文结合实例代码给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友参考下... 目录mysql MCP 服务器安装配置指南简介功能特点安装方法数据库配置使用MCP Inspector进行调试开发指