SQL Server 2012 数据质量服务实战简介(Data Quality Services)

本文主要是介绍SQL Server 2012 数据质量服务实战简介(Data Quality Services),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

数据质量服务是包含在SQL Server 2012中的一个组件。我们需要安装数据质量服务端和客户端,这些在sqlserver 2012的安装文件中都可以找到。安装服务端以后,在我们sqlserver数据库中会出现3个新的以DQS开头的数据库

这三个数据库分别用来存储数据质量服务的知识库,总体和临时数据。

安装完成以后,我们可以用客户端来打开数据质量服务的管理界面

总体分三个大类,

知识库的管理(Knowledge Base Management)

数据质量项目(Data Quality Projects)

管理(Administration)

上图为创建知识库的界面,所有的数据质量项目都是基于知识库的,知识库里面包含具体的“域”(Domain),针对域来设定数据清理的规则。知识库我们可以看成是个表结构,域相当于字段。对域的规则可以是单独字段的也可以是组合字段的。

上图为域的管理,我们可以添加域,设置域的格式,数据类型,规则,引用等等。

当知识库建立以后,我们需要对知识库进行训练(Knowledge Base Discovery),一般情况下,我们可以取小部分真实数据来对知识库来进行训练,训练的次数越多,涵盖的情况越多,知识库也就越丰富越具体。

上图为知识库训练的界面,数据源可以是excel或者SQL Server数据库,下方设置相应的字段映射之后,就可以开始进行训练了。训练完之后,我们可以根据训练的结果可以进行设置,添加域的规则,修改域的引用等操作。

当一个知识库完成以后,我们就可以正式的使用数据质量项目来进行数据的清理。

而且在SSIS 2012中也添加了相对应的数据质量服务的组件,这样我们就可以很方便在SSIS 包中使用数据质量服务来完成数据的清洗。

当前世面上有很多行业的标准的第三方的知识库,我们也可以直接导入这些已经很成熟的知识库来对我们的数据直接进行清洗,大大的方便了我们操作一致性和准确性。

注意:当前版本下,DQS服务端不支持卸载,需要卸载的时候,需要手动删除那三个数据库,两个相对应的instance的login,master database中的一个存储过程。

这篇关于SQL Server 2012 数据质量服务实战简介(Data Quality Services)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/874971

相关文章

一文详解MySQL如何设置自动备份任务

《一文详解MySQL如何设置自动备份任务》设置自动备份任务可以确保你的数据库定期备份,防止数据丢失,下面我们就来详细介绍一下如何使用Bash脚本和Cron任务在Linux系统上设置MySQL数据库的自... 目录1. 编写备份脚本1.1 创建并编辑备份脚本1.2 给予脚本执行权限2. 设置 Cron 任务2

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名

SQL Server数据库死锁处理超详细攻略

《SQLServer数据库死锁处理超详细攻略》SQLServer作为主流数据库管理系统,在高并发场景下可能面临死锁问题,影响系统性能和稳定性,这篇文章主要给大家介绍了关于SQLServer数据库死... 目录一、引言二、查询 Sqlserver 中造成死锁的 SPID三、用内置函数查询执行信息1. sp_w

Python并行处理实战之如何使用ProcessPoolExecutor加速计算

《Python并行处理实战之如何使用ProcessPoolExecutor加速计算》Python提供了多种并行处理的方式,其中concurrent.futures模块的ProcessPoolExecu... 目录简介完整代码示例代码解释1. 导入必要的模块2. 定义处理函数3. 主函数4. 生成数字列表5.

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal

SQL中JOIN操作的条件使用总结与实践

《SQL中JOIN操作的条件使用总结与实践》在SQL查询中,JOIN操作是多表关联的核心工具,本文将从原理,场景和最佳实践三个方面总结JOIN条件的使用规则,希望可以帮助开发者精准控制查询逻辑... 目录一、ON与WHERE的本质区别二、场景化条件使用规则三、最佳实践建议1.优先使用ON条件2.WHERE用

MySQL存储过程之循环遍历查询的结果集详解

《MySQL存储过程之循环遍历查询的结果集详解》:本文主要介绍MySQL存储过程之循环遍历查询的结果集,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言1. 表结构2. 存储过程3. 关于存储过程的SQL补充总结前言近来碰到这样一个问题:在生产上导入的数据发现

SpringBoot服务获取Pod当前IP的两种方案

《SpringBoot服务获取Pod当前IP的两种方案》在Kubernetes集群中,SpringBoot服务获取Pod当前IP的方案主要有两种,通过环境变量注入或通过Java代码动态获取网络接口IP... 目录方案一:通过 Kubernetes Downward API 注入环境变量原理步骤方案二:通过

MySQL 衍生表(Derived Tables)的使用

《MySQL衍生表(DerivedTables)的使用》本文主要介绍了MySQL衍生表(DerivedTables)的使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学... 目录一、衍生表简介1.1 衍生表基本用法1.2 自定义列名1.3 衍生表的局限在SQL的查询语句select

MySQL 横向衍生表(Lateral Derived Tables)的实现

《MySQL横向衍生表(LateralDerivedTables)的实现》横向衍生表适用于在需要通过子查询获取中间结果集的场景,相对于普通衍生表,横向衍生表可以引用在其之前出现过的表名,本文就来... 目录一、横向衍生表用法示例1.1 用法示例1.2 使用建议前面我们介绍过mysql中的衍生表(From子句