睿治数据治理管理平台白皮书_天冕大数据|研发SQL自动化审核与治理平台的经验分享...

本文主要是介绍睿治数据治理管理平台白皮书_天冕大数据|研发SQL自动化审核与治理平台的经验分享...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

随着互联网、大数据、云计算和人工智能等技术在国内的跳跃式发展,金融科技已成为金融机构角逐的新赛道。而金融与科技的有效结合,涉及应用水平、服务能力以及监管效能等方方面面,在这种大背景下,金融企业数据的内部安全管控、跨界融合风险防护、云环境外围系统攻击防御,显得尤为重要。

bbeca5ded1a0facf930d2c1041a2fe0d.png

1、为什么要研发SQL自动化审核与治理平台

根据近年来发布的数据泄密成本研究,发现除涉及外部恶意违法攻击,如漏洞攻击、SQL注入等手段窃取敏感数据外,近半成是由于内部或第三方承包商权限等管控缺失或IT业务流程故障导致的数据泄密。

因此除个人信息隐私识别、数据加密、传输行为审计、数据脱敏等手段外,用于数据库账号权限管制、SQL审核及注入风险防御、自动化运维、SQL洞察、高危行为基准、权责行为追踪、流程合规化的SQL自动化审核与治理平台的研发刻不容缓。

2、当前存在哪些问题

7e513226192afc72dc10e5d67e46ddd9.png

3、自研产品解决了哪些问题

66ea71f1902690ee7316471b7fd8a9c7.png

4、如何具体落地

SQL自动化审核与治理这个概念早在前几年就是比较热门的概念,业内也不乏有优秀的平台。目前MySQL数据库相关的审核平台已较为成熟。而如何从自身实际出发,做好安全防护的同时,创新性的融入PostgreSQL、MongoDB、Redis等开源数据库成为一个不小的挑战。

平台的构建离不开需求的分析与设计。在平台设计之初,我们通过读、写两种行为划分用户操作,加入权限认证管理严格把控账号信息安全,且对用户行为进行审计。

针对写操作,会通过繁杂的正则表达式和python脚本对用户行为进行语法正确性核查;利用执行计划或者表信息对更新/插入语句进行影响范围和风险等级估算;利用自定义的高位特征检测对高危操作进行禁止或警告;利用gh-ost或python脚本将修改语句转入后台工具自动处理;利用虚拟索引、SQL执行计划、表/视图信息等对新增索引在线评估。其中,有事务概念的数据库可利用事务进行回滚操作,无事务概念的利用脚本解决。

针对读操作,加入SQL成本判断并禁止部分非法/不良SQL查询方式。另外加入sql延时执行功能、添加pgbadger、redis-benchmark、mtools进行日志分析外,也新增了mongo-shake、shemasync、binlog2sql进行同步或反解析。

自动化固然是好的,但我们仍然觉得有些判断和操作是自动化不能代替的。因此平台中增设了上级业务审批的人为确认操作,目的是做二次确认。即开发运维人员等在有权限且合规的情况下,同部门上级人员从业务层面做二次检验,从而减少误操作的风险和业务逻辑判断失误的情况。

实际设计流程图可参照如下:

3c9b141689a99cfe3bd7fdf3daf0d1b5.png

5、结束语

工欲善其事,必先利其器。SQL审核与治理平台的研发一定程度上优化了DBA的审核工作、提高了SQL的质量、也减少了开发运维人员的沟通成本。最重要的是在安全管制、风险防护、数据泄露等层面提供安全保证和安全事故的权责追查。但SQL审核与治理应当是个长久且需日益完善的环节,这样才能更好为业务和技术服务。

自动化的背后应当是判断谨慎化、流程合规化、功能全面化、产品智能化和系统健壮化的。只有日常做好做精,提前发现和解决潜在的性能和安全问题,做好防御工作,才能防患于未然。

这篇关于睿治数据治理管理平台白皮书_天冕大数据|研发SQL自动化审核与治理平台的经验分享...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/725243

相关文章

MySQL数据库实现批量表分区完整示例

《MySQL数据库实现批量表分区完整示例》通俗地讲表分区是将一大表,根据条件分割成若干个小表,:本文主要介绍MySQL数据库实现批量表分区的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考... 目录一、表分区条件二、常规表和分区表的区别三、表分区的创建四、将既有表转换分区表脚本五、批量转换表为分区

宝塔安装的MySQL无法连接的情况及解决方案

《宝塔安装的MySQL无法连接的情况及解决方案》宝塔面板是一款流行的服务器管理工具,其中集成的MySQL数据库有时会出现连接问题,本文详细介绍两种最常见的MySQL连接错误:“1130-Hostisn... 目录一、错误 1130:Host ‘xxx.xxx.xxx.xxx’ is not allowed

JDK9到JDK21中值得掌握的29个实用特性分享

《JDK9到JDK21中值得掌握的29个实用特性分享》Java的演进节奏从JDK9开始显著加快,每半年一个新版本的发布节奏为Java带来了大量的新特性,本文整理了29个JDK9到JDK21中值得掌握的... 目录JDK 9 模块化与API增强1. 集合工厂方法:一行代码创建不可变集合2. 私有接口方法:接口

8种快速易用的Python Matplotlib数据可视化方法汇总(附源码)

《8种快速易用的PythonMatplotlib数据可视化方法汇总(附源码)》你是否曾经面对一堆复杂的数据,却不知道如何让它们变得直观易懂?别慌,Python的Matplotlib库是你数据可视化的... 目录引言1. 折线图(Line Plot)——趋势分析2. 柱状图(Bar Chart)——对比分析3

Spring Boot 整合 Redis 实现数据缓存案例详解

《SpringBoot整合Redis实现数据缓存案例详解》Springboot缓存,默认使用的是ConcurrentMap的方式来实现的,然而我们在项目中并不会这么使用,本文介绍SpringB... 目录1.添加 Maven 依赖2.配置Redis属性3.创建 redisCacheManager4.使用Sp

电脑系统Hosts文件原理和应用分享

《电脑系统Hosts文件原理和应用分享》Hosts是一个没有扩展名的系统文件,当用户在浏览器中输入一个需要登录的网址时,系统会首先自动从Hosts文件中寻找对应的IP地址,一旦找到,系统会立即打开对应... Hosts是一个没有扩展名的系统文件,可以用记事本等工具打开,其作用就是将一些常用的网址域名与其对应

Python Pandas高效处理Excel数据完整指南

《PythonPandas高效处理Excel数据完整指南》在数据驱动的时代,Excel仍是大量企业存储核心数据的工具,Python的Pandas库凭借其向量化计算、内存优化和丰富的数据处理接口,成为... 目录一、环境搭建与数据读取1.1 基础环境配置1.2 数据高效载入技巧二、数据清洗核心战术2.1 缺失

sql语句字段截取方法

《sql语句字段截取方法》在MySQL中,使用SUBSTRING函数可以实现字段截取,下面给大家分享sql语句字段截取方法,感兴趣的朋友一起看看吧... 目录sql语句字段截取sql 截取表中指定字段sql语句字段截取1、在mysql中,使用SUBSTRING函数可以实现字段截取。例如,要截取一个字符串字

linux服务之NIS账户管理服务方式

《linux服务之NIS账户管理服务方式》:本文主要介绍linux服务之NIS账户管理服务方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录一、所需要的软件二、服务器配置1、安装 NIS 服务2、设定 NIS 的域名 (NIS domain name)3、修改主

SQL Server身份验证模式步骤和示例代码

《SQLServer身份验证模式步骤和示例代码》SQLServer是一个广泛使用的关系数据库管理系统,通常使用两种身份验证模式:Windows身份验证和SQLServer身份验证,本文将详细介绍身份... 目录身份验证方式的概念更改身份验证方式的步骤方法一:使用SQL Server Management S