睿治数据治理管理平台白皮书_天冕大数据|研发SQL自动化审核与治理平台的经验分享...

本文主要是介绍睿治数据治理管理平台白皮书_天冕大数据|研发SQL自动化审核与治理平台的经验分享...,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

随着互联网、大数据、云计算和人工智能等技术在国内的跳跃式发展,金融科技已成为金融机构角逐的新赛道。而金融与科技的有效结合,涉及应用水平、服务能力以及监管效能等方方面面,在这种大背景下,金融企业数据的内部安全管控、跨界融合风险防护、云环境外围系统攻击防御,显得尤为重要。

bbeca5ded1a0facf930d2c1041a2fe0d.png

1、为什么要研发SQL自动化审核与治理平台

根据近年来发布的数据泄密成本研究,发现除涉及外部恶意违法攻击,如漏洞攻击、SQL注入等手段窃取敏感数据外,近半成是由于内部或第三方承包商权限等管控缺失或IT业务流程故障导致的数据泄密。

因此除个人信息隐私识别、数据加密、传输行为审计、数据脱敏等手段外,用于数据库账号权限管制、SQL审核及注入风险防御、自动化运维、SQL洞察、高危行为基准、权责行为追踪、流程合规化的SQL自动化审核与治理平台的研发刻不容缓。

2、当前存在哪些问题

7e513226192afc72dc10e5d67e46ddd9.png

3、自研产品解决了哪些问题

66ea71f1902690ee7316471b7fd8a9c7.png

4、如何具体落地

SQL自动化审核与治理这个概念早在前几年就是比较热门的概念,业内也不乏有优秀的平台。目前MySQL数据库相关的审核平台已较为成熟。而如何从自身实际出发,做好安全防护的同时,创新性的融入PostgreSQL、MongoDB、Redis等开源数据库成为一个不小的挑战。

平台的构建离不开需求的分析与设计。在平台设计之初,我们通过读、写两种行为划分用户操作,加入权限认证管理严格把控账号信息安全,且对用户行为进行审计。

针对写操作,会通过繁杂的正则表达式和python脚本对用户行为进行语法正确性核查;利用执行计划或者表信息对更新/插入语句进行影响范围和风险等级估算;利用自定义的高位特征检测对高危操作进行禁止或警告;利用gh-ost或python脚本将修改语句转入后台工具自动处理;利用虚拟索引、SQL执行计划、表/视图信息等对新增索引在线评估。其中,有事务概念的数据库可利用事务进行回滚操作,无事务概念的利用脚本解决。

针对读操作,加入SQL成本判断并禁止部分非法/不良SQL查询方式。另外加入sql延时执行功能、添加pgbadger、redis-benchmark、mtools进行日志分析外,也新增了mongo-shake、shemasync、binlog2sql进行同步或反解析。

自动化固然是好的,但我们仍然觉得有些判断和操作是自动化不能代替的。因此平台中增设了上级业务审批的人为确认操作,目的是做二次确认。即开发运维人员等在有权限且合规的情况下,同部门上级人员从业务层面做二次检验,从而减少误操作的风险和业务逻辑判断失误的情况。

实际设计流程图可参照如下:

3c9b141689a99cfe3bd7fdf3daf0d1b5.png

5、结束语

工欲善其事,必先利其器。SQL审核与治理平台的研发一定程度上优化了DBA的审核工作、提高了SQL的质量、也减少了开发运维人员的沟通成本。最重要的是在安全管制、风险防护、数据泄露等层面提供安全保证和安全事故的权责追查。但SQL审核与治理应当是个长久且需日益完善的环节,这样才能更好为业务和技术服务。

自动化的背后应当是判断谨慎化、流程合规化、功能全面化、产品智能化和系统健壮化的。只有日常做好做精,提前发现和解决潜在的性能和安全问题,做好防御工作,才能防患于未然。

这篇关于睿治数据治理管理平台白皮书_天冕大数据|研发SQL自动化审核与治理平台的经验分享...的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/725243

相关文章

Python调用LibreOffice处理自动化文档的完整指南

《Python调用LibreOffice处理自动化文档的完整指南》在数字化转型的浪潮中,文档处理自动化已成为提升效率的关键,LibreOffice作为开源办公软件的佼佼者,其命令行功能结合Python... 目录引言一、环境搭建:三步构建自动化基石1. 安装LibreOffice与python2. 验证安装

使用Python开发一个Ditto剪贴板数据导出工具

《使用Python开发一个Ditto剪贴板数据导出工具》在日常工作中,我们经常需要处理大量的剪贴板数据,下面将介绍如何使用Python的wxPython库开发一个图形化工具,实现从Ditto数据库中读... 目录前言运行结果项目需求分析技术选型核心功能实现1. Ditto数据库结构分析2. 数据库自动定位3

pandas数据的合并concat()和merge()方式

《pandas数据的合并concat()和merge()方式》Pandas中concat沿轴合并数据框(行或列),merge基于键连接(内/外/左/右),concat用于纵向或横向拼接,merge用于... 目录concat() 轴向连接合并(1) join='outer',axis=0(2)join='o

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

MySQL中EXISTS与IN用法使用与对比分析

《MySQL中EXISTS与IN用法使用与对比分析》在MySQL中,EXISTS和IN都用于子查询中根据另一个查询的结果来过滤主查询的记录,本文将基于工作原理、效率和应用场景进行全面对比... 目录一、基本用法详解1. IN 运算符2. EXISTS 运算符二、EXISTS 与 IN 的选择策略三、性能对比

MySQL常用字符串函数示例和场景介绍

《MySQL常用字符串函数示例和场景介绍》MySQL提供了丰富的字符串函数帮助我们高效地对字符串进行处理、转换和分析,本文我将全面且深入地介绍MySQL常用的字符串函数,并结合具体示例和场景,帮你熟练... 目录一、字符串函数概述1.1 字符串函数的作用1.2 字符串函数分类二、字符串长度与统计函数2.1

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

SQL Server跟踪自动统计信息更新实战指南

《SQLServer跟踪自动统计信息更新实战指南》本文详解SQLServer自动统计信息更新的跟踪方法,推荐使用扩展事件实时捕获更新操作及详细信息,同时结合系统视图快速检查统计信息状态,重点强调修... 目录SQL Server 如何跟踪自动统计信息更新:深入解析与实战指南 核心跟踪方法1️⃣ 利用系统目录

使用IDEA部署Docker应用指南分享

《使用IDEA部署Docker应用指南分享》本文介绍了使用IDEA部署Docker应用的四步流程:创建Dockerfile、配置IDEADocker连接、设置运行调试环境、构建运行镜像,并强调需准备本... 目录一、创建 dockerfile 配置文件二、配置 IDEA 的 Docker 连接三、配置 Do

MySQL 内存使用率常用分析语句

《MySQL内存使用率常用分析语句》用户整理了MySQL内存占用过高的分析方法,涵盖操作系统层确认及数据库层bufferpool、内存模块差值、线程状态、performance_schema性能数据... 目录一、 OS层二、 DB层1. 全局情况2. 内存占js用详情最近连续遇到mysql内存占用过高导致