金融行业IT规划与系统建设,大数据管理平台先行

2024-02-04 19:08

本文主要是介绍金融行业IT规划与系统建设,大数据管理平台先行,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

电商平台开发

随着金融行业业务的快速发展变化,企业对业务系统的改造需求呈爆炸式增长,而且频率越来越快,尤其是综合业务系统已经进行常态化研发阶段。业务系统频繁变化通常会导致下游的数据管理系统随之变化,产生高昂的开发、维护成本,并影响下游系统用户的使用。

数商云在行业调研中发现,随着综合报表平台使用的不断深入,业务部门对数据利用的宽度和深度不断扩展,对业务数据分析职能的要求也越来越高:信贷、会计、风险管理、内部审计等业务部门需要获取标准一致、口径统一的全业务数据,对日常业务进行统计、分析和监控,根据查询分析的结果有针对性地规范业务操作与管理流程,强化业务经营和管理能力;各级领导需要全面完整的、包含历史信息的业务数据以便及时、准确地掌握本行业务的运行状况,分析、预测业务发展变化趋势,为管理决策提供支持。

一、问题及挑战

 一是缺乏统一的数据标准体系,无法建立全面、准确、完整反映全行经营状况的单一数据视图,制约了数据共享;

二是数据质量亟待提高;

三是数据管理条块分割。

二、建设思路及方案

1、建设思路

充分借鉴业界先进数据仓库建设成功经验,经过分析证,决定采用先建数据集市、后建数据整合层的方案  进行数据仓库建设,搭建数据基础平台,整合全行主要业务系统数据,形成全行数据应用统一出口。同时制  定一批得重要业务数据标准,依据标准对数据进行加工和整合,并通过标准的逐步完善,为解决数据管理和  数据质量质量问题提供手段和依据。

2、总体方案

 整体架构包含了数据源、数据平台、数据管理平台和数据应用四个部分。

金融行业IT规划与系统建设,大数据管理平台先行

(1)数据源

通过“数据管理平台”的数据处理及数据调度,将数据源中的数据分别写入数据平台。

(2) 数据平台

数据平台基于传统的关系型数据库构建,对结构化的业务数据进行存储、整合、加工和应用。其数据来源于行内各个业务系统,为应用提供全面数据支撑。

(3) 数据管理平台

数据管理平台对数据平台的数据关系、数据质量、ETL作业、生命周期等内容进行管理,是保障数据平台的正常运转,促进数据仓库逐步完善,提升数据仓库的管理水平的重要手段。

(4) 数据应用

面向最终用户提供数据的应用,包括统计报表、高管驾驶舱等数据应用。

三、关键技术及创新

1、平台化的数据仓库架构设计

平台化设计通过对数据平台进行需求分析,提炼需求共性特征并进行分类,划分出不同的平台,平台功能既各有偏重,又相互协同,形成数据平台的完整体系。

2、具有农业政策性特点的基础数据平台

基础数据平台以成熟的行业模型TD-FSLDM为基础进行定制,在保留银行业通用设计基础上,依据农发行自身业务特点,对模型实体进行细分和扩充,形成体现农发行政策性业务特点的模型设计。

3、自主可控的数据管理平台

数据管理平台包括数据调度、数据传输、数据生命周期、元数据管理、数据质量检核,各个子平台间既独立运行,又相互协作,共同支撑数据仓库的整体运转。

四、平台建设的价值:

数据平台建成后,可将源系统中多业务、多角度、多格式的符合条件的所有业务数据,按统一标准进行整合,保存各类业务对象,最终形成全行全面的、一致的、统一的标准化数据视图。下游系统只需通过数据平台,即可实现对所有业务数据的访问,并可对数据进行不同时期、不同角度的对比、分析和预测。在对外监管方面能够打破业务种类、部门之间的界限,提供口径一致,信息一致的监管报表;在对内管理方面,能够提供完整、统一的数据资源,满足经营管理和客户服务的需要。

同时,数据平台还将作为下游系统的唯一数据来源,为下游系统提供了稳定可靠的数据基础。当源系统随业务而变化时,整合层抗源变化的特性确保整合层模型在大多数据情况下无需变化,下游系统通常也无需变化,或只需微调报表样式或查询条件,即可适应源系统的变化。这样避免了下游系统随源系统变化而进行频繁的升级和调整,既减少应用维护复杂性和工作量,节约开发及维护成本,也减轻业务用户的系统使用负担。同时,根据同业数据平台的建设经验,源系统存在的数据质量问题对源系统、下游系统的业务准确性将产生不同程度的干扰,影响着数据分析的准确性、一致性。

因此,数商云在数据平台建设过程中,将对源系统的数据质量问题进行识别、定位、分析和处理,并将有质量问题的源数据,以报表查询或者分析报告的形式反馈至源系统,使其能准确识别和定位数据质量问题,并能从源头上解决数据质量问题,从而改进和提升源系统的数据质量。源系统数据质量的改进和提升,又可进一步保障数据平台的数据质量。通过如此迭代,最终使源系统、数据平台都形成统一的、高质量的数据,从而进一步保障业务数据应用的准确性和一致性。


<本文由数商云•云朵匠原创,商业转载请联系作者获得授权,非商业转载请标明:数商云原创>

作者:云朵匠 | 数商云(微信ID:shushangyun_com)

这篇关于金融行业IT规划与系统建设,大数据管理平台先行的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/678526

相关文章

JWT + 拦截器实现无状态登录系统

《JWT+拦截器实现无状态登录系统》JWT(JSONWebToken)提供了一种无状态的解决方案:用户登录后,服务器返回一个Token,后续请求携带该Token即可完成身份验证,无需服务器存储会话... 目录✅ 引言 一、JWT 是什么? 二、技术选型 三、项目结构 四、核心代码实现4.1 添加依赖(pom

基于Python实现自动化邮件发送系统的完整指南

《基于Python实现自动化邮件发送系统的完整指南》在现代软件开发和自动化流程中,邮件通知是一个常见且实用的功能,无论是用于发送报告、告警信息还是用户提醒,通过Python实现自动化的邮件发送功能都能... 目录一、前言:二、项目概述三、配置文件 `.env` 解析四、代码结构解析1. 导入模块2. 加载环

linux系统上安装JDK8全过程

《linux系统上安装JDK8全过程》文章介绍安装JDK的必要性及Linux下JDK8的安装步骤,包括卸载旧版本、下载解压、配置环境变量等,强调开发需JDK,运行可选JRE,现JDK已集成JRE... 目录为什么要安装jdk?1.查看linux系统是否有自带的jdk:2.下载jdk压缩包2.解压3.配置环境

Linux查询服务器系统版本号的多种方法

《Linux查询服务器系统版本号的多种方法》在Linux系统管理和维护工作中,了解当前操作系统的版本信息是最基础也是最重要的操作之一,系统版本不仅关系到软件兼容性、安全更新策略,还直接影响到故障排查和... 目录一、引言:系统版本查询的重要性二、基础命令解析:cat /etc/Centos-release详

浅谈MySQL的容量规划

《浅谈MySQL的容量规划》进行MySQL的容量规划是确保数据库能够在当前和未来的负载下顺利运行的重要步骤,容量规划包括评估当前资源使用情况、预测未来增长、调整配置和硬件资源等,感兴趣的可以了解一下... 目录一、评估当前资源使用情况1.1 磁盘空间使用1.2 内存使用1.3 CPU使用1.4 网络带宽二、

更改linux系统的默认Python版本方式

《更改linux系统的默认Python版本方式》通过删除原Python软链接并创建指向python3.6的新链接,可切换系统默认Python版本,需注意版本冲突、环境混乱及维护问题,建议使用pyenv... 目录更改系统的默认python版本软链接软链接的特点创建软链接的命令使用场景注意事项总结更改系统的默

在Linux系统上连接GitHub的方法步骤(适用2025年)

《在Linux系统上连接GitHub的方法步骤(适用2025年)》在2025年,使用Linux系统连接GitHub的推荐方式是通过SSH(SecureShell)协议进行身份验证,这种方式不仅安全,还... 目录步骤一:检查并安装 Git步骤二:生成 SSH 密钥步骤三:将 SSH 公钥添加到 github

Linux系统中查询JDK安装目录的几种常用方法

《Linux系统中查询JDK安装目录的几种常用方法》:本文主要介绍Linux系统中查询JDK安装目录的几种常用方法,方法分别是通过update-alternatives、Java命令、环境变量及目... 目录方法 1:通过update-alternatives查询(推荐)方法 2:检查所有已安装的 JDK方

Linux系统之lvcreate命令使用解读

《Linux系统之lvcreate命令使用解读》lvcreate是LVM中创建逻辑卷的核心命令,支持线性、条带化、RAID、镜像、快照、瘦池和缓存池等多种类型,实现灵活存储资源管理,需注意空间分配、R... 目录lvcreate命令详解一、命令概述二、语法格式三、核心功能四、选项详解五、使用示例1. 创建逻

Linux之platform平台设备驱动详解

《Linux之platform平台设备驱动详解》Linux设备驱动模型中,Platform总线作为虚拟总线统一管理无物理总线依赖的嵌入式设备,通过platform_driver和platform_de... 目录platform驱动注册platform设备注册设备树Platform驱动和设备的关系总结在 l