南瓜树数据平台——共享数据API服务平台(后端的利器,前端的神器)

本文主要是介绍南瓜树数据平台——共享数据API服务平台(后端的利器,前端的神器),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

系统目的

本文档是针对南瓜树数据管理平台的数据服务模块功能及使用说明。对第三方客户就如何使用数据平台开发API服务进行说明。

本文档可帮助:

  1. 后端开发人员快速开发数据接口服务;
  2. 不具备服务开发的前端人员也能开发自己的应用;
  3. 维护人员快速进行API服务的在线动态升级和维护
  4. 第三方公司快速实现业务接口。

建设背景

当前软件的开发流程耗时较长,从需求部门提出需求到需求上线需要一个较长的时间周期,当程序出现问题时,开发人员往往需要先定位问题,修复代码、发布程序版本;耗时长、影响业务开展。

 

系统目标

数据源接入南瓜树数据平台后,可通过编写SQL的形式快速开发数据接口服务,接口动态升级和维护;只需要简单编写sql,无需编写任何代码就能开发接口。

主要目标:

  • 实现企业统一工作流流程管理;
  • 实现企业统一数据管理;
  • 可支持多种数据源管理;
  • 可支持在线设计表单;
  • 可支持多种数据源代码生成。
  1. 总体功能概述

业务功能架构

总体业务功能架构: 

 ​​

第三方数据源接入

数据源的接入可支持二种方式:

  1. 用户自己有阿里云或者腾讯云的数据库:这是可根据用户的业务需求创建一个权限小的用户账号,用于接入数据平台进行相关数据服务API的开发;
  2. 用户无数据库,此时可联系客服进行租赁一个数据库进行使用。

 

具体接入操作:

1、进入菜单“数据服务》我的数据源”;

2、点击“新增”按钮;

3、填写接入申请表单,填写完您的数据库信息后,点击“确定”按钮,提交申请;

4、管理员审核通过后,可在列表中看到数据源的“状态”列显示为“审核通过”;此时数据源就完成了接入了。

 

 

 

数据服务APi开发

数据源接入申请通过后,就可以进行数据服务的开发,菜单:“数据服务—数据服务API”;

新增数据API

  1. 进入列表后,点击“新增”按钮,打开新增页面;
  2. 选择需要进行API开发的数据源,填写数据服务的名称,便于见名知意;
  3. 根据业务要求编写sql,sql的编写规则在3.2.2 章节中进行说明;
  4. 填写使用方式和选择状态(只有发布状态下的api才可以被调用消费);
  5. 点击确定,保存成功;完成API的新增。

 

SQL规则

 

Sql编写注意

  1. 查看相关表是否有主键、索引、是否必填;
  2. Sql编写所在的库与接口所在的库要对应;
  3. Sql中where条件中顺序序:

能确定的情况下(主键/索引)条件>等值条件>in条件>exist/is not exists 条件>日期处理条件>is null/is not null 条件

  1. 过滤数据多的字段筛选条件放where 最前边,数据量大的表放在from 的最开始。

Oracle中,Where子句中条件的顺序对性能没有影响(不管是CBO还是RBO优化器模式)不包含表的顺序。在RBO优化器模式下,表应按结果记录数从大到小的顺序从左到右来排列,因为表间连接时,最右边的表会被放到嵌套循环的最外层。最外层的循环次数越少,效率越高。

MySQL遵循最左前缀原理,当查询条件匹配联合索引的前面几列时,可以使用联合索引;否则,不会使用联合索引

  1. 对于不确定前端是否会传入的参数,必须在条件两边有中括号{};
  2. 对于传入的参数占位符名称必须和前端传入的一致,且需要在参数两边用#包住,例如:#userId#.

 

API中sql编写动态参数传入

KPI开发中,数据源类型可以分为关系数据源类型(oracle\mysql\sqlserver\crdb),键值对数据源类型(es)。

 

在编写sql过程中我们需要针对不同的数据源类型,制定了相关的规则:

1、针对关系型数据源类型,再where条件编写是:

如果是=判断,则占位符用 #  前端传入参时不需要在参数两边拼接单引号

 

如果是in方式 ,则占位符用 $,前端入参时,需要在每个参数值的两边拼接上单引号。

 

2、针对ES数据源,在where条件编写时,只能使用占位符$ ,es不是关系型数据源,不支持 # 的方式:

如果是=判断,则需要用对应的:字段.keyword = $param$ ,前端传入参数需要拼接单引号

如果是 in 方式,则需要用:字段.keyword in($param$),前端入参时,需要再每个参数的两边拼接上单引号

3、针对ES的模糊查询方式:

如果是=判断,则需要用对应的:字段=$param$,前端传入参数需要拼接单引号

如果是in方式,则需要用:字段 in($param$),前端入参时,需要在每个参数的两边拼接上单引号。

 

对于能确定的参数是必传的,则需要把该参数两边的大括号“}”去掉,避免前端做压测还是其他测试时不传参数进来,从而导致我们进行全表扫描增大业务库或中台数据库的访问压力。

 

 

具体使用说明

 

1.1 、针对关系型数据源类型,再where条件编写是:

如果是  = 判断  ; 则占位符用 #  前端传入参时不需要在参数两边拼接单引号:

如果是  in 方式  ; 则占位符用 $   前端入参时,需要在每个参数的两边拼接上单引号。

 

1.2、 针对ES数据源,在where条件编写时,只能使用占位符 $ , es不是关系型数据源,不支持 # 的方式:

如果是 = 判断,则需要用  字段.keyword = $param$  前端传入参数需要拼接单引号;

如果是 in 方式,则需要用 字段.keyword in($param$),前端入参时,需要再每个参数的两边拼接上单引号。

 

3、针对ES的模糊查询方式:

如果是 = 判断,则需要用对应的 字段 = $param$  前端传入参数需要拼接单引号

如果是 in 方式,则需要用  字段 in($param$)    前端入参时,需要在每个参数的两边拼接上单引号

 

 

API服务验证

 

验证方式

服务编写完成后,需要进行测试验证,平台支持以list或者map的形式进行数据的返回。可根据业务的需求进行响应的选择:

序号

返回格式

调用方式

说明

1

List

http://qxsdcloud.com:18083/data/getMessageList

以数组的形式返回

2

Map

http://qxsdcloud.com:18083/data/getMessageRow

以键值对的形式返回

入参

服务编写完成后,必须传入三个参数,其中,param参数中需要把传入的参数进行封装成键值对的形式传入

序号

参数名称

说明

示例

1

ApiCode

API编码,在数据服务API列表中可获取

9129bde5e705402fb61f93176f8fbf01

2

requestDev

请求设备,用户自定义

custom

3

param

参数封装后的json串

{“userId”:1}

 

List返回结果:

Map返回结果

 

 

请求日志

在菜单“数据服务—api日志”菜单中,可以查看到请求的日志明细,可根据日志来分析:

  1. 接口的请求频率;
  2. 前端传入的参数情况;
  3. 接口的报错信息

 

 

  1. 试用

产品在2020年已上线第一版,截至到2021年6月14日;已完成基础功能;现诚邀各行业人员加入试用。

试用地址:http://qxsdcloud.com:18081/

 

 

 

 

这篇关于南瓜树数据平台——共享数据API服务平台(后端的利器,前端的神器)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/768083

相关文章

使用Python开发一个Ditto剪贴板数据导出工具

《使用Python开发一个Ditto剪贴板数据导出工具》在日常工作中,我们经常需要处理大量的剪贴板数据,下面将介绍如何使用Python的wxPython库开发一个图形化工具,实现从Ditto数据库中读... 目录前言运行结果项目需求分析技术选型核心功能实现1. Ditto数据库结构分析2. 数据库自动定位3

pandas数据的合并concat()和merge()方式

《pandas数据的合并concat()和merge()方式》Pandas中concat沿轴合并数据框(行或列),merge基于键连接(内/外/左/右),concat用于纵向或横向拼接,merge用于... 目录concat() 轴向连接合并(1) join='outer',axis=0(2)join='o

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

SpringBoot监控API请求耗时的6中解决解决方案

《SpringBoot监控API请求耗时的6中解决解决方案》本文介绍SpringBoot中记录API请求耗时的6种方案,包括手动埋点、AOP切面、拦截器、Filter、事件监听、Micrometer+... 目录1. 简介2.实战案例2.1 手动记录2.2 自定义AOP记录2.3 拦截器技术2.4 使用Fi

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分

C#解析JSON数据全攻略指南

《C#解析JSON数据全攻略指南》这篇文章主要为大家详细介绍了使用C#解析JSON数据全攻略指南,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 目录一、为什么jsON是C#开发必修课?二、四步搞定网络JSON数据1. 获取数据 - HttpClient最佳实践2. 动态解析 - 快速