tableau prep处理数据简介

2023-11-05 02:00

本文主要是介绍tableau prep处理数据简介,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

一、何时使用Tableau Prep

可以说,Tableau Desktop中的数据整理功能,Prep全部都能完成,而且往往效果会更好;反之则不行。在以下的情形下,推荐优先甚至只能使用Tableau Prep整理:

1、数据整理过程,需要对数据做深度处理,比如非常多的错误值需要清理,大量的0值或者null需要排除——关键是,所需要清理的数据量非常大时。

这些功能desktop亦能完成,但是Prep更有效率,可以避免大量的清理运算对desktop可视化造成的性能压力,体现到Server端就是提高了数据访问者的流畅性。昨天在客户那里,500M的Excel表格,12列转置后相当于增加了11倍数据,然后清除0值,输出的hyper文件却只有80M,输出耗时大约5分钟。如果同样的操作放在desktop中完成,再发布到Server中提供共享访问,因为数据清理所带来的时间浪费,随着访问用户的增加,可以理解为是倍数级别的。

谨记:从效率和性能方面看,区分数据整理和数据可视化两个环节,几乎总是有意义的。

2、为了提高可视化的性能,需要大幅度调整数据源的聚合级别并选择部分数据字段

在这里,Prep担当了搭建临时的数据仓库(或者理解为数据缓存)的作用。我们知道数据是有详细级别的,不是每次数据聚合(比如过去各月各区域贡献的销售额)都要从最细的数据粒度来计算求和,这样会影响数据加载和分析性能。

比如我们要做零售终端的贡献分析,我们的很多报表都可以从一个临时表来生成——各零售终端在每个月在每个商品的贡献,我们可以把这个详细级别标记为:终端*月份*商品。为此,我们可以使用prep的聚合功能,提前创建一个临时聚合表,把最细的数据详细级别数据(比如:终端*精确时间*商品*批次*会员)提前聚合到想要的级别(精确时间——> 月份,不保留会员和批次信息)。这样每个月的数据量很可能压缩到之前的1/10,并且可以删除不用的无关字段,这样的数据会非常显著地提高数据可视化过程中的效率。

3、涉及到多次数据连接,并且是在不同阶段做数据连接

数据联结是数据整理必备的技能,简单的联结可以直接在desktop中完成,但是如果要多个数据源多次联结,特别是在一个数据源整理的不同阶段做联结,desktop就束手无策了,这正是Prep大放光彩的时刻。

Prep在此方面有几个地方绝对让人过目不让:

  • 直观查看连接结果,包括各部分的连接记录数和连接明细;并可基于结果立刻整理;
  • 通过拖拽轻松实现多次连接,更有效率。
  • 连接和整理过程通过流程保存,过程可以重复使用。

4、需要使用行转列功能,或者列转行两次及以上(嵌套表头)

数据整理阶段总会遇到很多不符合“数据库范式”的数据,这需要结构上的整理,比如把很多的列转为行显示——特别是所谓的“宽表”,经常用一列代表一个月份或者一个同类的主题。

而在少数情况下,我们还需要行转为列——主要是报表展示的需要。Desktop在数据源的层面仅能执行一次列转行操作,而多次转置和行转列是Prep独有的功能,加上Prep可以在一个流程的多个地方执行转置,在转置方面就更加强大。

二、如何优雅的使用Tableau Prep

作为Prep最早的一批粉丝和深度用户,说明一下几个关键点。

1、 把筛选操作尽可能提前

在任何时候,减少数据的大小都是有意义的。在新版本的Tableau Prep中,进一步增加了“数据筛选”的功能,可以直接通过计算字段保留数据,或者通过多选轻松清除数据。(Tableau Prep Builder 2019.2.3超级棒新功能 )

不过这里提供一个预防性的建议:尽可能不要在数据源的层面隐藏数据字段,而是放到下一次清理环节中使用“移除”字段来代替。为什么呢?我和我的客户都遇到过类似的情境:可能是bug或者数据源支持的问题,当你的数据源字段增加时,Prep往往不能自动加入这些新字段,相当于只在原来的框架中增量更新,不会自动扩展字段的多少。这种情况下,刷新数据源无效果,只能重建数据源连接,重建的代价就是第一个环节的设置会消失,此前手动隐藏的字段就会重现天日,不得不重新点击一遍。

2、多使用数据聚合,分层看需求,分层准备数据,养成建立数据仓库的习惯

数据聚合是提高性能的核心操作,养成根据分析需要建立数据仓库的概念,会帮助分析师理清数据的层次性、提高可视化过程的效率、减少可视化过程中的复杂运算(LODs)。这也是tableau Prep数据整理的核心落脚点。

“数据是有层次性的”,每个层次代表的是一种视角、一种高度和一种业务场景。数据可视化帮助我们建立全览视角,数据聚合帮助我们从数据层面清晰化。完美搭配~

3、建议:每个流程只做一种操作及其相关操作

虽然Tableau倡导“在任何步骤中应用清理操作”,但是我想同时给出的建议是“不要滥用Tableau软件的易用性”,否则只会增加混乱。从设计的角度看,从使用的经验总结看,尽可能只在一个环节执行一种操作及其紧密关联的整理。比如数据转置环节,那就仅仅做转置和转置后的字段重命名;数据聚合环节,仅仅做数据聚合,除非是聚合的需要,不要在这个环节更改字段名称。

Prep的功能只有几大类:数据整理、数据连接Join、数据并集Union、数据聚合、数据转置,努力让每个环节都具有实质性的意义。

4、使用颜色和说明,记录流程,便于复盘

在prep中,有几个特别主要的指示牌:流程标题、说明和颜色。在数据连接、数据并集中,颜色是最好的指示牌,我们甚至不需要记住两侧数据的名字了。

这篇关于tableau prep处理数据简介的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/346667

相关文章

批量导入txt数据到的redis过程

《批量导入txt数据到的redis过程》用户通过将Redis命令逐行写入txt文件,利用管道模式运行客户端,成功执行批量删除以Product*匹配的Key操作,提高了数据清理效率... 目录批量导入txt数据到Redisjs把redis命令按一条 一行写到txt中管道命令运行redis客户端成功了批量删除k

Java使用Thumbnailator库实现图片处理与压缩功能

《Java使用Thumbnailator库实现图片处理与压缩功能》Thumbnailator是高性能Java图像处理库,支持缩放、旋转、水印添加、裁剪及格式转换,提供易用API和性能优化,适合Web应... 目录1. 图片处理库Thumbnailator介绍2. 基本和指定大小图片缩放功能2.1 图片缩放的

SpringBoot多环境配置数据读取方式

《SpringBoot多环境配置数据读取方式》SpringBoot通过环境隔离机制,支持properties/yaml/yml多格式配置,结合@Value、Environment和@Configura... 目录一、多环境配置的核心思路二、3种配置文件格式详解2.1 properties格式(传统格式)1.

解决pandas无法读取csv文件数据的问题

《解决pandas无法读取csv文件数据的问题》本文讲述作者用Pandas读取CSV文件时因参数设置不当导致数据错位,通过调整delimiter和on_bad_lines参数最终解决问题,并强调正确参... 目录一、前言二、问题复现1. 问题2. 通过 on_bad_lines=‘warn’ 跳过异常数据3

Python进行JSON和Excel文件转换处理指南

《Python进行JSON和Excel文件转换处理指南》在数据交换与系统集成中,JSON与Excel是两种极为常见的数据格式,本文将介绍如何使用Python实现将JSON转换为格式化的Excel文件,... 目录将 jsON 导入为格式化 Excel将 Excel 导出为结构化 JSON处理嵌套 JSON:

Spring Boot 中的默认异常处理机制及执行流程

《SpringBoot中的默认异常处理机制及执行流程》SpringBoot内置BasicErrorController,自动处理异常并生成HTML/JSON响应,支持自定义错误路径、配置及扩展,如... 目录Spring Boot 异常处理机制详解默认错误页面功能自动异常转换机制错误属性配置选项默认错误处理

C#监听txt文档获取新数据方式

《C#监听txt文档获取新数据方式》文章介绍通过监听txt文件获取最新数据,并实现开机自启动、禁用窗口关闭按钮、阻止Ctrl+C中断及防止程序退出等功能,代码整合于主函数中,供参考学习... 目录前言一、监听txt文档增加数据二、其他功能1. 设置开机自启动2. 禁止控制台窗口关闭按钮3. 阻止Ctrl +

java如何实现高并发场景下三级缓存的数据一致性

《java如何实现高并发场景下三级缓存的数据一致性》这篇文章主要为大家详细介绍了java如何实现高并发场景下三级缓存的数据一致性,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学习一下... 下面代码是一个使用Java和Redisson实现的三级缓存服务,主要功能包括:1.缓存结构:本地缓存:使

SpringBoot 异常处理/自定义格式校验的问题实例详解

《SpringBoot异常处理/自定义格式校验的问题实例详解》文章探讨SpringBoot中自定义注解校验问题,区分参数级与类级约束触发的异常类型,建议通过@RestControllerAdvice... 目录1. 问题简要描述2. 异常触发1) 参数级别约束2) 类级别约束3. 异常处理1) 字段级别约束

在MySQL中实现冷热数据分离的方法及使用场景底层原理解析

《在MySQL中实现冷热数据分离的方法及使用场景底层原理解析》MySQL冷热数据分离通过分表/分区策略、数据归档和索引优化,将频繁访问的热数据与冷数据分开存储,提升查询效率并降低存储成本,适用于高并发... 目录实现冷热数据分离1. 分表策略2. 使用分区表3. 数据归档与迁移在mysql中实现冷热数据分