谈谈大数据工程师的鄙视链

2024-01-25 06:48
文章标签 数据 工程师 谈谈 鄙视

本文主要是介绍谈谈大数据工程师的鄙视链,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

老婆漂亮的程序员,鄙视老婆不漂亮的程序员。

 

有老婆的程序员,鄙视没有老婆的程序员。

 

有女朋友的程序员,鄙视单身程序狗。

 

在单身狗之间,才有语言、编辑器和操作系统的互相鄙视。

 

 

看人家甜甜蜜蜜的,单身狗的你还不抓紧了找个妹子。

 

那么对于数据工程师来说,是不是也存在类似的一条鄙视链呢,今天我们不谈技术,我们谈谈技术背后的大数据工程师不同岗位之间的鄙视链:

 

大数据 ETL 开发工程师:

 

  • 负责数据仓库 ETL (数据的抽取、转换和导入)流程开发;

 

 

  • 精通 Hive SQL,掌握基本的 HQL 优化技能;

 

  • 熟练使用 MySQL/Postgres 等数据库;

 

  • 有Hadoop基础知识,熟练掌握PHP / Python / Java任一语言;

 

    (大数据金字塔的最底端,职业瓶颈非常有限)

 

大数据开发工程师:

 

  • 熟悉 Linux,熟悉 shell,perl,python,php 等脚本语言的一种或多种;

 

  • 扎实的 Java 基础编程,熟悉传统数据库 MySQL;

 

  • 熟悉 Hadoop,HBase,Hive,Spark,Storm 任意一项或多项技术;

 

 

 

  • 有大规模数据处理和日志处理经验的优先;

 

 

大数据开发工程师+数据平台J2EE开发工程师:

 

  • 数据平台J2EE开发工程师:3-5年的 Java 开发经验;

 

  • 慢慢往大数据方向来转,懂一点儿大数据的基础知识;

 

  • Hadoop、Spark、Storm、HBase 至少知道是怎么回事,能写一点简单的程序;

 

  • J2EE精通,提交计算任务(指定参数)、通过界面查看漂亮的报表和表格;

 

 

 

大数据平台高级开发工程师:

 

  • 精通 Hadoop、Spark、Storm(源码级别的),Kafka、Flume、ZooKeeper;

 

  • 精通 J2EE 技术,开源框架(Spring MVC、Spring、MyBatis);

 

  • 精通 MySQL 性能调优,Java 虚拟机(JVM)调优;

 

 

  • 高并发系统架构(NoSQL、Redis、Memcached、Nginx、负载均衡、分布式);

 

大数据平台高级架构师:

 

  • 研究与跟踪大数据新技术发展方向,针对公司大数据业务进行框架设计;  

 

  • 负责公司大数据产品的技术选型、设计、研发和维护,参与产品从立项到交付的全生命周期工作;

 

  • 参与研发团队的日常技术交流与分享,为其他同事提供技术指导与帮助;

 

 

  • 深入了解业务需求与业务逻辑,同产品、业务相关同事密切沟通和配合;

 

  • 研究未来数据模型和计算框架的创新与落地(数据计算框架轻量化、建立数据模型等);

   

高端,高端,高端

大数据数据挖掘与机器学习工程师:

 

  • 一步一步往上走,走到大数据平台高级架构师级别;

 

  • 对数据结构和算法设计有较为深刻的理解;

 

  • 精通各种机器学习与数据挖掘的算法;(Spark MLlib,机器学习,GraphX,图计算,Hadoop Mahout);

 

  • 反作弊研发经验、用户行为分析、社群关系挖掘;

 

  • 个性化推荐系统,用户意愿度分级系统,预测热卖产品走势,用户增长率等;

 

 

 

走到大数据金字塔的最顶端,用技术去直接为企业创造价值和利润,公司可以直接根据这些人计算出来的一些数据、方案等,去科学决策,调整公司的战略,是直接对公司的利润的提升、市场占有率的增加是有帮助的。

 

写在最后的话:

 

不管你智商多高,技术多牛逼,最重要的是要会落地,针对存在的问题提出解决方案,给公司创造价值,只有这样才能给自己带来实打实的回报,不然都是浮云啊。

 

其实很多时候是产品业务推动着技术人员的进步,比如某一天我们开发的产品就爆红了,带来了大量的用户访问,那你是不是就要着手解决高并发,海量数据存储等问题。

 

在没有碰到问题前,技术人员很多时候并不会意识到潜在的问题,就是在这样解决了一个又一个的问题之后,我们踩过了 N 个坑之后的经验就是我们成长的见证。

 

 

 

 

推荐阅读:

 

想成为云计算大数据Spark高手,看这里!戳我阅读

年薪50W的Java程序员转大数据学习路线戳我阅读

大数据人工智能发展趋势与前景  戳我阅读

最全最新的大数据系统交流路径!!戳我阅读

2019最新!大数据工程师就业薪资,让人惊艳!戳我阅读

这篇关于谈谈大数据工程师的鄙视链的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/642420

相关文章

SQL Server修改数据库名及物理数据文件名操作步骤

《SQLServer修改数据库名及物理数据文件名操作步骤》在SQLServer中重命名数据库是一个常见的操作,但需要确保用户具有足够的权限来执行此操作,:本文主要介绍SQLServer修改数据... 目录一、背景介绍二、操作步骤2.1 设置为单用户模式(断开连接)2.2 修改数据库名称2.3 查找逻辑文件名

canal实现mysql数据同步的详细过程

《canal实现mysql数据同步的详细过程》:本文主要介绍canal实现mysql数据同步的详细过程,本文通过实例图文相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的... 目录1、canal下载2、mysql同步用户创建和授权3、canal admin安装和启动4、canal

使用SpringBoot整合Sharding Sphere实现数据脱敏的示例

《使用SpringBoot整合ShardingSphere实现数据脱敏的示例》ApacheShardingSphere数据脱敏模块,通过SQL拦截与改写实现敏感信息加密存储,解决手动处理繁琐及系统改... 目录痛点一:痛点二:脱敏配置Quick Start——Spring 显示配置:1.引入依赖2.创建脱敏

详解如何使用Python构建从数据到文档的自动化工作流

《详解如何使用Python构建从数据到文档的自动化工作流》这篇文章将通过真实工作场景拆解,为大家展示如何用Python构建自动化工作流,让工具代替人力完成这些数字苦力活,感兴趣的小伙伴可以跟随小编一起... 目录一、Excel处理:从数据搬运工到智能分析师二、PDF处理:文档工厂的智能生产线三、邮件自动化:

Python数据分析与可视化的全面指南(从数据清洗到图表呈现)

《Python数据分析与可视化的全面指南(从数据清洗到图表呈现)》Python是数据分析与可视化领域中最受欢迎的编程语言之一,凭借其丰富的库和工具,Python能够帮助我们快速处理、分析数据并生成高质... 目录一、数据采集与初步探索二、数据清洗的七种武器1. 缺失值处理策略2. 异常值检测与修正3. 数据

pandas实现数据concat拼接的示例代码

《pandas实现数据concat拼接的示例代码》pandas.concat用于合并DataFrame或Series,本文主要介绍了pandas实现数据concat拼接的示例代码,具有一定的参考价值,... 目录语法示例:使用pandas.concat合并数据默认的concat:参数axis=0,join=

C#代码实现解析WTGPS和BD数据

《C#代码实现解析WTGPS和BD数据》在现代的导航与定位应用中,准确解析GPS和北斗(BD)等卫星定位数据至关重要,本文将使用C#语言实现解析WTGPS和BD数据,需要的可以了解下... 目录一、代码结构概览1. 核心解析方法2. 位置信息解析3. 经纬度转换方法4. 日期和时间戳解析5. 辅助方法二、L

使用Python和Matplotlib实现可视化字体轮廓(从路径数据到矢量图形)

《使用Python和Matplotlib实现可视化字体轮廓(从路径数据到矢量图形)》字体设计和矢量图形处理是编程中一个有趣且实用的领域,通过Python的matplotlib库,我们可以轻松将字体轮廓... 目录背景知识字体轮廓的表示实现步骤1. 安装依赖库2. 准备数据3. 解析路径指令4. 绘制图形关键

解决mysql插入数据锁等待超时报错:Lock wait timeout exceeded;try restarting transaction

《解决mysql插入数据锁等待超时报错:Lockwaittimeoutexceeded;tryrestartingtransaction》:本文主要介绍解决mysql插入数据锁等待超时报... 目录报错信息解决办法1、数据库中执行如下sql2、再到 INNODB_TRX 事务表中查看总结报错信息Lock

使用C#删除Excel表格中的重复行数据的代码详解

《使用C#删除Excel表格中的重复行数据的代码详解》重复行是指在Excel表格中完全相同的多行数据,删除这些重复行至关重要,因为它们不仅会干扰数据分析,还可能导致错误的决策和结论,所以本文给大家介绍... 目录简介使用工具C# 删除Excel工作表中的重复行语法工作原理实现代码C# 删除指定Excel单元