狮子跃峡谷
大数据工程师有不少细分方向,不同的方向需要具备不同的知识结构,通常情况下大数据工程师分为四个具体的工作领域,分别是大数据底层平台研发、大数据应用开发、大数据分析和大数据运维,其中大数据平台研发工程师的数量占比较少,属于大数据领域的高端人才,往往从业者在研究生期间主攻的方向就是大数据平台研发。
大数据应用开发工程师是大数据领域一个比较热门的岗位,由于目前大数据正在处在落地应用的阶段,所以有大量的传统应用需要进行大数据改造,因此大数据应用开发岗位有较多的人才需求。这个岗位需要掌握的知识结构包括大数据平台体系结构,比如目前常见的Hadoop、Spark平台,以及众多组件的功能和应用,另外还需要掌握至少一门编程语言,比如Java、Python、Scala等,这些编程语言是可以开发落地应用的。
大数据分析工程师是大数据领域非常重要的岗位,因为大数据的核心之一是数据价值化,而数据价值化的核心则在于数据的分析和应用,所以数据分析是大数据应用的一个重点所在。大数据分析工程师需要掌握的知识结构包括算法设计、编程语言以及呈现工具,算法设计是大数据分析师需要掌握的重点内容,而编程语言的作用则是完成算法的实现。另外,大数据分析师还需要掌握一些常见的分析工具,比如一些常见的BI工具,在一些比较简单的场景下BI工具能完成大量的工作,并生成呈现界面。看一个使用Python中scipy库的应用:
大数据运维工程师的主要工作内容是搭建大数据平台、部署大数据功能组件、配置网络环境和硬件环境、维护大数据平台,大数据运维工程师需要具备的知识结构包括计算机网络、大数据平台体系结构、编程语言(编写运维脚本)等,通常情况下,大数据运维工程师也需要对数据库有深入的了解。
大数据是我的主要研究方向之一,目前我也在带大数据方向的研究生,我会陆续在头条写一些关于大数据方面的文章,感兴趣的朋友可以
陽-iYummy
从部分大数据开发工程师的招聘要求可见一斑,需掌握的技能包括但不限于如下几个方面:1、hadoop/spark/hive/flink等常见离线和实时大数据平台架构,有相关大数据系统开发、维护和整合经验;2、编程基础扎实、动手实践能力强,至少熟练掌握一门开发语言(python/java/go/scala/c++等),熟悉hive sql使用;3、熟悉常见的大数据开发工作流,熟练掌握大数据接入、数据清洗、数据挖掘分析&数据可视化工具;4、了解常见的机器学习算法基本原理,熟悉安全攻防对抗、广告安全对抗等相关业务场景。
pang小妞
大数据工程师主要是,分析历史、预测未来、优化选择,这是大数据工程师在“玩数据”时最重要的三大任务:
找出过去事件的特征:大数据工程师一个很重要的工作,就是通过分析数据来找出过去事件的特征。找出过去事件的特征,最大的作用是可以帮助企业更好地认识消费者。通过分析用户以往的行为轨迹,就能够了解这个人,并预测他的行为。
预测未来可能发生的事情:通过引入关键因素,大数据工程师可以预测未来的消费趋势。
找出最优化的结果:根据不同企业的业务性质,大数据工程师可以通过数据分析来达到不同的目的。
扩展资料
大数据工程师需要学习的知识
1、linux
大数据集群主要建立在linux操作系统上,Linux是一套免费使用和自由传播的类Unix操作系统。而这部分的内容是大家在学习大数据中必须要学习的,只有学好Linux才能在工作中更加的得心应手。
2、Hadoop
我觉的大家听过大数据就一定会听过hadoop。Hadoop是一个能够对大量数据进行离线分布式处理的软件框架,运算时利用mapreduce对数据进行处理。
参考资料来源:百度百科-大数据分析师
优质工程师考试问答知识库