• 回答数

    5

  • 浏览数

    333

雁归来无痕
首页 > 工程师考试 > 要培训什么数字技术工程师

5个回答 默认排序
  • 默认排序
  • 按时间排序

百合妖妖1990

已采纳

Java :只要了bai解一些基础即可,做大数据不需要很深的Java 技术,学java SE 就相当于有学习大数据。Linux:因为大数据相关软件都是在Linux上运行的,所以Linux要学习的扎实一些,学好Linux对你快速掌握大数据相关技术会有很大的帮助,能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置,能少踩很多坑,学会shell就能看懂脚本这样能更容易理解和配置大数据集群。Hadoop:这是现在流行的大数据处理平台几乎已经成为大数据的代名词,所以这个是必学的。Zookeeper:这是个万金油,安装Hadoop的HA的时候就会用到它,以后的Hbase也会用到它。Mysql:我们学习完大数据的处理了,接下来学习学习小数据的处理工具mysql数据库,因为一会装hive的时候要用到,mysql需要掌握到什么层度那?你能在Linux上把它安装好,运行起来,会配置简单的权限,修改root的密码,创建数据库。Sqoop:这个是用于把Mysql里的数据导入到Hadoop里的。Hive:这个东西对于会SQL语法的来说就是神器,它能让你处理大数据变的很简单Oozie:既然学会Hive了,我相信你一定需要这个东西,它可以帮你管理你的Hive或者MapReduce、Spark脚本,还能检查你的程序是否执行正确。Hbase:这是Hadoop生态体系中的NOSQL数据库,他的数据是按照key和value的形式存储的并且key是唯一的,所以它能用来做数据的排重,它与MYSQL相比能存储的数据量大很多。Kafka:这是个比较好用的队列工具。Spark:它是用来弥补基于MapReduce处理数据速度上的缺点。请点击输入图片描述

要培训什么数字技术工程师

189 评论(11)

cupid8698小博士

it工程师要学编程语言、数据库技术、JAVASCRIPT、AJAX、HIBERNATE、SPRING等前沿技术it工程师,IT工程师是从事IT相关工作的人员的统称。它是一个广义的概念,包括IT设计人员、IT架构人员、IT工程管理人员、程序员等一系列岗位,工作内容都与软件开发生产相关。更多关于it工程师要学什么,进入:查看更多内容

312 评论(12)

笨笨的笨笨egg

计算机IT培训主要学技术,学符合企业开发所需的技术。参加IT培训是为了能较好且高效的进入此行业,所以若想参加IT培训需要多方了解培训机构的课程,师资、模式、环境、就业以及口碑等方向。

272 评论(12)

崔若若11

一、认识大数据大数据本质其实也是数据,不过也包括了些新的特征,数据来源广;数据格式多样化(结构化数据、非结构化数据、Excel文件等);数据量大(最少也是TB级别的、甚至可能是PB级别);数据增长速度快。而针对以上新的特征需要考虑很多问题:例如,数据来源广,该如何采集汇总?采集汇总之后,又该存储呢?数据存储之后,该如何通过运算转化成自己想要的结果呢?对于这些问题,我们需要有相对应的知识解决。二、大数据所需技能要求Python语言:编写一些脚本时会用到。Scala语言:编写Spark程序的最佳语言,当然也可以选择用Python。Ozzie,azkaban:定时任务调度的工具。Hue,Zepplin:图形化任务执行管理,结果查看工具。Allluxio,Kylin等:通过对存储的数据进行预处理,加快运算速度的工具。必须掌握的技能:、 HBase(、 Kafka、Storm/JStorm、Scala、Python、Spark (Core+sparksql+Spark streaming ) 、辅助小工具(Sqoop/Flume/Oozie/Hue等)

327 评论(11)

miumiu6571

1.大数据架构的工具与组件数据工程师更关注分析基础架构,因此所需的大部分技能都是以架构为中心的。2.深入了解SQL和其它数据库解决方案数据工程师需要对数据库管理系统有比较熟悉的了解,而且深入了解SQL非常重要。同样其它数据库解决方案,例如Cassandra或BigTable也须熟悉,因为不是每个数据库都是由可识别的标准来构建。3.数据仓库和ETL工具数据仓库和ETL经验对于数据工程师至关重要。像Redshift或Panoply这样的数据仓库解决方案,以及ETL工具,比如StitchData或Segment都非常有用。另外,数据存储和数据检索经验同样重要,因为处理的数据量是个天文数字。4.基于Hadoop的分析(HBase,Hive,MapReduce等)对基于Apache Hadoop的分析有深刻理解是这个领域的一个非常必要的需求,一般情况下HBase,Hive和MapReduce的知识存储是必需的。5.编码说到解决方案,编码与开发能力是一个重要的优点(这也是许多职位的要求),你要熟悉Python,C/C++,Java,Perl,Golang或其它语言,这会非常有价值。6.机器学习虽然数据工程师主要关注的是数据科学,但对数据处理技术的理解会加分,比如一些统计分析知识和基础数据建模

107 评论(12)

相关问答