xiamisally
大数据工程师要学什么课程?没接触过大数据的人也许不知道大数据工程师是什么,更别说知道大数据工程师要学什么课程了。我们先来说下大数据工程师是做什么的吧。是负责公司互联网数据分析的一个职位,对数据库进行开发和(或)维护,需要具备超强的逻辑思维,精通各种语言,需要有相当好的毅力和耐心。光环大数据的大数据培训课程分为如下几个阶段:第一阶段:java核心学习学习内容:Java核心内容学习目标:掌握数据类型与运算符,数组、类与对象;掌握IO流与反射、多线程、JDBC。完成目标:Java多线程模拟多窗口售票,Java集合框架管理。第二阶段: JavaEE课程大纲学习内容:JavaEE核心内容学习目标:Mysql数据基础知识,Jdbc 基础概念和操作掌握HTML和CSS语法、Java核心语法完成目标:京东电商网站项目、2048小游戏。第三阶段:Linux精讲学习内容:Linux命令、文件、配置,Shell、Awk、Sed学习目标:搭建负载均衡、高可靠的服务器集群,可大网站并发访问量,保证服务不间断完成目标:Linux环境搭建、shell脚本小游戏 贪吃蛇。第四阶段:Hadoop生态体系学习内容:HDFS、MapReduce、Hive、Sqoop、Oozie学习目标:掌握HDFS原理、操作和应用开发,掌握分布式运算、Hive数据仓库原理及应用。完成目标:微博数据大数据分析、汽车销售大数据分析第五阶段:Storm实时开发学习内容:Zookeeper、HBase、Storm实时数据学习目标:掌握Storm程序的开发及底层原理,具备开发基于Storm的实时计算程序的能力。完成目标:实时处理新数据和更新数据库,处理密集查询并行搜索处理大集合的数据。
thomas0488
1.大数据架构的工具与组件
数据工程师更关注分析基础架构,因此所需的大部分技能都是以架构为中心的。
2.深入了解SQL和其它数据库解决方案
数据工程师需要对数据库管理系统有比较熟悉的了解,而且深入了解SQL非常重要。同样其它数据库解决方案,例如Cassandra或BigTable也须熟悉,因为不是每个数据库都是由可识别的标准来构建。
3.数据仓库和ETL工具
数据仓库和ETL经验对于数据工程师至关重要。像Redshift或Panoply这样的数据仓库解决方案,以及ETL工具,比如StitchData或Segment都非常有用。另外,数据存储和数据检索经验同样重要,因为处理的数据量是个天文数字。
4.基于Hadoop的分析(HBase,Hive,MapReduce等)
对基于Apache Hadoop的分析有深刻理解是这个领域的一个非常必要的需求,一般情况下HBase,Hive和MapReduce的知识存储是必需的。
5.编码
说到解决方案,编码与开发能力是一个重要的优点(这也是许多职位的要求),你要熟悉Python,C/C++,Java,Perl,Golang或其它语言,这会非常有价值。
6.机器学习
虽然数据工程师主要关注的是数据科学,但对数据处理技术的理解会加分,比如一些统计分析知识和基础数据建模。
挂在盒子上723
一般数据库工程师的主要工作包括:数据备份;数据库日常维护;数据结构方面的设计;SQL调优;解决由于数据库操作所造成的系统性能问题;给开发人员开展一些数据库方面的培训。那么成为一名合格的数据库工程师需掌握哪些知识技能呢?一、数据库应用系统分析及规划:1.软件工程与软件生命周期。 2.数据库系统生命周期。 3.数据库开发方法与工具。 4.数据库应用体系结构。 5.数据库应用接口。二、数据库设计及实现:1.概念设计。 2.逻辑设计。 3.物理设计。 4.数据库对象实现及操作。三、数据库存储技术:1.存储与文件结构。 2. 索引技术。四、并发控制技术:1.事务管理。 2.并发控制技术。3.死锁处理。五、数据库管理与维护:1、数据完整性。 2、数据库安全性。 3、数据库可靠性。 4、监控分析。 5、参数调整。 6、查询优化。 7、空间管理。六、数据库技术的发展与新技术:1、分布式数据库。 2、对象数据库。 3、并行数据库。 4、数据仓库与数据挖掘。
优质工程师考试问答知识库