定州人民
数据工程师都做什么？数据工程师负责创建和维护分析基础架构，该基础架构几乎可以支持数据世界中的所有其他功能。他们负责大数据架构的开发、构建、维护和测试，例如数据库和大数据处理系统。大数据工程师还负责创建用于建模，挖掘，获取和验证数据集合等流程。数据工程师的关键技能下面介绍数据工程师所需的几项关键技能。1.大数据架构的工具与组件数据工程师更关注分析基础架构，因此所需的大部分技能都是以架构为中心的。2.深入了解SQL和其它数据库解决方案数据工程师需要熟悉数据库管理系统，深入了解SQL至关重要。同样其它数据库解决方案，例如Cassandra或BigTable也须熟悉，因为不是每个数据库都是由可识别的标准来构建。3.数据仓库和ETL工具数据仓库和ETL经验对于数据工程师至关重要。像Redshift或Panoply这样的数据仓库解决方案，以及ETL工具，比如StitchData或Segment都非常有用。此外，数据存储和数据检索经验同样重要，因为处理的数据量是个天文数字。4.基于Hadoop的分析（HBase，Hive，MapReduce等）对基于Apache Hadoop的分析有深刻理解是这个领域的一个非常必要的需求，一般情况下HBase，Hive和MapReduce的知识存储是必需的。5.编码说到解决方案，编码与开发能力是一个重要的优点（这也是许多职位的要求），你要熟悉Python，C/C++，Java，Perl，Golang或其它语言，这会非常有价值。6.机器学习虽然数据工程师主要关注的是数据科学，但对数据处理技术的理解会加分，比如一些统计分析知识和基础数据建模。机器学习已经成为标准数据科学，该领域的知识可以帮我们构建同类产品的解决方案。这种知识还有一个好处，就是让你在这个领域极具市场价值，因为在这种情况下能够“戴上两顶帽子”会让你成为一个更强大的工具。7.多种操作系统最后，需要我们对Unix，Linux和Solaris系统有深入了解，许多数学工具基于这些操作系统，因为它们有Windows和Mac系统功能没有的访问权限和特殊硬件需求。
大大大吉CQ
海康威视是一家专业从事视频监控产品研发、生产和销售的公司，在行业内有着很高的知名度和声誉。海康威视面试产品数据工程师，一般要求面试者具备扎实的数据结构、算法、数据库等基础知识，同时要求对于机器学习、深度学习、大数据等相关技术有深入的了解和实践经验。在面试中，面试官可能会针对职位岗位及实际工作需要提出具体的问题，如：如何进行大规模数据的处理、如何设计一个高效的数据库结构、如何使用机器学习/深度学习技术来解决特定领域的问题等。此外，面试官还会对应聘者的沟通能力、学习能力和团队协作能力等方面进行考察。总的来说，海康威视作为国内领先的企业，注重挖掘和培养人才，面试产品数据工程师一般要求较高，但也会提供相应的培训和发展机会，如果你有扎实的理论基础和实践经验，并且具备良好的团队协作能力和学习能力，那么就有机会在海康威视这样的企业中展现自己的能力并得到相应的职业发展。
歪歪悠爱福喔
1 维护大数据平台（这个应该是每个大数据工程师都做过的工作，或多或少会承担“运维”的工作）2 为集群搭大数据环境（一般公司招大数据工程师环境都已经搭好了，公司内部会有现成的大数据平台，但我这边会私下搞一套测试环境，毕竟公司内部的大数据系统权限限制很多，严重影响开发效率）3 写 SQL （很多入职一两年的大数据工程师主要的工作就是写 SQL ）4 数据迁移（有部分公司需要把数据从传统的数据库 Oracle、MySQL 等数据迁移到大数据集群中，这个是比较繁琐的工作，吃力不讨好）5 应用迁移（有部分公司需要把应用从传统的数据库 Oracle、MySQL 等数据库的存储过程程序或者SQL脚本迁移到大数据平台上，这个过程也是非常繁琐的工作，无聊，高度重复且麻烦，吃力不讨好）6 数据采集（采集日志数据、文件数据、接口数据，这个涉及到各种格式的转换，一般用得比较多的是 Flume 和 Logstash）7 数据处理 离线数据处理（这个一般就是写写 SQL 然后扔到 Hive 中跑，其实和第一点有点重复了） 实时数据处理（这个涉及到消息队列，Kafka，Spark，Flink 这些，组件，一般就是 Flume 采集到数据发给 Kafka 然后 Spark 消费 Kafka 的数据进行处理）8 数据可视化（这个我司是用 Spring Boot 连接后台数据与前端，前端用自己魔改的 echarts）9 大数据平台开发（偏Java方向的，大概就是把开源的组件整合起来整成一个可用的大数据平台这样，常见的是各种难用的 PaaS 平台）10 数据中台开发（中台需要支持接入各种数据源，把各种数据源清洗转换为可用的数据，然后再基于原始数据搭建起宽表层，一般为了节省开发成本和服务器资源，都是基于宽表层查询出业务数据）11 搭建数据仓库（这里的数据仓库的搭建不是指 Hive ，Hive 是搭建数仓的工具，数仓搭建一般会分为三层 ODS、DW、DM 层，其中DW是最重要的，它又可以分为DWD,DWM,DWS，这个层级只是逻辑上的概念，类似于把表名按照层级区分开来的操作，分层的目的是防止开发数据应用的时候直接访问底层数据，可以减少资源，注意，减少资源开销是减少 内存 和 CPU 的开销，分层后磁盘占用会大大增加，磁盘不值钱所以没什么关系，分层可以使数据表的逻辑更加清晰，方便进一步的开发操作，如果分层没有做好会导致逻辑混乱，新来的员工难以接手业务，提高公司的运营成本，还有这个建数仓也分为建离线和实时的）总之就是离不开写 SQL ...
优质工程师考试问答知识库
