首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
鱼街
华南农业大学 数据仓库
关注
已关注
取消关注
顶
@来杯冰可乐叭:
数仓/数据开发-零基础入坑(小白学习路径)
烫
这段时间各大公司的春招陆续开始了,但是也有很多同学还在因为刚刚入坑或者还在纠结,对学习路径比较迷茫。(这也是去年的我)所以这边总结一下,一个面向面试的学习路径,后面也会补充上全面的学习路径。面向面试就是掌握到基本能应付暑期实习面试的基本技能和知识,足以在春招实习招聘中应对,但是如果要在秋招里乱杀还是得全面学习的哟[诶嘿]。1 计算机基础1.1 基础八股文《计算机组成原理》《数据结构》《操作系统》《计算机网络》这四门课程是计算机专业的必学,虽然在大数据开发/数仓开发的面试场景中80%的时候并不会问道相关的八股,但是部分大厂(字节、阿里、快手(这是我面试到的))还是会问一些基本知识比如:TCP&UDP、三次握手、四次挥手、http等,所以只要去找一些常见的问题背下来就好1.2 算法基础所谓的算法基础实际上就是数据结构、算法题,盯着牛客、LetCode去刷题就好,每天三道美滋滋,面试手撕不用怕。暑期实习能有个100-150道基本能cover实习面试,如果时间实在来不及直接去做“剑指offer”的系列题,容易碰到原题或者类似题。如果是秋招的话得有个300左右的题量,建议直接刷LetCode题库的前300,不论笔试还是面试都会原题。(一定要总结同类题思路!!!数组、动态规划、DFS、BFS等等)2 编程语言2.1 SQL如果是数仓、数开,SQL 是必备技能(SQL Boy/SQL Gril[牛泪]),笔试面试都会考到,建议直接到牛客刷题。这部分的SQL题要重视,不论是笔试还是面试手撕60%概率是SQL题,如果有一定基础建议直接刷牛客的大厂真题:这里面的SQL题难度基本够了,也比较全面,难度也符合到一些实际生产场景(强力推荐!!👍)2.2 Java&Scala由于很多大数据组件都是由Java编写,所以JAVA也是数开/数仓的基本技能,虽然在实际工作中用到JAVA并不多,大部分时候就是写个UDF等。不过,我们在面试中还是会以JavaSE的要求来提问,所以需要背的八股以及补充的也比较多。不过如果时间不够的话,建议直接背常见Java八股题(面向面试嘛)。但最最基础的还是得会写一些Java,所以建议大家刷Letcode用Java去练习。Spark和Flink的底层有Scala编写,而且相对而言Scala在部分场景较Java更符合大数据场景,所以偶尔用到,但是面试基本不会问到,浅学即可,不要投入太多时间。2.3 Python锦上添花,无也无妨。但是如果会用Python做一个深度学习、机器学习的模型(调包侠也行)在面试官那里会有一定加分,部分团队会有相关的工作,但是还是要保证基础。3 大数据组件大数据组件非常的多,如果是全面学习的话,建议按照尚硅谷的学习路径去进行。如果只是面向面试学这几个Hadoop、Kafka、ZooKeeper、Hive、Hbase、Spark、Mysql即可。但是如果是要做实时开发还需要补充Spark Streaming、Flink,此外全面的学习还需要有Azkaban(任务调度)、clickhouse(OLAP)、redis等组件。3.1 Hadoop数据存储基本上还是使用 HDFS。MapReduce 虽然使用较少,但其思想十分重要,必会,也是调优的基础。Yarn 调度非常常用,但面试中很少考到。常问:HDFS读写流程、MR流程、Shuffle流程3.2 Spark现在的离线计算引擎机会都是 Spark3.0引擎,很少用到 MapReduce 了,所以也是必会。需要掌握与 MapReduce 的区别。常问:spark作业提交流程、Spark宽窄依赖&血缘、spark的持久化&缓存机制、Spark和MR的区别、Sprak和MR的Shuffle的区别3.3 KafkaKafka作为发布订阅消息队列,基本也是常问的,哪怕在Java开发也常常会有kafka的问题:Kafka数据重复、Kafka消息数据积压,Kafka消费能力不足怎么处理?Kafka 零拷贝、Kafka高效读写数据问的频率相对其他几个较少,掌握核心原理即可3.4 MysqlMysql的涉及到数据库的基础知识,基本也是每次面试必问,而且问题常常会从数据库底层原理以知道sql调优常问:Mysql索引、数据库事务、四种隔离级别、MVCC、谓词下推、执行计划等等MySQL一定要多准备一些3.5 Hive作为构建数据仓库的工具,常常会从Hive延伸到数据仓库模型的问题,或者从hadoop的问题延伸到Hive来。有两种方式:Spark on Hive:写 Spark SQL,Spark 读取的数据源是 Hive。就是通过 Spark SQL,加载 Hive 的配置文件,获取到 Hive 的元数据信息。Spark SQL 获取到 Hive 的元数据信息之后就可以拿到 Hive 的所有表的数据。接下来就可以通过 Spark SQL 来操作 Hive 表中的数据。Hive on Spark:写 Hive SQL。Hive 将自己的 MapReduce 计算引擎替换为Spark,当我们执行 HiveSQL(HQL) 时底层不是将 HQL 转换为 MapReduce 任务,而是跑的 Spark 任务。常问问题:Hive的架构、HQL转成MR的流程、数据倾斜、小文件问题(前面两个需要扩展到hadoop和spark的数据倾斜和小文件)、Hive优化、Hive常用调优参数4 数仓模型数据仓库的原理作为数仓开发工程师的核心技能,绝对是我们的高频问题,基本99%的面试官都会提问到相关的问题。完整的数仓架构需要了解。建模理论(星型建模、ER 建模)需要了解。推荐看阿里的《大数据之路》,需要这本书的电子版可以私信我。其中最重要的是,对数据仓库的理解、数仓分层、为什么这么设计、维度建模(既然我单独写了这一部分,足以见得绝对是Top1的重要性)5 数据治理了解一下概念即可。实习招聘考的少,秋招考的多。包括元数据管理、数据质量、血缘等。6 项目经历学完上述内容后,那么必然需要一个数据仓库的项目来完善个人简历,还是推荐尚硅谷。数仓这块如果咱们自己很难有实际项目,这边给推荐两个。第一:B站尚硅谷,可以跟着视频做项目,离线和实时的都有,项目内容也比较贴近真实开发场景,坏处是做的人很多,烂大街。第二:github,找大数据开发的项目,含金量更好,但需要自己投入大量的时间。如果是暑期实习的话我这边建议还是做尚硅谷的项目,只要能吃透,应对实习面试够了。 项目讲解:STAR原则学完以上所有这些(面向面试),根据我个人的经验,大概会在40-60天,其实时间也不短。建议大家在学完Hadoop之后就可以开始投一些简历,然后通过面试去不断磨砺个人技术理解,愈战愈勇。再者,面试之后也会发现,其实知识的深度重要性大于广度,与其花很多时间去把整个大数据链路学完,不如完成基础内容,然后自己去实操去思考问题,再通过一定的面试技巧(简历引导、语言问题引导、面试节奏掌握)等,就可以很顺利的通过大部分的面试。最后!!祝大家都能在春招中拿到满意的Offer!希望能帮到大家!!
点赞 127
评论 51
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
11-01 20:48
已编辑
重庆大学 算法工程师
华为入池 非科班双末9开出来的几率大吗
10.29 线下三面。 一面: 先手撕, 一个数组把奇数放在前面偶数放在后面,快排, 然后问了一些笔试的问题, knn算法, kmeans算法, 简历上面的项目。二面:介绍简历上面的项目,没问八股, 主要是让我讲技术路线, 手撕一沓纸里面随机抽的, 比较幸运抽到的非常简单的岛屿数量。 三面: 主要是开放性的问题,问了在团队里想做领导人物还是专注技术问题, 回答不想当领导, 还有企业文化相关, 回答的以客户为中心。投的车bu ai算法,本 机械 硕 机器人工程, 有多大的机会能泡出来呢
算法冲刺中:
你这bg开不出来,还有谁能开出来呢
查看11道真题和解析
点赞
评论
收藏
分享
昨天 19:53
门头沟学院 Java
秋招开始捡漏了吗?听说现在还能捡到宝!
最近不少同学发现,之前爱答不理的公司突然开始主动约面试了,面试难度好像也降低了,就连挂过的公司都重新来撩了。这感觉就像商场快下班时突然开始打折,之前高冷的商品现在都变得亲切可人——没错,秋招捡漏黄金期可能真的来了! 一般来说大家会普遍认为11月12月已经是开奖期间了,基本都结束了面试流程,而这对双非同学恰恰是最友好的,因为一大批92拿了十几个offer的,已经开始做了选择,因此会有一大批被释放的offer,此时 HR 要么从还在面试流程中的同学捞人,要么去已经挂了同学,但可能笔试成绩还可以,要或者是重新招人,这几个选择都比较常见!而11月和12月是双非拿保底的比较好的时期! 捡漏信号 最近团...
投递莉莉丝游戏等公司10个岗位
点赞
评论
收藏
分享
09-12 14:57
重庆大学 给排水工程师
花80改的简历,值吗
已注销:
bro不如吃顿疯狂星期四
点赞
评论
收藏
分享
09-24 18:30
已编辑
长春工业大学 产品经理
好HR+1
啥也不说了xdm,爱了👍👍👍
小肥罗:
HR就是好人的缩写哈哈哈哈
点赞
评论
收藏
分享
10-31 12:00
门头沟学院 Java
26秋招字节国际化广告后端开发一面
1、如何看待 AI 写代码?如何看待 AI 对于后端工作带来的冲击? 2、谈谈项目 1 的整体架构,有哪些模块,分别做什么的 3、如果把项目 1 升级为分布式系统,你会如何设计改造?怎么让数据存起来,保证不丢失、不重复,具备良好的容错能力? 4、项目 1 中图数据在内存和磁盘中的数据结构是如何设计的? 5、你在项目中做了哪些工作?你们的淘汰策略相较于 LRU 或 LFU 的优势在哪里? 6、你设计的淘汰策略依据来源是什么?有无其他比较的模型? 7、在你设计的淘汰策略,温数据被驱逐和加载时,会不会导致系统波动?怎么解决这个问题? 8、数据迁移引擎如何设计的? 9、异步迁移过程中如果任务挂掉了,怎...
查看17道真题和解析
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
数字马力一面
4841
2
...
26届0实习秋招总结
2888
3
...
数字马力一面
2163
4
...
27找实习,简历求拷打
2137
5
...
上班还能尸体回温。。。
2067
6
...
面试官你是来骗方案了吧?休想
1739
7
...
美团是WLB吗?说说我一年多的感受!
1606
8
...
“二本美团工作一年打算裸辞”,或许我也应该重新思考我的未来了
1564
9
...
企鹅后端日常实习二面
1557
10
...
xdm,第几投了
1528
创作者周榜
更多
正在热议
更多
#
同bg的你秋招战况如何?
#
168312次浏览
976人参与
#
工作后,谈恋爱还和学生时代一样吗?
#
39637次浏览
373人参与
#
京东开奖
#
448214次浏览
2504人参与
#
今年秋招是回暖还是遇冷
#
22261次浏览
146人参与
#
职场破冰,你们都聊什么?
#
28981次浏览
153人参与
#
你实习是赚钱了还是亏钱了?
#
21261次浏览
194人参与
#
360集团校招
#
3714次浏览
22人参与
#
阿里云工作体验
#
31994次浏览
108人参与
#
你的领导最像哪种动物,为什么?
#
24342次浏览
134人参与
#
我的AI电子员工
#
21148次浏览
152人参与
#
三一集团提前批进度交流
#
40373次浏览
228人参与
#
毕业论文进行时
#
2821次浏览
50人参与
#
诺瓦星云求职进展汇总
#
225840次浏览
1732人参与
#
我来点评面试官
#
11098次浏览
85人参与
#
教师节,你送祝福了吗
#
11787次浏览
76人参与
#
来聊聊你目前的求职进展
#
686667次浏览
6921人参与
#
秋招开始捡漏了吗
#
64087次浏览
442人参与
#
找工作八股要背到什么程度?
#
12832次浏览
199人参与
#
上班摸鱼,你都在干些什么?
#
29272次浏览
223人参与
#
用一句话形容你的团队氛围
#
13813次浏览
150人参与
#
三一重工求职进展汇总
#
22718次浏览
82人参与
#
你找工作是从容有余 or 匆忙滚爬?
#
7500次浏览
76人参与
牛客网
牛客网在线编程
牛客网题解
牛客企业服务