首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
AI面试、笔试、校招、雇品
HR免费试用AI面试
最新面试提效必备
登录
/
注册
在努力存钱的废话选手很愤怒
门头沟学院 测试开发
关注
已关注
取消关注
收藏
@来杯冰可乐叭:
数仓/数据开发-零基础入坑(小白学习路径)
烫
这段时间各大公司的春招陆续开始了,但是也有很多同学还在因为刚刚入坑或者还在纠结,对学习路径比较迷茫。(这也是去年的我)所以这边总结一下,一个面向面试的学习路径,后面也会补充上全面的学习路径。面向面试就是掌握到基本能应付暑期实习面试的基本技能和知识,足以在春招实习招聘中应对,但是如果要在秋招里乱杀还是得全面学习的哟[诶嘿]。1 计算机基础1.1 基础八股文《计算机组成原理》《数据结构》《操作系统》《计算机网络》这四门课程是计算机专业的必学,虽然在大数据开发/数仓开发的面试场景中80%的时候并不会问道相关的八股,但是部分大厂(字节、阿里、快手(这是我面试到的))还是会问一些基本知识比如:TCP&UDP、三次握手、四次挥手、http等,所以只要去找一些常见的问题背下来就好1.2 算法基础所谓的算法基础实际上就是数据结构、算法题,盯着牛客、LetCode去刷题就好,每天三道美滋滋,面试手撕不用怕。暑期实习能有个100-150道基本能cover实习面试,如果时间实在来不及直接去做“剑指offer”的系列题,容易碰到原题或者类似题。如果是秋招的话得有个300左右的题量,建议直接刷LetCode题库的前300,不论笔试还是面试都会原题。(一定要总结同类题思路!!!数组、动态规划、DFS、BFS等等)2 编程语言2.1 SQL如果是数仓、数开,SQL 是必备技能(SQL Boy/SQL Gril[牛泪]),笔试面试都会考到,建议直接到牛客刷题。这部分的SQL题要重视,不论是笔试还是面试手撕60%概率是SQL题,如果有一定基础建议直接刷牛客的大厂真题:这里面的SQL题难度基本够了,也比较全面,难度也符合到一些实际生产场景(强力推荐!!👍)2.2 Java&Scala由于很多大数据组件都是由Java编写,所以JAVA也是数开/数仓的基本技能,虽然在实际工作中用到JAVA并不多,大部分时候就是写个UDF等。不过,我们在面试中还是会以JavaSE的要求来提问,所以需要背的八股以及补充的也比较多。不过如果时间不够的话,建议直接背常见Java八股题(面向面试嘛)。但最最基础的还是得会写一些Java,所以建议大家刷Letcode用Java去练习。Spark和Flink的底层有Scala编写,而且相对而言Scala在部分场景较Java更符合大数据场景,所以偶尔用到,但是面试基本不会问到,浅学即可,不要投入太多时间。2.3 Python锦上添花,无也无妨。但是如果会用Python做一个深度学习、机器学习的模型(调包侠也行)在面试官那里会有一定加分,部分团队会有相关的工作,但是还是要保证基础。3 大数据组件大数据组件非常的多,如果是全面学习的话,建议按照尚硅谷的学习路径去进行。如果只是面向面试学这几个Hadoop、Kafka、ZooKeeper、Hive、Hbase、Spark、Mysql即可。但是如果是要做实时开发还需要补充Spark Streaming、Flink,此外全面的学习还需要有Azkaban(任务调度)、clickhouse(OLAP)、redis等组件。3.1 Hadoop数据存储基本上还是使用 HDFS。MapReduce 虽然使用较少,但其思想十分重要,必会,也是调优的基础。Yarn 调度非常常用,但面试中很少考到。常问:HDFS读写流程、MR流程、Shuffle流程3.2 Spark现在的离线计算引擎机会都是 Spark3.0引擎,很少用到 MapReduce 了,所以也是必会。需要掌握与 MapReduce 的区别。常问:spark作业提交流程、Spark宽窄依赖&血缘、spark的持久化&缓存机制、Spark和MR的区别、Sprak和MR的Shuffle的区别3.3 KafkaKafka作为发布订阅消息队列,基本也是常问的,哪怕在Java开发也常常会有kafka的问题:Kafka数据重复、Kafka消息数据积压,Kafka消费能力不足怎么处理?Kafka 零拷贝、Kafka高效读写数据问的频率相对其他几个较少,掌握核心原理即可3.4 MysqlMysql的涉及到数据库的基础知识,基本也是每次面试必问,而且问题常常会从数据库底层原理以知道sql调优常问:Mysql索引、数据库事务、四种隔离级别、MVCC、谓词下推、执行计划等等MySQL一定要多准备一些3.5 Hive作为构建数据仓库的工具,常常会从Hive延伸到数据仓库模型的问题,或者从hadoop的问题延伸到Hive来。有两种方式:Spark on Hive:写 Spark SQL,Spark 读取的数据源是 Hive。就是通过 Spark SQL,加载 Hive 的配置文件,获取到 Hive 的元数据信息。Spark SQL 获取到 Hive 的元数据信息之后就可以拿到 Hive 的所有表的数据。接下来就可以通过 Spark SQL 来操作 Hive 表中的数据。Hive on Spark:写 Hive SQL。Hive 将自己的 MapReduce 计算引擎替换为Spark,当我们执行 HiveSQL(HQL) 时底层不是将 HQL 转换为 MapReduce 任务,而是跑的 Spark 任务。常问问题:Hive的架构、HQL转成MR的流程、数据倾斜、小文件问题(前面两个需要扩展到hadoop和spark的数据倾斜和小文件)、Hive优化、Hive常用调优参数4 数仓模型数据仓库的原理作为数仓开发工程师的核心技能,绝对是我们的高频问题,基本99%的面试官都会提问到相关的问题。完整的数仓架构需要了解。建模理论(星型建模、ER 建模)需要了解。推荐看阿里的《大数据之路》,需要这本书的电子版可以私信我。其中最重要的是,对数据仓库的理解、数仓分层、为什么这么设计、维度建模(既然我单独写了这一部分,足以见得绝对是Top1的重要性)5 数据治理了解一下概念即可。实习招聘考的少,秋招考的多。包括元数据管理、数据质量、血缘等。6 项目经历学完上述内容后,那么必然需要一个数据仓库的项目来完善个人简历,还是推荐尚硅谷。数仓这块如果咱们自己很难有实际项目,这边给推荐两个。第一:B站尚硅谷,可以跟着视频做项目,离线和实时的都有,项目内容也比较贴近真实开发场景,坏处是做的人很多,烂大街。第二:github,找大数据开发的项目,含金量更好,但需要自己投入大量的时间。如果是暑期实习的话我这边建议还是做尚硅谷的项目,只要能吃透,应对实习面试够了。 项目讲解:STAR原则学完以上所有这些(面向面试),根据我个人的经验,大概会在40-60天,其实时间也不短。建议大家在学完Hadoop之后就可以开始投一些简历,然后通过面试去不断磨砺个人技术理解,愈战愈勇。再者,面试之后也会发现,其实知识的深度重要性大于广度,与其花很多时间去把整个大数据链路学完,不如完成基础内容,然后自己去实操去思考问题,再通过一定的面试技巧(简历引导、语言问题引导、面试节奏掌握)等,就可以很顺利的通过大部分的面试。最后!!祝大家都能在春招中拿到满意的Offer!希望能帮到大家!!
点赞 124
评论 51
全部评论
推荐
最新
楼层
暂无评论,快来抢首评~
相关推荐
04-22 11:25
叠纸游戏_后端开发工程师(准入职员工)
叠纸游戏内推-叠纸游戏内推码
叠纸游戏测试一面#叠纸游戏校招# 之前找面经很少,我来贡献一份(不过感觉参考价值也不大)总体感觉:我这次遇到的叠纸面试官是一位男士,给人感觉非常和善,答得稀烂也没有一点不耐烦和轻视,最后甚至开始给我讲题感觉很好,春招还来自我介绍最近一份实习经历有测开,问了关于实习的内容1. 如何优化测试样例2.如何设计测试样例(我答了等价类划分,边界值,追问:这是输入方面的,其他方面有没有思路)3.介绍常用数据结构(有点忘了,最后我答的队列和栈)4.堆和栈区别5.双链表去重(我答的用哈希表,问有无其他方法,最后提示双指针,双重循环)6.简历项目(由于我裸面,一整个支支吾吾,面试官好心地没有问...
点赞
评论
收藏
分享
04-25 00:09
浙江大学 Java
研一下实习的一些疑问
本人zju研一在读,目前刚被导师安排到了某大厂进行科研合作实习(学术论文导向,实习目标是半年发一篇最新领域的相关论文)。由于实习形式比较特殊,所以公司不发工资,不管考勤。任务量也很少。所以萌生了再找一段实习挣点零用钱的想法。目前算法方面的成果是一篇顶会四作和一篇顶会二作(都是LLM方面的在投论文,前一篇基本稳了,后一篇还得改改)。后端方面是有一段小厂开发实习加抄的一个开源项目。所以想问问牛友们,目前找算法日常实习有机会吗,还是老老实实走开发日常实习。
找实习多的是你不知道的事
点赞
评论
收藏
分享
03-03 17:32
哈啰出行_资产服务_业务运营(实习员工)
错过了秋招真的没希望了吗
感觉已经尽力实习了,但春招还是没啥回复,求求内推
牛客246576843号:
建议简历对点优化,想做HR专门列出HR实习,想做运营专门列出运营实习,并且对点写出项目经历以及数据,同时在个人总结上可以多凸出和岗位的匹配度
点赞
评论
收藏
分享
03-08 21:25
沙洲职业工学院 运营
遇到霸王合同老实了
learYuan:
🐕看了都摇头
点赞
评论
收藏
分享
04-23 21:36
门头沟学院 数据分析师
大数据面试必问:Hive sql全方位优化详解(京东、携程、招行面经)
Hive SQL是数仓开发最常用的语言。然而,Hive SQL的性能表现并非总是尽如人意。面对动辄TB甚至PB级的数据量,查询效率的微小差异可能会导致执行时间从几分钟延长到数小时,甚至直接影响业务决策的实时性。更重要的是,Hive运行在分布式集群上,查询性能的低下往往伴随着计算资源和存储资源的过度消耗。这不仅增加了企业的运营成本,还可能因为资源竞争而影响其他关键任务的运行。优化Hive SQL查询性能因此成为数据工程师和分析师必须掌握的核心技能。通过合理的优化策略,不仅可以显著缩短查询时间,还能有效降低集群资源占用,为企业节省可观的成本。以一个实际场景为例,某电商平台需要每日分析数亿条用户行为...
大数据从入门到精通-最全...
点赞
评论
收藏
分享
评论
点赞成功,聊一聊 >
点赞
收藏
分享
评论
提到的真题
返回内容
全站热榜
更多
1
...
大连某小区保安一面
3.7W
2
...
滴滴秋储后端
1.9W
3
...
如果你的项目是烂大街rpc,面试该怎么吹?
9071
4
...
想当滴孝子
7191
5
...
WXG企业微信暑期前端一二面+面委+hr(已oc)
6730
6
...
暑期实习终章
6323
7
...
美团/饿了么/京东 配送端面经
5659
8
...
滴滴秋储后端一面
5494
9
...
爱谁谁吧!暑期实习,老娘再也不面了!
4905
10
...
北京某小厂一面:4/28
4858
创作者周榜
更多
正在热议
更多
#
领导秒批的请假话术
#
697次浏览
16人参与
#
五一之后,实习真的很难找吗?
#
35703次浏览
210人参与
#
平安产险科技中心求职汇总
#
246947次浏览
2628人参与
#
材料专业哪个方向更好找工作?
#
17828次浏览
89人参与
#
如何缓解入职前的焦虑
#
168264次浏览
1248人参与
#
如果有时光机,你最想去到哪个年纪?
#
42476次浏览
761人参与
#
你想留在一线还是回老家?
#
30071次浏览
380人参与
#
考研可以缓解求职焦虑吗
#
18430次浏览
231人参与
#
面试等了一周没回复,还有戏吗
#
112854次浏览
1049人参与
#
应届生薪资多少才合理?
#
2747次浏览
24人参与
#
你喜欢工作还是上学
#
36123次浏览
394人参与
#
求职遇到的搞笑事件
#
104004次浏览
727人参与
#
许愿池
#
270174次浏览
2840人参与
#
经纬恒润求职进展汇总
#
115735次浏览
1021人参与
#
考研失败就一定是坏事吗?
#
98358次浏览
823人参与
#
大学生该如何认清当下的就业环境?
#
33944次浏览
291人参与
#
硬件人,你被哪些公司给挂了
#
46031次浏览
712人参与
#
生物制药/化工校招攻略
#
40670次浏览
277人参与
#
你怎么评价今年的春招?
#
95044次浏览
1201人参与
#
浅聊一下我实习的辛苦费
#
214919次浏览
1679人参与
#
扒一扒那些奇葩实习经历
#
38445次浏览
727人参与
牛客网
牛客企业服务