大数据开发

哈哈哈哈不要太真实了，附上原文🔗：https://mp.weixin.qq.com/s/lqSLEV2nIDmZr6wYpjT7Kw #程序员# #资源分享# #大数据开发# #聊聊我眼中的AI# #校招我听劝#

1.自我介绍2.熟悉flink还是spark答：flink3.介绍下flink架构吧答：这里越深越好，我就讲到了flink的jobmanager(dispathcer，jobmaster)和taskmanager4.flink有哪些算子?答：map,flatmap,filter,window,union等,RichFunction提供生命周期open close,上下文环境。5.flink你知道有哪些窗口吗？计数窗口能介绍下吗？答：时间窗口有滚动滑动会话，计数窗口有滚动滑动。6.你知道窗口什么时候触发吗？答：讲了一下窗口触发器trigger7.你能介绍下flink有几种窗口触发器吗？底层怎么实现的。答：讲了一下事件时间触发器和处理时间触发器的原理。8.假如flink窗口突然不触发了，你怎么排查。答：这里我答了一下排查上游其中一个流是否断流，如果其中一条流断流可以设置withIdleness空闲时间，让窗口的最小水位线机制去掉那个断流的依赖，靠另外的流触发计算。这里面试官提了一个场景，如果小米商城半夜就是没人买东西或者数据量很小导致水位线不能及时更新，（就是每条流都没数据）那你该怎么触发呢？利用窗口触发器ProcessingTimeoutTrigger 9.口述一道sparksql题10.sparksql优化答:(1)sort by 代替 order by，需要结合distribute by使用。(2)count(distinct)优化(3)列裁剪(4)谓词下推(5)优化MAPJOIN阈值。(6)定期合并小文件，防止maptask数量过多(7)多用explain看执行计划,避免笛卡尔积等意外情况11.执行计划怎么看每个stage是根据shuffle切分，执行计划会写上具体的操作符和数据量和JOIN规则。12.distrubute by 会发生shuffle吗？根据什么字段distribute by? 这个和cluster by的区别是什么？13.反问：(1)小米数仓具体是做什么数据？(2)为什么岗位介绍上写了机器学习？面试官说这个有专门团队去做，跟数仓关系不大牛客字数限制，答案写的有点简略小米面试官的技术感觉很强，态度好，体验很不错，希望以后有机会能进吧。#大数据开发#

近期，有参加春招的同学和我交流了他的面试历程，我针对这些内容进行了细致的总结与梳理，并在此分享出来，希望能助力大家学习与借鉴。1. 自我介绍大家好，我是xxx，就读于xxx学校，今天我主要从专业技能和项目经历两个方面来介绍，在学校期间，学习过Hadoop、Spark、Flink等大数据框架以及Spring、SpringBoot等web框架，同时做过一个数仓的项目，整个项目分为3个模块，xxx；曾经在xx家公司工作/实习过xx时间，做的主要工作包括3个部分，分别是xxx；以上就是我的自我介绍，谢谢面试官2.八股文1）RDD是什么全称（Resilient Distributed Dataset）叫...

tql ！程序员都去给我装！！配置文件不好复制，有需要自己去这个原文里复制～原文🔗：https://mp.weixin.qq.com/s/8d6g5UNuH8WXyvoHo1yVoA #大数据开发# #程序员# #数据人offer决赛圈怎么选#

bg双9，非科班，3段中大厂实习 最近秋招陆续开了，投了一圈一个面都没有。不知道是不是简历写太烂！求大佬们锐评 #秋招# #大数据开发#

9.27二面总计45分钟左右1.自我介绍2.实习经历介绍3.项目介绍4.逐一拷打简历上的各个方面，首先是实习，实习内容，实习产出，实习收获，问到实习期间做的工作时会深入问项目细节（数仓分层情况，项目数据情况等）5.实习拷打的差不多了问了个专业名词：数据血缘，没听说过，随便胡诌了一点ods层和dw层关系溯源的情况，面试官说意思差不多，然后给我讲了一下这个名词6.拷打项目，从项目数据源到数据中间层设计，项目框架，数仓设计，数仓模型分类，redis缓存的一些八股7.项目拷打完来两个手撕，两道SQL题，一道Java题8.sql比较简单，常规题9.Java题是实现一个栈，实现出栈，入栈，查看栈顶元素三个方法（有点汗流浃背）10.反问部门业务，工作业务对接情况，出差情况等面试完还提了一嘴什么时候会出结果，回答：流程快的话应该是国庆节后几天10.10三面 三面共计三十分钟左右，部门大leader面1.自我介绍2.实习拷打3.项目拷打4.项目细节拷打5.介绍本科和硕士的经历，选了感兴趣的问了一下6.遇到过的困难，如何解决的7.反问 什么时候出结果，回答会让hr尽快联系我，反手就给挂了还是倒在了三面，什么时候才能有offer呀#携程##携程面试##大数据开发##凉经#

美团高频数开面试题分享|2024届校园招聘即将开始：https://www.nowcoder.com/discuss/515311167196160000?sourceSSR=users字节最全数开面试题|有同学拿了字节提前批offer：https://www.nowcoder.com/discuss/509134018885992448?sourceSSR=users快手大数据开发高频面试题及答案【海量hc】：https://www.nowcoder.com/discuss/527892445468577792?sourceSSR=users微众大数据开发高频面试题及答案【附JD分析】：ht...

接下来这几道题，算是所有面经里面出现频率最高的（仅限牛客大数据开发面经分享），有的公司甚至一二面都常有重复的题（比如美团~）。 公众号：旧时光大数据 一、Hadoop部分 一、HDFS文件写入和读取过程 可灵活回答： 1）HDFS读写原理（流程） 2）HDFS上传下载流程 3）讲讲（介绍下）HDFS 4）HDFS存储机制 问过的一些公司： 阿里×3，阿里社招，腾讯x2，字节x2，百度，拼多多x2，浩鲸云，小米，流利说，顺丰，网易云音乐×2，有赞×2，祖龙娱乐，360×2，商汤...

米塔碳的大数据开发面试其实总共分为两轮，其中都涉及到一些专业问题，在此我将拆分梳理为两篇文章，以便大家能更加深入地了解该公司的提问喜好和相关招聘要求！（以上仅为本人个人经历和回答思路，供大家参考~）面试重点问题盘点1.项目经验和技术栈（ps:面试官蛮关注项目经历的！） 。例如：你在项目中的具体角色是什么？遇到的技术难点是什么？是否有印象深刻的技术问题？比如日志延迟问题的处理、建模思路等。-回答：针对项目的技术难点，我主要描述了如何优化数据清洗流程，以及如何利用分布式计算工具解决性能瓶颈，同时可以用调侃的语气提一下具体的工作选择和踩过哪些坑2.数仓建模及优化思路，具体...

面试时间：1h 10min自我介绍实习工作的一些问题项目相关的一些问题Java基本数据类型？String为什么不是基本数据类型？能不能继承？如果需要频繁地拼接字符串用什么？为什么？StringBuffer、StringBuilder 的区别？Java的集合类了解吗？都有那些？它们的继承关系是怎么的？讲讲HashMap？HashMap多线程下怎么办？多线程的HashMap它的原理？并发编程的问题，听的有点懵，说不会，他又换了一个，还是不会，尴尬JVM内存结构？类加载机制？线程池了解吗？介绍一下设计模型用过那些？在哪里用过？线程和进程的区别？我看你学过python，python里面的协程和进程线程有什么区别吗？MapReduce原理？Spark为什么比MaReduce快？现在还有用MapReduce的吗？比起Spark，MapReduce的应用场景？Spark任务执行的流程？宽窄依赖？HDFS是如何保证数据可靠的？机房断网，造成脑裂怎么办？Flume构成？你在项目里是怎么用的？Kafka的构成？多个partition，怎么能保证全局有序？回答可以设置一个partition，不知道其他方法，反问面试官。他说这是别人问他的，他也不知道，问问看我能不能知道....数据库和数据仓库区别？数仓为什么要分层？星型模型和雪花模型区别？维度表和事实表，介绍一下？SQL：给了一张用户登陆表，求每个日期用户的活跃数、7日留存用户、7日活跃留存率好像最后时间不够了，我还没写完，就让我说了一下思路反问：部门业务是什么实习生都做什么工作对实习生有什么要求总结：- 问了很多项目相关的问题，很细，我开始以为一面只会问八股，没怎么准备，猝不及防- 面试官说他不是这个部门的，似乎是后端开发的，问了不少Java 的八股，Java集合的内容很久没复习，忘得差不多了；并发编程是都没研究过- 第一次面试，有些紧张，NameNode和DateNode、线程和进程 这些嘴瓢都说乱了，面试官人挺好的，还在安慰我别紧张#我的实习求职记录##美团##大数据开发#

#牛客解忧铺##牛客在线求职答疑中心##你觉得今年春招回暖了吗##面经##大数据开发#附加信息：211本+985硕（非计算机），笔试4出头的分数，面了90分钟，面试官人超好，奈何本人过菜1、部门介绍2、自我介绍3、项目介绍，在项目中承担什么角色，如何完成工作大数据相关：4、对大数据开发的理解5、知道什么常用的大数据开发组件6、谈谈MapReduce的原理7、谈谈shuffle的实现方法8、对spark有什么理解？为什么Spark的运行速度快MySQL相关：9、对索引的理解10、索引的数据结构是什么？有什么好处？11、数据库设计三范式12、常用的数据引擎有什么？InnDB有哪些优势？13、sql题：计算排名14、sql题：用户净增长15、sql题：用户留存率16、sql题：表格转置17、反问

一面：自我介绍hdfs架构，读写流程mr的shuffle，mr和spark的区别sqoop和flume的应用场景项目数仓分层，各层干了什么维度建模理论了解调优吗数据倾斜两道sql，连续登录和好友数量反问二面：自我介绍拷打项目建模理论sql，分组topk，行转列窗口函数介绍排序方式了解哪些，order by有几个reduce文件存储格式反问感恩脉脉，我要为脉脉当牛做马#面经##大数据开发#

    2023年4月，大数据开发面试笔记V3.0发布，过去已经两个月，V4.0终于来了，这次主要新增了企业级调优手法以及数据湖基础等内容。如今面试越来越难，常常会被问到大数据的前沿知识比如数据湖，以及企业级调优手段有哪些等，于是我结合自己在大厂的工作经历进行了补充，最终汇聚成一份全面的大数据开发面试笔记。    此笔记包含大数据开发、Java、计算机基础、数仓理论、常考SQL、大数据开发场景题、大厂面经合集、大厂SQL真题、企业级调优手法、数据湖基础等十大模块，并且所有内容会持续更新。第一部分 大数据开发HDFS...