首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
在线笔面试、雇主品牌宣传
登录
/
注册
元中心蘑菇王
门头沟学院 数据分析师
发布于美国
关注
已关注
取消关注
repost
@蓦_然:
数据仓库面试题——介绍下数据仓库
可回答:对数据仓库的理解 问过的一些公司:京东,美团,网易,阿里(2021.09),网易有道(2021.10) 参考答案: 数据仓库的发展大致经历了这样的三个过程: 简单报表阶段:这个阶段,系统的主要目标是解决一些日常的工作中业务人员需要的报表,以及生成一些简单的能够帮助领导进行决策所 需要的汇总数据。大部分表现形式为数据库和前端报表工具。 数据集市阶段:这个阶段,主要是根据某个业务部门的需要,进行一定的数据的采集,整理,按照业务人员的需要,进行多维报表的展现,能够提供对特定业务指导的数据,并且能够提供特定的领导决策数据。 数据仓库阶段:这个阶段,主要是按照一定的数据模型,对整个企业的数据进行采集,整理,并且能够按照各个业务部门的需要,提供跨部门的,完全一致的业务报表数据,能够通过数据仓库生成对对业务具有指导性的数据,同时,为领导决策提供全面的数据支持。 首先,我们先来看下数据库、数据集市、数据仓库以及数据湖的概念。 1、什么是数据库? 数据库(Database)是按照一定格式和数据结构在计算机保存数据的软件,属于物理层。 最早期是广义上的数据库,这个阶段的数据库结构主要以层次或网状的为主,这是数据库的数据和程序间具备非常强的依赖性,应用有一定局限性。 我们现在所说的数据库一般指的是关系型数据库。关系数据库是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,具有结构化程度高,独立性强,冗余度低等优点。 关系型数据库主要用于联机事务处理OLTP(On-Line Transaction Processing),主要用于进行基本的、日常的事务处理,例如银行交易等场景。 2、什么是数据集市? 数据集市是一种微型的数据仓库,它通常是有更少的数据,更少的主题区域,以及更少的历史数据,如果数据仓库是企业级的,那数据集市就是部门级的,一般数据集市只能为某个局部范围内的管理人员服务。 3、什么是数据仓库? 数据仓库(Data Warehouse),可简写为DW或DWH。它是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。 数据仓库之父比尔·恩门于1990年提出数据仓库(Data Warehouse),数仓主要是为解决企业的数据集成与分析问题。数据仓库主要功能是将OLTP经年累月所累积的大量数据,通过数据仓库特有的数据储存架构进行OLAP,最终帮助决策者能快速有效地从大量数据中,分析出有价值的信息,提供决策支持。自从数据仓库出现之后,信息产业就开始从以关系型数据库为基础的运营式系统慢慢向决策支持系统发展。 一句话总结:数据仓库存在的意义在于对企业的所有数据进行汇总,为企业各个部门提供统一的, 规范的数据出口。 数据仓库相比数据库,主要有以下两个特点: 数据仓库是面向主题集成的。数据仓库是为了支撑各种业务而建立的,数据来自于分散的操作型数据。因此需要将所需数据从多个异构的数据源中抽取出来,进行加工与集成,按照主题进行重组,最终进入数据仓库。 数据仓库主要用于支撑企业决策分析,所涉及的数据操作主要是数据查询。因此数据仓库通过表结构优化、存储方式优化等方式提高查询速度、降低开销。 数据仓库与数据库的对比 维度 数据仓库 数据库 应用场景 OLAP OLTP 数据来源 多数据源 单数据源 数据标准化 非标准化Schema 高度标准化的静态Schema 数据读取优势 针对读操作进行优化 针对写操作进行优化 4、什么是数据湖? 在现在这个时代,数据对于企业而言,已经是一种重要资产。随着企业的不断发展,数据不断堆积,企业希望把生产经营中的所有相关数据都完整保存下来,进行有效管理与集中治理,挖掘和探索数据价值。而数据湖就应运而生。 数据湖是一个集中存储各类结构化和非结构化数据的大型数据仓库,它可以存储来自多个数据源、多种数据类型的原始数据,数据无需经过结构化处理,就可以进行存取、处理、分析和传输。数据湖能帮助企业快速完成异构数据源的联邦分析、挖掘和探索数据价值。 数据湖的本质,是由“数据存储架构+数据处理工具”组成的解决方案。 数据存储架构:要有足够的扩展性和可靠性,可以存储海量的任意类型的数据,包括结构化、半结构化和非结构化数据。 数据处理工具,则分为两大类: 第一类工具,聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。 第二类工具,关注如何对湖中的数据进行分析、挖掘、利用。数据湖需要具备完善的数据管理能力、多样化的数据分析能力、全面的数据生命周期管理能力、安全的数据获取和数据发布能力。如果没有这些数据治理工具,元数据缺失,湖里的数据质量就没法保障,最终会由数据湖变质为数据沼泽。 数据仓库和数据湖的不同类比于仓库和湖泊:仓库存储着来自特定来源的货物;而湖泊的水来自河流、溪流和其他来源,并且是原始数据。 数据湖与数据仓库的对比 维度 数据湖 数据仓库 应用场景 可以探索性分析所有类型的数据,包括机器学习、数据发现、特征分析、预测等 通过历史的结构化数据进行数据分析 使用成本 起步成本低,后期成本较高 起步成本高,后期成本较低 数据质量 包含大量原始数据,使用前需要清洗和标准化处理 质量高,可作为事实依据 适用对象 数据科学家、数据开发人员为主 业务分析师为主 5、数据仓库特点 1)数据仓库是面向主题的 数据仓库中的数据是按照一定的主题域进行组织的,每一个主题对应一个宏观的分析领域。数据仓库排除对于决策无用的数据,提供特定主题的简明视图。 举个例子: 比如说一个公司会有很多的部门,不同的部门都会去数据仓库拿数据,做自己要做的报表,我们把这一个部门或是某一个业务,也就是独立从我们数据仓库中获取数据的单元,把它称作为主题,也可以理解为一个主题就是一个部门。这个部门作为一个主题会从数据仓库总去获取数据,用于完成需要的报表。 2)数据仓库是集成的 数据仓库中的数据不是一开始就是在里面的,而是从各个分散的数据库中抽取出来的。但是有一个问题,就是这些来自不同数据库的数据会有重复和不一样的地方,如字段的同名异议、异名同义、单位不统一,字长不统一等。所以在集成的过程中,还要对数据进行清洗、规划、去敏等操作。 一句话就是,数据仓库是对企业内不同业务部门数据完整集合,而且还是处理过的数据。 3)数据仓库的数据是稳定的 数据仓库中的数据主要是为了给企业做决策时分析使用,涉及的主要是对数据的查询,一般情况下不会对数据进行修改,如果数据仓库中的历史数据超过存储期限,则会直接删除。 因为数据仓库涉及的操作主要是查询,所以它的系统要比数据库简单很多,但是数据仓库涉及到查询的数据量一般都很大,所以在数据查询就有更高的要求。 一句话记忆,数仓里不存在数据的更新和删除(不是指数据到期的删除)操作。 4)数据仓库中的数据是随时间变化而变化的 数据仓库中的数据不可更新是针对应用来说的,也就是说,数据仓库的用户进行分析处理是不进行数据更新操作的。但并不是说,在从数据集成输入数据仓库开始到最后被删除的整个生存周期中,所有的数据仓库数据都是永远不变的。 数据仓库的数据是随着时间变化而变化的主要表现如下: 数据仓库随着时间变化不断增加新的数据内容。数据仓库系统必须不断捕捉OLTP数据库中变化的数据,追加到数据仓库当中去,也就是要不断的生成OLTP数据库的快照,经统一集成增加到数据仓库中去;但对于确实不在变化的数据库快照,如果捕捉到新的变化数据,则只生成一个新的数据库快照增加进去,而不会对原有的数据库快照进行修改。 数据库随着时间变化不断删去旧的数据内容 。数据仓库内的数据也有存储期限,一旦过了这一期限,过期数据就要被删除。 数据仓库中包含有大量的综合数据,这些综合数据中很多跟时间有关,如数据经常按照时间段进行综合,或隔一定的时间片进行抽样等等。这些数据要随着时间的变化不断地进行从新综合。因此数据仓库的数据特征都包含时间项,以标明数据的历史时期。 一句话理解,数仓里会完整的记录某个对象在一段时期内的变化情况。
点赞 16
评论 1
全部评论
推荐
最新
楼层
还没有回复哦~
相关推荐
11-20 15:59
华中科技大学 光通信工程师
【面经】德州仪器销售技术工程师TSE
企业名称:德州仪器应聘岗位:技术销售工程师(TSE)offer状态:已签三方——————德州仪器(TI)是全球模拟芯片公司巨头,有业内“黄埔车校”之称。TSE更是销售岗里面试难度最大,同时薪酬待遇也基本最好。——————流程:群面-2面-3面1️⃣群面(9.12、线下)难度很大,是我经历群面里最慌张的一次。德州仪器tse群面和常规群面不太一样,包括在短时间迅速学习新知识+搭建/输出解决方案+面试官battle这三部分。最后会有英语提问环节,建议抢到机会作答。(只给两个人机会,我抢到了第一个),9进2。群面的形式有差别,但内核是一样的。一定抓住群面的目的:以团队形式输出解决方案。2️⃣2面(10...
查看5道真题和解析
非技术面试记录
牛客创作赏金赛
点赞
评论
收藏
分享
11-22 11:19
已编辑
门头沟学院 前端工程师
简历这样写真的很难挂
没有标题党哈,从我实习到现在,虽然简历也有挂过,但基本都是中小厂(很怪)。最近有好多牛u私信我说很多公司简历关过不去,私信询问简历应该怎么写怎么改,正好现在好多26届甚至27届的学弟学妹们都在准备日常实习,明年3月份开始也要准备暑期实习,简历这块感觉我也许有一些建议是大家都可以用到的。下面的话我会从整体到每个内容,再到一些细节点去给大家一些建议。每个模块都很细致!快快收藏起来!!!1.整体结构大部分的牛u应该都是比较正常的履历,可能没有竞赛,有些项目。所以这块应该是大家都适用的。对于没有实习经历的牛u,从上到下依次是:【个人信息】-【教育经历】-【项目经历】-【专业技能】-【社团和荣誉证书等其...
投递完美世界等公司10个岗位 >
我的上岸简历长这样
你的简历改到第几版了
点赞
评论
收藏
分享
10-21 14:00
第一拖拉机制造厂拖拉机学院 嵌入式软件工程师
今年工作怎么这么难找啊
HNU_fsq:
建议直接出国,这简历太6了。
自愧不如
点赞
评论
收藏
分享
11-11 09:31
香港中文大学 后端
“面试官出车祸了今天面试要取消了”
Hello_WordN:
咱就是说,除了生命其他都是小事,希望面试官平安,希望各位平时也多注意安全
点赞
评论
收藏
分享
11-20 16:11
深圳大学 C++
校招要不要进互联网大厂一定要想清楚!
我现在已经在这家大厂工作了一年,感受到了其中的种种挑战与压力,确实挺痛苦的。每一天都在思考,这样的选择是否真的适合我。希望大家在做决定时,能多想想自己的未来和内心的真实感受。
过关斩将结果败给排序:
其实我们双非,国企银行大概率进不了,互联网大厂已经是最好的去处了吧,中小厂不是更差
牛客创作赏金赛
点赞
评论
收藏
分享
点赞成功,聊一聊 >
点赞
收藏
评论
分享
回复帖子
提到的真题
返回内容
全站热榜
1
...
双非本科四年的总结
1.6W
2
...
sagima的阎良出差日记
1.3W
3
...
给正在秋招中枯燥的大家找个乐子听听吧,不被理解真的心寒
1.1W
4
...
简历这样写真的很难挂
9302
5
...
请大家警惕“总包”骗局!
5931
6
...
大哥爆发了?
3916
7
...
秋招可以暂告一个段落啦
3704
8
...
忙完了工作,又要毕业论文……
3528
9
...
领导让我以后别叫他哥
3368
10
...
有奖征集|我想知道,你在秋招中最难忘的一个瞬间
3185
正在热议
#
25届秋招总结
#
271394次浏览
2298人参与
#
如果实习可以转正,你会不会放弃秋招
#
205187次浏览
2793人参与
#
北方华创开奖
#
24051次浏览
261人参与
#
地方国企笔面经互助
#
3030次浏览
7人参与
#
学历or实习经历,哪个更重要
#
45349次浏览
344人参与
#
选完offer后,你后悔学本专业吗
#
14994次浏览
111人参与
#
0offer是寒冬太冷还是我太菜
#
890325次浏览
7945人参与
#
你觉得专业和学校哪个对薪资影响最大
#
28591次浏览
214人参与
#
查收我的offer竞争力报告
#
20535次浏览
259人参与
#
你最想要的公司福利是?
#
42681次浏览
152人参与
#
软开人,秋招你打算投哪些公司呢
#
40737次浏览
529人参与
#
如何一边实习一边秋招
#
988196次浏览
12614人参与
#
应届生被毁约被毁意向了怎么办
#
28612次浏览
244人参与
#
一觉醒来,我觉醒了超级打工人系统
#
3465次浏览
36人参与
#
当你面对裁员会如何?
#
26309次浏览
152人参与
#
来聊聊机械薪资天花板是哪家
#
66814次浏览
451人参与
#
没有实习经历,还有机会进大厂吗
#
807902次浏览
13863人参与
#
面试体验感最好的是哪家?
#
83924次浏览
820人参与
#
机械应届生薪资要多少才合适?
#
12597次浏览
61人参与
#
如何写一份好简历
#
606149次浏览
8529人参与
#
如果公司降薪,你会跳槽吗?
#
24962次浏览
237人参与
牛客网
牛客企业服务