首页
题库
公司真题
专项练习
面试题库
在线编程
面试
面试经验
AI 模拟面试
简历
求职
学习
基础学习课
实战项目课
求职辅导课
专栏&文章
竞赛
搜索
我要招人
发布职位
发布职位、邀约牛人
更多企业解决方案
在线笔面试、雇主品牌宣传
登录
/
注册
元中心蘑菇王
门头沟学院 数据分析师
发布于美国
关注
已关注
取消关注
repost
@蓦_然:
数据仓库面试题——介绍下数据仓库
可回答:对数据仓库的理解 问过的一些公司:京东,美团,网易,阿里(2021.09),网易有道(2021.10) 参考答案: 数据仓库的发展大致经历了这样的三个过程: 简单报表阶段:这个阶段,系统的主要目标是解决一些日常的工作中业务人员需要的报表,以及生成一些简单的能够帮助领导进行决策所 需要的汇总数据。大部分表现形式为数据库和前端报表工具。 数据集市阶段:这个阶段,主要是根据某个业务部门的需要,进行一定的数据的采集,整理,按照业务人员的需要,进行多维报表的展现,能够提供对特定业务指导的数据,并且能够提供特定的领导决策数据。 数据仓库阶段:这个阶段,主要是按照一定的数据模型,对整个企业的数据进行采集,整理,并且能够按照各个业务部门的需要,提供跨部门的,完全一致的业务报表数据,能够通过数据仓库生成对对业务具有指导性的数据,同时,为领导决策提供全面的数据支持。 首先,我们先来看下数据库、数据集市、数据仓库以及数据湖的概念。 1、什么是数据库? 数据库(Database)是按照一定格式和数据结构在计算机保存数据的软件,属于物理层。 最早期是广义上的数据库,这个阶段的数据库结构主要以层次或网状的为主,这是数据库的数据和程序间具备非常强的依赖性,应用有一定局限性。 我们现在所说的数据库一般指的是关系型数据库。关系数据库是指采用了关系模型来组织数据的数据库,其以行和列的形式存储数据,具有结构化程度高,独立性强,冗余度低等优点。 关系型数据库主要用于联机事务处理OLTP(On-Line Transaction Processing),主要用于进行基本的、日常的事务处理,例如银行交易等场景。 2、什么是数据集市? 数据集市是一种微型的数据仓库,它通常是有更少的数据,更少的主题区域,以及更少的历史数据,如果数据仓库是企业级的,那数据集市就是部门级的,一般数据集市只能为某个局部范围内的管理人员服务。 3、什么是数据仓库? 数据仓库(Data Warehouse),可简写为DW或DWH。它是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。 数据仓库之父比尔·恩门于1990年提出数据仓库(Data Warehouse),数仓主要是为解决企业的数据集成与分析问题。数据仓库主要功能是将OLTP经年累月所累积的大量数据,通过数据仓库特有的数据储存架构进行OLAP,最终帮助决策者能快速有效地从大量数据中,分析出有价值的信息,提供决策支持。自从数据仓库出现之后,信息产业就开始从以关系型数据库为基础的运营式系统慢慢向决策支持系统发展。 一句话总结:数据仓库存在的意义在于对企业的所有数据进行汇总,为企业各个部门提供统一的, 规范的数据出口。 数据仓库相比数据库,主要有以下两个特点: 数据仓库是面向主题集成的。数据仓库是为了支撑各种业务而建立的,数据来自于分散的操作型数据。因此需要将所需数据从多个异构的数据源中抽取出来,进行加工与集成,按照主题进行重组,最终进入数据仓库。 数据仓库主要用于支撑企业决策分析,所涉及的数据操作主要是数据查询。因此数据仓库通过表结构优化、存储方式优化等方式提高查询速度、降低开销。 数据仓库与数据库的对比 维度 数据仓库 数据库 应用场景 OLAP OLTP 数据来源 多数据源 单数据源 数据标准化 非标准化Schema 高度标准化的静态Schema 数据读取优势 针对读操作进行优化 针对写操作进行优化 4、什么是数据湖? 在现在这个时代,数据对于企业而言,已经是一种重要资产。随着企业的不断发展,数据不断堆积,企业希望把生产经营中的所有相关数据都完整保存下来,进行有效管理与集中治理,挖掘和探索数据价值。而数据湖就应运而生。 数据湖是一个集中存储各类结构化和非结构化数据的大型数据仓库,它可以存储来自多个数据源、多种数据类型的原始数据,数据无需经过结构化处理,就可以进行存取、处理、分析和传输。数据湖能帮助企业快速完成异构数据源的联邦分析、挖掘和探索数据价值。 数据湖的本质,是由“数据存储架构+数据处理工具”组成的解决方案。 数据存储架构:要有足够的扩展性和可靠性,可以存储海量的任意类型的数据,包括结构化、半结构化和非结构化数据。 数据处理工具,则分为两大类: 第一类工具,聚焦如何把数据“搬到”湖里。包括定义数据源、制定数据同步策略、移动数据、编制数据目录等。 第二类工具,关注如何对湖中的数据进行分析、挖掘、利用。数据湖需要具备完善的数据管理能力、多样化的数据分析能力、全面的数据生命周期管理能力、安全的数据获取和数据发布能力。如果没有这些数据治理工具,元数据缺失,湖里的数据质量就没法保障,最终会由数据湖变质为数据沼泽。 数据仓库和数据湖的不同类比于仓库和湖泊:仓库存储着来自特定来源的货物;而湖泊的水来自河流、溪流和其他来源,并且是原始数据。 数据湖与数据仓库的对比 维度 数据湖 数据仓库 应用场景 可以探索性分析所有类型的数据,包括机器学习、数据发现、特征分析、预测等 通过历史的结构化数据进行数据分析 使用成本 起步成本低,后期成本较高 起步成本高,后期成本较低 数据质量 包含大量原始数据,使用前需要清洗和标准化处理 质量高,可作为事实依据 适用对象 数据科学家、数据开发人员为主 业务分析师为主 5、数据仓库特点 1)数据仓库是面向主题的 数据仓库中的数据是按照一定的主题域进行组织的,每一个主题对应一个宏观的分析领域。数据仓库排除对于决策无用的数据,提供特定主题的简明视图。 举个例子: 比如说一个公司会有很多的部门,不同的部门都会去数据仓库拿数据,做自己要做的报表,我们把这一个部门或是某一个业务,也就是独立从我们数据仓库中获取数据的单元,把它称作为主题,也可以理解为一个主题就是一个部门。这个部门作为一个主题会从数据仓库总去获取数据,用于完成需要的报表。 2)数据仓库是集成的 数据仓库中的数据不是一开始就是在里面的,而是从各个分散的数据库中抽取出来的。但是有一个问题,就是这些来自不同数据库的数据会有重复和不一样的地方,如字段的同名异议、异名同义、单位不统一,字长不统一等。所以在集成的过程中,还要对数据进行清洗、规划、去敏等操作。 一句话就是,数据仓库是对企业内不同业务部门数据完整集合,而且还是处理过的数据。 3)数据仓库的数据是稳定的 数据仓库中的数据主要是为了给企业做决策时分析使用,涉及的主要是对数据的查询,一般情况下不会对数据进行修改,如果数据仓库中的历史数据超过存储期限,则会直接删除。 因为数据仓库涉及的操作主要是查询,所以它的系统要比数据库简单很多,但是数据仓库涉及到查询的数据量一般都很大,所以在数据查询就有更高的要求。 一句话记忆,数仓里不存在数据的更新和删除(不是指数据到期的删除)操作。 4)数据仓库中的数据是随时间变化而变化的 数据仓库中的数据不可更新是针对应用来说的,也就是说,数据仓库的用户进行分析处理是不进行数据更新操作的。但并不是说,在从数据集成输入数据仓库开始到最后被删除的整个生存周期中,所有的数据仓库数据都是永远不变的。 数据仓库的数据是随着时间变化而变化的主要表现如下: 数据仓库随着时间变化不断增加新的数据内容。数据仓库系统必须不断捕捉OLTP数据库中变化的数据,追加到数据仓库当中去,也就是要不断的生成OLTP数据库的快照,经统一集成增加到数据仓库中去;但对于确实不在变化的数据库快照,如果捕捉到新的变化数据,则只生成一个新的数据库快照增加进去,而不会对原有的数据库快照进行修改。 数据库随着时间变化不断删去旧的数据内容 。数据仓库内的数据也有存储期限,一旦过了这一期限,过期数据就要被删除。 数据仓库中包含有大量的综合数据,这些综合数据中很多跟时间有关,如数据经常按照时间段进行综合,或隔一定的时间片进行抽样等等。这些数据要随着时间的变化不断地进行从新综合。因此数据仓库的数据特征都包含时间项,以标明数据的历史时期。 一句话理解,数仓里会完整的记录某个对象在一段时期内的变化情况。
点赞 16
评论 1
全部评论
推荐
最新
楼层
还没有回复哦~
相关推荐
11-22 11:19
已编辑
门头沟学院 前端工程师
简历这样写真的很难挂
没有标题党哈,从我实习到现在,虽然简历也有挂过,但基本都是中小厂(很怪)。最近有好多牛u私信我说很多公司简历关过不去,私信询问简历应该怎么写怎么改,正好现在好多26届甚至27届的学弟学妹们都在准备日常实习,明年3月份开始也要准备暑期实习,简历这块感觉我也许有一些建议是大家都可以用到的。下面的话我会从整体到每个内容,再到一些细节点去给大家一些建议。每个模块都很细致!快快收藏起来!!!1.整体结构大部分的牛u应该都是比较正常的履历,可能没有竞赛,有些项目。所以这块应该是大家都适用的。对于没有实习经历的牛u,从上到下依次是:【个人信息】-【教育经历】-【项目经历】-【专业技能】-【社团和荣誉证书等其...
投递完美世界等公司10个岗位 >
我的上岸简历长这样
你的简历改到第几版了
点赞
评论
收藏
分享
不愿透露姓名的神秘牛友
11-26 18:54
秋招基本结束了…
说等下个版本吧的发呆爱好者很贪睡:
佬最后去了哪家呀
点赞
评论
收藏
分享
10-10 21:38
湖南文理学院 Web前端
哥们就先上岸了。各位加油
#你最希望上岸的公司是?# 四个月实习转正😍知无不言
改名许愿offer:
学院之光
你最希望上岸的公司是?
点赞
评论
收藏
分享
10-04 21:46
襄阳职业技术学院 Web前端
带专现状
为什么总碰到牛马
河和静子:
如果大专也能好过的话,我寒窗苦读几年的书不是白读了?
点赞
评论
收藏
分享
11-21 14:03
门头沟学院 C++
美团 vs 字节
鸡架岗,方向相同,都是ssp1、北京美团基研,实习转正,组内氛围很好,强度也不是很大。给的很有诚意,签字费和股票都基本拉满了。 2、北京字节data-STE,总包和美团持平,有签字费。背书应该更好,但组内氛围未知,担心landing… 楼主南方人,想工作几年跳回杭州,牛油们帮分析一下,也帮忙在评论区说下原因~
苗条的我希望offer多多:
认识实习的同学在字节,说基本没啥培养
offer帮选
offer决赛圈,我是怎么选的
点赞
评论
收藏
分享
点赞成功,聊一聊 >
点赞
收藏
评论
分享
回复帖子
提到的真题
返回内容
全站热榜
1
...
从露宿街头到百万级种子轮融资——我的大学时代经历了什么
2.4W
2
...
字节20多面终究一场空
1.6W
3
...
到了新公司,不要用力过猛
1.3W
4
...
C++选手秋招总结
1.2W
5
...
华为电话oc了
1.0W
6
...
寒假实习租房攻略!北京版
9458
7
...
华为
9311
8
...
泡出来啦
8865
9
...
放弃代码,结束秋招啦!
7916
10
...
秋招圆满结束
7417
正在热议
#
25届秋招总结
#
361811次浏览
3561人参与
#
如果再来一次,你还会选择这个工作吗?
#
93848次浏览
912人参与
#
阿里云管培生offer
#
43828次浏览
1017人参与
#
地方国企笔面经互助
#
5507次浏览
13人参与
#
我的实习求职记录
#
6093505次浏览
83747人参与
#
发工资后,你做的第一件事是什么
#
2753次浏览
9人参与
#
百度开奖
#
219857次浏览
1403人参与
#
ai智能作图
#
6085次浏览
105人参与
#
上班到公司第一件事做什么?
#
14306次浏览
162人参与
#
听到哪句话就代表面试稳了or挂了?
#
95628次浏览
806人参与
#
华为工作体验
#
108432次浏览
849人参与
#
如何写一份好简历
#
614551次浏览
8690人参与
#
如果有时光机,你最想去到哪个年纪?
#
25965次浏览
539人参与
#
如何一边实习一边秋招
#
1001116次浏览
12703人参与
#
当下环境,你会继续卷互联网,还是看其他行业机会
#
38282次浏览
346人参与
#
实习中的菜狗时刻
#
279344次浏览
2746人参与
#
国央企薪资爆料
#
15488次浏览
118人参与
#
腾讯求职进展汇总
#
202469次浏览
1674人参与
#
阿里求职进展汇总
#
71086次浏览
763人参与
#
牛客租房专区
#
951次浏览
63人参与
#
还记得你第一次面试吗?
#
26056次浏览
351人参与
#
上班苦还是上学苦呢?
#
93271次浏览
818人参与
牛客网
牛客企业服务