数仓概念 :
数据仓库(英语: Data Warehouse,简称数仓、 DW) ,是一个用于存储、分析、报告的数据系统。
数据仓库的目的是构建面向分析的集成化数据环境,分析结果为企业提供决策支持(Decision Support)
数仓专注分析 :
数据仓库本身并不“生产”任何数据,其数据来源于不同外部系统;
同时数据仓库自身也不需要“消费”任何的数据,其结果开放给各个外部应用使用;
这也是为什么叫“仓库”,而不叫“工厂”的原因。
数据仓库为何而来,解决什么问题的?
为了分析数据而来,分析结果给企业决策提供支撑
联机事务处理系统(OLTP) :
OLAP:在线联机分析引擎
关系型数据库(RDBMS)是OLTP典型应用,比如: Oracle、 MySQL、 SQL Server等。
数据库也可以做数据分析,但是没必要,因为数据库是保证业务正常运行的
数据仓库面世 :
当分析所涉及数据规模较小的时候,在业务低峰期时可以在OLTP系统上开展直接分析。
但为了更好的进行各种规模的数据分析,同时也不影响OLTP系统运行,此时需要构建一个集成统一的数据分析平台。
该平台的目的很简单: 面向分析,支持分析,并且和OLTP系统解耦合。基于这种需求,数据仓库的雏形开始在企业中出现了
数据仓库的构建:
如数仓定义所说,数仓是一个用于存储、分析、报告的数据系统,目的是构建面向分析的集成化数据环境。我们把这种面向分析、支持分析的系统称之为OLAP(联机分析处理)系统。 当然, 数据仓库是OLAP系统的一种实现。
中国人寿保险公司就可以基于分析决策需求,构建数仓平台。
数仓主要特征 :
面向主题性(Subject-Oriented)
主题是一个抽象的概念,是较高层次上企业信息系统中的数据综合、归类并进行分析利用的抽象。在逻辑意义上,它是对应企业中某一宏观分析领域所涉及的分析对象。
传统OLTP系统对数据的划分并不适用于决策分析。而基于主题组织的数据则不同,它们被划分为各自独立的领域,每个领域有各自的逻辑内涵但互不交叉,在抽象层次上对数据进行完整、一致和准确的描述。
集成性(Integrated) :
主题相关的数据通常会分布在多个操作型系统中,彼此分散、独立、异构。
因此在数据进入数据仓库之前,必然要经过统一与综合,对数据进行抽取、清理、转换和汇总,这一步是数据仓库建设中最关键、最复杂的一步,所要完成的工作有:
(1)要统一源数据中所有矛盾之处;
如字段的同名异义、异名同义、单位不统一、字长不一致等等。
(2)进行数据综合和计算
数据仓库中的数据综合工作可以从原有数据库抽取数据时生成,但许多是在数据仓库内部生成的,即进入数据仓库以后进行综合生成的。
(3)下图说明了保险公司综合数据的简单处理过程,其中数据仓库中与“承保”主题有关的数据来自于多个不同的操作型系统。
这些系统内部数据的命名可能不同,数据格式也可能不同。把不同来源的数据存储到数据仓库之前,需要去除这些不一致
非易失性、非异变性(Non-Volatile) :
(1)数据仓库是分析数据的平台,而不是创造数据的平台。我们是通过数仓去分析数据中的规律,而不是去创造修改其中的规律。因此数据进入数据仓库后,它便稳定且不会改变。
(2)数据仓库的数据反映的是一段相当长的时间内历史数据的内容, 数据仓库的用户对数据的操作大多是数据查询或比较复杂的挖掘,一旦数据进入数据仓库以后,一般情况下被较长时间保留。
(3)数据仓库中一般有大量的查询操作,但修改和删除操作很少。
时变性(Time-Variant) :
(1)数据仓库包含各种粒度的历史数据,数据可能与某个特定日期、星期、月份、季度或者年份有关。
(2)当业务变化后会失去时效性。因此数据仓库的数据需要随着时间更新,以适应决策的需要。
(3)从这个角度讲,数据仓库建设是一个项目,更是一个过程 。
ETL,是英文Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。
SQL语言介绍 :
结构化查询语言(Structured Query Language)简称SQL, 是一种数据库查询和程序设计语言,用于存取数据以及查询、 更新和管理数据。
SQL语言使我们有能力访问数据库,并且SQL是一种ANSI(美国国家标准化组织)的标准计算机语言,各大数据库厂商在生产数据库软件的时候,几乎都会去支持SQL的语法,以使得用户在使用软件时更加容易上手,以及在不同厂商软件之间进行切换时更加适应,因为大家的SQL语法都差不多。
SQL语言功能很强,十分简洁,核心功能只用了9个动词。语法接近英语口语,所以,用户很容易学习和使用。
数仓与SQL :
虽然SQL语言本身是针对数据库软件设计的,但是在数据仓库领域,尤其是大数据数仓领域,很多数仓软件都会去支持SQL语法;
原因在于一是用户学习SQL成本低,二是SQL语言对于数据分析真的十分友好,爱不释手。
结构化数据 :
结构化数据也称作行数据,是由二维表结构来逻辑表达和实现的数据,严格地遵循数据格式与长度规范,主要通过关系型数据库进行存储和管理。
与结构化数据相对的是不适于由数据库二维表来表现的非结构化数据,包括所有格式的办公文档、 XML、 HTML、各类报表、图片和音频、视频信息等。通俗来说,结构化数据会有严格的行列对齐,便于解读与理解。