网站配色教程,怎样免费做游戏代理,wordpress 接收询盘,定制建站方案简介#xff1a; 数据仓库概念从1990年提出#xff0c;经过了四个主要阶段。从最初的数据库演进到数据仓库#xff0c;到MPP架构#xff0c;到大数据时代的数据仓库#xff0c;再到今天的云原生的数据仓库。在不断的演进过程中#xff0c;数据仓库面临着不同的挑战。
作…简介 数据仓库概念从1990年提出经过了四个主要阶段。从最初的数据库演进到数据仓库到MPP架构到大数据时代的数据仓库再到今天的云原生的数据仓库。在不断的演进过程中数据仓库面临着不同的挑战。
作者 张良模 阿里云智能资深产品专家 谈到数据仓库我们往往容易忽略“数据”两个字阿里云有着很多业务场景和业务体系在这些数据应用之下我们如何管理数据的呢数据仓库是如何帮到我们以及它自身是如何演进的 数据仓库概念从1990年提出经过了四个主要阶段。从最初的数据库演进到数据仓库到MPP架构到大数据时代的数据仓库再到今天的云原生的数据仓库。在不断的演进过程中数据仓库面临着不同的挑战。 第一 启动成本高、建设周期长价值难以快速验证
对于数仓的建设人员面临的挑战是业务人员希望数仓建设周期能更短。而传统数据仓库往往要面临从采购服务器建立物理仓库到逻辑仓库等一个较长的周期所以数据仓库面临的第一个挑战就是怎样去降低建设周期。 第二 如何处理多样数据拥抱新技术充分挖掘数据价值
随着大数据的到来传统数据仓库管理的大多是结构化数据。如何对半结构化的数据进行统一全面的管理就成为传统数据仓库面临的第二个挑战。 第三 难以共享企业数据资产、数据创新成本高
数据仓库更加强调管理和安全在强调安全的情况下如何在组织里以及整个生态上下游中更好的共享和交换数据成为了新的挑战。例如在企业的部门间或业务间依然存在为数不少的数据孤岛数据共享成本高缺乏企业级别的统一的数据获取出口由此导致数据消费方获取数据困难难于自助分析严重依赖IT部门支持来满足企业更广泛的数据需求。 第四 平台架构复杂、运营成本高
随着数据处理种类的多样化和数据量的不断变大不同的技术被叠加在一起从而使得数据仓库架构变得越发复杂。同一企业里往往会同时存在各种技术类型的数据仓库。所以如何简化数据仓库的架构也是面临的一个重要挑战。一般需要投入专业团队负责管理复杂的数据平台同时对资源利用率不高的情况进行管理和治理。 第五 满足业务需要的扩展性、弹性、灵活性
业务快速发展的企业经常会有大促活动补数据处理非常规事件的需求如何快速扩展数仓性能提高业务峰谷的响应时效也带来很多挑战。 对于传统数据仓库面临的这些挑战在技术和业务的驱动下新型数据仓库如何应对呢这里可以看到六个主要的驱动力。 第一 我们希望有一个统一的数据平台能去连接去存储和处理多种数据。 第二 实时化企业基于数据驱动能实时对业务作出支撑和决策的信息这里有更高时效性的要求。 第三 数据量变得非常庞大在海量数据中如何找到想要的数据就需要有一张地图要对数据进行管理和治理。 第四 传统数据仓库中数据的存储采用集中的方式一定要把数据集中在同一个存储中。而在新的业务驱动下需要去连接数据而不是统一存储在一起。 第五 数据仓库之上如何支持更多智能化的应用信息化的业务以及业务的信息化等关系。这就是数仓智能化和智能化数仓的需求驱动力。 第六 数据领域的不同角色对数据平台有着不同需求。例如数据工程师数据分析人员数据科学家等他们对数据平台的响应时间处理速度数据量开发语言等有着不同的需求。所以更多的做好分析服务成为数据管理平台第六个驱动力。 据仓库在不断地演进过程中从30年前的概念来看已经注入了更多新的内涵。对于新的内涵我们可以从数据仓库的基础架构数据架构数据分析以及服务模型四个角度来明显看到云原生湖仓一体离线实时一体化、服务模型的SAAS化的演进趋势。 云原生 — 数仓基础架构的演进方向 云原生是数仓基础架构的一个基本的演进方向。传统数据仓库是基于物理服务器或云上托管服务器的模式。而云原生的情况下可以更多去应用云的基础服务包括存储服务网络服务以及更多的监控服务。这就意味着在云上用原生服务可以获得云的自服务、弹性等能力云数仓就可以更好的去集成更多的云上服务包括如何把日志数据从各种数据源抽取到数据仓库中也包括如何进行全链路的数据管理和机器学习等。所以云原生往往包含了如何构建和如何与云上服务原生的集成。 如图云原生的情况下在底层充分利用了云的弹性计算存储以及安全能力。在此之上可以看到我们把所有云的复杂性都屏蔽掉作为数据平台的用户只需开通服务通过web方式创建项目空间五分钟开通一个数据仓库进行数据仓库后面模型的开发。大大简化了服务交付的周期以及数据仓库整个底层架构技术架构构建过程。另一方面是云原生数仓的扩展性不管你提交了一个只需要1CU的作业还是提交一个可能需要10000CU的作业平台都会按你的需要调度资源来进行数据处理。所以云原生又给我们带来近乎无限的扩展性。 湖仓一体 — 数仓数据架构的演进方向 讲到湖仓一体先来看湖仓一体背后的原因。不得不说到今天为止数据仓库仍然是企业管理数据最优的解决方案。各个企业大都有自己的数据仓库只不过可能是基于不同的技术形态构建的数据仓库。在处理策略对语义的支持上对场景的优化上以及工程经验上数据仓库是目前沉淀下来的一个最优的方案。在此之上企业数据量越来越大需要更灵活更敏捷的数据探索能力。同时对未知数据存在先存储下来再进一步探索的诉求。由此企业在架构上需要融合数据分析的最优化和可探索两个方面的优势从处理策略到语义支持以及使用案例上数据仓库和数据湖分别带给企业不同的优势。数据仓库在易管理数据质量高而数据湖在可探索灵活性强方面为我们带来优势。我们要思考和讨论如何将两种方式结合起来共用这就是提出“湖仓一体”的背景。 在MaxCompute以数据仓库为主的场景下将数据仓库对数据管理的最优工程经验管理经验和数据湖对数据管理的灵活性数据处理的灵活性更好的结合在一起 2019年我们在全球率先提出了“湖仓一体”的全新数据管理架构。基于MaxCompute数据仓库来提供安全可靠的结构化的数据管理方式以及在此之上由DataWorks提供数据血缘数据地图和数据治理等能力。这些能力如何延伸到数据湖中今天我们可见的数据湖包括基于云上的对象存储OSS也包含企业中基于Hadoop HDFS的数据湖对于这两类数据湖如何基于已有的灵活性能够获得更容易探索能力能提升它们得数据处理性能管理能力和安全性 我们所做的就是把数据仓库和数据湖两者打通通过数据湖构建DLF发现数据湖的元数据进行结构化的统一管理融合湖的灵活和便捷优势。这就是以仓为中心的湖仓一体新型数据管理的架构数据仓库在企业数据的管理方式上往前又推进了一步。 离线实时一体 — 数仓数据分析的演进方向 在企业的数据仓库中通过SLS、Kafka等订阅的方式进行数据采集通常有三种路径。第一种可能是将一部分数据归档在数据仓库中然后进行全量的分析。第二种是进行实时的查询分析比如风控场景下查一个电话号码过去三年的通话记录要马上查出来就需要进行实时的连接分析。第三种是进行一些关联的多维度查询对这些实时数据等进行关联的基础上后面再来进行批量的处理实时处理以及点查。实时数据的获取计算以及应用这三方面构成了整个数仓由离线向实时发展的三个核心含义。这里最核心的就是计算。计算的本质无外乎两个一个是主动计算另一个是被动计算。离线计算往往是被动计算需要数仓工程师通过定义任务来调度作业才能计算出新的结果。在实时离线一体化中除了被动计算还要有主动计算能力。当数据流入后不做人工干预任何作业的插入和重启都能自动算出新的结果或中间结果。参与实时计算就最大程度的增加了主动计算的过程而主动的结果带给我们的好处就是无需重新调度任何作业就能拿到想要的结果数据。 在离线和实时一体的情况下虽然可以解决业务上的一些问题但架构会非常复杂。所以阿里云提出离线实时一体化的数仓架构。简化是说我们只需要核心的几个产品就可以实现离线和实时一体化的架构。数据源包括了交易数据以及各个服务器生成的人的行为数据和物的行为数据通过日志服务定期归档到Hologres,之后实时数仓加上流计算来进行实时计算然后在下面是全量的数仓整个完成了主动计算、被动计算和数据的实时获取。结果数据可以不用做任何搬迁直接通过Hologres来做实时分析。将实时的数据获取实时的数据计算和实时的数据分析服务三者打通为一体架构上做了最大程度的简化这就是今天所说的离线实时一体化的云数据仓库。 SaaS模式 — 数仓服务模式的演进方向 基于数仓基础架构、数据管理架构、数据分析架构的演进这些产品的服务是如何被交付的呢那就是通过SaaS化的方式向客户来交付数据仓库可以最简化的去使用数据仓库的服务。 数据仓库的构成有几种方式第一种是说基于物理服务器自建数据仓库这是大家最为熟悉的方式。第二种是在云上基于Hadoop也可以基于各种MPP的数据库去构建和搭建半托管的云上数据仓库。第三种和第四种就属于比较深的云原生的形式第三种是典型Snowflake的方式这种方式下云基础服务其实并不会暴露给数据仓库的管理者所以我们把它叫做嵌入式的将IaaS这一层嵌入到PaaS层中但最终数据仓库是通过SaaS的完全web的方式暴露出来的。2021年全球Forrester评测中有13家厂商参与了评估其中以SaaS模式交付数据仓库服务的只有三家分别是谷歌的BigQuerySnowflake和阿里云MaxCompute。 可以看到通过云计算的数据仓库服务从自建到云原生帮我们最大化的降低了数据仓库的管理复杂度整个架构少了很多层无需管理集群和软件通过服务化的方式达到免运维将底层的所有这些需管理的内容去掉后台升级是由云厂商来提供服务的只需要管理自己的数据和数据模型通过web方式来使用数据仓库服务。在数据仓库里存储的数据与云存储一样按存储量付费。计算也是一样的不计算不花钱。充分体现了SaaS化的优势。同时在匹配业务需求上具备非常强的弹性能力我们有很多客户日常只需要一万核的算力在双十一当天需要三万核的算力。在这种SaaS模式的服务下用户在完全无感知的情况下我们就可以保证充沛的弹性能力去满足数据仓库的各种工作需求了。 综上数据仓库从1990年的数据库演进到数据仓库到MPP架构到大数据时代的数据仓库再到今天的云原生的数据仓库的一路演进基础架构的云原生数据架构的湖仓一体数据分析的离线实时一体化以及数仓服务模式的SaaS化是最为主要的四个演进的方向和特征。 阿里云正在通过全新数据仓库架构给企业带来具备更优体验的数据管理的方式。
原文链接
本文为阿里云原创内容未经允许不得转载。
