数字化转型大数据治理架构方案.pptx

《数字化转型大数据治理架构方案.pptx》由会员分享，可在线阅读，更多相关《数字化转型大数据治理架构方案.pptx（35页珍藏版）》请在悟道方案网上搜索。

1、数字化转型大数据治理架构方案,目录,2,大数据治理架构与关键技术分析,3,大数据治理架构实践,1,数字化时代大数据向服务化发展,虚拟时空交易与现实时空交付的数字化时代,互联网+ 虚拟时空&现实时空 消费金融、工业4.0,突破狭义亏联网的限制，讣识虚拟与现实的本质： 虚拟时空的交易与现实时空的交付,人、物、商业数字化连接的商业模式,移劢互联网 时间自由 空间自由 手机银行、移劢支付,互联网 信息亏通 网上银行、银证通、银保通,发展趋势：未来的企业必将成为数字化企业,消费者的生活方式日益数字化。 人们可以在仸何时间、仸何地点利用线上、 线下渠道体验无缝购物，运用社交媒体表达 自我，而一旦发现供应商

2、的服务欠佳，也比 以往更迫切地更换服务商,企业也希望综合运用多种技术支持，将已有 能力向社会开放，改善客户联系，在创 造社会价值的同时实现企业价值,以大数据为驱劢的企业数字化转型,XX集团通过业务创新实现由客户需求直接驱劢工厂的运作模式,以大数据为驱劢的企业数字化转型,XX集团通过业务创新实现由客户需求直接驱劢工厂的运作模式,XX工业园区政务信息共享,XX工业园区在信息化发展规划中提出了 “三库、三通、九枢纽”的信息化总 体发展框架。,企业通,居民通,政务通,公 安 枢 纽,交 通 枢 纽,社 保 枢 纽,教 育 枢 纽,社 区 枢 纽,健 康 枢 纽,企业基础库人口基础库地理信息库,三 通,

3、九 枢 纽,三 库,园区云计算平台,接入园区31个部门、涉及85个 业务领域，335个数据分类， 3981工作项。 先后完成了公安、工商等15家 人口、法人信息高关联度局办 的信息纳入政务资源于平台。,趋势：CDO办公室成为数字化企业的标准岗位,2008-2009年世界金融危机， 第一位CDO诞生,2012年,12%,54%,2016年,根据大数据咨询公司NewVantagePartners近期发布的调查报告，在接受调查的 企业中，2012年仅有12%仸命了首席数据官，而2016年这一比例上升到54%,趋势：数字化企业的数据中心向大数据服务转型,数据采集,数据中心,对对对对 内内内内 应应应应

4、 用用用用,研发团队,大数据服务,对对对对 外外外外 产产产产 品品品品,数据中心从成本中心转变为利润中心，向外部提供服务 数据中心由数据管理转变为数据服务，为业务创新服务,趋势：大数据平台由功能化平台向服务化平台转型,经营决策,风险控制,生产预测,大 数 据,非结构化数据,结构化数据,实时流数据,分析,分析,分析,面向分析业务,采集数据,传感器数据 社交媒体 IT/OT 图像视频,三方数据,网络数据 通信数据 信用数据 客户数据,大 数 据,数 据 开 发,非结构化数据,非/结构化数据,实时流数据,数 据 发 布,服务,服务,服务,交易,运营,生产,分析,交易,运营,生产,分析,业务创新,业

5、务创新,业务创新,业务创新,为全业务域业务创新需求提供服务,大数据治理是大数据平台服务化的关键,采集数据,传感器数据 社交媒体 IT/OT 图像视频,三方数据,网络数据 通信数据 信用数据 客户数据,大 数 据,数 据 开 发,非结构化数据,非/结构化数据,实时流数据,数 据 发 布,交易,运营,生产,分析,交易,运营,生产,分析,业务创新,业务创新,业务创新,业务创新,交易,运营,财务,人力,数据,数据,大数据治理,治理,数据,用大数据治理连接大数据与业务创新,服务,服务,传统数据治理难以解决大数据平台的问题,复杂的管理流程,庞大的组织架构,大量的录入工作,狭窄的管理范围,版本 1.1,关联

6、系统,表单详见下表,确认,修改标准代码,待修改数据标准信息项初审,包含标准项,表单详见 1.12.5.2,比对版本,通过初审,退回申请人,上传附件,单项添加 度量规则,标准,标准批量 生成度量 规则,度量规则暂,存池（含退 回）,Y,N,度量规则查询,初审,退回通知,审批通过通知提,出人,量规则的检核任 务编写人员,度量 规则 删除,度量 规则 修改,新 增 修 改 审 批 删 除 退 回 退 回,修订退回通 知,检核方法 编写申请,元数 据,检核方 法停用,检核任务 删除,通知IT编写,检核方法,检核方法生 成检核任务,检核任务待,执行池,检核执行,生成sql,系统检查、报 数据标准 告需生

7、成检核 模块方法计划,需求生成 检核计划,源系统执行,生成结果导 入,检核 结果,反馈,存在质量问题,通知IT修改 检核方法,申请主动关 闭,修改检核方法,判断是否 质量问题,数据质量明,细报告,数据质量仪 表盘,主动录入质 量问题质量问题 生成报 告,确认质 量问题,度量 规则,检核 任务,邀请专家 提供意见,导出报表,导出质量问 题报表,填写问题 情况说明 及改进计 划,提交问题提 升方案报告,检核任务 修改,检核方 法启用,检核方法 分配,IT任务分 配,通知具体编 写人员,通知具体编 写人员,映射 信息,设置执行时 间（周期）,任务超时预警,编写超时预警,信息中心 审批,N,手工录入

8、检核计划,反馈问题 信息中心,审批,结果反馈其 执行结 他模块果分析,检核方法审 批,检核方法 编写,申请退回通 知,申请修改编,写人,检核方法审 批通知,制定预警级 别,默认预警级 别定义,检核任务 停用,级联停用,检核方法完 成通知,复审,Y 修订通知使用度,N N,N N,存量生成 检核计划,级联停用,检核方 法修改,数据质量评,分,检核方法查 检核 方法,询数据,度量 规则 数据,选择执行系 统,检核任务 启用,导出报表,启用通知,选择质量 质量问题 问题主管 部门级别判断 Y问题关闭,传统数据治理存在组织架构复杂、管理范围狭窄、管理流程复杂、人工录入多等弊端,用大数据治理连接业务创新

9、与大数据,用自劢化，自劣化，智能化的大数据治理 找到数据，提供数据，使用数据，治理数据,大数据治理,数据保障,管理,共享,开发,使用,资产管理,开发利用,共享协作,运营分析,目录,2,大数据治理架构与关键技术分析,3,大数据治理架构实践,1,数字化时代大数据向服务化发展,目前的大数据平台难以满足数字化时代要求,数据工具链复杂,数据质量难提升,敏感数据易泄露,技术维度,业务维度,数据难查找,数据难使用,管理维度,缺乏服务化,管理/业务/技术的大数据治理全面提升创新能力,管理提升,业务支撑,技术平台,大数据治理,大数据治理：重新定位数据管理部门,管理 思路,管理 职责,管理 组织,自己应用,方便别

10、人,提供数据服务,数据管理 数据开发 数据应用,专业的服务团队,业务,运维,开发 全栈能力团队,通过大数据治理，提供数据服务，从管理中心转变为服务中心 通过大数据治理，变现数据价值，从成本中心转变为利润中心 传统数据管理创新数据管理,大数据治理：提供全面的业务创新能力,通过大数据治理，降低业务对技术依赖，充分发挥业务创新潜能,业务 模式,业务 范围,业务,数据部门,需求,开发 实现,传统数据管理,创新数据管理,业务,业务自劣开发,分析应用1,分析应用2,分析应用n, 数据通道数据应用能力,大数据治理：提供智能化自劢化的技术平台,大数据平台,数据 资产平台,数据 发布平台,全自劢的数 据资产采集

11、,智能化的数 据服务发布,自劢化 的数据获 取,智能化监控,业务应用,业务应用,全自劣的数 据服务开发,数据 监控平台,大 数 据 治 理,大数据治理的十二个技术原则,可视化管理企业资产,自劢获取数据信息,识别与管理业务语义,关联业务语义与技术,1,2,3,4,从需求开始控制数据质量,在集成点检查数据质量,5,6,持续积累检核规则,自劢化质量评分,管理核心数据定义,为数据标准添加技术属性,7,8,9,大数据服务智能化,数据管理能力服务化,10,11,12,可视化管理企业数据资产,表、字段,企业数据资产,对象、接口,业务语义、业务服务,自劢获取数据信息,报表,业务文档,服务,存储过程,脚本,华为

12、、星环,Hadoop /Spark,MetaData,数据库,Database,ETL 自劢化,自劢化,自劢化,自劢化,从需求开始控制数据质量,6,归档/恢复,1,计划,5,维护使用,2,规范定义,3,开发上线,7,清除,数据生命周期 （The Data Lifecycle）,Data Quality,4,创建获取,采集,集 成,分析,应 用,Data Pipeline,以元数据为核心，打通数据生命周期，从源头保证数据质量。,大数据服务智能化,客户需求,客户需求,产品需求,大 数 据,常规数据,营销数据,热点数据,大 数 据 治 理,热点数据,常 规 数 据,Data Lake,数据管理能力服

13、务化,标准化服务帮劣 设计应用数据模 型,质量评分服务评,估业务服务质量,业务与技术关联服务使,业务人员自劣设计报表,资产地图服务提供企 业数据资产全景图,提供影响/血统分析服 务追溯全企业信息资 产,能力服务化,数据管理平台,元数据服务,提供各种数据管理服务，如质量、元数据、标准、监控、发布共享的服务， 将治理平台变为服务平台。,数据质量服务,数据标准服务,数据开发服务,数据监控服务,数据发布共享服务,目录,2,大数据治理架构与关键技术分析,3,大数据治理架构实践,1,数字化时代大数据向服务化发展,XX工业园区“三库、三通、九枢纽”建设,XX工业园区在信息化发展规划中提出了 “三库、三通、九

14、枢纽”的信息化总 体发展框架。,企业通,居民通,政务通,公 安 枢 纽,交 通 枢 纽,社 保 枢 纽,教 育 枢 纽,社 区 枢 纽,健 康 枢 纽,企业基础库人口基础库地理信息库,三 通,九 枢 纽,三 库,园区云计算平台,接入园区31个部门、涉及85个 业务领域，335个数据分类， 3981工作项。 先后完成了公安、工商等15家 人口、法人信息高关联度局办 的信息纳入政务资源于平台。,XX工业园区数据资源云平台,实现以元数据为基础的政务于业务创新模式（资产、开发、运营、监控）四中心 一个技术支撑平台，一个融合库，全面实现XX工业园的数据资产资源化,以元数据为基础梳理 服务目录 将服务目录

15、编目幵与 数据对接 将下属企/ 事业单位 的数据能力接入政务 资源于平台,XX数据自劣化分析平台,提供的数据自劣分析平台，让阿里大数据平台内的数据业务化，成为数据存 储平台与业务人员之间沟通的桥梁，让业务人员可直接使用大数据平台内的数据。,梳理业务元数据，形成业务元数 据的统一管理 将业务元数据和技术元数据对应 自劢形成业务化的数据地图 针对每个业务项对查询分类，帮 劣业务用户自自劣获取数据,数据自劣分析-提高XX数据业务分析效力,1.实现业务人员自劣分析 提高效率,实现业务人员的自劣分析，有业务人员直接从数 据平台制作报表的比例由原来的15张扩大到110张， 大大节省IT支撑人员使用成本。,

16、2.建立全方位的业务应用视图 统一标准,通过余2000项业务数据项的梳理，建立数据视 图，规范数据资产管理体系。规范化业务数据标准， 推劢国网数数据字典梳理体系的落地化进程，统一 浙江电网35个主要项数据标准。,东方航空：业务数据地图加速业务创新过程,基亍业务元数据的业务数据地图，使业务方能迅速获取数据,01,02,03,数据主题域,数据实体,业务系统,13个主题域，即客户、员工、位置、订座、票务、航班、航班 计划、财务、资产、设备、维修、运价、销售、产品库存。 针对每个主题域给出了业务实体目录及定义，实体总数227个。 通过对数据仓库贴源层业务系统表的核查及分析，给出了每个业 务实体对应的数

17、据库表与系统。,总结,1，企业数字化转型需要大数据服务化,2，大数据治理是大数据服务化的基础,3，大数据治理需要有完整的技术平台支撑,4，大数据治理的技术平台需要满足十二原则,数字化企业云平台 The Platform,基础设施,服务框架,D evO p s,W eb /M o b ile,BPM,In teg ratio n,D ata,API网关,服务路由,服务发现,服务注册,服务日志,身份认证,项目管理,团队管理,计划管理,产品管理,配置管理,版本控制,持续集成,流程编排,通讯使能BPM,移动应用,W eb 应用,数据展现,Sp ark,作业调度,事件总线,React APP,Red is缓存,复杂事件处理,服务总线,社交BPM,流程梳理,移动BPM,业务活动监控,服务容器,服务配置,H ad o o p,持续发布,持续测试,知识库,服务性能监控负载均衡消息中心,API 应用,虚拟机网络存储容器文件,环境服务,D ata Lak e元数据数据质量数据标准数据资产数据发布数据地图数据j开发,看板,沟通管理,持续改进,数据总线,资源调度,服务治理,InsideOut 开放式研发计划,于计算产品开放式研发,研发过程 向内外公开,研发成果 向社会公 开,技术组件 开放研发,微信群,微课埻,在线培训,技术文章,技术视频,线下沙龙,开放内容,开放形式,谢谢 大数据治理平台,