失眠网,内容丰富有趣,生活中的好帮手!
失眠网 > 大数据平台数据治理体系建设和管理方案

大数据平台数据治理体系建设和管理方案

时间:2022-01-26 14:28:36

相关推荐

大数据平台数据治理体系建设和管理方案

1.范围1

2.规范性引用文件1

3.术语、定义和缩略语5

4.总体说明8

4.1.概述8

4.2.目标9

4.3.原则9

5.数据治理体系10

5.1.总体框架10

5.2.组织架构11

5.2.1.组织构成11

5.2.2.角色职责12

5.3.系统架构13

5.3.1.系统功能框架13

5.3.2.系统模块流程14

5.4.系统边界15

5.4.1.与企业级省大数据平台关系16

5.4.2.与对外能力开放平台关系16

5.4.3.与平台运维系统关系16

6.数据治理核心模块17

6.1.数据标准管理17

6.1.1.背景17

6.1.2.错误!未定义书签。

6.1.3.目标及原则18

6.1.4.业务分类和定义18

6.1.5.技术功能要求22

6.1.6.本期建设范围及内容25

6.1.7.实施要求错误!未定义书签。

6.2.元数据管理26

6.2.1.背景和定义26

6.2.2.元数据运营模式27

6.2.3.元模型标准28

6.2.4.元数据运维32

6.2.5.本期重点建设内容32

6.3.数据质量管理33

6.3.1.与传统经营分析系统的区别33

6.3.2.范围和原则34

6.3.3.与其它功能模块的关系34

6.3.4.本期数据质量功能需求37

6.3.5.本期数据质量运维要求38

6.4.数据资产管理39

6.4.1.数据资产概述39

6.4.2.数据资产范围40

6.4.3.与其它功能模块的关系41

6.4.4.本期数据资产功能需求41

6.4.5.本期建设内容44

6.5.数据安全管理44

6.5.1.数据安全概述44

6.5.2.建设原则45

6.5.3.建设内容45

6.5.4.边界关系45

6.5.5.技术功能46

6.5.6.管理要求47

7.数据治理场景50

7.1.背景描述50

7.2.场景一:银行伪卡交易判别51

7.2.1.背景介绍51

7.2.2.场景描述51

7.3.场景二:银行手机贷业务52

7.3.1.背景介绍52

7.3.2.场景描述53

8.附录54

附录一:数据标准框架54

附录二:数据标准体系定义内容示例54

1.1. 概述

本规范用于指导企业级省大数据平台数据治理子系统建设,规定了省大数据平台数据治理的范围和要求,明确了数据治理子系统的体系结构,制定了数据治理子系统的功能和处理流程。数据治理子系统包含数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理等功能模块。本方案借鉴资产管理的方法理论来管理数据,将数据作为一种特殊的资产,对进入平台的数据进行标准化的规范约束,并以元数据作为驱动,连接数据的标准管理、数据质量管理、数据数据安全管理的各个阶段,形成统一、完善的数据治理体系,以解决实际业务问题为导向,增强数据治理子系统对业务发展的支撑能力。

1.2. 目标

数据治理子系统的建设为数据治理工作提供强有力的系统支撑。本期规范建设目标是以元数据为驱动,建立省大数据平台完整的数据治理体系。从组织架构、系统功能等方面增强数据宏观管控,并实现精细化管理,具体包括:

l 数据治理组织架构管理:定义数据治理所需人员组织上的岗位和职责,从管理角度支撑数据治理工作的落地和执行。

l 数据标准管理:建立企业级省大数据平台数据标准体系,并制定数据标准运维管控制度和流程。

l 元数据管理:降低元数据使用难度、提升用户体验,使大数据平台各类用户均能参与到元数据运营维护当中。

l 数据质量管理:为内、外部用户提供平台化的数据质量监控;通过扩充和优化公共规则库、保证数据的完整性、一致性、准确性、及时性、合法性,提升用户使用感知;并提供数据质量应用满足个性化需求。

l 数据资产管理:重点建设从规划、注册、运维到注销的全流程管理体系,使数据资产管理系统化、可视化。

l 数据安全管理:建立体系化的数据安全管控策略,通过用户安全管理、数据安全管理实现全方位数据安全管控机制,通过技术手段与管理措施相结合的方式落实数据安全,做到事前可管、事中可控、事后可查。

1.3. 原则

企业级省大数据平台数据治理子系统建设应遵循以下基本原则: 

1. 有效性原则

体现大数据平台数据治理过程中数据的标准、质量、价值、管控的有效性、高效性。

2. 价值化原则

体现数据治理过程中以数据资产为价值核心,最大化大数据平台的数据价值。 

3. 统一性原则

体现大数据平台架构统一、标准统一、元数据统一、质量流程统一、资产价值统一的一体化管控平台体系。

4. 开放性原则

体现平台化、开放性运维思想,实现人人参与数据治理、人人参与数据运维。

5. 产品化原则

体现大数据平台数据治理能力的显性化,通过产品化互联网思维服务大数据平台数据生态圈用户。

6. 安全性原则

体现安全的重要性、必要性,保障大数据平台数据安全和数据治理过程中数据的安全可控。

2. 数据治理体系

2.1. 总体框架

数据治理总体框架包括组织架构、数据治理模块、数据运维三部分。通过组织架构建立管理办法,制定工作流程,确定角色职责。数据治理模块主要包括数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理,各模块协同运营,确保大数据平台的数据一致、安全、有效。数据运维贯穿整个数据治理体系的流程中,实现平台化的运维管理思路。数据治理总体框架如图51所示:

图51数据治理体系框架

2.2. 组织架构

数据治理组织的构建旨在通过建立数据治理组织架构明确各级角色和职责,保障数据治理的各项管理办法、工作流程的实施,推送数据治理工作的有序开展。

2.2.1. 组织构成

数据治理组织架构主要由数据治理委员会、数据治理中心和各业务部门构成。组织架构划分和角色设定如图 52所示:

图 52 数据治理组织架构图

2.2.2. 角色职责

组织责任体系是数据治理责任落地的保障,数据治理组织架构通过明确各角色职责,实行认责制度,让数据治理工作更好的融入到数据日常使用和相关的工作中,从而推动数据运维自治的实现,如表5-1。

表5-1数据治理组织架构角色职责定义内容

组织结构

角色

角色描述

角色主要职责

数据治理委员会

数据管理决策者

由公司主管领导和各业务部门领导组成

负责牵头数据治理工作;制定数据治理的政策、标准、规则、流程,协调认责冲突;

对数据事实治理,保证数据的质量和隐私;

在数据出现质量问题时负责仲裁工作。

数据治理中心

数据平台运营者

数据管理中心机构的平台运营人员

负责提交数据标准的要求及数据质量规则和业务规范,解释数据的业务规则和含义;监督各项数据规则和规范的约束的落实情况;

负责数据治理平台中整体数据的管控流程制定和平台功能系统支撑的实施;

负责平台的整体运营、组织、协调。

各业务部门

数据提供者

相关数据开发提供人员

负责数据及相关系统的开发,有责任执行数据标准和数据质量内容;

负责从技术角度解决数据质量问题;

作为数据出现质量问题时的主要责任者。

数据维护者

数据维护人员

制定相关数据标准、数据制度和规则;

遵守和执行数据标准管控相关的流程,根据数据标准要求提供相关数据规范;

作为数据出现质量问题时的次要责任者。

数据消费者

数据使用人员,包含内部用户和外部用户

作为数据治理平台数据管控流程的最后参与使用者;

是数据资产价值的获益人;

作为数据治理平台数据闭环流程的发起人。

2.3. 系统架构

2.3.1. 系统功能框架

数据治理功能框架明确了数据治理在企业级省大数据平台中的定位,并以合理的功能层次划分指导数据治理系统相关功能建设。系统功能框架如图53所示。

文章引用的资料均通过互联网等公开渠道合法获取,仅作为行业交流和学习使用,并无任何商业目的。其版权归原资料作者或出版社所有,本文作者不对所涉及的版权问题承担任何法律责任。若版权方、出版社认为本文章侵权,请立即通知作者删除。

如果觉得《大数据平台数据治理体系建设和管理方案》对你有帮助,请点赞、收藏,并留下你的观点哦!

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。