准确性:描述数据是否与其对应的客观实体的特征相一致。完整性:描述数据是否存在缺失记录或缺失字段。一致性:描述同一实体的同一属性的值在不同的系统是否一致。有效性:描述数据是否满足用户定义的条件或在一定的域值范围内。唯一性:描述数据是否存在重复记录。及时性:描述数据的产生和供应是否及时。稳定性:描述数据的波动是否是稳定的，是否在其有效范围内。以上数据质量标准只是一些通用的规则，这些标准是可以根据数据的实际情况和业务要求进行扩展的，如交叉表校验等。
影响性分析的典型应用场景：某机构因业务系统升级，在“FINAL_ZENT”表中修改了字段：TRADE_ACCORD长度由8修改为6需要分析本次升级对后续相关系统的影响。对元数据“FINAL_ZENT”进行影响性分析，发现对下游DW层相关的表和ETL程序都有影响，IT部门定位到影响之后，及时修改下游的相应程序和表结构，避免了问题的发生。由此可见，数据的影响性分析有利于快速锁定元数据变更带来的影响，将可能发生的问题提前消灭在萌芽之中。
要提升数据质量，需要以问题数据为切入点，注重问题的分析、解决、跟踪、持续优化、知识积累，形成数据质量持续提升的闭环。
误区数据标准难落地
管理了多少元数据，是否应该用数据资产地漂亮地展示出来。
数据血缘分析的典型应用场景：某业务人员发现“月度营销分析”报表数据存在质量问题，于是向IT部门提出异议，技术人员通过元数据血缘分析发现“月度营销分析”报表受到上游FDM层四张不同的数据表的影响，从而快速定位问题的源头，低成本地解决问题。
数据资产检索服务为用户提供一键式资产检索服务，通过对关键字的匹配，数据资产门户检索出相关的数据资产集，用户可以根据所需，找到相关数据资产，可以查看数据资产的名称、创建者、业务语义、加工过程等详情，帮助其理解和使用数据。
数据资产管理的四个目标
发现了多少条问题数据，处理了多少条问题数据，是否应该有一个不断更新的统计数字来表示。
大数据标准体系
管理未来的数据，一定要从数据规划开始，从整个组织信息化的角度出发，规划组织统一的数据架构，制定出统一的数据标准。借业务系统新建、改造或重建的时机，在创建物理模型、建表、ETL开发、数据服务、数据使用等各个环节遵循统一的数据标准，从根本上提升数据质量。这也是最理想、效果最好的数据质量管理模式。
因为数据要能发挥其价值，关键在于其数据的质量的高低，高质量的数据是一切数据应用的基础。
在过去，国内大部分领先企业都陆续建设了ERP系统、人力资源系统、供应链管理系统、物流系统、电子商务系统、集成门户、协同办公、决策支持系统等各类信息化系统，这些系统在支撑企业经营活动的也带来了数据量的高速膨胀。随着数据积累逐渐增多，大部分企业在数据管理方面遇到了诸多挑战：
对建设数据标准的目的不明确。某些组织建设数据标准，其目的不是为了指导信息系统建设，提高数据质量，更容易地处理和交换数据，而是应付监管机构检查，因此需要的就是一堆标准文件和制度文件，根本就没有执行的计划。过分依赖咨询公司。一些组织没有建设数据标准的能力，因此请咨询公司来帮忙规划和执行。一旦咨询公司撤离，组织依然缺乏将这些标准落地的能力和条件。对数据标准化的难度估计不足。很多公司上来就说要做数据标准，却不知道数据标准的范围很大，很难以一个项目的方式都做完，而是一个持续化推进的长期过程，结果是客户越做遇到的阻力越大，困难越多，最后自己都没有信心了，转而把前期梳理的一堆成果束之高阁，这是最普遍的问题。缺乏落地的制度和流程规划。数据标准的落地，需要多个系统、部门的配合才能完成。如果只梳理出数据标准，但是没有规划如何落地的具体方案，缺乏技术、业务部门、系统开发商的支持，尤其是缺乏领导层的支持，是无论如何也不可能落地的。组织管理水平的不足：数据标准落地的长期性、复杂性、系统性的特点，决定了推动落地的组织机构的管理能力必须保持在很高的水平线上，且架构必须持续稳定，才能有序地不断推进。以上这些原因，导致数据标准化工作很难开展，更难取得较好的成效。数据标准化难落地，是数据治理行业的现状，不容回避。
技术元数据：库表结构、字段约束、数据模型、ETL程序、SQL程序等。
数据分析、报表等应用，因为数据问题而必须回溯来源和加工过程的次数，是否应该统计逐月下降的趋势；之前的回溯方式，和现在通过血缘管理更清楚地定位问题数据产生的环节，这两者之间进行对比，节省了客户多少时间和精力，是否应该有一个公平的评估，并提交给客户。
很显然，要管理好数据质量，仅有工具支撑是远远不够的，必须要组织架构、制度流程参与进来，做到数据的认责，数据的追责。
误区大而全的数据治理
提升数据质量，是数据治理最重要的目标之做数据质量管理，首先要弄清楚数据质量问题产生的根源大部分在于业务管理出了问题。
总结：数据治理既是技术部门的事，更是业务部门的事，一定要建立多方共同参与的组织架构和制度流程，数据治理的工作才能真正落实到人，不至于浮在表面。
数据质量问题根据部门、系统的排名，是否应该加在数据质量报告中，提供给决策层，帮助客户进行绩效考核。
元数据是从哪里来的？
元数据就相当于是数据的户口本和地，是数据治理的核心和基础。
当我们谈到数据质量管理的时候，我们必须要有一个数据质量评估的标准，有了这个标准，我们才能知道如何评估数据的质量，才能把数据质量量化，并知道改进的方向，比较改进后的效果。
数据资产与数据资产管理的定义
管理了多少数据资产，哪些来源，哪些主题，来自于什么数据源，是否应该用数据资产门户的方式展示出来。
在本文中，不再另外阐述数据治理的内容。ps：数据治理全景谱
这是一种理想的状态。话说回来，我们看看国内的情况，在金融业和一些大的企业，可能会建立专门的组织来负责数据治理工作，但是某些政府和中小型企业，他们出于成本的考虑，往往没有这方面的预算。这种时候就需要折衷考虑，让已有岗位上的人，兼职负责数据治理的某个流程或功能。这样会加大现有岗位人员的工作负担，但是不失为一种折衷的方式，重点是要责任到人。
误区客户需求不明确
第二个原因，是标准化推进过程中出了问题。这是我们重点阐述的原因，主要有以下几种情况：
很多客户一说到数据治理，马上就说我们有很多数据标准，但是这些标准却统统没有落地，我们要先做数据标准的落地。数据标准真正落地了，数据质量自然就好了。
很多数据治理的项目难验收，客户往往有疑问：你们做数据治理究竟干了些啥？看你们汇报说干了一大堆事情，我们怎么什么都看不到？发生这种情况，原因往往有前面误区一所说的客户需求不明确，误区三所说的做了大而全的数据治理而难以收尾等，但还有一个原因不容忽视，那就是没有让客户感知到数据治理的成果。用户缺乏对数据治理成果的感知，导致数据治理缺乏存在感，特别是用户方的领导决策层，自然不会痛快地对项目进行验收。
未来数据
元数据管理，是数据治理的核心和基础。
数据质量管理的目标
怎么引导客户呢？这里要引入一个众所周知的概念：二八原则。实际上，二八原则在数据治理中同样适用：80%的数据业务，其实是靠20%的数据在支撑；同样的，80%的数据质量问题，其实是由那20%的系统和人产生的。在数据治理的过程中，如果能找出这20%的数据，和这20%的系统和人，毫无疑问，将会起到事半功倍的效果。
业内通常把元数据分为以下类型：
如果一个组织根据劣质的数据分析业务、进行决策，那还不如没有数据，因为通过错误的数据分析出的结果往往会带来“精确的误导”，对于任何组织来说，这种“精确误导”都无异于一场灾难。
数据标准的落地和实施。
数据质量评估的标准
当你拿着一堆历史问题数据，找信息系统的负责人给你整改，对方通常不会给你好脸色看，可能会以“当前的数据问题都处理不过来，哪有时间给你处理历史数据的问题”为理由，拒你以千里之外。这时候你即便是找领导协调，一般也起不到太大的作用，因为这确实是现实情况：一个组织的历史数据通常是经年累月的积累，已经是海量的规模，很难一一处理。
当前数据
源系统改造：对源系统的改造是数据标准落地最直接的方式，有助于控制未来数据的质量，但工作量与难度都较高，现实中往往不会选择这种方式，例如有客户编号这个字段，涉及多个系统，范围广、重要程度高、影响大，一旦修改该字段，会涉及到相关的系统都需要修改。但是也不是完全不可行，可以借系统改造，重新上线的机会，对相关源系统的数据进行部分的对标落地。数据中心落地：根据数据标准要求建设数据中心，源系统数据与数据中心做好映射，保证传输到数据中心的数据为标准化后的数据。这种方式的可行性较高，是绝大多数组织的选择。数据接口标准化：对已有的系统间的数据传输接口进行改造，让数据在系统间进行传输的时候，全部遵循数据标准。这也是一种可行的方法。
第二类是对于新上线的系统，是完全可以要求其数据项严格按照数据标准落地的。
诸如此类的应用，限于篇幅，不一一列举。
数据资产管理者必须掌握数据资产的全局情况，包括拥有哪些数据资产、数据资产分布在哪里、数据资产的质量情况、数据资产的使用情况等。数据资产管理者通过对数据资产的合理授权，控制数据资产的使用。
根据统计，数据科学家和数据分析员每天有30%的时间浪费在了辨别数据是否是“坏数据”上，在数据质量不高的环境下，做数据分析可谓是战战兢兢。可见数据质量问题已经严重影响了组织业务的正常运营。通过科学的数据质量管理，持续地提升数据质量，已经成为组织内刻不容缓的优先任务。
元数据查看
以某张表的血缘关系为例，血缘分析展示如下信息：
元数据产生于从数据生产、数据接入、数据加工、数据服务到数据应用的各个环节，整体上可以分为三类：技术元数据、业务元数据和管理元数据。
我们有哪些数据？
一是大家对数据标准工作的不重视。
在这张关于数据的地中，我们可以知道：
根据全国信息技术标准化技术委员会大数据标准工作组制定的大数据标准体系，大数据的标准体系框架共由七个类别的标准组成，分别为：基础标准、数据标准、技术标准、平台和工具标准、管理标准、安全和隐私标准、行业应用标准。本文主要阐述其中的第二个类别：数据标准。
就算是花很大精力梳理，也很难看到效果，结果往往是客户只看到了一堆Word和Excel文档，时间一长，谁也不会再去关心这些陈旧的文档。这是最普遍的问题。
笔者在与很多客户做数据治理交流的时候，发现大部分客户认识不到数据质量问题发生的根本原因，只想从技术维度单方面来解决数据问题，这样的思维方式导致客户在规划数据治理的时候，根本没有考虑到建立一个涵盖技术组、业务组的强有力的组织架构，能有效执行的制度流程，导致效果大打折扣。
为什么这篇文章的标题中有“不忘初心方得始终”这几个字呢。因为最开始的关系型数据库时代，做数据治理最主要的目的，就是为了提升数据质量，让报表、分析、应用更加准确。时至今日，虽然数据治理的范畴扩大了很多，我们开始讲数据资产管理、知识谱、自动化的数据治理等等概念，但是提升数据的质量，依然是数据治理最重要的目标之
04数据治理之数据质量管理
元数据管理的其他应用
误区数据治理是技术部门的事
元数据是描述数据的数据。
一是制定的数据标准本身有问题。有些标准一味地追求先进，向行业领先看齐，标准大而全，脱离实际的数据情况，导致很难落地。
“数据资源”。这个特征表明了数据资产的存在形态，是以物理或者电子方式记录下来的数据。
辛辛苦苦建立起来平台，业务和技术人员通力合作，配置好了数据质量的检核规则，也找出来了一大堆的数据质量问题，然后呢？半年之后，一年之后，同样的数据质量问题依旧存在。
建立了多少条清洗数据的规则，清洗了多少类数据，是否应该用表展示出来。
哪些数据经常被引用？哪些数据无人光顾？
一方面治理推广工作没人做，流程能否坚持执行得不到保障。另一方面没有相关的数据治理培训，导致大家对数据治理的工作不重视，认为与我无关，从而导致整个数据治理项目注定会失败。建议大家在做数据治理的时候将组织架构放在第一位，有组织的存在，就会有人去思考这方面的工作，怎么去推动，持续把事情做好，以人为中心的数据治理工作，才更容易推广落地。
元数据采集入库后，可以产生冷热度分析、血缘关系分析、影响性分析，数据资产地等应用。元数据管理可以让数据被描述得更加清晰，更容易被理解，被追溯，更容易评估其价值和影响力。元数据管理还可以大大促进信息在组织内外的共享。
数据质量管理的流程
数据质量管理主要解决“数据质量现状如何，谁来改进，如何提高，怎样考核”的问题。
大数据时代，数据成为社会和组织的宝贵资产，像工业时代的石油和电力一样驱动万物，然而如果石油的杂质太多，电流的电压不稳，数据的价值岂不是大打折扣，甚至根本不可用，不敢用，数据治理是大数据时代我们用好海量数据的必然选择。
要获取到元数据，需要采取多种方式，在采集方式上，使用包括数据库直连、接口、日志文件等技术手段，对结构化数据的数据字典、非结构化数据的元数据信息、业务指标、代码、数据加工过程等元数据信息进行自动化和手动采集。
数据标准的建设大致可以分成两个阶段：
做数据质量管理，首先要搞清楚数据质量问题产生的原因。原因有多方面，比如在技术、管理、流程方面都会碰到。但从根本上来时，数据质量问题产生的大部分原因在于业务上，也就是管理不善。许多表面上的技术问题，深究下去，其实还是业务问题。
但大家都知道，数据治理是一项长期而繁杂的工作，可以说是大数据领域中的脏活累活，很多时候数据治理厂商做了很多工作，但客户却认为没有看到什么成果。大部分数据治理咨询项目都能交上一份让客户足够满意的答卷，但是当把咨询成果落地到实处的时候，因为种种原因，很可能是另一番截然不同的风景。如何避免这种情况发生，是每一个做数据治理的企业都值得深思的问题。
03数据治理之元数据管理
血缘分析指的是取到数据的血缘关系，以历史事实的方式记录数据的来源，处理过程等。
这一章节我们主要讲元数据的几个典型的应用。
为什么我们说元数据管理是数据治理的核心和基础？为什么在做数据治理的时候要先做元数据管理？它的地位为何如此特殊？
如何应对这些难题
但数据标准的落地，也就是数据标准化，其实一定要注意分情况进行，至少要分两种情形：
数据标准这个词，最早是在金融行业，特别是银行业的数据治理中开始使用的。数据标准工作一直是数据治理中的基础性重要内容。但是对于数据标准，不同的人却有不同的看法：
误区工具是万能的
数据资产管理是数据中台面向企业提供数据能力的一个窗口，数据资产中心将企业的数据资产统一管理起来，实现数据资产的可见、可懂、可用、可运营。
数据之间有什么关系？
数据血缘分析对于用户具有重要的价值，如：当在数据分析中发现问题数据的时候，可以依赖血缘关系，追根溯源，快速地定位到问题数据的来源和加工流程，减少分析的时间和难度。
数据资产门户
数据质量问题逐月减少的趋势，是否应该用趋势展现出来。
要做数据标准，我们首先需要全面梳理数据标准。而数据标准的全面梳理，范围很大，包括国家标准，行业标准，组织内部的标准等等，需要花费很大的精力，甚至都可以单独立一个项目来做。首先需要让客户看到梳理数据标准的广度和难度。
在做数据质量管理过程中，我们要充分考虑到现状，对历史数据、当前数据、未来数据分别制定不同的处理策略。
其实客户很多时候并不是没需求，只是需求相对比较笼统，模糊不清晰，双方可以花费一定的时间和精力找到真正目标，磨刀不误砍柴工，这样才不致于后续花更多的钱来交学费。
有一位国外的数据治理专家说得好，DataGovernanceisgovernanceofpeople;Databehaveswhatpeoplebehave。翻译过来就是：数据治理是对人的行为的治理。对于组织而言，无论是企业还是政府，数据治理实质上是一项覆盖全员的、有关数据的“变革管理”，会涉及到组织架构，管理流程的变革。
在讲数据资产管理之前，首先需要厘清数据资产和数据资产管理的概念，区分数据和数据资产的区别。
02数据治理有哪些误区？
我们要根据组织架构，建立一套数据质量评估的标准和数据质量管理的流程。
数据血缘和影响性分析主要解决“数据之间有什么关系”的问题。因其重要价值，有的厂商会从元数据管理中单独提取出来，作为一个独立的重要功能。但是笔者考虑到数据血缘和影响性分析其实是来自于元数据信息，所以还是放在元数据管理中来描述。
企业也好，政府也好，从来不是生活在真空之中，而是被社会紧紧地包裹。解决任何棘手的问题，都必须考虑到社会因素的影响，做适当的取舍。
造成这种问题的原因有两个：
先看一张元数据管理的整体功能架构，有了元数据，我们能做些什么，从这张里一目了然：
在激烈的市场竞争下，大数据厂商提出来数据治理的各种理念，有的提出覆盖数据全生命周期的数据治理，有的提出以用户为中心的自服务化数据治理，有的提出减少人工干预、节省成本的基于人工智能的自动化数据治理，在面对这些概念的时候，我们一方面要对数据现状有清晰的认识，对数据治理的目标有明确的诉求，另一方面还要知道数据治理中各种常见的误区，跨越这些陷阱，才能把数据治理工作真正落到实处，项目取得成效，做到数据更准确，数据更好取，数据更好用，真正地用数据提升业务水平。
管理元数据：数据所有者、数据质量定责、数据安全等级等。
那么难道就没有更好的办法了吗？——对于历史数据问题的处理，我们可以发挥技术人员的优势，用数据清洗的办法来解决，对于实在清洗不了的，我们要让决策者判断投入和产出的效益比，结果往往是需要接受这种现状。
很多客户都认为，数据治理就是花一些钱，买一些工具，认为工具就是一个过滤器，过滤器做好了，数据从中间一过，就没问题了。结果是：一方面功能越做越多，另一方面实际上线后，功能复杂，用户不愿意用。
数据分布在哪里？
在大数据平台中，元数据贯穿大数据平台数据流动的全过程，主要包括数据源元数据、数据加工处理过程元数据、数据主题库专题库元数据、服务层元数据、应用层元数据等。下以一个数据中心为例，展示了元数据的分布范围：
但殊不知广义上的数据治理是一个很大的概念，包括很多内容，想在一个项目里就做完通常是不可能的，而是需要分期分批地实施，所以厂商如果屈从于客户的这种想法，很容易导致最后哪个也做不好，用不起来。我们需要引导客户，从最核心的系统，最重要的数据开始做数据治理。
数据质量问题产生的根源
数据标准化的难题
从这个定义可以看出，数据资产管理的目的是通过一系列手段，以控制、保护、交付和提高数据资产的价值。
从业务角度着手解决数据质量问题，重要的是建立一套科学、可行的数据质量评估标准和管理流程。
在我看来，在数据治理的项目需求阶段，就应该坚持业务价值导向，把数据治理的目的定位在有效地对数据资产进行管理，确保其准确、可信、可感知、可理解、易获取，为大数据应用和领导决策提供数据支撑。并且在这个过程中，一定要重视并设计数据治理的可视化呈现效果，诸如：
这些数据分别是什么类型？
为什么数据质量问题如此重要？
元数据本身的数据结构也是需要被定义和规范的，定义和规范元数据的就是元模型，国际上元模型的标准是CWM，一个成熟的元数据管理工具，需要支持CWM标准。
数据资产地
数据治理的理论和实践不断向前发展，但数据质量管理始终是数据治理的初衷，也是最重要的目的。下面从数据质量管理的目标，质量问题产生的根源，质量评估标准，质量管理流程，质量管理的取与舍几个方面进行阐述。
如何制定数据标准
关于数据标准认识的几个误区
以上这些都是提升数据治理存在感的手段。除了这些之外，时常组织交流和培训，引导客户认识到数据治理的重要性，让客户真正认识到数据治理工作对他们业务的促进作用，逐步转移数据治理的能力给客户等，这些都是平时需要注意的工作。
元数据对比分析。对相似的元数据进行比对。
一类是已经上线运行的系统，对于这部分信息系统，由于历史原因，很难进行数据标准的落地。因为改造已有系统，除了成本以外，往往还会带来不可知的巨大风险。
现场的实施和运维也非常重要，尽管数据治理有向自动化的方向发展的趋势，但是到目前为止，数据治理更多还是一种服务工作，而不仅仅是一套产品。配置足够强的实施顾问和实施人员，帮助客户逐步打造自身的数据治理能力，是一项非常重要的工作。
有了元数据，我们能做些什么？
随着大数据时代的到来，人们已经认识到数据是一种无形的宝贵资产，谷歌、Facebook、阿里巴巴、腾讯等企业市值高达数千亿美元，不仅在于其独特的商业模式和市场垄断地位，更多的估值是给予了其拥有的海量用户数据里所蕴含的巨大价值。对于数据的拥有者和管理者来说，通过对数据的合理管理和有效应用，能盘活并充分释放数据的巨大价值。
本文沿用的中国信通院对数据资产管理的定义是：规划、控制和提供数据及信息资产的一组业务职能，包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序，从而控制、保护、交付和提高数据资产的价值。
DAMA和DCMM对数据治理的定义都是：数据治理是指对数据资产管理行使权力和控制的活动集合。传统的数据治理内容通常包含：数据标准管理、元数据管理、数据质量管理、数据安全管理、数据生命周期管理等内容。
何为数据标准，各相关组织并没有统一的，各方都认可的定义。结合各家对数据标准的阐述，从数据治理的角度出发，我尝试着给数据标准做一个定义：数据标准是对数据的表达、格式及定义的一致约定，包含数据业务属性、技术属性和管理属性的统一定义；数据标准的目的，是为了使组织内外部使用和交换的数据是一致的，准确的。
总结
但这种说法其实混淆了数据标准和数据标准化。首先要明白一个道理：数据标准是一定要做的，但是数据标准化，也就是数据标准的落地，则需要分情况实施。
但数据问题产生的原因，往往是业务>技术。可以说大部分的数据质量问题，都是来自于业务，如：数据来源渠道多，责任不明确，导致同一份数据在不同的信息系统有不同的表述；业务需求不清晰，数据填报不规范或缺失，等等。很多表面上的技术问题，如ETL过程中某代号变更导致数据加工出错，影响报表中的数据正确性等，在本质上其实还是业务管理的不规范。
其实上面的想法是一种简单化的思维，数据治理本身包含很多的内容，组织架构、制度流程、成熟工具、现场实施和运维，这四项缺一不可，工具只是其中一部分内容。大家在做数据治理最容易忽视的就是组织架构和人员配置，但实际上所有的活动流程、制度规范都需要人来执行、落实和推动，没有对人员的安排，后续工作很难得到保障。
元数据到底是个啥？
这其实还是要追溯到我们在误区二里谈到的：要建立组织架构和制度流程，否则数据治理工作中的种种事情，没有人负责，没有人去做。总结：数据质量问题的解决，要形成每一个环节都有确定责任人的闭环机制和反馈机制。
正因为其太过理想化，所以这种模式几乎是见不到的。在实践中，我们往往还是需要更多地考虑如何把数据标准落地到已有的系统和大数据平台中。
数据资产地
应对以上这些难题，最经济、最理想的模式当然是：做大数据建设，首先做标准，再做大数据平台，数据仓库等。但一般的不大可能有这样的认识，很多时候大家都是先建设再治理。先把信息系统、数据中心建好，然后标准有问题，质量不高，再建数据标准，但实际上这时候已经是回过头来做一些亡羊补牢的事情，客户的投资肯定有一部分是浪费。
中国信通院联合多家企业于2019年6月发布了《数据资产管理实践白皮书0》，其中将数据资产定义为：由企业拥有或控制的、能够为企业带来未来经济利益的、以物理或者电子方式记录的数据资源，如文件资料、电子数据等。
数据标准是否能顺利落地，还与负责数据治理的部门所获得的权限直接相关，倘若没有领导的授权和强力支持，你是无论如何无法推动“书同文车同轨”的，要做到这一点，请先确认你背后站着说一不二的秦始皇，或者你本身就是秦始皇。别抱怨，这就是每个做数据治理的团队面临的现状。
误区你们好像什么也没做？
业务元数据：业务指标、业务代码、业务术语等。
所有的这些信息，都可以从元数据中找到。如果我们要做数据治理，但是手里却没有掌握这张地，做数据治理就犹如是瞎子摸象。后续的文章中我们要讲到的数据资产管理，知识谱，其实它们大部分也是建立在元数据之上的。所以我们说：元数据是一个组织内的数据地，它是数据治理的核心和基础。
当前数据的问题，需要从我们通过前面第四个章节讲过的梳理和发现问题，分析问题，解决问题，问题认责、跟踪和评估等几个流程环节来解决，管理过程中必须严格遵循流程，避免脏数据继续流到数据分析和应用环节。
有人认为数据标准极其重要，只要制定好了数据标准，所有数据相关的工作依标进行，数据治理大部分目标就水到渠成了。
在金融业，或者像国家安全等一些特殊行业，数据标准的执行力度较好，而在政府和普通企业，数据标准基本上就是一种摆设。
总结：记住，做数据治理不是去逛逛shoppingmall，选几样称心应手的工具回来就万事大吉了。开展好数据治理不能迷信工具，组织架构、制度流程、现场的实施和运维也非常重要，缺一不可。
总结
这样，通过对不同时期数据的不同处理方式，能做到事前预防、事中监控、事后改善，从根本上解决数据质量问题。
发生这种问题的根源在于没有形成数据质量问责的闭环。要做到数据质量问题的问责，首先需要做到数据质量问题的定责。定责的基本原则是：谁生产，谁负责。数据是从谁那里出来的，谁负责处理数据质量问题。
首先亮明作者的观点：这两种看法都是不对的，至少是片面的。实际上，数据标准工作是一项复杂的，涉及面广的，系统性的，长期性的工作。它既不能快速地发挥作用，迅速解决掉数据治理中的大部分问题，同时也肯定不是完全没有作用，最后只剩下一堆文档——如果数据标准工作的结局真是如此，那只能说明这项工作没有做好，没有落到实处。本文主要的目的，就是分析为什么会出现这种情况，以及如何应对。而首先需要做的是厘清数据标准的定义。
数据标准好制定，但是数据标准落地相对就困难多了。国内的数据标准化工作发展了那么多年，各个行业，各个组织都在建设自己的数据标准，但是你很少听到哪个组织大张旗鼓地宣传自己的数据标准工作多么出色，换句话说，做数据标准取得显著效果的案例并不多。为什么会出现这种情况，主要有两个原因：
企业的数据标准来源非常丰富，有外部的监管要求，行业的通用标准，同时也必须考虑到企业内部数据的实际情况，梳理其中的业务指标、数据项、代码等，将以上的所有的来源都纳入数据标准是没有必要的，数据标准的范围应该主要集中在企业业务最核心的数据部分，有的企业也称作关键业务数据或核心数据，只要制定出这些核心数据的标准，就能够支撑企业数据质量、主数据管理、数据分析等需要。
数据资产用什么方式对上层应用提供服务，这些对外服务是如何管控的，谁使用了数据，用了多少数据，是否应该用形化的方式进行统计和展现。
总结：数据治理工作，一定要先摸清楚数据的家底，规划好路线，切忌一上来就搭平台。
误区数据质量问题找出来了，然后呢？
客户既然请厂商来帮助自己做数据治理，必定是看到了自己的数据存在种种问题。但是做什么，怎么做，做多大的范围，先做什么后做什么，达到什么样的目标，业务部门、技术部门、厂商之间如何配合做……很多客户其实并没有想清楚自已真正想解决的问题。数据治理，难在找到一个切入点。
05数据治理之数据标准管理
让我们想象一下，一位将军要去打仗，他必不可少，必须要掌握的信息是什么？对，是战场的地。很难相信手里没有军事地的一位将军能打胜仗。而元数据就相当于是所有数据的一张地。
总结：传统的数据治理工作不重视效果的呈现，我们做数据治理工作，一定要从需求开始，就想办法让客户直观地看到成果。
元数据采集是指获取数据生命周期中的元数据，对元数据进行组织，然后将元数据写入数据库中的过程。
《数据资产管理实践白皮书0》中对数据资产管理的定义为：规划、控制和提供数据及信息资产的一组业务职能，包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序，从而控制、保护、交付和提高数据资产的价值。
数据资产地为用户提供多层次、多视角的数据资产形化呈现形式。数据资产地让用户用最直观的方式，掌握数据资产的概况，如数据总量、每日数据增量、数据资产质量的整体状况、数据资产的分类情况、数据资产的分布情况、数据资产的冷热度排名、各个业务域及系统之间的数据流动关系等。
在摸清家底的基础上，由专业的数据治理团队帮助客户设计切实可行的数据治理路线，双方取得一致的基础上，按照路线来执行数据治理工作。
总结：数据标准落地难是数据治理中的普遍性问题，实施过程中需要区要分遗留系统和新建系统，分别来执行不同的落地策略。
这么一类比，我们对元数据的概念可能就清楚很多了：元数据是数据的户口本。
第二个取舍：不同时间维度上的数据采取不同的处理方式。从时间维度上划分，数据主要有三类：未来数据、当前数据、历史数据。在解决不同种类的数据质量问题时，需要考虑取舍之道，采取不同的处理方式。
元数据是描述数据的数据，那么有没有描述元数据的数据？
用户之前找数据平均使用的时间，现在找数据平均需要的时间，是否能通过访谈的方式得到公平的结论，提交给客户。
元数据采集完成后，被组织成符合CWM模型的结构，存储在关系型数据库中。
有。描述元数据的数据叫元模型。元模型、元数据、数据之间的关系，可以用下面这张来描述。
从另一个角度来看：数据的新鲜度不同，其价值往往也有所区分。一般来说，历史数据的时间越久远，其价值越低。我们不应该把最重要的资源放在历史数据质量的提升上，而是应该更多地着眼于当前产生和未来即将产生的数据。
遇到这种情况，一句“宝宝心里苦，但宝宝不说”是无济于事的。一个项目从销售、售前、到组织团队实施，多少人付出了辛勤的汗水。重要的是让客户认识到项目的重要价值，最终为所有人的付出买单啊。
历史数据
从关于元数据的三个概念谈起，讲到元数据的分布范围和如何获取元数据，最后从几个常见的应用出发，谈谈元数据的一些实际应用场景。
目前业内认可的数据质量的标准有：
“能带来未来经济利益”。这个特征清楚地表明了在企业中，并非所有的数据都构成数据资产，数据资产是能够为企业产生价值的数据资源。
也有人认为数据标准几乎没什么用，做了大量的梳理，建设了一整套全面的标准，最后还不是被束之高阁，被人遗忘，几乎没有发挥任何作用。
可以说在业界，大家都为如何做好数据治理而感到困惑。
数据标准的定义
从这个定义可以看出，数据资产的三个特征为：
数据资产管理的现状和挑战
二是国内的企业做数据标准，动机往往不是为了做好数据治理，而是应付上级检查，很多都是请咨询公司，借鉴同行业企业的标准本地化修改而成，一旦咨询公司撤离，企业本身是没有数据标准落地的能力的。
要破解这个诅咒，我们不妨借用一个比喻来描述元数据：元数据是数据的户口本。让我们想想一个人的户口本是什么，是这个人的信息登记册：上面有这个人的姓名，年龄，性别、身份证号码，住址、原籍、何时从何地迁入等等，除了这些基本的描述信息之外，还有这个人和家人的血缘关系，比如说父子，兄妹等等。所有的这些信息加起来，构成对这个人的全面描述。那么所有的这些信息，我们都可以称之为这个人的元数据。
这种闭环不一定非要走线上流程，但是一定要做到每一个问题都有人负责，每一个问题都必须反馈处理方案，处理的效果最好是能够形成绩效评估，如通过排名的方式，来督促各责任人和责任部门处理数据质量问题。
事先确定好落地的范围：哪些数据标准需要落地，涉及到哪些IT系统，都是需要事先考虑好的。事先做好差异分析：现有的数据和数据标准之间，究竟存在哪些差异，这些差异有多大，做好差异性分析。事先做好影响性分析：如果这些数据标准落地了，会对哪些相关下游戏厅产生什么样的影响，这些影响是否可控。元数据管理中的影响性分析可以帮助用户确定影响的范围。制定落地的执行方案：执行方案要侧重于可落地性。不能落地的方案，最终只能被废弃。一个可落地的方案，要有组织架构和人员分工，每个人负责什么，如何考核，怎么监管，都是必须纳入执行方案中的内容。具体地执行落地方案：根据执行方案，进行数据标准落地执行。事后评估：事后需要跟踪、评估数据落地的效果如何，做对了哪些事，哪些做得不足，如何改进。
元数据统计分析。用于统计各类元数据的数量，如各类数据的种类，数量等，方便用户掌握元数据的汇总信息。
对于元模型的概念，我们不做深入的讨论。我们只需要知道下面这些：
元数据是一个相当抽象、不易理解的概念，所以第一个章节，我们先把元数据是什么搞懂。这一章节共提出三个概念。
一般来说，对于政府，会有国家或地方政府发文的数据标准管理办法，其中会详细规定相关的数据标准。所以在此主要讲企业如何制定数据标准。
数据质量管理的取与舍
在数据标准落地的过程中，需要做好6件事情，如下所示：
以笔者的经验来看，如果客户暂时想不清楚需求，建议先请厂商帮助自己做一个小型的咨询项目，通过专业的团队，大家一起找到切入点。这个咨询项目工作的重点应该是数据现状的调研。通过调研数据架构、现有的数据标准和执行情况，数据质量的现状和痛点，客户目前已经具有的数据治理能力现状等，来摸清楚数据的家底。
但如果数据的拥有者和管理者缺乏对数据的有效管理，数据就用不起来，或者即便用起来也用不好，在这种情况下，堆积如山的无序数据给企业带来的是高额的成本，数据成为一项棘手的“负债”。从这个角度来说，数据资产的管理能力，已经成为衡量一家企业能否成功的重要因素。
举个例子：你很难想像市经信委去跟市政府办公厅进行数据质量的问责。这与数据治理的建设方在整个大的组织体系中的话语权有很大的关系。这就是我们做数据治理必须接受的现实。遇到这种问题，我们只能迂回地做些事情，尽量弥补某个环节缺失带来的不利影响，比如和数据提供方一起建立起数据清洗的规则，对来源数据做清洗，尽量达到可用的标准。
数据资产管理与数据治理的关系
数据资产检索
近些年的发展来看，数据治理的目标正从“以质量管理为主”，过渡到“质量管理与服务并重”。基于上面的论述，作者认为，数据资产管理就是传统的数据治理的升级版，可以认为是数据治理0。数据资产管理与数据治理之间的关系可以用下来表示。
数据血缘和影响性分析
元数据变更管理。对元数据的变更历史进行查询，对变更前后的版本进行比对等等。
冷热度分析主要是对数据表的被使用情况进行统计，如：表与ETL程序、表与分析应用、表与其他表的关系情况等，从访问频次和业务需求角度出发，进行数据冷热度分析，用表的方式，展现表的重要性指数。
数据标准落地有三种形式：
同样的，如果我们要描述清楚一个实际的数据，以某张表为例，我们需要知道表名、表别名、表的所有者、数据存储的物理位置、主键、索引、表中有哪些字段、这张表与其他表之间的关系等等。所有的这些信息加起来，就是这张表的元数据。
但如何说服客户，从最重要的数据开始做起呢？这就是我们在误区一中谈到的：在没有摸清楚数据的家底之前，切忌贸然动手开始做。通过调研，分析，找出那20%的数据和20%的系统和人，提供真实可靠的分析报告，才有可能打动客户，让客户接受先从核心系统，核心数据开始做起，再渐渐覆盖到其他领域。
从上面两段描述看出，数据治理和数据资产管理的定义有异曲同工之处，它们围绕的对象都是数据资产。而中国信通院在《数据资产管理实践白皮书0》中阐述的数据资产管理八大职能中，诸如数据标准管理、元数据管理、数据质量管理、数据安全管理等，同时也属于传统数据治理的必要工作内容。数据资产管理在传统数据治理的基础上，加入了数据价值管理、数据共享管理等内容。
总结：做数据治理，不要贪大求全，而要从核心系统，重要的数据开始做起。
缺乏统一的数据视：数据资源分布在企业的多个业务系统中，分布在线上线下，甚至企业的内外部，由于缺乏统一的数据视，数据的管理人员和使用人员无法准确快速地找到自己需要的数据。数据管理人员也无法从宏观层面掌握自己拥有哪些数据资产，拥有多少数据资产，这些数据资产分布在哪里，变化情况怎么样。数据基础薄弱：大部分企业的数据基础还很薄弱，存在数据标准混乱、数据质量参差不齐、各业务系统之间数据孤岛化严重、没有进行数据资产的萃取等现象，阻碍了数据的有效应用。数据应用不足：受限于数据基础薄弱和应用能力不足，多数企业的数据应用刚刚起步，主要在精准营销、舆情感知和风险控制等有限场景中进行了一些探索，数据应用的深度不够，应用空间亟待开拓。数据价值难估：企业难以对数据给业务的贡献进行评估，从而难以像运营有形资产一样运营数据。产生这个问题的原因有两个：一是没有建立起合理的数据价值评估模型；二是数据价值跟企业的商业模式密不可分，在不同应用场景下，同一项数据资产的价值可能截然不同。缺乏安全的数据环境：随着数据的价值越来越得到全社会的广泛认可，针对数据的犯罪活动日渐猖獗，数据泄露、个人隐私受到伤害等现象层出不穷。很多数据犯罪是因为安全管理制度不完善、缺乏相应的数据安全管控措施导致的。数据管理浮于表面：没有建立一套符合数据驱动的组织管理制度和流程，没有建设先进的数据管理平台工具，导致数据管理工作很难落地。这些问题已经严重影响到数据价值的发挥，导致企业的数据越积越多，却逐渐成为企业的负担，大数据管理部门也成为企业的成本中心，而不是创新中心和利润部门。
一般是以树形结构组织元数据，按不同类型对元数据进行浏览和检索。如我们可以浏览表的结构、字段信息、数据模型、指标信息等。通过合理的权限分配，元数据查看可以大大提升信息在组织内的共享。
第一个取舍：数据质量管理流程。前面讲到的数据质量管理流程，是一个相对理想的状态，但是不同的组织内部，其实施的力度都是不同的，以数据追责为例：在企业内部推行还具有一定的可行性，但是在政府就很难适用。因为政府部门的大数据项目，牵头单位无论是谁，很可能没有相关的权限。
元数据管理中还有其他一些重要功能，如：
除了血缘分析之外，还有一种影响性分析，它能分析出数据的下游流向。当系统进行升级改造的时候，如果修改了数据结构、ETL程序等元数据信息，依赖数据的影响性分析，可以快速定位出元数据修改会影响到哪些下游系统，从而减少系统升级改造带来的风险。从上面的描述可以知道：数据影响性分析和血缘分析正好相反，血缘分析指向数据的上游来源，影响性分析指向数据的下游。
数据冷热度分析
文章为作者独立观点，不代表股票交易接口观点
相关文章
股民评论