大数据时代 如何让数据“资源化”
大数据的时代已经到来,并且大数据在未来的时间内将影响着政府、企业以及个人的工作与生活,在此环境下,数据将成为与人财物比肩的资源,面对如此宝贵的财富,如何让大数据发挥大价值已经成为政府、企业以及信息化厂商急需解决的问题,同方在国内率先提出数据资源体系的概念,通过数据资源体系让大数据发挥大价值。
如何发挥数据的价值
众所周知,大数据的时代已经到来,在大数据时代,数据的存储也好、数据的整合加工、分析挖掘也罢,都是为了使用数据,让数据发挥最大价值,现阶段在政府机关及企业中对数据进行挖掘分析让其发挥最大价值的方法主要有两种,一种是信息化程度较高,技术实力较强的政府机关或企业,通过自有的技术让数据发挥最大的价值,典型的代表如国外的沃尔玛、亚马逊、谷歌等公司,国内的阿里巴巴、百度等公司,这些公司在数据存储、整合加工、分析挖掘及应用方面有业内较好且领先的技术,但是所具有的技术都是为了满足自身业务发展的需要而开发设计,不对外公布;另一种是采用市场中主流的一些数据挖掘工具、数据分析工具、商业智能工具对已有的数据进行相关的挖掘、分析,让其产生价值,采用此类方法进行数据整合加工、分析挖掘的用户,可以达到初步的数据分析要求,但是由于其涉及的数据量巨大、数据种类众多、数据结构复杂、数据之间相互独立缺少关联关系、数据覆盖的业务面较广,仅是通过一些数据分析挖掘工具很难让已有数据发挥其最大价值。因此,让大数据发挥最大价值,不仅要采用数据分析挖掘等相关工具,更重要的是从数据的本质和数据所描述的业务出发,规划和整理数据,建立起数据之间相互的关联关系,并体系化对数据进行管理,才有可能让数据源源不断的、最大化的发挥其价值。
同方在大数据领域率先提出了数据资源体系的概念,数据资源体系的形成是对数据进行规划设计,围绕用户的核心目标,采用顶层设计的方法对核心目标进行层层的分解,形成可落实各层级目标的指标体系,并且以指标体系为基础,形成可描述业务、存储数据、描述数据的元数据体系,并且以元数据体系为指导,形成一套即可以满足用户各层级的应用需求,又能够让数据源源不断、最大化发挥价值的数据资源体系。
数据资源体系的形成,首先要对数据进行资源化,然后将数据资源进行体系化管理,下面将对数据资源体系的形成进行详细分析。
如何让数据“资源化”
首先,数据是资源,是可以与人、财、物比肩的资源,更进一步数据已形成与石油、煤炭等相当的战略资源,与其他资源相同,数据也需要采用科学的方法进行开采、挖掘才可能发挥出其应有的价值,与其他资源不同的是,数据是可再生、可重复利用的资源,并且只要通过科学的方法和技术对数据进行挖掘,就可以让数据源源不断的发挥他的价值。中国的信息化产业经过近几十年的发展,在各行业、各领域已经积累了大量的数据,据有关机构调查,这些已经产生的数据中95%以上的数据都存放在各自的存储设备或硬盘中,自产生之后就没有经过任何使用,一直属于沉睡状态,因此,这些数据也就不产生任何价值,也就不能称之为资源。对于此类数据如不能让其成为资源,并发挥价值,对于数据的拥有者来说,数据的存储与维护将会无止境的投入,这些无价值的投入将会给数据的拥有者带来巨大的负担,而这个负担又不能丢弃,必须由数据拥有者来承担,因为这些数据的拥有者始终认为,这些数据是其拥有的具有无限价值的资源,如何唤醒这些沉睡中的数据,并让其真正意义上成为资源是现阶段各行业、各领域的数据拥有者都在思考,并力争解决的问题。
对于以上问题的解决,首先需要将沉睡的数据唤醒,也就是将数据进行资源化,让其真正意义上成为数据资源,并将所形成的数据资源进行体系化管理,最终形成数据资源体系。分析以上问题,数据不能形成资源,不能发挥其价值的原因主要有以下两点:
第一、已经存在的数据相互独立,没有建立相互的关联关系,而数据价值的产生往往需要从多维度、多角度分析相关数据才可能会挖掘出其价值;
第二、数据的存储与使用缺乏统一的规划设计,已有的数据大多数来源于是已经建立的各类业务系统,而各业务系统都是为了满足各自业务板块的需要而建立,缺乏统一的规划和设计,因此,对于已有数据的存储和使用以及新生数据的存储和使用缺乏统一的规划和设计。
因此,将数据形成数据资源主要需要解决以上两个问题,对于数据的统一规划和设计同方采用顶层设计的方法,从用户的核心目标出发,站在全局的角度规划和设计数据采集、存储、整合加工、分析挖掘及应用等方面的标准和规则,并通过顶层设计的方法将核心目标自顶向下进行层层分解,分解为一系列具体的工作目标和工作任务,层层贯彻实施,并通过工作部署、跟踪、监测、评价、调整、反馈等一系列手段和措施,确保各项工作与核心目标保持一致,并且将已经产生或以后产生的数据规划到各层级目标及任务中,在此过程中,将纳入到规划体系内的数据通过指标和元数据的方法进行描述,将数据分解为“细粒度的数据元素+相对粗粒度的数据集及其组织结构描述”,把数据元素(最小的不可再分的信息单元)做为数据资源的最小描述与管理单位,基于各种数据元素的按需组合形成面向实际业务、管理、服务需要的数据集并对数据集的构成形式和组织关系提供统一规范的描述形式,形成粗粒度的资源管理单元,再把数据元素和数据集用资源管理的手段和方法组织在一起,实现数据的资源化。
如何让数据资源体系化
数据要发挥价值,首先是将数据形成资源,对于已经形成的数据资源只有通过科学的技术和方法进行管理和使用才可以不断的发挥数据资源的价值,在此过程中对于数据资源的不断使用,需要一个科学合理的管理和保障体系做支撑,才能让数据资源源源不断的发挥最大价值,因此需要将已形成的数据资源进行体系化管理,从而形成数据资源体系。
让数据资源体系化,首先对于体系的规划设计也要采用顶层设计的方法,围绕着组织的核心目标,将已经形成的数据资源进行规划和设计,将已经通过指标与元数据描述的数据资源按照统一的规划设计形成指标体系,并以指标体系为基础形成元数据体系,以指标体系、元数据体系为指导逐步完成数据的采集、整合加工、综合应用、共享发布、信息服务与推送等一系列数据资源生产的流程,从而将整个过程形成一套完整的体系,即数据资源体系。
数据资源体系让数据发挥价值
在形成的数据资源体系中,扩展是全方位的,指标可以通过扩充其属性来不断完善,并可以通过资源管理手段进行扩充和增加,以此支持数据元素级别的资源增长;而数据集更是可以随时按需创建,只要数据元素足够全面,针对每一业务需要都可以创建一个特定的数据集来全面支撑,这样就可以最大程度的满足各种不同的数据层面需求,从而最大程度发挥数据的价值。
小结
大数据时代已经来临,政府机关及企事业单位对于数据价值挖掘的需求也越来越多,发挥数据的价值,不仅仅是使用数据分析挖掘工具,更应该从对数据的规划设计做起,通过数据资源体系为数据源源不断发挥其最大价值打好最结实的基础,最终让大数据发挥数据的最大价值。
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 5 Pandas数学计算 importpandasaspdd=np.array([[81,&n ...
2024-11-23数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列的技能和能力,以确保能够有效地处理、分析和解释数据,从而支持业务决策。以下是数据分析师所需的主要 ...
2024-11-22需求持续增长 - 未来数据分析师需求将持续上升,企业对数据驱动决策的依赖加深。 - 预测到2025年,中国将需要高达220万的数据人 ...
2024-11-22《Python数据分析极简入门》 第2节 4 Pandas条件查询 在pandas中,可以使用条件筛选来选择满足特定条件的数据 importpanda ...
2024-11-22数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21