大数据发展遇瓶颈 应用创新是王道
2016年5月12日-14日,第七届中国数据库技术大会(DTCC 2016)在北京国际会议中心拉开帷幕。作为国内数据库与大数据领域最大规模的技术盛宴,在为期三天的会议中,大会将围绕MySQL、NoSQL、Oracle、缓存技术、云端数据库、智能数据平台、大数据安全、数据治理、大数据和开源、大数据创业、大数据深度学习等领域的前瞻性热点话题与技术展开深入探讨,并邀请一大批国内顶尖的技术专家来进行分享,以满足广大从业人士和行业用户的迫切需要。
本届是大会创办以来,规模最大,参会人次、参展合作伙伴最多的一次盛会,云集了来自五湖四海的5000余名IT精英,相聚在这里,共话数据库技术发展潮流,共赴大数据浪潮之巅。在“大数据基础设施”专场,人大金仓大数据业务部总监白芸进行了题为《数据之道 笃行拓新》的主题演讲
作为数据库技术大会上为数不多的女嘉宾,而且又这么高颜值,那小编先818美女嘉宾简介吧——【毕业于中国人民大学信息学院,获得计算机及应用专业硕士学位。 毕业后进入北京人大金仓信息技术股份有限公司,参与金仓数据库产品的研发,曾任咨询服务部总监、产品中心总监,现任大数据业务部总监,负责大数据系列产品研发,以及大数据解决方案的咨询和实施服务。】
自主可控数据管理下的大数据业务
当前,“互联网+”、大数据、云计算成了各个传统行业追逐的焦点,在这些关键词的背后,无不体现着“网络强国”的宏观战略部署。随着大数据发展上升为国家战略,作为一个老牌国产数据库企业,人大金仓又是如何开展这项业务呢?白芸在数据库大会的演讲中介绍了人大金仓的大数据业务:
【解决方案】提供360度全景大数据解决方案,包括项目全流程支持—提供大数据规划、实施、运维全流程的技术支持;数据全生命周期管理—数据产生、获取、处理、存储、治理、分析、应用。
【核心产品】提供提供全栈大数据产品线,结合实际业务场景需求,形成最合适的大数据解决方案。全方位产品支撑:数据采集、存储管理、分析挖掘、数据利用。
产品包括——大数据平台KingbaseDP;数据资源管理平台KingbaseDRP;数据整合工具KingbaseDI;商业智能平台KingbaseSmartBI
【实施服务】依托专业服务实施团队,凭借多年数据领域经验,助理客户大数据应用顺利上线。
人大金仓大数据中心基础架构
先来看看传统数据仓库与大数据中心的差别,如下图:
接着是数据仓库向大数据中心的演进:集成大数据和数据仓库能力以增加数据资产价值,提高数据运营能力。低成本的高可靠硬件平台,采用x86平台可节省大量成本及后期维护费用;集成的数据采集平台提供对结构化、非结构化数据进行批量、实时的采集处理能力,并能提供无限制的扩展和高性能处理能力;优化海量数据存储于处理平台基于Hadoop技术的实现,优化的产品级海量数据存储于处理平台,实现对于各类大数据的低成本的存储和分析,具备无限制的扩展能力;增强的分析能力体系可在原来传统数据分析的基础上增加如文本、图像、视频等分析功能。
大数据中心基础架构图
在这里,小编只是截图了一个基础架构图示,具体的技术架构展示部分,可以到《DTCC2016数据库技术大会PPT文集》中查看或下载。
数据、技术、应用三层面分析大数据发展所遇瓶颈
在演讲结束后,小编对白芸进行了专访,在采访时问到目前国内政府大数据发展面临的诸多瓶颈,白芸从三个层面进行了分析。
“政府部门的数据来源于内部和外部。”从数据层面面临的困境看,政府内部数据其实远远不止局限各部门掌握的自身业务数据,还须清楚地认识到不同系统数据的内在关系,数据结构是否存有冗余,数据存储是否是“信息孤岛”。
此外,就外部数据而言,不同的政府部门在大数据建设过程中,究竟还需要哪些外部数据?外部数据通过什么方式获得?数据获取过程中需建立怎样的合理机制?在白芸看来,以上种种疑难都是政府大数据建设过程中考量的焦点。“比如,住建部门根据自身数据只能了解房屋的售出率,如需分析售房屋的空置率,或许就要参阅房屋的水表、电表信息,这就需要协调水务、电力等部门的数据。”
而在大数据的应用方面,白芸认为,现在很多应用场景并没能逃离以往的场景设计。“真正的大数据应用并不是仅仅根据现有数据绘制一份报表、一个曲线图,就能称之为大数据产品,这些依旧是一种传统的统计和数据分析。”
从数据到具体应用场景的实现过程,大数据技术的重要性自然不言而喻。而随着具体应用场景的细化和复杂度加深,数据操作方如何采集数据?如何对原始数据脱敏、加密?如何进行数据建模?白芸认为,这些挑战都需要在技术层面的不断加强。
总结
“目前,国内大数据行业在数据和技术方面发展程度与国外步伐相近,但与国外大数据应用方面还存在很大差距。”白芸在采访中说道。
随着国内信息化的进步以及系统替代人工进程加快,信息化将逐步解决业务加速和职能高效的问题。在此基础上,大数据应用也将呈现出从无到有、再到优化和增值的趋势。在这个过程中,应用方自然会探索自身业务产生的数据究竟有多少价值,还能创造多少价值。
数据分析咨询请扫描二维码
数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列的技能和能力,以确保能够有效地处理、分析和解释数据,从而支持业务决策。以下是数据分析师所需的主要 ...
2024-11-22需求持续增长 - 未来数据分析师需求将持续上升,企业对数据驱动决策的依赖加深。 - 预测到2025年,中国将需要高达220万的数据人 ...
2024-11-22《Python数据分析极简入门》 第2节 4 Pandas条件查询 在pandas中,可以使用条件筛选来选择满足特定条件的数据 importpanda ...
2024-11-22数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21大数据技术专业主要学习计算机科学、数学、统计学和信息技术等领域的基础理论和技能,旨在培养具备大数据处理、分析和应用能力的 ...
2024-11-21