大数据遭遇孤岛危机,困局该如何破
在大数据产业快速发展的今天,大数据应用仍然远远落后于大数据建设,而这种情况的最重要因素就在于存在各种形式的“壁垒”,无法实现充分的分享与流通,这也制约了大数据产业的发展潜力。那么,该如何实现突破呢?
大数据“壁垒” 制约产业发展 应如何实现突破?
不久前,在工业和信息化部位于北京万寿路的机关里,一个行业内部的会议——工业和信息化部大数据行业组织对接座谈会召开了。工信部软件司相关领导和来自全国的大数据相关行业组织代表30余人,一起研究讨论了在全国范围内开展大数据企业调查的具体行动步骤。这次会议的工作任务实施,将为我国全面开展完善大数据产业发展体系提供重要基础信息。
大数据企业发展良好 交易平台业已起步
当前我国大数据企业发展势头良好。去年底工信部发布《大数据产业发展规划(2016-2020年)》(以下简称《规划》)中提出,“加快大数据产业主体培育,培育一批大数据龙头企业和创新型中小企业,形成多层次、梯队化的创新主体和合理的产业布局,繁荣大数据生态”。在大数据资源建设、大数据技术、大数据应用领域涌现出一批新模式和新业态。龙头企业引领,上下游企业互动的产业格局已经初步形成。仅仅一两年的时间,我国的数据交易所从无到有,已经突破10家了。
在国外,数据流通产业始于2007年。随着大数据产业市场规模的迅速扩大,数据交易业务得到快速发展,涌现出微软数据市场、亚马逊公共数据集、甲骨文在线数据交易、富士通数据市场等一批知名数据服务商。这些公司有的专注于政府数据,有的提供多样的数据服务,形成了总体上丰富多样的数据交易市场。
而在我国,数据交易产业已经起步。2015年4月,国内第一家数据交易平台——贵阳大数据交易所正式上线。截至上个月,我国已经建成并运营的大数据交易所或交易平台已经超过10家。预计到2017年年中,这一数字将达到15~20家。可以说,平台建设正处在井喷期,而且平台的变现能力正在得到稳步提升。
壁垒让大数据“沉睡” 如开放将有重大利好
国际数据公司(IDC)的数据显示,按目前发展趋势,预计2020年全球大数据总存储量将达到44ZB(1ZB约等于10000亿GB)。我国数据总量为909EB(1EB约等于1000亿GB),占全球数据总量的13%。
目前数据层面的壁垒普遍存在于政企、企业间,业内人士表示针对现状普遍是通过购买和“爬虫”(自动获取网页内容的手段)的方式获取,但数据存在不准确、不全和非结构化等问题。
相关研究报告称,2017年国内大数据技术和服务市场的复合年增长率预计将达28%,市场规模约320亿美元。
但从国内看,以国有数据资源和公共数据资源为主的大量数据像“冰块”一样无法流动。据市场分析测算,政府掌握的直接和间接数据占总数据量的70%,其中大部分在公共基础设施、公共服务这块,比如医院、公交体系等。
中科院院士梅宏在此前接受采访时说,“一些掌握数据资源的机构或部门不愿、不敢、不会开放共享数据。”不愿,是因为觉得自己的数据很重要,要掌握在自己手上;不敢,是因为没有法律、标准支撑,担心数据安全;不会,则是受制于数据技术研发瓶颈。
业内人士指出,大数据时代的数据资源广泛散布于政府、行业、企业三个子系统中,其中,信息数据资源80%以上掌握在各级政府部门手里。而与此同时,区域部门间基本实现共享的省级地方仅占13%,区域部门间少量实现共享的地市和区县仅占32%和28%,信息共享和业务协同在地市和区县进展缓慢。
“如果更多数据可以开放,将会对产业转型、政务和公共服务效率提升等大有裨益。”上海至信普林科技有限公司总经理顾敏洁说,“比如中国人民银行上海总部自2006年起公开金融信息后,催生了一批金融信息咨询服务公司,其中还有5家上市公司,拉动的就业人数也非常可观。”
大数据“孤岛”如何实现突破?
2015年国务院印发的《促进大数据发展行动纲要》明确指出,要引导培育大数据交易市场,开展面向应用的数据交易市场试点,探索开展大数据衍生产品交易,鼓励产业链各环节的市场主体进行数据交换和交易,促进数据资源流通。这一文件从政策层面肯定了数据流通市场的地位,但数据资源交易机制和定价机制都还未明确,规范交易行为的举措都还在研究制定中。
要打通数据孤岛,一方面是技术上的革新和标准化的推进,同时包括数据安全领域建设。“在物联网时代,需要从政府等层面推进包括身份识别、信息安全系统等庞大的安全体系建设。”中关村大数据产业联盟秘书长赵国栋说。
全国信息安全标准化技术委员会大数据标准工作组成员张群介绍:“目前全国信息技术标准化技术委员会已推进获批了6项大数据领域的标准,包括了大数据技术参考模型、数据能力成熟度评价模型标准等。”
另一方面,在法律维度,立法推进的前提是明确数据权属。对此,赵国栋建议,可以参照土地管理的做法,将数据权属划分为所有权、处置权、使用权和收益权。“例如处置权应归国家,规定归档、删除的各种条件等。只有权属清楚才能推动法律保护。”
日前,大数据流通与交易技术国家工程实验室正式落户上海,该实验室由国家发改委批复成立,不仅是国家大数据产业创新体系的重要组成部分,也是进一步落实国家“十三五”战略布局,促进大数据产业健康发展的重要举措。
“大数据流通与交易技术国家工程实验室是国家在大数据流通领域部署的首个面向应用的创新型平台。”中国联通集团副总经理姜正新表示,该实验室将有力支撑国家重大战略任务和区域协同发展,提升大数据行业自主创新能力,解决我国大数据共享交换及交易流通不畅、标注不明、数据质量参差不齐等问题。
未来,政府与大数据行业、企业应着重解决基础性的标准、安全和技术等问题,这样大数据产业就一定可以走出“孤岛”,全面提升市场流通与交易的发展前景,为我国经济领域变革提供重要动能。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
考虑一种棘手的情况:训练数据中大部分样本没有标签。此时,我们可以考虑使用半监督学习方法来处理。半监督学习能够利用这些额 ...
2025-02-04一、数学函数 1、取整 =INT(数字) 2、求余数 =MOD(除数,被除数) 3、四舍五入 =ROUND(数字,保留小数位数) 4、取绝对值 =AB ...
2025-02-03作者:CDA持证人 余治国 一般各平台出薪资报告,都会哀嚎遍野。举个例子,去年某招聘平台发布《中国女性职场现状调查报告》, ...
2025-02-02真正的数据分析大神是什么样的呢?有人认为他们能轻松驾驭各种分析工具,能够从海量数据中找到潜在关联,或者一眼识别报告中的数 ...
2025-02-01现今社会,“转行”似乎成无数职场人无法回避的话题。但行业就像座围城:外行人看光鲜,内行人看心酸。数据分析这个行业,近几年 ...
2025-01-31本人基本情况: 学校及专业:厦门大学经济学院应用统计 实习经历:快手数据分析、字节数据分析、百度数据分析 Offer情况:北京 ...
2025-01-3001专家简介 徐杨老师,CDA数据科学研究院教研副总监,主要负责CDA认证项目以及机器学习/人工智能类课程的研发与授课,负责过中 ...
2025-01-29持证人简介 郭畅,CDA数据分析师二级持证人,安徽大学毕业,目前就职于徽商银行总行大数据部,两年工作经验,主要参与两项跨部 ...
2025-01-282025年刚开启,知乎上就出现了一个热帖: 2024年突然出现的经济下行,使各行各业都感觉到压力山大。有人说,大环境越来越不好了 ...
2025-01-27在数据分析的世界里,“对比”是一种简单且有效的方法。这就像两个女孩子穿同一款式的衣服,效果不一样。 很多人都听过“货比三 ...
2025-01-26数据指标体系 “数据为王”相信大家都听说过。当前,数据信息不再仅仅是传递的媒介,它成为了驱动经济发展的新燃料。对于企业而 ...
2025-01-26在职场中,当你遇到问题的时候,如果感到无从下手,或者抓不到重点,可能是因为你掌握的思维模型不够多。 一个好用的思维模型, ...
2025-01-25俗话说的好“文不如表,表不如图”,图的信息传达效率很高,是数据汇报、数据展示的重要手段。好的数据展示不仅需要有图,还要选 ...
2025-01-24数据分析报告至关重要 一份高质量的数据分析报告不仅能够揭示数据背后的真相,还能为企业决策者提供有价值的洞察和建议。 年薪70 ...
2025-01-24又到一年年终时,各位打工人也迎来了展示成果的关键时刻 —— 年终述职。一份出色的年终述职报告,不仅能全面呈现你的工作价值, ...
2025-01-23“用户旅程分析”概念 用户旅程图又叫做用户体验地图,它是用于描述用户在与产品或服务互动的过程中所经历的各个阶段、触点和情 ...
2025-01-22在竞争激烈的商业世界中,竞品分析对于企业的发展至关重要。今天,我们就来详细聊聊数据分析师写竞品分析的那些事儿。 一、明确 ...
2025-01-22在数据分析领域,Excel作为一种普及率极高且功能强大的工具,无疑为无数专业人士提供了便捷的解决方案。尽管Excel自带了丰富的功 ...
2025-01-17在这个瞬息万变的时代,许多人都在寻找能让他们脱颖而出的职业。而数据分析师,作为大数据和人工智能时代的热门职业,自然吸引了 ...
2025-01-14Python作为一门功能强大的编程语言,已经成为数据分析和可视化领域的重要工具。无论你是数据分析的新手,还是经验丰富的专业人士 ...
2025-01-10