今天,数据比以往任何时候都更加根植于我们生活中的每个角落。我们试图用数据去解决问题、改善福利,并且促成新的经济繁荣。伴随着数据处理能力的提 升、运算与储存成本的井喷及越来越多的设备中嵌入各种传感技术,数据的收集、储存与分析正处于一个近乎无限上升的趋势。2011年,有人估算全世界的人们 一年创造与复制的信息量超过了1.8泽字节,而到2013年,这个数字上升到了4泽字节。
每一天,全世界会上传超过5亿张图片,每分钟就有20小时时长的视频被分享。然而,即使是人们每天创造的全部信息——包括语音通话、电子邮件和信息在内的各种通信,以及上传的全部图片、视频与音乐,其信息量也无法匹及每一天所创造出的关于人们自身的数字信息量。
这样的趋势会持续下去。我们现在还处于所谓“物联网”的最初级阶段,而随着技术成熟,我们的设备、交通工具和迅速发展的“可穿戴”科技将能互相 连接与沟通。科技的进步已经使创造、捕捉和管理信息的成本降至2005年的六分之一,而从2005年起,用在硬件、软件、人才及服务之上的商业投资也增长 了整整50%,达到了4000亿美元。
大数据的定义有很多,对于计算机科学家、金融分析师亦或是力图争取风险投资的企业家,这个定义都不尽相同。大多数的定义反映出了一种捕获、总和 与分析更大规模、更高速、更多样的数据的技术能力。换句话说,“现在人们可以更快地获取数据,数据涵盖更广阔的领域,衡量数据的数量级也是过去所达不到 的。”更准确地说,大数据集就是“产生于设备、传感器、网络交易、电子邮件、视频、点击流等当今与未来各种可能的数码资源,更大、更多样、更复杂、更长纵 深的分散性数据集。”
不论我们如何定义大数据这种科技现象,大数据分析所具有的无限潜力都对我们的法律、伦理及社会规范发起了挑战,考验我们能否在大数据的世界中保 护隐私和其他价值观。前所未有的运算能力带给了我们不可思议的发现、创新,并推动着我们生活质量的进步。然而,大多数普通消费者却难以看到这种力量,所以 这也造成了掌握数据的人与有意无意间提供数据的人之间权力的不对等。所以,比“大数据是什么”更加重要的是,“大数据能做到什么“,以及个人与数据收集者 之间的关系。
那么,大数据的精彩之处究竟是什么?下文将界定什么是大数据真正创新、真正不同的东西。要研究大数据,我们需关注那些数量之庞大、种类之繁多、 传输速度之快使传统数据捕捉分析方式无法胜任的数据,这样的特征被约定俗称为“三个V”(规模Volume,种类Varity,速度Velocity)。 不断降低的收集、储存、处理数据成本,以及越来越多的新数据源如传感器、相机、定位装置等观察性设备的出现,使得我们如今身处于一个数据采集无处不在的世 界。数据的收集和处理量是前所未有的。可联网设备、可穿戴科技和高级传感器监测着从生命迹象到能量使用再到慢跑者步速的一切,这样的数据爆炸对运算能力提 出了更高的要求,也将会推动更复杂数据管理技术的发展。
数据不仅仅是更多了,它的来源也更加广泛,形式也更加多元。一些数据是“数码原生”的,就是说它本身就是由计算机或数据处理系统创造出来的数码 信息,比如电子邮件、网页浏览和GPS位置数据。另一些数据是“虚拟原生“的,也就是说它来自实体世界,但被人为转换成数码形式,比如手机、相机和录像机 等拍摄的音视频,或者可穿戴设备监测下的心率、排汗等物理活动数据。随着数据融合能力的增强,越来越多本不相干的数据被综合到一起,大数据将会带给人们非 同寻常的洞察力。
此外,数据收集与分析的速度正在逐渐趋于实时,这就意味着数据分析可以对人所处的环境产生即时的影响,甚至左右人们的选择。高速数据的典型实例 是记录用户与网页交互活动的点击流数据、移动设备上的GPS实时定位数据,及各种社交媒体上的用户分享。客户和公司都有更大的实时分析、实时受益的需求。 当然了,一个手机地图应用如果不能实时、准确地定位,显然就失去了它的意义;车载系统的实时运算也是保障我们行车安全的关键。
如果应用得当,大数据分析能提高经济效率、改进消费习惯、完善政府服务,甚至挽救人的生命。比如:
一、大数据与“物联网”的发展具有融合工业经济与信息经济的潜力。如今,我们可以在飞机引擎和货运汽车上装备传感器,监测各种数据,并在需要维修的时候发出自动警报。不仅可以降低维修成本,更能增强安全性。
二、医疗保险和医疗补助中心已经开始使用预测分析软件标记潜在的医保诈骗行为,防骗保系统帮助实时识别高危人群,已成功防止了涉及一亿一千五百万美元的诈骗性支取,在应用此技术的第一年,每1美元的投入就获得了3美元的收益。
三、一项大数据研究汇总了来自新生儿重症监护室的数百万数据样本,用以判断哪些新生儿更容易接受致命的感染。通过分析这些数据,这套系统不用等 值班医生注意,就能辨认出诸多感染发生的早期征兆,例如体温升高、心率加速等等。在传统实践中,有些早期征兆是经验丰富的医师也难以注意到的。
大数据技术还在其他很多领域拥有不可限量的前景,如按需管理电网、改善能源效率、增加发展中国国家农产量,防止传染病传播等等。
新机遇也带来了新挑战。大数据科技从庞大的数据集中获取价值,赋予了研究者以往无法想象的洞察力。当然,大数据的技术力量如此广泛与深远,我们 也需要关注它对社会伦理造成的挑战。历史学家克朗兹伯格(Melvin Kranzberg)在他的《科技第一法则》中写道:“科技本身非善非恶,但它也不是中立的。”我们应该时刻记住,科技既可以为公众谋福利,也可能对人造 成伤害。关键就是,如何在机遇与挑战间寻找到最佳的平衡。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据驱动决策成为商业常态的今天,数据分析师这一职业正迎来前所未有的机遇与挑战。很多希望转行或初入职场的人士不禁询问:数 ...
2024-12-25数据分析师,这一近年来炙手可热的职业,吸引了大量求职者的注意。凭借在大数据时代中的关键作用,数据分析师不仅需要具备处理数 ...
2024-12-25在当今数字化变革的浪潮中,数据分析师这一职业正迎来前所未有的发展机遇。回想我自己初入数据分析行业时,那种既兴奋又略显谨慎 ...
2024-12-25在当今信息爆炸的时代,数据已经像空气一样无处不在,而数据分析则是解锁这些信息宝藏的钥匙。数据分析的过程就像是一次探险,从 ...
2024-12-25在职场上,拍脑袋做决策的时代早已过去。数据分析正在成为每个职场人的核心竞争力,不仅能帮你找到问题,还能提供解决方案,提升 ...
2024-12-24Excel是数据分析的重要工具,强大的内置功能使其成为许多分析师的首选。在日常工作中,启用Excel的数据分析工具库能够显著提升数 ...
2024-12-23在当今信息爆炸的时代,数据分析师如同一位现代社会的侦探,肩负着从海量数据中提炼出有价值信息的重任。在这个过程中,掌握一系 ...
2024-12-23在现代的职场中,制作吸引人的PPT已经成为展示信息的重要手段,而其中数据对比的有效呈现尤为关键。为了让数据在幻灯片上不仅准 ...
2024-12-23在信息泛滥的现代社会,数据分析师已成为企业决策过程中不可或缺的角色。他们的任务是从海量数据中提取有价值的洞察,帮助组织制 ...
2024-12-23在数据驱动时代,数据分析已成为各行各业的必需技能。无论是提升个人能力还是推动职业发展,选择一条适合自己的学习路线至关重要 ...
2024-12-23在准备数据分析师面试时,掌握高频考题及其解答是应对面试的关键。为了帮助大家轻松上岸,以下是10个高频考题及其详细解析,外加 ...
2024-12-20互联网数据分析师是一个热门且综合性的职业,他们通过数据挖掘和分析,为企业的业务决策和运营优化提供强有力的支持。尤其在如今 ...
2024-12-20在现代商业环境中,数据分析师是不可或缺的角色。他们的工作不仅仅是对数据进行深入分析,更是协助企业从复杂的数据信息中提炼出 ...
2024-12-20随着大数据时代的到来,数据驱动的决策方式开始受到越来越多企业的青睐。近年来,数据分析在人力资源管理中正在扮演着至关重要的 ...
2024-12-20在数据分析的世界里,表面上的技术操作只是“入门票”,而真正的高手则需要打破一些“看不见的墙”。这些“隐形天花板”限制了数 ...
2024-12-19在数据分析领域,尽管行业前景广阔、岗位需求旺盛,但实际的工作难度却远超很多人的想象。很多新手初入数据分析岗位时,常常被各 ...
2024-12-19入门数据分析,许多人都会感到“难”,但这“难”究竟难在哪儿?对于新手而言,往往不是技术不行,而是思维方式、业务理解和实践 ...
2024-12-19在如今的行业动荡背景下,数据分析师的职业前景虽然面临一些挑战,但也充满了许多新的机会。随着技术的不断发展和多领域需求的提 ...
2024-12-19在信息爆炸的时代,数据分析师如同探险家,在浩瀚的数据海洋中寻觅有价值的宝藏。这不仅需要技术上的过硬实力,还需要一种艺术家 ...
2024-12-19在当今信息化社会,大数据已成为各行各业不可或缺的宝贵资源。大数据专业应运而生,旨在培养具备扎实理论基础和实践能力,能够应 ...
2024-12-19