今天,数据比以往任何时候都更加根植于我们生活中的每个角落。我们试图用数据去解决问题、改善福利,并且促成新的经济繁荣。伴随着数据处理能力的提 升、运算与储存成本的井喷及越来越多的设备中嵌入各种传感技术,数据的收集、储存与分析正处于一个近乎无限上升的趋势。2011年,有人估算全世界的人们 一年创造与复制的信息量超过了1.8泽字节,而到2013年,这个数字上升到了4泽字节。
每一天,全世界会上传超过5亿张图片,每分钟就有20小时时长的视频被分享。然而,即使是人们每天创造的全部信息——包括语音通话、电子邮件和信息在内的各种通信,以及上传的全部图片、视频与音乐,其信息量也无法匹及每一天所创造出的关于人们自身的数字信息量。
这样的趋势会持续下去。我们现在还处于所谓“物联网”的最初级阶段,而随着技术成熟,我们的设备、交通工具和迅速发展的“可穿戴”科技将能互相 连接与沟通。科技的进步已经使创造、捕捉和管理信息的成本降至2005年的六分之一,而从2005年起,用在硬件、软件、人才及服务之上的商业投资也增长 了整整50%,达到了4000亿美元。
大数据的定义有很多,对于计算机科学家、金融分析师亦或是力图争取风险投资的企业家,这个定义都不尽相同。大多数的定义反映出了一种捕获、总和 与分析更大规模、更高速、更多样的数据的技术能力。换句话说,“现在人们可以更快地获取数据,数据涵盖更广阔的领域,衡量数据的数量级也是过去所达不到 的。”更准确地说,大数据集就是“产生于设备、传感器、网络交易、电子邮件、视频、点击流等当今与未来各种可能的数码资源,更大、更多样、更复杂、更长纵 深的分散性数据集。”
不论我们如何定义大数据这种科技现象,大数据分析所具有的无限潜力都对我们的法律、伦理及社会规范发起了挑战,考验我们能否在大数据的世界中保 护隐私和其他价值观。前所未有的运算能力带给了我们不可思议的发现、创新,并推动着我们生活质量的进步。然而,大多数普通消费者却难以看到这种力量,所以 这也造成了掌握数据的人与有意无意间提供数据的人之间权力的不对等。所以,比“大数据是什么”更加重要的是,“大数据能做到什么“,以及个人与数据收集者 之间的关系。
那么,大数据的精彩之处究竟是什么?下文将界定什么是大数据真正创新、真正不同的东西。要研究大数据,我们需关注那些数量之庞大、种类之繁多、 传输速度之快使传统数据捕捉分析方式无法胜任的数据,这样的特征被约定俗称为“三个V”(规模Volume,种类Varity,速度Velocity)。 不断降低的收集、储存、处理数据成本,以及越来越多的新数据源如传感器、相机、定位装置等观察性设备的出现,使得我们如今身处于一个数据采集无处不在的世 界。数据的收集和处理量是前所未有的。可联网设备、可穿戴科技和高级传感器监测着从生命迹象到能量使用再到慢跑者步速的一切,这样的数据爆炸对运算能力提 出了更高的要求,也将会推动更复杂数据管理技术的发展。
数据不仅仅是更多了,它的来源也更加广泛,形式也更加多元。一些数据是“数码原生”的,就是说它本身就是由计算机或数据处理系统创造出来的数码 信息,比如电子邮件、网页浏览和GPS位置数据。另一些数据是“虚拟原生“的,也就是说它来自实体世界,但被人为转换成数码形式,比如手机、相机和录像机 等拍摄的音视频,或者可穿戴设备监测下的心率、排汗等物理活动数据。随着数据融合能力的增强,越来越多本不相干的数据被综合到一起,大数据将会带给人们非 同寻常的洞察力。
此外,数据收集与分析的速度正在逐渐趋于实时,这就意味着数据分析可以对人所处的环境产生即时的影响,甚至左右人们的选择。高速数据的典型实例 是记录用户与网页交互活动的点击流数据、移动设备上的GPS实时定位数据,及各种社交媒体上的用户分享。客户和公司都有更大的实时分析、实时受益的需求。 当然了,一个手机地图应用如果不能实时、准确地定位,显然就失去了它的意义;车载系统的实时运算也是保障我们行车安全的关键。
如果应用得当,大数据分析能提高经济效率、改进消费习惯、完善政府服务,甚至挽救人的生命。比如:
一、大数据与“物联网”的发展具有融合工业经济与信息经济的潜力。如今,我们可以在飞机引擎和货运汽车上装备传感器,监测各种数据,并在需要维修的时候发出自动警报。不仅可以降低维修成本,更能增强安全性。
二、医疗保险和医疗补助中心已经开始使用预测分析软件标记潜在的医保诈骗行为,防骗保系统帮助实时识别高危人群,已成功防止了涉及一亿一千五百万美元的诈骗性支取,在应用此技术的第一年,每1美元的投入就获得了3美元的收益。
三、一项大数据研究汇总了来自新生儿重症监护室的数百万数据样本,用以判断哪些新生儿更容易接受致命的感染。通过分析这些数据,这套系统不用等 值班医生注意,就能辨认出诸多感染发生的早期征兆,例如体温升高、心率加速等等。在传统实践中,有些早期征兆是经验丰富的医师也难以注意到的。
大数据技术还在其他很多领域拥有不可限量的前景,如按需管理电网、改善能源效率、增加发展中国国家农产量,防止传染病传播等等。
新机遇也带来了新挑战。大数据科技从庞大的数据集中获取价值,赋予了研究者以往无法想象的洞察力。当然,大数据的技术力量如此广泛与深远,我们 也需要关注它对社会伦理造成的挑战。历史学家克朗兹伯格(Melvin Kranzberg)在他的《科技第一法则》中写道:“科技本身非善非恶,但它也不是中立的。”我们应该时刻记住,科技既可以为公众谋福利,也可能对人造 成伤害。关键就是,如何在机遇与挑战间寻找到最佳的平衡。
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 6 Pandas合并连接 在pandas中,有多种方法可以合并和拼接数据。常见的方法包括append()、conc ...
2024-11-24《Python数据分析极简入门》 第2节 5 Pandas数学计算 importpandasaspdd=np.array([[81,&n ...
2024-11-23数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列的技能和能力,以确保能够有效地处理、分析和解释数据,从而支持业务决策。以下是数据分析师所需的主要 ...
2024-11-22需求持续增长 - 未来数据分析师需求将持续上升,企业对数据驱动决策的依赖加深。 - 预测到2025年,中国将需要高达220万的数据人 ...
2024-11-22《Python数据分析极简入门》 第2节 4 Pandas条件查询 在pandas中,可以使用条件筛选来选择满足特定条件的数据 importpanda ...
2024-11-22数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21