大数据最重要的不是数据本身,而是数据分析
大数据的价值不是在数据本身,虽然我们需要数据,数据很多时候只是伴随科技进步而产生的免费的副产品。大数据时代,我们可以通过去量化过去不能量化的信息,使用精妙的统计学方法分析这些信息成为可能。
“满城尽谈
”,但很多人其实并不理解大数据真正价值是什么,哈佛大学GaryKing教授用3个大数据研究案例告诉你:有数据固然好,但是如果没有分析,数据的价值就没法体现。
以下是Gary King教授演讲实录(有删节):
工作的领域叫做量化社会科学(QuantitativeSocialScience),有时,它有一个别称,叫大数据。“大数据”这个词最早是媒体发现的,它试图向大众解释我们是做什么的,目前看来解释的效果还不错。
然而,大数据的价值不是在数据本身,虽然我们需要数据,数据很多时候只是伴随科技进步而产生的免费的副产品。比如说,学校为了让学生能更高效地注册而引进了注册系统,因而有了学生的很多信息,这些都是因为技术改进而产生的数据增量。
大数据的真正价值在于
。数据是为了某种目的存在,目的可以变,我们可以通过数据来了解完全不同的东西……有数据固然好,但是如果没有分析,数据的价值就没法体现。
先来看一个大数据在公共政策层面运用的案例。
我们曾经做过一个评估研究,发现2000年以后美国社会保障管理总署(U.S.Social Security Administration,简称“SSA”)对于美国社保账户及人口寿命的预测有系统性偏差。
(图片说明:2000年以后SSA对社保基金账户情况的预测出现显著偏差;来源:GaryKing论文)
大背景是,美国的社会保障平台是美国最大的单一政府平台,它的资金是跨代流动的——当前退休者的养老金供给来自于他们的下一代,即现在工作的人交的税金。
所以SSA需要预测这个信托基金项目里的资金流,以及人的寿命,正确预测这两点很重要,如果人们比SSA预期的更长寿——虽然这是好事——就很可能导致信托基金里就没有足够的钱给他们养老了。
我们研究发现,SSA的预测在2000年以后出现了系统性偏差——发生偏差的原因之一,是SSA使用的模型本质上定性分析的模型,且多年来几乎没有调整。由于一些药物的使用和癌症早期发现,美国人开始比模型预测地更长寿了。
我们通过分析得出的结论是,美国社保信托基金至少存在8千亿美元的缺口。
虽然结论有点不幸,但是政府需要提前知道。这样政府就可以有空间在税率,退休年龄等方面进行调整。这是公共政策层面的话题。
关于定性分析和定量分析,其实不是泾渭分明的。做分析全靠定性分析(由人主导)是不够的,因为你有很多数据不知道该怎么处理。全靠定量分析(由机器主导)也不行,这就像一张巨大的excel表,但是表中没有行、列的标签。所以,大数据分析需要的是由人主导,由计算机辅助的技术(weneedcomputer-assisted,human-ledtechnology)。
我们还做过一个计算机辅助阅读的实验。我们开发了一套计算机辅助、自动化阅读的技术,这项技术能帮助人们从非结构化的文字中提取、组织并且处理大量信息。
我们曾用该技术处理了64000篇国会议员官方发布的新闻稿,想通过这项基础帮我们作分类,看国会议员在新闻稿中都说了些什么。
结果我们发现,居然有高达27%的议员发布的新闻稿内容只是单纯地想抨击对方(PartisanTaunting),而不是想要平衡预算或停止战争,或解决问题。
(图片说明:GaryKing表示,抨击对方政党从个人角度来看是理性的,但是从整个集群的角度来看,是非理性的,如果抨击对方的言语增多,政党之间的合作关系和能效会减弱;来源:GaryKing研究成果单页)
大数据时代,我们可以通过去量化过去不能量化的信息,使用精妙的统计学方法分析这些信息成为可能。
现在,我们都可以对一些强定性属性(inherentlyqualitative)的东西作定量分析了,如音频和视频。但是,目前仍有一些定性分析工作者要分析的内容还未被量化。所以,定性分析、定量分析要配合操作才行。
数据分析咨询请扫描二维码
在当今市场环境中,数据分析师的薪资水平和职业前景呈现出色的增长趋势。除了技术技能,数据库管理是数据分析师必须掌握的重要领 ...
2024-12-05数据分析需要学习的工具和技能 基础工具与技能 Excel:作为常用数据分析工具之一,Excel支持数据整理、分析和可视化展示。 S ...
2024-12-05数据分析是当今数字化时代中不可或缺的技能之一,然而在学习这门技能过程中,许多人往往陷入一些常见误区。这些误区可能会妨碍他 ...
2024-12-05选择合适的工具迈出数据分析第一步 对于初学者而言,探索数据分析世界往往是一次富有挑战性又令人兴奋的旅程。在这个过程中,选 ...
2024-12-05寻找数据分析工作的关键经验 在数据分析领域寻找工作是一项充满挑战和机遇的任务。无论您是刚入行还是想要在该领域迈出更大的步 ...
2024-12-04在当今信息爆炸的时代,数据成为企业决策的关键。成为一名优秀的数据分析师需要综合考虑学历、技能、经验和证书等多方面因素。让 ...
2024-12-04在当今信息爆炸的时代,数据被认为是新时代的石油。成为一名数据分析师不仅是一个有前景的职业选择,也是对不断进化的技术世界的 ...
2024-12-04准备数据分析面试的关键要素 数据分析领域的竞争激烈,为了在面试中脱颖而出,综合准备至关重要。除了技术基础外,项目经验、业 ...
2024-12-04数据分析是一个令人着迷且充满挑战的领域,尤其对于初学者而言。这篇入门指南将帮助你从零开始掌握数据分析的基本技能和方法。让 ...
2024-12-04数据分析领域呈现广阔前景,持续增长需求。探索数据分析行业的未来发展方向,揭示职业路径、技能需求以及薪酬前景,助您规划成功 ...
2024-12-04数据分析领域近年来经历了显著的转变,受到技术进步和数据量激增的推动。随着大数据、人工智能和机器学习等技术的蓬勃发展,数据 ...
2024-12-04掌握基础知识 统计学和数学基础:掌握概率论、描述性统计、推论性统计等基本概念是数据分析的基石。这些理论知识为我们在处理 ...
2024-12-04解析数据分析培训价格范围 在学习数据分析的旅程中,了解培训课程的价格范围至关重要。数据分析培训的学费会受到诸多因素的影响 ...
2024-12-04在当今信息爆炸的时代,数据分析已成为洞察力和决策制定的关键工具。对于那些希望掌握这一领域技能的人来说,入门视频教程是一个 ...
2024-12-04就业前景展望 数据分析师领域近年来蓬勃发展,毕业生就业率与市场需求呈现强劲增长趋势。这一行业的繁荣与各方面因素密不可分。 ...
2024-12-04市场趋势与机遇 随着大数据和智能科技的迅猛发展,企业对数据分析师的需求不断攀升。无论是金融、医疗、零售还是科技等领域,数 ...
2024-12-04在数据分析的世界中,数据清洗是一个至关重要的环节。数据分析师通过一系列方法和步骤来确保数据质量和一致性,从而为深入的数据 ...
2024-12-04在当今数据驱动的世界中,数据分析师的角色变得至关重要。掌握适当的编程语言是他们成功完成任务的关键。本文将探讨数据分析师常 ...
2024-12-04为什么统计学是数据分析的核心? 作为数据分析师,精通统计学基础是事关事业成功的关键一环。从描述性统计到概率论与随机变量, ...
2024-12-04数据分析领域的蓬勃发展为数据分析师们开辟了广阔的职业道路。随着大数据时代的来临,他们的角色变得愈发关键,为企业决策提供重 ...
2024-12-04