探讨:比数据更重要的,是见解
对数据的盲目崇拜往往是失败的一个诱因,许多事情表面理性,其实却缺乏最基本逻辑。从海量数据分析曾经的辉煌与如今的阴霾中,我们是否还能学到些什么呢?
两年前,纽约时报刊登了这样一个精彩绝伦的故事:在明尼阿波利斯市,有一个男人闯入当地的塔吉特(Target)百货公司狠狠地抱怨了一番,因为塔吉特公司不停地在向他年仅十几岁的女儿寄婴儿衣物与孕妇装的折价券。小姑娘真心觉得她自己并没有怀孕,并且完全不需要这些折价券。于是公司经理一再向这位父亲表达了歉意。
你大概已经猜到接下来发生了什么——很快那个小姑娘就被确认已经怀孕了。她的爸爸此前完全没有发觉,甚至连她自己也没有。而塔吉特,在分析了她所购买的无香湿纸巾与饮食补给品之后,却意识到了。
2012年的时候,在大多数的市场参与者中,海量数据分析仍然是个新鲜的主意,普罗大众也全然没有像现在那样对此怀有热情。不过,这项技术其实已经被网络内容提供者、零售商,以及研究人员等熟知并且热情追捧了有近半个世纪了。在《自然》杂志的09年二月刊中,一篇由谷歌的工程师团队撰写的题为《使用搜索引擎的查询数据以探测流感的流行》的文章吸引了全世界研究人员的注意。如标题所示,此文宣告了谷歌在追踪流行病传播方面的显著成果。
美国疾病控制与预防中心(Centers for Disease Control and Prevention,略作CDC)被要求追踪美国本土诸如流感之类的流行病的发展。CDC依赖于医生们的报告,因此,它的追踪结果通常会滞后至少一个星期。谷歌却在没有询问任何医生或医院的情况下成功追踪到了全国范围内的流感爆发。它在某一区域范围内深入分析了该地区人们的搜索关键词,例如“流感症状”,并找寻与该地区流感人群数量间的相关性。通过随机且动态的模型技术,谷歌创造了一条发现流行病疫情的迅速且经济的方式,延迟不超过一天。
这种“海量数据”方案最美妙之处在于,人们甚至不需要人工去检查流行搜索关键词以确认分析对象——数据算法能自动找寻过往案例中查询词与流感间的关系来发现合适的关键词,而且仅仅需要一眨眼的时间(虽略夸张,但几可比拟)。一旦算法写成,直到该模型运作起来,期间都不包括任何主观且常带偏见的过程——不需要建立理论,不需要提出假说,也不需要人工判断。正如《连线》杂志2008年所载的文章《理论的终结》中阐述的那样,“有了足够的数据,数字们自己会说明一切。”“海量数据”这个主意非常具有革命性,并且似乎让人们看到了这样的未来:多数如今依靠人脑分析的工作将来都会被机器所取代,这些机器能从数据的海洋中挖掘出规律,以更快地速度进行分析。
然而,让科技迷和海量数据的资助者们失望的是,在原作发表四年后,这个项目华丽丽地失败了。持续提供了三年即时可信的流行病追踪报告后,这个无理论支持但拥有海量数据的模型于2012年冬天预测了一场严重的疫情爆发。一周以后,过时已久的CDC追踪结果表明,与谷歌的预测相异,这场流感疫情正得到很好很好的控制,而谷歌的预测几乎是真实情况的两倍。
海量数据分析的问题在于,谷歌并不知道,也无从知道,到底被搜索的关键词与流感之间存在什么样的联系。在冬天最寒冷的日子里,人们搜索“羽绒服”的时候正好撞上流感大爆发,但这无法表明在倒霉日子里搜索“羽绒服”和患上流感的恰好是同一拨人,没准他们只是想赶上线上打折季。而谷歌的工程师们未曾试图找寻这之间的因果关系。相反,他们依赖于通过统计模式来解释并预测事件。他们耗费大量精力研究数据相关性,却对因果关系几无研究。这也恰恰是所有海量数据分析者的通病(当然也是快速与低价的缘由)。问题在于,如果没有因果关系,那么数据间的相关性便毫无意义。
海量数据对于商业乃至整个人类社会价值毋容置疑。统计模型仅仅在它所研究的样本范围内正确,而抽样失误与样本误差又同时存在。海量数据,以其巨大的容量,可以非常有效地减少样本误差(在理想条件下,全部人口的数据都能被获取)。此外,根除人工失误使得把完全无误的数据交给算法成为可能。但是,海量数据的积极鼓吹者们大多都没能发现的是,这些数据本身对它们之间的因果关系完全不加以考虑。数据库越是庞大,人们就越无法在找寻到因果关系之前确定数据间的相关性。如果输入的数据出错,那么海量数据算法能告诉我们的,终究也不过是一个精准预测的错误答案罢了。
我很倾向于用人类智商的例子来解释把相关性误作因果关系的危害。如果我们把全人类的体重和智商的数据进行回归分析,我们会发现这两组数据间有一个清晰的相关性:平均来说,体重越重的人在智商测试中获得的分数也越高。然而这并不意味着你需要多吃才能学得更多更好。这两组数据其实都与年龄有关,当一个人长得越大,他/她会变得越重同时也学得越多(此外他还会长得越高)。如果缺乏合理的基本理论,仅仅从统计分析中得出结论,是非常危险的,而当今许多海量数据系统都无法解释因果问题,这并不是在危言耸听。
过去有大量的案例可以表明,投资界内人士过于依赖数据会造成怎样的可怕后果。长期资本管理公司(Long-Term Capital Management L.P., 略作LTCM)不过是其中一个罢了。被塔吉特公司误的尿片广告邮件的未怀孕的女士,肯定比它正确发现的孕妇多得多。一个精准挖掘到有用数据的系统,可能诞生于一千个足以让投资者倾家荡产的同类系统之中。我们并不否认,如果设计正确,那么海量的数据能够既体现相关性又把握住因果关系。想想机器学习,以及从中获得极大成功的谷歌翻译项目便可得知。但是就目前而言,从海量数据分析能给我们的承诺来看,它真正的价值,以及为它估价所冒的险,仍然需要我们拭目以待。
但这并不是说我们现在就无法把海量数据分析本身作为获利工具。塔吉特并没有给每一个它认定已怀孕的人寄去满是婴儿用品的目录表。它们只是在随机普通产品间混入了部分有目的宣传的商品罢了。这可能是塔吉特的一个非常巧妙的策划,因为这样顾客也不会因为秘密暴露而被吓到。但十有八九,塔吉特其实也拿不准收到折价券的顾客究竟有没有怀孕。想要利用分析工具赚钱,其实并不需要我们正确知道全部事实,只要稍稍提高一点点市场精准度就足以带来可观的收益。我们需要加以注意的,仅仅是海量数据的局限性以及贸然使用它会带来的危险。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA持证人简介 刘伟,美国 NAU 大学计算机信息技术硕士, CDA数据分析师三级持证人,现任职于江苏宝应农商银行数据治理岗。 学 ...
2025-04-21持证人简介:贺渲雯 ,CDA 数据分析师一级持证人,互联网行业数据分析师 今天我将为大家带来一个关于用户私域用户质量数据分析 ...
2025-04-18一、CDA持证人介绍 在数字化浪潮席卷商业领域的当下,数据分析已成为企业发展的关键驱动力。为助力大家深入了解数据分析在电商行 ...
2025-04-17CDA持证人简介:居瑜 ,CDA一级持证人,国企财务经理,13年财务管理运营经验,在数据分析实践方面积累了丰富的行业经验。 一、 ...
2025-04-16持证人简介: CDA持证人刘凌峰,CDA L1持证人,微软认证讲师(MCT)金山办公最有价值专家(KVP),工信部高级项目管理师,拥有 ...
2025-04-15持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。在实际生活中,我们可能会 ...
2025-04-14在 Python 编程学习与实践中,Anaconda 是一款极为重要的工具。它作为一个开源的 Python 发行版本,集成了众多常用的科学计算库 ...
2025-04-14随着大数据时代的深入发展,数据运营成为企业不可或缺的岗位之一。这个职位的核心是通过收集、整理和分析数据,帮助企业做出科 ...
2025-04-11持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。 本次分享我将以教培行业为 ...
2025-04-11近日《2025中国城市长租市场发展蓝皮书》(下称《蓝皮书》)正式发布。《蓝皮书》指出,当前我国城市住房正经历从“增量扩张”向 ...
2025-04-10在数字化时代的浪潮中,数据已经成为企业决策和运营的核心。每一位客户,每一次交易,都承载着丰富的信息和价值。 如何在海量客 ...
2025-04-09数据是数字化的基础。随着工业4.0的推进,企业生产运作过程中的在线数据变得更加丰富;而互联网、新零售等C端应用的丰富多彩,产 ...
2025-04-094月7日,美国关税政策对全球金融市场的冲击仍在肆虐,周一亚市早盘,美股股指、原油期货、加密货币、贵金属等资产齐齐重挫,市场 ...
2025-04-08背景 3月26日,科技圈迎来一则重磅消息,苹果公司宣布向浙江大学捐赠 3000 万元人民币,用于支持编程教育。 这一举措并非偶然, ...
2025-04-07在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28