马上就要进入 2015 年了,你可能已经知道人们立马就会想到“大数据”。怎么会想不到呢?厂商和记者们一直在不停地说它。你也知道他们是怎么宣传的,对吧?大数据将给出所有答案,让公司运行得更高效,帮助公司作出基于数据的明智决策,进而让公司具备强大的竞争优势。
在某些程度上,上面所说的没错,但和其他过度炒作的技术一样,许多公司发现难以部署大数据技术,而且现实情况也和炒作表现得截然不同。他们或许找到了收集和处理数据的有效方法,但用它来作更好的决策则是另一个问题了。这些公司发现,在大数据和大数据理解之间缺失了关键的一环,如果不找到方法来解决这个问题,它们就只能空守一大堆令人困惑的数据,却没有多少收获。
正如一名硅谷资深人士最近告诉我的,尽管从创业公司活动和融资上看,大数据收集和处理最近获得了众多关注,但在预期和结果之间仍然存在着巨大差距。正如此人所指出的:“大数据还未能转化为大知识、大洞见和大智慧。”按照他们的预测,距离这一情况变成现实还有一段路要走。
区分炒作和现实
我们想相信从大数据中获得价值非常简单,只需导入数据,运行程序,就能获得洞见。但事实上,从大数据中获得洞见的过程要复杂得多。《数据预测:大数据战略》(DataDivination: Big Data Strategies) 一书的作者帕姆·贝克 (Pam Baker) 表示,尽管存在数据直接给出答案的例子,但这并非常态。
她解释道:“在很多情况中,数据可以给出很确定的答案。比如,预测性分析能精确地预测某个飞机零件或水系统零件报废的时间,也能告知我们更新新零件的具体时间,以便在旧零件报废之前尽可能地利用它。”
但她补充道:“也有很多时候,数据没法给出确定的答案,但你可以从诸多可能的行动中选择一个,或者选择不采取任何行动。这一切都要取决于你在做的事情。”
贝克的看法是对的,一些数据驱动的决策要微妙得多,也需要一点点人性化。人们能通过开发可靠的指标和强大的算法来起到帮助作用。但他们也必须弄清楚如何最大化利用起数据所透露出的信息来。这些信息有时候很直接,但通常并不如此。
专家鸿沟
我们也愿意相信,大数据会让企业用户能立刻直接访问数据,以便在这个过程之中就能作出最好的决策。不幸的是,现在的工具还没有成熟到这种程度。
为了帮助解决这一问题,我们需要更多数据专家来帮助我们处理数据,并从海量信息中发现答案。投资了大数据公司如 Parstream 的 Kholsa Ventures 投资合伙人 基斯• 拉波斯(KeithRabois) 表示,公司需要配备数据科学家来进行深度研究,这可不是一般公司能做到的。
拉波斯称,你也许想让数据科学家们来开发应用和算法,从事重大的数据科学项目,但在拥有数据科学家的公司中,他们并不总是有时间来做这些事,部分原因是他们要花时间来做不那么深度的研究,而这样的研究不能充分利用他们的技能。
拉波斯还说道,在最好的情况下,数据科学家已经开发出了工具,能在各方需要答案时在组织内分发分析。我们不想要的情况是,当我们需要答案时,就跑去问数据专家,然后坐等答案。
问题是,即便是最聪明的人开发出最成熟的算法,对于复杂问题,这些算法也并不总能给出最确定的答案。算法根本不可能考虑到所有选项,也不能考虑到极难测量到的特定因素。
给我找个好的中场手
棒球就是个很好的例子,理论上两个各方面都相似的棒球选手,各自的比赛表现可能差别很大。数据专家们会告诉你,他们经过多年研究开发的 Sabermetrics 算法将提供挑选选手的所有信息,帮助你找到适合某个角色的好棒球选手。他们还开发出了诸如 替换胜率 (WinsAbove Replacement) 的算法,FanGraphs 对这一算法的描述是:“如果这名选手受伤,其球队不得不用次级棒球联赛球员或(表现不佳)的选手来替换,这支球队会丢多少分?”他们使用一系列复杂的指标来衡量更换球员导致的胜率差异。
无疑,这些成熟的指标能更精确地帮助计算选手的价值,但它测量不到所有东西,比如在压力下的表现,练习的勤奋程度,是哪种队长以及与队友相处得有多好。这些因素都很重要,也都要难量化得多。
纯统计测量的信徒会告诉你,一切皆可测量。大部分情况的确如此,但我很多时候也看到,理论上各方面都相似的棒球选手,却未能像前任选手一样扮演好某一角色,尽管他们的数据相似度很高。
将这一情况应用到企业中,人力资源专家在一个开放的程序员职位上可能会碰到类似的问题。申请这份工作的两个程序员可能拥有相似的技能,但一个拥有与人打交道的能力,可以和其他员工很好地进行合作,而另一个人的沟通能力很差。这方面可不会在简历上体现出来。即便拥有大量数据,也很难考虑到所有可能的结果,尤其是涉及到人时。
想想医疗诊断的细微差别
好医生都会告诉你,哪怕两个病人症状相同,也可能要根据年龄、体重、其他健康问题以及因素来采取不同的治疗手段。
想想在医疗中使用 IBM Watson 智能分析平台的情形。当我最近对一位朋友谈起,一些医生正使用 Watson 来帮助诊断和作出治疗决策,他生气了。他不想让一台机器来决定自己的治疗手段。这是很正当的担忧,但在我所说的情况中,Watson 并没有给出医生会盲从的答案,而是基于已有迹象、病人信息、症状及当前研究提供一些治疗选项。
正如我指出的,忙碌的医生不可能一边工作一边跟踪自身领域的所有研究。因为相关研究太多了(这是好事)。这也是 Watson 发挥作用的地方。Watson 能够以比人快得多的速度快速过滤最近的研究,但仍然需要医生来理解病人的细微差别,从而确定治疗方向。我将这一过程称为科学中的艺术。知识只能带你到这么远,最终的决定权依然在医生而不是机器手中。
企业很可能会面临类似的不确定结果,必须有人介入,运用自己的知识,在数据的帮助下做出选择。
前进的方向?
有时候机器能发现人需要数年时间才能弄懂的答案和洞见。比如,贝克指出,大数据帮助我们发现了有关癌症等疾病的答案,涉及的因素从未有人类研究员考虑过。“如果大数据没有发现这一信息,我们或许永远也不会发现合适的疗法(或者至少要过很多年)。我的观点是,大数据可以非常精确”,她对我表示道。
而且,她相信机器学习会在不远的将来发展得足够成熟,届时机器或许会为我们作更多决策,因为我们的大脑无法同时处理所有信息。
她说的也许没错,但就现在来说,收集和处理数据的能力已经走在了理解数据含义的前面。正如贝克提到的,预测性分析一直在提高,有时候数据会直接指向答案,但这仍然是个复杂的人机互助过程。即便技术大步向前,人与机器如何在一起协作也依然处于探索中。
除非我们找到平衡点,或者在整个过程得益于机器出现大幅进展之前,我们都要面临大智慧鸿沟,这将需要一些时间和技术进步来填补。
数据分析咨询请扫描二维码
《Python数据分析极简入门》 第2节 5 Pandas数学计算 importpandasaspdd=np.array([[81,&n ...
2024-11-23数据分析涉及多个方面的学习,包括理论知识和实践技能。以下是数据分析需要学习的主要方面: 基础知识: 数据分析的基本概念 ...
2024-11-22数据分析适合在多个单位工作,包括但不限于以下领域: 金融行业:金融行业对数据分析人才的需求非常大,数据分析师可以从事经 ...
2024-11-22数据分析是一种涉及从大量数据中提取有用信息和洞察力的过程。其工作内容主要包括以下几个方面: 数据收集与整理:数据分析师 ...
2024-11-22数据分析师需要掌握多种技能,以确保能够有效地处理和分析数据,并为业务决策提供支持。以下是数据分析师需要掌握的主要技能: ...
2024-11-22数据开发和数据分析是两个密切相关但又有所区别的领域。以下是它们的主要区别: 定义和目标: 数据开发:数据开发涉及数据的 ...
2024-11-22数据架构师是负责设计和管理企业数据架构的关键角色,其职责涵盖了多个方面,包括数据治理、数据模型设计、数据仓库构建、数据安 ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列技能,以确保能够有效地处理、分析和解释数据,从而支持决策制定。以下是数据分析师所需的关键技能: ...
2024-11-22数据分析师需要具备一系列的技能和能力,以确保能够有效地处理、分析和解释数据,从而支持业务决策。以下是数据分析师所需的主要 ...
2024-11-22需求持续增长 - 未来数据分析师需求将持续上升,企业对数据驱动决策的依赖加深。 - 预测到2025年,中国将需要高达220万的数据人 ...
2024-11-22《Python数据分析极简入门》 第2节 4 Pandas条件查询 在pandas中,可以使用条件筛选来选择满足特定条件的数据 importpanda ...
2024-11-22数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21