大数据的泡沫、价值和陷阱，你分得清吗

大数据源起：对未来不确定性的恐惧

我们所生活的世界，就像一片混沌（chaos），大数据时代，我们周围更是充斥着各种不同的理论、知识、信息和噪音，数据爆炸式增长和科技高速发展所带来的冲击，加大了未来的不确定性。当我们接收的数据和信息越多，面临的选择就越多，如若不善于过滤、挖掘和处理，对各种决策就可能会造成负面影响，当然也会放大我们对未来不确定性的恐惧。小到个人命运大到国家前途，都是在这样一片混沌中煎熬着。

如何从混沌中发现规律，成为预测未来的“先知”，抑或是少出几只黑天鹅？是历代人类的梦想，不管是古人的占卜、算命还是现在的专家系统、商业智能、数据挖掘、机器学习、人工智能、智慧地球、智慧城市等应用，都源于我们对未来不确定性的恐惧。当然还有应对当前管理走向的失控，软件在加速吞噬世界，而大部分人类对其原理和特性却知之甚少，就像华尔街的金融交易一样，系统越复杂出现黑天鹅的概率就会增大；社交网络的实时性打破了时空限制，信息的流动速度和广度让也管理者越发难以掌控。随着舍恩伯格教授《大数据时代》一书的面世，给我们带来了“醍醐灌顶”式的认知洗礼，难道抓住大数据这根救命稻草，我们就有机会做“先知”？从而也更有能力把自己和周遭世界管理得更好吗？在一定程度上是这样的，但我们也要知道，任何技术都是把双刃剑。

舍恩伯格其实没有机器学习背景，书上所说的某些内容也是有争议的，不过在教育民众和政府官员科普方面，还是具有重要意义，至少让大家知道了什么是大数据，也能在一定程度上促使我们思考大数据的价值和潜力，从而提升大数据应用水平以应对管理失控和黑天鹅等问题。

大数据泡沫：

泡沫是必然但有其深远意义

数据科学其实已经兴起多年，从早年的专家系统、数据挖掘到前些年的商业智能，不少大型企业和机构在管理大数据方面积累了丰富的经验，笔者10年前就曾参与过运营商的数据挖掘系统建设，那都是实实在在的大数据，只不过当时技术手段有限罢了，所以很少人能挖出什么高价值的东西，更谈不上智能化决策了。但这些年的技术积累和数据积累，却是极大地促进了大数据领域的发展，不然也没有那么多人认同舍恩伯格教授书中的观点。

甲骨文公司CEO埃里森曾说过，高科技是唯一能媲美好莱坞的产业，说明高科技领域的技术明星也是变换极快的。技术和产品一样，有其发展周期规律，大数据也只是一种技术手段，最终目的还是要解决现实问题，不管是科研、商业还是政府管理问题。关注大数据的人多了，自然就有泡沫，个人认为泡沫主要体现在如下几个方面：

（1）这几年社会上关于大数据的宣传，媒体人的引进和炒作，有部分内容是在误导大家，主要原因还是很多人在盲人摸象，少有系统的研究和理解。

（2）只知其然不知其所以然，导致对大数据应用的期望太高，大数据技术不是万金油，在新的技术泛型和技术生态下，现阶段技术的稳定性、成熟性和有效性还待进一步发展。

（3）关注重点有问题，导致目前的很多大数据应用并未涉及到核心业务和计算模型，多是数据的采集和存储管理，这也是造成行业整体门槛还不够高，同质化竞争激烈，没有发挥出应有价值的原因。大数据泡沫显然是客观存在的，但其长期的应用价值却不容小觑，泡沫不代表没有价值，就像2000年的互联网泡沫，泡沫破灭之后的涅磐，让人类真正跨入了互联网时代。大数据泡沫的价值就是让全民认识到大数据时代数据分析和数据决策的重要性，这波泡沫过去，也许我们能正式跨入人工智能时代。

大数据价值：

需要你自己去定义

大数据绝不只是数据大，不能光看字面意思。可以说大数据是一套技术体系，可以说是一种认知挖掘过程，也可以说是一种方法论和管理决策思维。

我们要搞懂大数据的价值，首先绕不开数据挖掘（或更窄的机器学习、或更广义的人工智能技术）。数据挖掘（DataMining），又称为资料探勘、数据采矿，或数据库知识发现（Knowledge-Discovery in Databases，KDD）。数据挖掘一般是指从大量的数据中通过各种算法挖掘隐藏于其中的规律和有价值信息的过程，通常通过统计方法、机器学习、专家系统、模式识别和在线分析处理等诸多方法来实现上述目标。

现阶段大数据领域注重数据采集、数据存储、基础计算和可视化等层面，唯独对数据挖掘建模和决策支持这两个硬骨头没有展开深入研究和对接，这是大数据难以落地的根本原因。我们大多数人决策其实是靠感觉、个人经验或别人建议，少部分人会亲自对报表等小数据进行客观数据分析。

而大数据为我们提供了一种更加可靠的决策支持，毕竟数据不会说假话。大数据本身不产生价值，大数据的根本用途是利用大数据挖掘分析对我们的决策提供规律、知识和经验等科学依据，客观上减少面对未来决策的不确定性。所以，以业务决策支持为分析目标，大数据不靠大，小数据也一样有大价值。为什么大数据的价值需要我们自己去定义呢？因为对于未来、对于未知领域，我们每个人或组织面临的不确定性问题是不一样的，有的偏个体（如疾病诊断，犯罪预测），有的偏大众（如广告营销、客户细分），有的偏微观（如基因序列，个性化教育），有的偏宏观（环境监测、天文数据处理），有的关注资源优化配置（如供需匹配，出行服务），有的关注宏观决策（如政府资产分析、综合管控）…可以说大数据分析需求无处不在，而又大不相同。这就需要从自身实际需求和数据、技术现状出发，自行设定大数据分析的价值和应用目标，生搬硬套互联网公司那套做法，不可取。

大数据陷阱：

应用前先问自己几个问题

综上所述，大数据无疑是好东西，很多组织机构也正在规划或建设大数据平台，很多创业玩家也正在计划或进行大数据领域的技术服务或产品研发。但大数据领域面临的陷阱也是不少，光看大数据、云计算、机器学习、数据挖掘、人工智能、深度学习、分布式计算等目不暇接的技术和概念，就够眼花缭乱了，要真正理解各种技术的原理及相互联系就更难，如何才能不畏浮云遮望眼，走出一条扎实的大数据应用落地之路。我以个人粗浅的理解提几个问题供大家参考：

（1）第一问：我属于什么级别的玩家？

大数据的核心优势在于规模效应，你的业务量越大、业务覆盖性越广、数据量越大，大数据投入的成本就越容易被摊薄，而长远获取的大数据应用价值就越巨大。所以，我一直认为政府才是最适合大数据应用的超级玩家，这也是为什么大数据独角兽企业Palantir的产品只有政府定制版（ＦＢＩ，ＣＩＡ专用）和金融定制版（华尔街金融巨头专用）的原因！一般企业或个人根本玩不起大数据，小的个体只能像《黑客帝国》的孵化人为Matirx系统提供生物电池一样，为超级玩家贡献数据和技术还差不多。所以做大数据之前，先问问自己，我属于什么级别的玩家。我有特定领域的海量数据吗？有数据科学能力相关的核心技术（应用建模）吗？有机会成为BAT吗？或者降一级有机会成为Uber、滴滴、摩拜吗？研发的产品能否等到大规模应用之时？提供的技术是否符合客户的业务需求？因为一般来讲，大数据的初始投入成本是很高的，自我定位很关键。当然成不了甲方还是可以做乙方，成不了BAT还是有机会被BAT收购的，另外采用敏捷大数据方法论，也有低成本的玩法。

（2）第二问：我是搞技术驱动、业务驱动还是数据驱动？

当前不少公司的大数据产品和服务不接地气，从开始规划上就有一定问题。很多公司都号称自己有云计算和大数据方面的产品和服务，覆盖面从Hadoop、Spark、MPP、NOSQL、OpenStack等，到公有云、私有云、商业智能、人工智能、深度学习等等方面，偌大一片浮云，客观上促进了大数据领域的技术高速发展，可惜最终少有几家能活到赚钱。首先，大数据领域，没有几把刷子是很难玩技术驱动的，像Hadoop,Spark这些基础框架，AlphaGo系统、Nvidia的核心产品等，后面都有一帮名校博士、教授等技术大牛的身影在支持；其次，业务驱动最靠谱，但要有足够的创新和资本支持，最近几年出现的Uber、滴滴、摩拜、Airbnb、23andMe、货车帮等创新公司，就是典型的业务驱动型大数据企业，对传统社会和商业的冲击也是颠覆性的，如果能有极好的创意和资本支持，走这条路发展潜力巨大；而政府和大型垄断国企拥有真正的大数据金矿，有数据+业务驱动的条件，但由于自身管理体制原因或引入的技术实力太弱，大数据的价值远远没有被挖掘出来，当然这也是大机会，我们的国安部门也需要中国版的Palantir。所以大数据应用要接地气，结合自身实力，问问自己搞技术驱动、业务驱动还是数据驱动，是最需要回答的问题。

（3）第三问：我是否清楚大数据应用的局限？

现阶段，大数据应用面临诸多挑战，新技术泛型下标准的大数据应用体系尚未建立，技术复杂度和风险较高，成功案例和最佳实践缺乏。很多企业和机构都知道大数据潜力巨大，但却不知如何着手，更不清楚大数据应用有哪些局限和潜在的问题。伯克利的Jordan教授是机器学习领域大牛，他提出了一个很好的比喻：如果大数据给出的结果可靠性低，没有经过充分的验证，就急于应用到实际业务中，会面临很大的风险，就好比是土木工程都没学好就开始造桥，结果只能造出“豆腐渣工程”。所以我们要充分了解大数据技术的局限性，数据采集的不全面必然导致数据偏见，数据质量的问题会导致GarbageInGarbageOut，我们对分析结果的不理解，或者不进行持续反馈验证升级，就无法确认模型的准确性和稳定性，另外《大数据时代》一书中所说的关注相关性不重视因果分析，也会导致一系列问题。数据科学发展到现阶段，从某种程度上讲还不是一个足够严谨的学科，我们有一定的概率做出准确的预测，但是使用不当或预测不准，又会造成不好的后果。显然Jordan教授很担心现在公众对大数据技术的热情，并不是基于对这个领域的深入理解，但是他坚信大数据领域未来会诞生很多重要的应用，就像AlphaGo系统花一晚时间，自我学习几百万盘棋才战胜李世石，对于新兴技术，我们不能高估它但更不能低估。鉴于此，我们需要对大数据的数据质量及技术偏差等做更细致的考察和评估，搞清楚大数据应用技术所面临的限制及问题，才能走得更稳更远。

（4）第四问：我是否准备好打一场大数据应用持久战？

我在《大数据应用从小做起？谈微服务和大数据架构》一文中有提到过，大数据项目如何顶天立地：立地就是要落实到一个个要解决的具体问题，基于业务和数据驱动；顶天就是要规划得目标长远，大数据系统不是搞一锤子买卖，没有一劳永逸的做法。特别是大型企业、机构或政府的大数据系统，一定不能是传统MIS系统的做法，大数据是个动态增量系统，数据规模在变，业务在变，模型在变，参数在变，核心技术模型的迭代、优化、持续升级及交付将是常态，长期目标应该是智能化的综合管控，从企业的生产、产品、销售、服务各个环节的一体化智能管控中心，政府各部门联席的智能服务和决策中心，好比GoogleBrain,BaiduBrain，大型企事业单位和政府也需要未来的数字决策大脑。从某种程度上讲，大数据的关键不在于具体项目，而在于数据决策中心的持续优化与运营，大数据系统建设要作为一个长远的事业来做，让每个成员都融入大数据管理思维变革过程中。我在《说说敏捷大数据》一文中提出了“快、小、证”大数据应用原则，对一个具体的大数据项目来讲，能做到快速出原型，小分析点切入，证明有效之后再扩张的原则，就不用惧怕失败，失败后切换到下一个分析目标即可。由于大数据项目前期的实际投入成本远远大于收益，这就更需要精耕细作，打一场大数据应用持久战，可以从小处着手，逐步构建统观全局的分析链，从而建立组织未来的大数据中心和基于大数据分析的辅助决策大脑。

（5）第五问：我是否了解大数据风险与数据偏见？

大数据时代，信息意味着权利，不同层级的信息代表不同层次的权利。这使得大数据集中之后也面临着技术风险、成本风险、安全风险和管理风险等多个层面的问题，每个层级玩家面临的风险各有侧重，需要充分引起重视。大数据处理基于全新的技术泛型，新技术生态下技术本身的稳定性、成熟性、扩展性等有风险；随着数据爆炸增长需要存储、计算包括电力等资源的持续投入，面临成本风险（所以才有云计算的需求）；面对大数据信息权的诱惑，黑客们的犯罪动机也比以往任何时候更强烈，黑客组织性更强，更加专业，敏感数据入侵风险急剧增加；在数据管理方面还需要面对数据缺失（大数据的分析在于全量分析，任何一方面的数据缺失，都会让算法产生偏见）、数据质量低下、被操控的假数据（如水军刷榜）等方面的问题。

（6）第六问：我是否理解并能贯彻大数据思维？

大数据时代，数据驱动决策是我们的必然选择，毕竟事实胜于雄辩，数据能最大限度地说明问题，数据能让你了解一些以前根本都不知道的事情，除了本身质量的问题，数据不会说谎，通过大数据挖掘进行量化分析有助于精细化管理和运营，这是大数据思维的核心所在。不管是企业、机构还是政府，在做大数据规划或应用之前，先问问自己，组织人员理解数据决策吗？大数据能为他们带来怎样的好处？各级领导有没有大数据决策基因或者这种思维变革的驱动力？所以从数据决策角度讲，未来大数据思维在各行各业的渗透和如火如荼的大数据系统建设不亚于一场数据爆炸时代的管理变革“启蒙运动”。这场运动由互联网企业发起并逐渐繁荣，当大数据思维在传统企业、机构和政府普及并落地应用之时，很可能就是通用人工智能时代的开始。

大数据展望：

当大数据傍上人工智能

最后，做一点展望，谈谈大数据和人工智能，在《深度学习的“深度”价值是什么》一文中，我提到过大数据和人工智能的共生关系，对连接主义学派来讲，没有大数据就没有智能，同样，没有人工智能的算法支持，特别是深度学习这一波技术热潮的推动，大数据的价值也很难被发掘出来。所以大数据傍上人工智能是IT技术发展的必然。另外大数据与传统商业智能技术在加速融合，如OLAP多维度分析、数据仓库等技术也在向大数据处理靠拢。大数据的核心价值在于全量数据分析，而全量数据意味着智能诞生的基础，初级智能诞生之后会给系统以反哺和回馈数据，就像AlphaGo的强化学习和自我对抗学习一样（婴幼儿自己游戏玩耍同理），通过这种自我学习迭代过程，强人工智能诞生，人类正式跨入AI时代。那个时候的若干企业大数据中心、政府大数据中心和地球上的数朵大云，将会插上智能科学的翅膀，成为AI时代的关键基础设施，到时大数据技术如何演化，国家又会呈现出怎样的社会形态，让我们拭目以待。