大数据时代,别忽视了小数据
大数据时代,人人都在谈论大数据。从概念认知到场景应用,人们似乎正试图掀起一股数据狂潮,这其中就包括了大家熟知的智慧城市、防止犯罪,以及类似于Google对流感趋势的预测等等。诸如此类的大数据应用有些已经在发挥其应有的作用,但更多的只是一个梦想。在这些成功的和将要成功的案例背后,到底什么才是大数据的本质呢?
随着过去20年中数据挖掘和人工智能的发展,预测技术在2011年已经相对成熟,甚至走向广泛的应用,而大数据这个概念才刚刚提出。在过去的三到五年中,基于大数据的案例比比皆是,其结果却喜忧参半。这些失败的大数据项目背后是对大数据这一概念过高的预期,反而让大家忽视了对问题场景的重视。除此之外,关联数据往往也是缺失的,尽管说大数据到处都有,但是,真正对你有价值、对决策有意义的数据往往并不容易得到,而我们所知的绝大多数数据都是噪音多过价值。
大数据作为一个技术为我们提供了许多人与人之间交互的数据和信息,但是真正的大数据并不是一些排名和信息的发布,而是从数据中理性找出内在的逻辑关系,并将这些逻辑关系应用于实践。如果不找到事物发展的规律而永远“闻数据起舞”的话,我们的决策往往会与期望相距甚远。Google曾通过用户搜索与感冒相关的关键词来预测流感趋势,这一基于相关关系进行的趋势预测一直到2012年前都应用得非常完美。但是到了2012年的圣诞节,Google的预测比真实数值高出了整整一倍。
是什么原因导致了Google的预测失误?2013年的《科学》上面有一篇文章,几位教授对这个现象进行了分析,他们的归纳是大数据有这样一些天生的弱点:首当其冲的就是“骄傲的大数据”——认为大数据什么都能做,小数据没有用。事实上,大数据的采集远远不如小数据那样“干净”。同时,所有大数据的应用都离不开算法——“唯一不变的就是永远在变化的算法”。更重要的是,在Google的案例中,人的行为本身也会随着大数据及其技术的发展而改变,仅仅基于数据之间的相关关系,而忽视内在的逻辑关系,对预测来讲是远远不够的。当意识到预测中存在这样的问题,就需要人们用大数据去获得规律,用小数据去匹配场景,从而实现精准的预测和智能的决策。无论是企业还是个人,先要存积并了解透彻硕大的大数据表格中属于你的那行数据,唯有如此,我们才有可能从一滴水里看世界。
《大数据时代》作者认为:“由大数据带来对人的重新认识,不是在阿波罗神庙,而是在小世界网络中,认识你自己。”我们从昨天的数据作用中认识自然、认识宇宙到今天通过大数据更多地认识网络和社会,我们的认识更加全面、更加深刻、也更加广泛。但是成就大数据的是无数努力造就小数据的人,他们探索大数据技术,认知大数据文化,并怀揣着对数据的敬畏和对规律的尊重。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
以下的文章内容来源于张彦存老师的专栏,如果您想阅读专栏《Python 数据可视化 18 讲(PyEcharts、Matplotlib、Seaborn)》,点 ...
2025-02-28最近,国产AI模型DeepSeek爆火,其创始人梁文峰走进大众视野。《黑神话:悟空》制作人冯骥盛赞DeepSeek为“国运级别的科技成果” ...
2025-02-271.统计学简介 听说你已经被统计学劝退,被Python唬住……先别着急划走,看完这篇再说! 先说结论,大多数情况下的学不会都不是知 ...
2025-02-27“我们的利润率上升了,但销售额却没变,这是为什么?” “某个业务的市场份额在下滑,到底是什么原因?” “公司整体业绩稳定, ...
2025-02-26在数据分析工作中,你可能经常遇到这样的问题: 从浏览到消费的转化率一直很低,那到底该优化哪里呢? 如果你要投放广告该怎么 ...
2025-02-25近来deepseek爆火,看看deepseek能否帮我们快速实现数据看板实时更新。 可以看出这对不知道怎么动手的小白来说是相当友好的,尤 ...
2025-02-25挖掘用户价值本质是让企业从‘赚今天的钱’升级为‘赚未来的钱’,同时让用户从‘被推销’变为‘被满足’。询问deepseek关于挖 ...
2025-02-25在当今这个数据驱动的时代,几乎每一个业务决策都离不开对数据的深入分析。而其中,指标波动归因分析更是至关重要的一环。无论是 ...
2025-02-25以下文章来源于数有道 ,作者数据星爷 SQL查询是数据分析工作的基础,也是CDA数据分析师一级的核心考点,人工智能时代,AI能为 ...
2025-02-25“最近复购率一直在下降,我们的营销力度不小啊,为什么用户还是走了?” “是不是广告投放的用户质量不高?还是我们的产品问题 ...
2025-02-25在数据分析中,地图是一种非常直观的可视化工具,能够帮助我们更好地理解数据在地理空间上的分布情况。无论是展示销售数据、人口 ...
2025-02-25春风拂面,金三银四的求职季如期而至。谁都想在这场竞争里拿下心仪offer。 一份亮眼简历是求职敲门砖,面试紧张则可能让机会溜 ...
2025-02-24当数据开始说谎:那些年我们交过的学费 你有没有经历过这样的场景?熬了三个通宵做的数据分析报告,在会议上被老板一句"这数据靠 ...
2025-02-17数据分析作为一门跨学科领域,融合了统计学、编程、业务理解和可视化技术。无论是初学者还是有一定经验的从业者,系统化的学习路 ...
2025-02-17一秒精通 Deepseek,不用找教程,不用买资料,更不用报一堆垃圾课程,所有这么去做的,都是舍近求远,因为你忽略了 deepseek 的 ...
2025-02-12自学 Python 的关键在于高效规划 + 实践驱动。以下是一份适合零基础快速入门的自学路径,结合资源推荐和实用技巧: 一、快速入 ...
2025-02-12“我们的利润率上升了,但销售额却没变,这是为什么?” “某个业务的市场份额在下滑,到底是什么原因?” “公司整体业绩 ...
2025-02-08活动介绍 为了助力大家在数据分析领域不断精进技能,我们特别举办本期打卡活动。在这里,你可以充分利用碎片化时间在线学习,让 ...
2025-02-071、闺女,醒醒,媒人把相亲的带来了。 我。。。。。。。 2、前年春节相亲相了40个, 去年春节相亲50个, 祖宗,今年你想相多少个 ...
2025-02-06在数据科学的广阔领域中,统计分析与数据挖掘占据了重要位置。尽管它们常常被视为有关联的领域,但两者在理论基础、目标、方法及 ...
2025-02-05