shuffle是一个能产生奇迹的地方,不管是在 Spark 还是Hadoop中,它们的作用都是至关重要的。 在Spark中,一般在执行reduceByKey、groupByKey、sortByKey、countByKey、join、cogroup等操作时,会发生shuff ...
2020-05-13HDFS集群有两类节点,并以管理者-工作者模式运行,即一个NameNode(管理者)和多个DataNode(工作者)。 NameNode是Master节点,有点类似Linux里的根目录,是管理文件系统的命名空间。管理数据块映射 ...
2020-05-12桑基是何许图也 据小z不严谨的抽样提问统计,90%想学习桑基图的旁友,都是被她妖艳炫酷的外表所吸引。 而桑基图真正代表了什么?和类似图表相比的独特性是什么? ...
2020-05-12Series数据结构 Series是一种类似于一位数组的对象,由一组数据及一组与之相关的数据标签(即索引)组成。 上面这样的数据结构就是Series,第一列数字是数据标签,第二列是具体的数据 ...
2020-05-12Python在数据分析领域受到社会大众的欢迎,一般而言,在windows上也是能运行Python程序的,不过前提是需要安装python解释器。但是绝大多数的python程序都是跑在Linux机器上的,所以我们需要配置一台linu ...
2020-05-12Kudu是一个列式存储的用于快速分析的NoSQL数据库,提供了类似SQL的查询语句,与RDBMS十分类似,有**PRIMARY KEY **,基于主键查询而不是HBase的RowKey。 kudu拥有毫秒级延迟 与其他大数据数据库不同,Kud ...
2020-05-12什么是卡方分布呢? 卡方分布(chi-square distribution),又名西格玛分布,统计学领域的应用学科,是统计学中的一个非常有用的著名分布。 当n个相互独立的随机变量ξ₁,ξ₂,...,ξn ,均服从标 ...
2020-05-12俗话说的好,工欲善其事,必先利其器。很多从事数据统计分析工作的朋友应该会深有感触,苦于自己80%的时间在做数据清洗,而仅仅只有20%的时间在优化模型、分析统计结果等,今天我们就来介绍下SQL数据清洗。 因此, ...
2020-05-12(1)Excel实现 缺失值填充前后的对比如下图所示: 在数据中年龄用数字填充合适,但是性别用数字填充就不太合适,那么可不可以分开填充呢?答案是可以的,选中想要被填充的那一列,按照填充全部数据的方式进行填充 ...
2020-05-11从菜市场买来的菜,总有一些是坏掉的不太好的,所以把菜买回来之后要做一遍预处理,也就是把那些坏掉的不太好的部分扔掉。现实中大部分的数据都类似于菜市场的菜品,拿到手以后会有一些不好的数据,所以都要先做 ...
2020-05-11《python统计分析》以基础的统计学知识和假设检验为重点,简明扼要地讲述了Python在数据分析、可视化和统计建模中的应用。 主要包括Python的简单介绍、研究设计、数据管理、概率分布、不同数据类型的假设检 ...
2020-05-11最近,看到一道有关T分布的试题《T分布是一条以0为中心左右对称的曲线吗?》确实,T分布是以0为中心,左右对称的一簇单峰曲线。不过,当其自由度越小,曲线的峰度越低,尾部越高,当自由度趋于无穷大时,t分布就是标 ...
2020-05-11混淆矩阵(Confusion Matrix),也成为误差矩阵,是用n行n列矩阵形式来表示的表,这张表通过对比已知分类结果的测试数据的预测值和真实值表来描述衡量分类器的性能。 在二分类的情况下,混淆矩阵是展示预测 ...
2020-05-11统计分析中的长尾分布理论认为,由于成本和效率的因素,过去人们只会关注重要的人或事,如果用需求曲线来描述,受精力与成本等客观因素的限制,人们通常只会关注曲线的“头部”,而选择忽略曲线的“尾部 ...
2020-05-11现在大数据成为一个热门话题, 然而无论是网页、产品信息、车辆的功能、文本、病例,还是气象等数据, 对数据的理解的第一步就是要理解数据之间的关联。认同这一点的话, 就能够理解为什么图论在将来能够为人们的 ...
2020-05-11最近在接触kaggle的竞赛示例,练习了一下,感觉受益匪浅。同时,心中也有个问题。拿到数据之后第一件事是什么?分析数据的情况?怎么分析?分析之后如何去处理数据呢?等等一些数据分析的工作。其中,大家都可能非 ...
2020-05-11python数据挖掘,指用python对数据进行处理,从大型数据库的分析中,发现预测信息的过程。 什么是数据挖掘? 数据挖掘(英文全称Data Mining,简称DM),指从大量的数据中挖掘出未知且有价值的信息和只 ...
2020-05-11一提到深度学习,大部分人会觉得一定非常难,其实不然,深度学习背后的主要原因是人工智能应该从人脑中汲取灵感,而python深度学习,指的是使用编程语言Python来进行深度学习。 众所周知,Python是一门 ...
2020-05-11说道SQL难不难学的问题,应该是见仁见智吧!对于有目标的人而言,学习SQL就会变得简单,大家一定相信这点。当然,千里之行始于足下,学习并没有什么捷径,只能靠努力。 SQLServer是一个可扩展的、高性能的、为分布 ...
2020-05-09随着科技的日新月异,人们对数据的依赖稳步上升中,尤其在商业等领域,对于企业而言正确且连贯的数据流,是他们做出快速、精准的决策的重要依据之一。因此,建立正确的数据流和数据结构才能保证最好的结果,这个过程 ...
2020-05-09CDA持证人简介 刘伟,美国 NAU 大学计算机信息技术硕士, CDA数据分析师三级持证人,现任职于江苏宝应农商银行数据治理岗。 学 ...
2025-04-21持证人简介:贺渲雯 ,CDA 数据分析师一级持证人,互联网行业数据分析师 今天我将为大家带来一个关于用户私域用户质量数据分析 ...
2025-04-18一、CDA持证人介绍 在数字化浪潮席卷商业领域的当下,数据分析已成为企业发展的关键驱动力。为助力大家深入了解数据分析在电商行 ...
2025-04-17CDA持证人简介:居瑜 ,CDA一级持证人,国企财务经理,13年财务管理运营经验,在数据分析实践方面积累了丰富的行业经验。 一、 ...
2025-04-16持证人简介: CDA持证人刘凌峰,CDA L1持证人,微软认证讲师(MCT)金山办公最有价值专家(KVP),工信部高级项目管理师,拥有 ...
2025-04-15持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。在实际生活中,我们可能会 ...
2025-04-14在 Python 编程学习与实践中,Anaconda 是一款极为重要的工具。它作为一个开源的 Python 发行版本,集成了众多常用的科学计算库 ...
2025-04-14随着大数据时代的深入发展,数据运营成为企业不可或缺的岗位之一。这个职位的核心是通过收集、整理和分析数据,帮助企业做出科 ...
2025-04-11持证人简介:CDA持证人黄葛英,ICF国际教练联盟认证教练,前字节跳动销售主管,拥有丰富的行业经验。 本次分享我将以教培行业为 ...
2025-04-11近日《2025中国城市长租市场发展蓝皮书》(下称《蓝皮书》)正式发布。《蓝皮书》指出,当前我国城市住房正经历从“增量扩张”向 ...
2025-04-10在数字化时代的浪潮中,数据已经成为企业决策和运营的核心。每一位客户,每一次交易,都承载着丰富的信息和价值。 如何在海量客 ...
2025-04-09数据是数字化的基础。随着工业4.0的推进,企业生产运作过程中的在线数据变得更加丰富;而互联网、新零售等C端应用的丰富多彩,产 ...
2025-04-094月7日,美国关税政策对全球金融市场的冲击仍在肆虐,周一亚市早盘,美股股指、原油期货、加密货币、贵金属等资产齐齐重挫,市场 ...
2025-04-08背景 3月26日,科技圈迎来一则重磅消息,苹果公司宣布向浙江大学捐赠 3000 万元人民币,用于支持编程教育。 这一举措并非偶然, ...
2025-04-07在当今数据驱动的时代,数据分析能力备受青睐,数据分析能力频繁出现在岗位需求的描述中,不分岗位的任职要求中,会特意标出“熟 ...
2025-04-03在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28