一手数据 vs 二手数据
1.一手数据(Primary data)
也称为原始数据。顾名思义,是指直接获取,没有经过加工或者第三方传递获得的数据。比如传统调研中的问卷测评、 小组访谈、面对面沟通等形式获得的数据,或者是互联网时代用户直接填写的个人信息数据以及平台抓取的行为数据等等。
2.二手数据(Secondary data)
主要是相对于一手数据而言,指的是通过第三方或者是现有的数据资料获取的数据。比如国家统计局数据、知名文献中 罗列的数据等等。 一手数据的来源渠道,一般比较固定,往往是和自身直接相关。比如搭建的网站,组织的活动,开 展的 调研等。而二手数据则相对比较多样化,凡是会产出数据相关信息的第三方机构都可以作为来源渠道。
3.优劣势分析
一手数据和二手数据,在实际应用中都是非常重要的。它们不同的优缺点,可以很好地互补,从而帮助企业在效果和效 率间找到比较好的平衡。
在实际项目中,一般会把两类数据进行结 合。总结来看,一手和二手数据的选择, 可以参考右图的形式进行判断。
同时,在一手数据的使用过程,需要特别 注意的是,要对采集回来的数据进行逻辑 合理性验证。
而二手数据,因为收集的过程由第三方完 成。因此数据的可信性和准确度,就依赖 于第三方机构的可信性。
如何获取一手数据?
当我们需要获取一手数据的时候,一种常用的方式就是抽样调查。 抽样调查不止在传统行业中比较常用,在现在互联网企业中也时常会用到。比如一些优惠活动或者特定客群营销等方案的测试,就需要 用 到抽样的方式选择测试群体。 在做抽样调查时,我们都希望尽可能地减少误差,让抽样的样本能够充分代表整体的特征。那么误差和 哪些因素相关呢?抽样误差(Sampling Error)的大小,主要由样本容量的大小和抽样方式来决定。 一般,我们认为抽样可以分类两类:一类我们叫做概率抽样(Probability Sampling),也叫作客观抽样。第二类,我们叫做非概率抽样 (Non-probability Sampling),也叫作主观抽样。下面我们来分别介绍这两种抽样方法。
概率抽样
顾名思义,是一种基于概率的抽样方式,因此也被称为客观抽样。从理论的角度来说,概率抽样是符合科学和统计原则的,抽样误差可 以估计。也是在可能的情况下,最优先被推荐使用的抽样方法。但是,精确度高的方法,往往操作的复杂度和耗费的成本也会相对偏高。 概率抽样,虽然可以避免主观判断带来的谬误,但是它常常受限于项目经费、时间和保密性等原则,从而难以实际使用。
非概率抽样
和概率抽样相反,非概率抽样是一种简单、易使用的抽样方式。它主要通过抽样者的判断,包括对样本特征的判断和对项目成本的考量, 综合特殊的要求或者设定,最终选择合适的样本。因此,这种方法会受到主观因素的影响,不符合统计科学的原则,抽样误差是无法估 计和计算的。但是在实际应用中,大量的案例还是证明了非概率误差依然有一定的有效性。在样本量充足的前提下,通过设定简单的配 比,以及选择有经验的抽样者,基本上可以保证抽样结果的有效性。而且由于非概率抽样比较容易重复操作,因此用非概率抽样反复进 行同一试验,结果往往也有趋同性。另外,这一抽样方式,虽然无法衡量抽样误差,但是由于抽样过程可以进行设计和控制,因此可以 更简单有效地控制非抽样误差(Non-sampling Error)。
总结来说,概率抽样和非概率抽样,我们可以通过以下的表格进行区别:
介绍了概率抽样和非概率抽样之后,我们重点来看一下概率抽样方法。常用的概率抽样方法主要有以下4种:
分层抽样(Stratified Sampling)
正如之前提到的,简单随机抽样的假设并不总是成立。如果总体可以按照一些特征分成若干层。层与层之间差异明显,每个层内部的个 体特征相近,那么我们可以对每个层做简单随机抽样。抽样结果合并的集合,就是我们最终确认的抽样样本。 在实际操作中,我们可以按照每一层的个体数量来决定抽取数量,使得每个层抽取的比例都相等,这样的抽样我们叫做按比例分层抽样。 一般,如果每层重要性差不多,数量差异也不是很大的情况下,我们都是这样操作的。 而如果有一些层非常重要,或者有些层的个体数非常少,那么我们就要采取非按比例分层抽样的方法。 如果总体中个体间呈现明显的几类,那么使用分层抽样可以更好地反映总体。避免简单随机抽样可能带来的样本集中或者特征缺失的情 况。因此,在概率抽样中,分层抽样也是使用最多的一种。我们在对城市,或者是大型的业务线进行研究的时候,都可以采用分层抽样。
系统抽样(Systematic Sampling)
除了分层抽样之外,系统抽样也对简单随机抽样,进行了改进。使用系统抽样的时候,仍然需要将个体进行编号,然后根据抽样样本容 量决定抽样的间距。因此又叫做等距抽样或者机械抽样。这种方法,减少了抽样过程中的人力和时间消耗。不过,系统抽样一般很少作 为单独的抽样方法使用,通常是配合其他方法一起进行。
分段抽样(Multi-stage Sampling)
前面提到的,都是一次性抽取完成样本的方法,这些方法可以统称为单阶段抽样。然而在有些情况下,我们并不能一 次性完成样本的抽取,比如在全国范围内选择一定数量的用户作为试点调查。这个时候我们需要分阶段地去完成抽样 过程,这种方法,我们叫做分段抽样。 分段抽样中,我们首先把总体划分成一些大小差不多的群体。在这些群体中随机抽取几个。被抽中的群体,就作为下 一步进行随机抽样的“总体”。 因此,在学习过程中,一定要注意区分分段抽样和分层抽样。虽然两者都是对总体进行了一定的划分。但是分层抽样 是按照一定特征进行划分,划分的目的是为了避免特征的过分集中和缺失。抽取的过程也是一步完成的,只有在分层 之后才会进行随机抽样。而分段抽样则不同,它是由于总体太大,无法直接进行抽取,所以才需要进行多步抽样。每 一次对总体的划分是为了进行随机抽取,而抽取后,下一步的“总体”就会得到一定程度的减小。
如何选择抽样方法?
1. 二手数据的特点是( )。
A. 数据缺乏可靠性
B. 不适合自己的研究需要
C. 采集数据的成本低,但搜集比较困难
D. 采集数据的成本低,搜集比较容易
2. 与概率抽样相比,非概率抽样的缺点是( )。
A. 调查成本比较高
B. 不适合探索性的研究
C. 样本统计量的分布是确定的
D. 无法使用样本的结果对总体相应的参数进行推断
3. 为了估计A市愿意坐地铁上下班的人数的比例,在收集数据时,最有可能采用的数据搜集方法是?
A. 普查
B. 实验
C. 随机抽样
D. 公开发表的资料
更多考试介绍及备考福利请点击:CDA 认证考试中心官网
数据分析咨询请扫描二维码
数据分析师的工作内容涉及多个方面,主要包括数据的收集、整理、分析和可视化,以支持商业决策和问题解决。以下是数据分析师的一 ...
2024-11-21数据分析师必须掌握的技能可以从多个方面进行归纳和总结。以下是数据分析师需要具备的主要技能: 统计学基础:数据分析师需要 ...
2024-11-21数据分析入门的难易程度因人而异,总体来看,入门并不算特别困难,但需要一定的学习和实践积累。 入门难度:数据分析入门相对 ...
2024-11-21数据分析是一项通过收集、整理和解释数据来发现有用信息的过程,它在现代社会中具有广泛的应用和重要性。数据分析能够帮助人们更 ...
2024-11-21数据分析行业正在迅速发展,随着技术的不断进步和数据量的爆炸式增长,企业对数据分析人才的需求也与日俱增。本文将探讨数据分析 ...
2024-11-21数据分析的常用方法包括多种技术,每种方法都有其特定的应用场景和优势。以下是几种常见的数据分析方法: 对比分析法:通过比 ...
2024-11-21企业数字化转型是指企业利用数字技术对其业务进行改造和升级,以实现提高效率、降低成本、创新业务模式等目标的过程。这一过程不 ...
2024-11-21数据分析作为一个备受追捧的职业领域,吸引着越来越多的女性加入其中。对于女生而言,在选择成为一名数据分析师时,行业选择至关 ...
2024-11-21大数据技术专业主要学习计算机科学、数学、统计学和信息技术等领域的基础理论和技能,旨在培养具备大数据处理、分析和应用能力的 ...
2024-11-21《Python数据分析极简入门》 第2节 3 Pandas数据查看 这里我们创建一个DataFrame命名为df: importnumpyasnpi ...
2024-11-21越老越吃香的行业主要集中在需要长时间经验积累和专业知识的领域。这些行业通常知识更新换代较慢,因此随着年龄的增长,从业者能 ...
2024-11-20数据导入 使用pandas库的read_csv()函数读取CSV文件或使用read_excel()函数读取Excel文件。 支持处理不同格式数据,可指定分隔 ...
2024-11-20大数据与会计专业是一门结合了大数据分析技术和会计财务理论知识的新型复合型学科,旨在培养能够适应现代会计业务新特征的高层次 ...
2024-11-20要成为一名数据分析师,需要掌握一系列硬技能和软技能。以下是成为数据分析师所需的关键技能: 统计学基础 理解基本的统计概念 ...
2024-11-20是的,Python可以用于数据分析。Python在数据分析领域非常流行,因为它拥有丰富的库和工具,能够高效地处理从数据清洗到可视化的 ...
2024-11-20在这个数据驱动的时代,数据分析师的角色变得愈发不可或缺。他们承担着帮助企业从数据中提取有价值信息的责任,而这些信息可以大 ...
2024-11-20数据分析作为现代信息时代的支柱之一,已经成为各行业不可或缺的工具。无论是在商业、科研还是日常决策中,数据分析都扮演着至关 ...
2024-11-20数字化转型已成为当今商业世界的热点话题。它不仅代表着技术的提升,还涉及企业业务流程、组织结构和文化的深层次变革。理解数字 ...
2024-11-20在现代社会的快速变迁中,选择一个具有长期增长潜力的行业显得至关重要。了解未来发展前景好的行业不仅能帮助我们进行职业选择, ...
2024-11-20统计学专业的就业方向和前景非常广泛且充满机遇。随着大数据、人工智能等技术的快速发展,统计学的重要性进一步凸显,相关人才的 ...
2024-11-20