控制在线问卷数据质量的具体方法
在对互联网产品进行的用户研究中,通过在线问卷收集数据是一个非常普遍的方式。 在线问卷,不受访问的环境限制,回收速度很快,具有明显的优势。但是由于被访者没有相关的指导,在设备存在差异,回答的态度有不同等,因此数据的质量能否得到保证, 是一个关键的问题。数据质量决定了数据是否具有科学性,是否可以代表用户,是否给出准确的研究结论。因此我们要考虑对在线问卷的数据进行质量控制的具体的方法,保证问卷数据的质量。
我们为什么会需要进行在线问卷数据的质量控制?
用户在线回答问卷的过程中,会出现一些问题,总结起来有以下三类:
1、会发生答题点击失误的情况
2、会有理解错误导致错误回答的情况
3、会出现答题不认真敷衍的情况
前两种情况,属于客观必然发生的小概率事件,不易通过技术对数据进行质量控制,但是出现的可能性小,可以忽略。而第三种情况,是用户答题态度有偏差,是可以通过 技术实现质量控制,从而把有问题的数据发现并剔除掉。
如何发现有问题的问卷数据并剔除呢?
针对答题不认真的问卷数据,我们要怎么才能发现呢?可以通过以下三个层面。
1. 地雷题
我们第一种方法,也是最常用的方法,是通过在问卷中设置地雷题,并通过地雷题 的数据来检验问卷数据的准确性。那么,什么是地雷题?
地雷题是问卷设计中验证用户回答态度认真与否而设计的题目。这类题目往往是 2 个,对应出现的。也就是针对相同的问题以不明显有差异的方式在问卷中提问两次。如果被访者回答对应出现的两道题目,给出了完全相反或者差异巨大的答案,那么可以在 一定程度上反映,这个人回答问卷的态度不够端正,可以怀疑这个人的数据是不真实的。
例如:在某个问卷中,Q1 问题是:以下物品,请问您家拥有哪些?,其中有“汽车” 选项。Q10 问题是:请问您家拥有以下哪些个人资产?,其中也有“汽车”选项。Q1 与 Q10 为地雷题,如果被访者这两个题目在汽车这个选项的答案出现差异,认为是不合格 的数据。
地雷题应该如何设置?
地雷题是在问卷收集之前,就要设置好的,如果没有设置,也就没办法通过其来进 行质控了。同时需要注意,地雷题的设置也是有技巧的,针对选择题,两道地雷题之间 的距离应该尽可能大。因为被访者在回答问卷的时候,不一定记得清之前问题和选择的 答案,如果地雷题之间相隔很多题目,用户如果态度不端正,是很容易被甄别出来的。
以下是一个实验的数据结果。实验是将相同的地雷题,放在问卷的三个不同位置, 所甄别出的不合格问卷数据的比例。我们发现,地雷题的相距越大,被访者回答与对应 选项的矛盾比例越高。
实验数据一:设置在不同位置地雷题的效果
2. 答题时间
通过答题时间的长短,我们可以知道很多被访者答题的情况:
(1)总体问卷回答时长
(2)单个问题回答时长
(3)总体问卷/单个问题的平均回答时长
(4)整体问卷/单个问卷的时长离散程度
……
通过以上这些时间数据,我们可以看到,一个被访者在正常情况下,回答整个问卷或者单个问题,他需要的一个时间大概是多久。如果回答问卷的平均需要15分钟的时间,而有的人用了1分钟就回答完了,而有的人用了2个小时,那么就很说明问题了, 回答时间过长或过短的被访者回答问卷存在一定的问题。
但是还有一种情况,就是如果平均时间是 15 分钟,那么 3 分钟的是否是认真的回 答,40 分钟是否是不认真的回答呢?这个我们需要什么依据来判断吗?这就需要一个标准,稍后我们来揭晓这个标准。
3. 题目选项个数
通过被访者回答问卷的多选题,选择的选项数量,也可以进行问卷数据的质量控制。 如果一被访者回答某个问题,所选择的选项明显多于或少于所有被访者回答这个问卷的 平均选项数,那么就要注意了!
以下是一些问卷题目,被访者的选择的选项情况
实验数据二:在线问卷的不同题目选项个数的平均值与最大值
我们可以看到,对于吃饭,喝饮料,吃水果这种日常问题,被访者选择的选项个数明显多于平均值或者不符合常理,就应被认为是不合理的。比如图中,吃水果的题目, 有的用户选择了三天内吃了 18 种水果,这样的数据可能就有问题。
3σ 原则数据检验标准
刚才我们讲了答题时间,选项个数,可以反映被访者答题的数据质量。那么对于这两个因素,有没有一个标准可以来准确判断,怎么样的情况,我们就要剔除掉样本数据呢?
我们要引入一个概念。即统计学原理的 3σ 原则。3σ 准则又称为拉依达准则,它是先假设一组检测数据只含有随机误差,对其进行计算处理得到标准偏差,按一定概率确 定一个区间,认为凡超过这个区间的误差,就不属于随机误差而是粗大误差,含有该误 差的数据应予以剔除。这种判别处理原理及方法仅局限于对正态或近似正态分布的样本 数据处理,它是以测量次数充分大为前提的。在正态分布中 σ 代表标准差,μ 代表均值。
3σ 原则为数值分布在(μ-σ,μ+σ)中的概率为 0.6826,数值分布在(μ-2σ,μ+2σ)中 的概率为 0.9544,数值分布在(μ-3σ,μ+3σ)中的概率为 0.9974,可以认为,Y 的取值几乎全部集中在(μ-3σ,μ+3σ)区间内,超出这个范围的可能性仅占不到 0.3%。3σ 原则 告诉我们,标准正态分布时有 99.7%的可能数据应该落在 μ+3σ 的范围内。
选项个数在一定程度上是比较稳定的,即所有人选择个数的均值是相对稳定的。考虑到不同情况下大家行为的差异,我们需要关注所有人选择个数的标准差来衡量其离散 程度。由于在多选题中没有负数出现,因而数据分布如下图所示。数据落在 μ+3σ 范围内的概率均超过 99%,也就是说一个正常的数据有 99%的可能性会落在这个范围内, 超过这个范围的值发生的概率极小,因而一旦发生,可以认为是奇异值,需要剔除掉。
结合上图举例:如果 1000 人回答吃水果的题目,平均值是 4 个,标准差是 4,那么这道题目选项个数的合理范围的最小值是 0(4-3*4=-8,水果个数不能为负数,取 0) 个,最大值是 16(4+3*4)个,超过 16 个的问卷数据应被视为无效,而无效的被访者 不会超过 3 人。
同样的方法,也可以验证被访者答题时间是否合理。
今天我们讲了如何通过地不同的方式和方法,对在线问卷数据进行质量控制。希望 今天的内容对大家在问卷数据处理有一定的帮助,未来我们会进一步完善相关方法,并 及时和大家探讨!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在当今数字化时代,数据分析师的重要性与日俱增。但许多人在踏上这条职业道路时,往往充满疑惑: 如何成为一名数据分析师?成为 ...
2025-04-02最近我发现一个绝招,用DeepSeek AI处理Excel数据简直太爽了!处理速度嘎嘎快! 平常一整天的表格处理工作,现在只要三步就能搞 ...
2025-04-01你是否被统计学复杂的理论和晦涩的公式劝退过?别担心,“山有木兮:统计学极简入门(Python)” 将为你一一化解这些难题。课程 ...
2025-03-31在电商、零售、甚至内容付费业务中,你真的了解你的客户吗? 有些客户下了一两次单就消失了,有些人每个月都回购,有些人曾经是 ...
2025-03-31在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的需求持续飙升。世界经济论坛发布的《未来就业报告》, ...
2025-03-28你有没有遇到过这样的情况?流量进来了,转化率却不高,辛辛苦苦拉来的用户,最后大部分都悄无声息地离开了,这时候漏斗分析就非 ...
2025-03-27TensorFlow Datasets(TFDS)是一个用于下载、管理和预处理机器学习数据集的库。它提供了易于使用的API,允许用户从现有集合中 ...
2025-03-26"不谋全局者,不足谋一域。"在数据驱动的商业时代,战略级数据分析能力已成为职场核心竞争力。《CDA二级教材:商业策略数据分析 ...
2025-03-26当你在某宝刷到【猜你喜欢】时,当抖音精准推来你的梦中情猫时,当美团外卖弹窗刚好是你想吃的火锅店…… 恭喜你,你正在被用户 ...
2025-03-26当面试官问起随机森林时,他到底在考察什么? ""请解释随机森林的原理""——这是数据分析岗位面试中的经典问题。但你可能不知道 ...
2025-03-25在数字化浪潮席卷的当下,数据俨然成为企业的命脉,贯穿于业务运作的各个环节。从线上到线下,从平台的交易数据,到门店的运营 ...
2025-03-25在互联网和移动应用领域,DAU(日活跃用户数)是一个耳熟能详的指标。无论是产品经理、运营,还是数据分析师,DAU都是衡量产品 ...
2025-03-24ABtest做的好,产品优化效果差不了!可见ABtest在评估优化策略的效果方面地位还是很高的,那么如何在业务中应用ABtest? 结合企业 ...
2025-03-21在企业数据分析中,指标体系是至关重要的工具。不仅帮助企业统一数据标准、提升数据质量,还能为业务决策提供有力支持。本文将围 ...
2025-03-20解锁数据分析师高薪密码,CDA 脱产就业班助你逆袭! 在数字化浪潮中,数据驱动决策已成为企业发展的核心竞争力,数据分析人才的 ...
2025-03-19在 MySQL 数据库中,查询一张表但是不包含某个字段可以通过以下两种方法实现:使用 SELECT 子句以明确指定想要的字段,或者使 ...
2025-03-17在当今数字化时代,数据成为企业发展的关键驱动力,而用户画像作为数据分析的重要成果,改变了企业理解用户、开展业务的方式。无 ...
2025-03-172025年是智能体(AI Agent)的元年,大模型和智能体的发展比较迅猛。感觉年初的deepseek刚火没多久,这几天Manus又成为媒体头条 ...
2025-03-14以下的文章内容来源于柯家媛老师的专栏,如果您想阅读专栏《小白必备的数据思维课》,点击下方链接 https://edu.cda.cn/goods/sh ...
2025-03-13以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/go ...
2025-03-12