通过实用的修正方法,识别并消除最常见的调查偏差来源——从诱导性问题、默许偏差到抽样偏差和无应答偏差。
偏差是调查研究中无声的杀手。随机误差会随着你收集更多回答而相互抵消,而偏差则不同——无论样本量多大,它都会系统性地把你的结果朝某一个方向推。一份设计精美、应答率很高的调查,如果偏差悄然潜入了问题、样本或分析之中,仍然可能得出自信满满却完全错误的结论。本指南梳理了调查偏差的主要来源,并针对每一种给出具体的修正方法。
调查偏差究竟是什么
调查偏差是指任何使你的结果持续偏离真相的系统性失真。关键词在于系统性:随机误差会围绕真实值对称地散布回答,并随样本量增大而缩小,但偏差会使整个分布发生位移,无法通过收集更多数据来修正。这正是为什么在发布前就抓出偏差如此重要——一旦它污染了你的数据,再多的分析也无法将其彻底清除。
偏差在三个环节进入:你如何提问(问题设计)、谁来作答(抽样与应答),以及你如何解读(分析)。我们将逐一讲解。令人鼓舞的是,绝大多数调查偏差都可以通过一次细致的设计审查和一次小规模试测来避免,而这两者的成本,都远低于一份带有偏差的调查所可能引发的错误决策。不妨把下面这些技巧,看作是为你将从数据中得出的每一个结论所投的一份低成本保险。
问题措辞偏差
诱导性问题会把受访者往某个答案上引导。"您有多喜欢我们出色的新功能?"就预设了对方喜欢。请中立地改写:"您如何评价这项新功能?",并配以从很差到很好的平衡量表。
带有倾向的措辞会嵌入带情绪或带立场的词语。"您是否支持对……设置合理的限制?"把其中一个答案框定为唯一明智之选。请去掉带评价色彩的形容词,让受访者自行作出判断。
双管齐下式问题一次询问两件事:"您对价格和质量有多满意?"一个喜爱质量却厌恶价格的人无法诚实作答。请将其拆分为两个独立的问题。
预设式问题预先假定了一个尚未确立的事实——"您多久使用一次功能 X?"就假设了受访者确实在用它。请先加一个筛选或甄别问题,或者提供一个"从不使用"的选项。
行话与含糊表述会让受访者去猜测其含义。请使用通俗语言,必要时定义术语,并避免"经常"或"定期"之类含糊的量词——不如改为具体的"每周 3 次或以上"。
应答与答题模式偏差
默许偏差是指不论内容如何都倾向于表示同意。要减少它,应尽可能避免采用同意/不同意的形式,改用针对具体条目的量表(用"结账有多方便?"而非"结账很方便:同意/不同意"),并偶尔对个别条目进行反向计分,以便检测出一味同意的直线作答。
社会期许偏差会让人以显得体面的方式作答——夸大锻炼、淡化不健康的习惯。请向受访者保证匿名,以间接的方式提出敏感问题,并强调答案没有对错之分。
极端作答与趋中作答描述的是那些习惯性选择两端、或总是选中间的人。平衡的量表和多种问题形式的混合,有助于稀释这些模式。
直线作答与草率作答发生在受访者感到疲惫、在整列网格中都选同一列、或匆匆答完之时。请让调查保持简短,把冗长的矩阵问题拆开,并使用注意力检验条目来标记出低质量的回答。
问题与选项顺序偏差
问题顺序偏差发生在前一个问题影响了后一个问题的答案之时——先询问具体的问题,再询问总体满意度,可能会拉低满意度得分。请把一般性问题排在具体性问题之前,并将相关主题归为一组,以保持语境的一致。
选项顺序偏差(首因效应与近因效应)意味着受访者会不成比例地选择视觉列表中的靠前选项,或朗读时的靠后选项。请在不同受访者之间随机排列各选项的顺序,让任何位置上的优势都被平均抵消。包括 SurveyMaker 在内的大多数平台都能自动随机排列选项。
抽样偏差与无应答偏差
抽样偏差产生于你的抽样框架或招募方法系统性地排除了部分人群之时——例如,仅通过应用推送通知来做调查,就会漏掉已流失的用户。请拓宽你的抽样框架,并使用多个招募渠道。
自选偏差发生在只有意见强烈的人才愿意作答之时,会使结果偏向两极。奖励、提醒以及让调查保持简短,能全面提升参与度,而不只是提升那少数几个热情之人的参与。
无应答偏差出现在作答者与不作答者存在实质差异之时。请将受访者的人口统计特征与你已知的人群相比较,在可能时对未作答者进行跟进,并对结果加权以校正代表性不足的群体。对于像NPS 调查这类关系型指标而言,这些风险尤为突出,因为批评者可能会彻底不再参与,从而在不知不觉中把你真实的得分拖到比作答者所显示的更低。
发布前的偏差检查清单
在把一份调查投入实地之前,请逐项过一遍这份清单。把每个问题大声读出来,问问它是否暗示了某个偏好的答案。确认没有任何一个问题包含两个意思。检查量表是否平衡,正面与负面的点数是否相等。在顺序可能产生影响的地方随机排列各选项。核实你的抽样框架覆盖了全体人群,而非仅仅是一个容易触及的细分群体。用少数几位真实用户来试测调查,并请他们边想边说——你观察到的困惑,就是你能够预防的偏差。对于像市场调研问卷这样的结构化研究,请把这些检查记录下来,以便日后各轮调查保持一致且可比。
几处经过打磨的改写能把这些原则落到实处。诱导性问题"您如何评价我们了不起的客户支持?"改成中立的"您如何评价我们的客户支持?",并配以从很差到很好的平衡量表。双管齐下式问题"这款产品价格实惠且可靠吗?"拆分为一个关于价格实惠的问题和另一个关于可靠性的问题。预设式问题"您多久使用一次我们的移动应用?"则加上一个甄别问题——"您使用过我们的移动应用吗?"——这样,从未安装过它的人就会被引导跳过该问题,而不必凭空编造一个使用频率。含糊的"您经常锻炼吗?"改成"在一个普通的星期里,您有几天进行至少 20 分钟的锻炼?"。每一处改写都去掉了一个假设,并用受访者能够如实回答的表述取代了一个模糊的措辞。
偏差也会在分析阶段悄然潜入,它理应受到与设计同等的审视。只挑选有利的发现、从微小子群的噪声中臆想出规律,以及呈现某项指标却不附上其误差范围,即便底层数据本身干净无误,也都会扭曲结论。请在看到数据之前就确定你的关键分析,在每一项子群结果旁标注样本量,并把任何小于误差范围的差异当作尚无定论,而非当作一项发现。诚实的分析是抵御偏差的最后一道防线,也是最完全掌握在你自己手中的一道。
常见问题
我可以在收集回答之后再消除偏差吗?有些偏差可以在事后部分校正——例如,加权可以调整已知的抽样失衡——但大多数问题措辞偏差和应答偏差都已"烙印"在数据里,无法逆转。在设计阶段预防偏差,远比事后再去修补可靠得多。
最常见的调查偏差是什么?诱导性或带倾向的问题措辞,以及默许偏差,是最常见的几种,因为它们很容易在无意中被引入。审慎的中立措辞和针对具体条目的量表能同时应对这两者。
我该如何减少社会期许偏差?保证并明确告知匿名,以中立、间接的方式提出敏感问题,避免暗示某个正确答案,并考虑采用受访者无需与访员面对面的自填式形式。
更大的样本能减少偏差吗?不能。更大的样本能减少随机抽样误差,但对系统性偏差毫无帮助——它只是让你对一个带偏差的数值有了更精确的估计。偏差必须通过设计和抽样来解决,而非通过样本量。
借助 SurveyMaker 的中立模板和内置的选项随机排序功能,设计出抗偏差的调查。