你大概见过这种场面:两份材料摆在面前,都说自己的方法「研究表明有效」。一份写着效应值 0.8,一份写着 0.1。或者更常见——两份都没写数字,只留下三个字:有效。

「效应值」这个词,在我们的报告里出现过很多次,写着写着就默认大家都懂了。其实它很具体:一句话就能算出来,也可以一句话就读错。而一旦读错,后面全错。

这篇不讲某一项研究,只讲这把尺子怎么用。看完你应该能回答一个问题:别人递给你一个 0.3,你知道它是大还是小。

效应值 · 全文导图

导图速读

  • 这是什么:两个群体的差距,除以这一群人内部人和人之间本来就有的差距。就这么一句话。

  • 怎么读:把它翻成「随机抽两个人比一比,前者赢的概率」。0.1 是 52.8%(跟抛硬币差不多),0.8 是 71.4%(十次赢七次)。

  • 现实多大:真实教育实验的中位数只有 0.10,四分之一的结果是零或负。所以 0.2 在教育里已经算大。

  • 和「显著」的关系:p 值管「像不像巧合」,效应值管「有多大」。显著不等于重要。

本文目录


一、先做一道身高题

两个班,A 班平均身高 165 厘米,B 班 164 厘米。差 1 厘米。

这 1 厘米算大吗?

这要看班里高矮散得多开。

如果 A 班的人都差不多高,挤在 163 到 167 之间,B 班也挤在 162 到 166 之间,那这 1 厘米就是一条清清楚楚的分界。随便从两个班各抽一个人出来比,A 班那个大概率更高。

可如果两个班都从 150 长到 190 都有,高矮散得很开,那这 1 厘米谁也看不出来。你从 A 班抽一个矮的、从 B 班抽一个高的,B 班那个照样比 A 班这个人高。

同样差 1 厘米,一个比得出输赢,一个比不出输赢。差别不在那 1 厘米,在这两个班的人本来散得多开。

「散得多开」是可以量出来的,而且量法很朴素。A 班大多挤在 163 到 167,随便抓一个孩子,他离班平均大概就差一两厘米;换成从 150 到 190 都有的班,随便抓一个,离平均要差十几厘米。

这个「平均而言,一个人离平均有多远」的数,就叫标准差。

名字听着像统计课本里的东西,其实就是这么一件事——它是「散得多开」的刻度。数值小,说明大家都差不多;数值大,说明人跟人差得远。你不用会算它,只要记住它量的是什么。

再说一遍它是谁的:它是这个班的属性,不是哪个孩子的分数。 班里换一批人,这个数就跟着变。

这就是效应值的全部想法,一句话:

群体间的差距 ÷ 群体内人和人之间本来就有的差距

1 厘米是绝对差距。分母上那个「人和人本来差多少」,用标准差来表示——也就是这个班的人平均离平均有多远。除完之后,得到的是一个比例:这个差,相当于人群本身差异的多少。

身高只是个比方,因为它人人有体感。研究里最常算的,是分数。


二、换成分数:同样的 5 分,能算出两个结果

两个班上同一份卷子考数学。A 班平均 78 分,B 班平均 73 分,差 5 分。卷面从 50 到 100 都有人,班里分数散得开,平均每个人离班平均 15 分——这就是刚才说的标准差,15 分。

先看清这 5 分是谁的。它不是哪个学生的分数,是两个班各自平均之后的差——A 班这一群人,比 B 班这一群人,整体高 5 分。

15 分也不是谁的分数,它是这个班自己散开的程度。

两个数,一个是一群人对一群人的差,一个是这一群内部人和人的差。都不是某个具体孩子的成绩。所以:

5 ÷ 15 ≈ 0.33

换一份卷子。题目简单些,分数挤在一起,班里学生彼此只差 10 分左右,标准差 10 分。同样是两个班的平均分差 5 分:

5 ÷ 10 = 0.50

同一件事——「A 班平均比 B 班高 5 分」——在两份卷子上,一个读 0.33,一个读 0.50。

0.33 这个数,也不是「某个学生进步了 0.33」。 它说的是两群人之间的差别,由全班的平均分和全班的松散程度算出来。同一个班里,有人提高得多、有人没动、有人还退了两名——这些都被平均掉了。想知道某一个小明到底怎么样,这个数回答不了。

所以「提高了 5 分」这句话,单独看没有意义。5 分算多算少,取决于大家本来差多少。 一个班里如果所有人分数都在 76 到 80 之间,5 分是天壤之别;如果从 50 到 100 都有,5 分淹没在噪声里,只抽一两个人来比,结论很可能正好反过来。

除完之后,单位也没了。0.33 不是 33 分,也不是 33%。它只是一个比例。

标准差本身也不是分数。这里说「15 分」,不是「离及格线还差 15 分」那个意思——60 分说的是卷面的高度,标准差 15 分说的是这个班里的人彼此拉开多远。两个「分」不是一回事,只是碰巧都有个单位。

正因为没有单位,数学卷的 0.33、阅读卷的 0.33、注意力测验的 0.33,才能放到同一张桌上比。这是这个工具唯一的用处,也是它全部的野心。

一个必须马上说清的误会

0.5 不是「提升了 50%。」

它说的是:两群人的分布,被拉开了半个「人与人之间的常见差距」。

半个身位。听起来不大,但它在教育研究里,已经是个相当拿得出手的数。这个下面会讲。


三、把它翻成一件事:抽两个人来比

0.33、0.5、0.8 还是不够有体感。有个特别好用的翻法:

从两组里各随机抽一个人,比一比,受过干预那个更好的概率是多少。

效应值

抽两个人比,前者更好的概率

换成十次

0.1

52.8%

赢五次多一点,基本等于抛硬币

0.2

55.6%

赢五次半

0.5

63.8%

赢六次半

0.8

71.4%

赢七次

这张表比任何定义都好用。

看到 0.8,脑子里应该是「十次里赢七次」,不是「效果 80%」。
看到 0.1,脑子里应该是「跟抛硬币差不多」,不是「有一点点用」。

它也顺手把那个最常见的错清掉了:一个 0.5 的干预,抽两个人比,是 64% 对 36%。三个孩子里,仍有一个可能什么都没得到。 一个 0.8 的干预,也不过是十次赢七次。

这不是打击。是让你把期待对准。


四、报告里那个「显著」,是另一件事

研究报告里经常成对出现两个词:「差异显著(p < 0.05)」和「效应值 0.x」。很多人把它们当成一回事,其实它们回答的是两个不同的问题。

「显著」回答的是:这个差别像不像运气。 比较两组人,本来就有起伏——这次高 5 分,可能只是碰巧。p 值管的就是这件事:它说「这么大的差别,碰出来的可能性很小」。

效应值回答的是:就算不是巧合,这个差别到底有多大。

两件事不互相保证。样本够大的时候,哪怕只差 0.5 分——学生自己都感觉不出来——统计上也能「显著」;样本很小的时候,效果再好也可能「不显著」。所以有一句话值得记下来:

显著不等于重要;不显著不等于没效果。

一句话记住分工:p 值管「像不像巧合」,效应值管「这事有多大」。 就像体检报告,「有异常」说的是不像偶然,异常到什么程度是另一栏。一份材料只告诉你「显著」、不给你效应值,相当于体检只写「有异常」、不写严重程度——你其实什么都还不知道。

顺带一提:效应值不止一种。教育研究里常用的这种叫 Cohen's d;研究「两个因素相关不相关」用的是相关系数 r;医学里比较「谁更容易得病」用的是风险比。名字不同,干的都是同一件事:把「差多少」换成能一起比较的数。


五、现实里的效应值,比你想象的小

这里有个反差,很值得知道。

几十年来,大家用的是同一套老刻度:0.2 算小,0.5 算中,0.8 算大。

这套刻度是统计学家 Jacob Cohen 在上世纪六十年代给出的。来源是一批社会心理学的实验室实验——被试大多是大学生,操纵强,条件干净,跟你孩子坐在教室里遇到的事,离得有点远。

真实的学校里不是实验室。

2020 年,布朗大学的教育政策研究者 Matthew Kraft 做了一件很直接的事:把 747 项教育实验、1,942 个效应值收起来,只看「标准化考试成绩」这一个结果,然后画出分布。

中位数是 0.10。

还有一句更值得记住:四分之一的研究,效应值是零或者是负的。 也就是说,真实世界里,多数教育干预的效果很薄,相当一部分干脆没效果,还有一小部分更差。而期刊更愿意发表「有效」的结果,所以真实情况只会比这个数更难看。

拿这个分布当底,同一个 0.2 就有两种读法:

  • 在老刻度上,它是「小」,是「基本可以忽略」;

  • 在教育干预的真实分布里,它是「大」,是这个领域里最好那一档。

不是谁在撒谎。是参照系不同——一把尺比的是实验室里的强操纵,一把尺比的是真实学校里做成过的事。

你判断一个课程、一个方法、一份报告,应该用后一把。

给 0.1 一个能摸得着的锚

0.09 有多大?听着小得可怜。

Kraft 给了一个换算:0.09 个标准差,大约等于「一位普通老师」和「一位比四分之三同行都好的老师」之间的差距(准确说,是第 73 百分位)。

换句话说:一项效应值 0.09 的干预,大致相当于把一个孩子从普通老师手里,交到这样一位老师手上。

这个数不大。但「换一位好老师」这件事,在家长心里值多少,你自己有数。

这就是为什么 0.10 不能叫「没用」。 它只是小。在所有真实做成的教育干预里,它是中位数——一半比它大,一半比它小。


六、四个最常见的读错

到这一步,尺子已经摊开了。下面是它最容易被用错的地方。这四条不是学术洁癖,每一条都对应一种你真的会遇到的句式。

一、把效应值当百分比

句式:「效果量 0.5,意味着提升了 50%。」

0.5 不是百分比,它没有单位。真翻成概率是 64%,不是 50%。而「提升 50%」听起来比 64% 更唬人——这就是为什么这种说法总出现在宣传里,不出现在论文里。

二、拿两个不同研究的数直接比

句式:「A 课程 0.8,B 课程 0.3,所以 A 更好。」

只有测量方式、孩子情况、对照条件、实施质量都一样,两个数才能比。换一样就不成立:用家长问卷测出来的数,通常比用实际行为观测出来的大一截;对照组是「什么都不做」时算出来的数,比对照组是「另一种有效做法」时大得多。

数字相同,含义可以完全不同。

三、几十个孩子做出 1.2

句式:「我们做了 30 个孩子,效果量 1.2。」

这不是造假,是一个很稳的统计现象:样本越小,效应值越容易被放大。

原因有两个。一是抽样波动大,恰好抽到一批效果好的孩子,数字就上去了。二是发表偏倚,小样本研究只有结果好看,才容易被发出来、被引用、被做成宣传页。

所以看到一个漂亮的数字,先问:几个班?几所学校?几十人的研究给出 1.0 以上,先别激动。

四、把相关说成因果

句式:「上过这个课的孩子 0.6,说明这个课有效。」

相关研究里算出来的差距,混着「谁选择了这个课」这一层。愿意花时间上这个课的家庭,本身可能就在别的地方投入更多。

只有随机分组——谁上谁不上由抽签决定——算出来的数,才能干净地说「是这个造成的」。

这一条最要紧,因为它是唯一一条你看数字看不出来的。数字一样是 0.6,一个来自抽签分组,一个来自自愿报名,分量差得远。


七、看到一个数字,问三句

尺子会用了,接下来是:拿到一个数,怎么落地。

三句话。

第一句:跟谁比?

有对照组吗?对照组是「什么都不做」,还是「照常上课」,还是「另一种有效做法」?

对照组越弱,数越好看。一份宣传页如果只说「我们学员进步明显」,不说比什么,这个数字就没有分量。

第二句:测什么?

测的是家长填的问卷,还是孩子的实际行为,还是标准化测验?

同一个干预,用自评问卷测出来的效果,通常比用行为观测测出来的大一截。这不一定是造假,是测量工具本身的性质——问卷问的是感受,行为记录的是发生。

第三句:多少人?

几十人还是几千人?一个班还是几十所学校?参加的人是自己报名的,还是被随机分组的?

前两个决定这个数稳不稳,后一个决定它是不是因果。

三句问完,你大概能判断这个数字能承担多大的结论。

如果三句都问不出来——没有对照组、没说测什么、不说多少人——那「研究证明有效」就只是一句话。 它不假,只是什么都没说。

反过来说也成立:一个 0.09、几千人、随机分组、测标准化成绩的结果,比一个 0.8、三十人、家长问卷、没有对照组的结果,可信得多,也可用得多。数字小的那个,往往是更靠得住的那个。


八、它读不出来的三件事

最后说清这个工具管不到的地方。

第一,它是群体平均,不是对你家孩子的承诺。

0.10 里面,有人受益很多,有人一动不动,有人还更差一点。平均值把这些全抹平了。一个孩子在某个干预里没得到好处,不能反过来说这个干预没用;反过来,一个干预平均有效,也不保证你的孩子就是受益的那一个。

第二,它依赖测量。

换一份卷子、换一个量表、换一个观察的人,同一个干预的数就会变。这不是研究不严谨,是任何测量都有的边界。所以「0.5 就是 0.5」这句话也不成立——它是「在某一次测量下的 0.5」。

第三,它不告诉你成本。

一个 0.2 的干预,如果每个孩子每年要花三万块、还要占掉每天两小时,它未必比一个 0.09 的、几乎零成本、全校都能做的干预更划算。

效应值只回答「多大」,不回答「值不值」。 判断值不值,还得看代价、看能不能推广、看这件事对谁有效。


回到开头那两份材料。

一份 0.8,一份 0.1。现在你大概不会直接选 0.8 了。你会先问:跟谁比的,测的什么,多少人。然后你会想:0.1 那个,如果能全校覆盖、几乎不花钱,它可能才是更值得做的那个。

一个概念被用得多,它就更需要被用准。


说明:文中「747 项实验、中位 0.10、四分之一为零或负」这组数字,来自 Kraft 2020 年发表在《Educational Researcher》上的汇总分析;0.2 / 0.5 / 0.8 的老刻度出自 Cohen 1988 年的《统计功效分析》;概率换算按正态分布的标准做法得出。其余为通用统计学常识。这些数字不是我们自己做的研究,也不构成对任何具体课程、产品或疗法的效果判断。


相关阅读

  • 环境变了,人没变:一份写给现代人的「环境错配」说明书

  • 不是反应太大,是关不掉:为什么有些压力过去很久,身体还在响