5D Library › 算法之镜 · English
第四章 投射、巴纳姆效应与确认偏误
在笼统的陈述中看见自己
证据
1948 年，心理学家伯特伦·福勒（Bertram Forer）给学生们一份据称根据他们所做测验写出的性格描述。每个学生拿到的都是同一段文字，主要摘自星座书。在 0 到 5 分的量表上评价它描述自己有多准时，学生们给出的平均分是 4.26 (Forer 1949)。把模糊、笼统的陈述当作专门描述自己的倾向，后来被称为巴纳姆效应或福勒效应。
证据
洛德（Lord）、罗斯（Ross）和莱珀（Lepper）给死刑的支持者和反对者看同样两项研究，一项似乎支持死刑的威慑作用，一项似乎反对。双方都认为与自己观点一致的那项研究更有说服力、做得更好；读完两项研究之后，两组人的分歧比之前更大：对混合证据的偏向同化导致了态度的极化 (Lord et al. 1979)。这类确认偏误是人类推理中记录最广泛的模式之一 (Nickerson 1998)。
一个关于坚定先验的模型
贝叶斯更新为证据应当使信念改变多少提供了精确的语言。对于一个先验为高斯分布、均值 、精度 （方差的倒数）的量，以及精度为 的观测，后验均值是一个按精度加权的平均：
推导
三位读者对一个真实值为 0 的量都从信念 2 出发，但持有的精度不同，然后看到同样的十个中性观测。
# Precision-weighted updating of a Gaussian belief about a quantity θ.
# Prior N(μ0, 1/τ0); each observation x ~ N(θ, 1/τx). The posterior mean is
# μ = (τ0 μ0 + τx Σx) / (τ0 + n τx)
def posterior(mu0, tau0, xs, taux=1.0):
return (tau0 * mu0 + taux * sum(xs)) / (tau0 + taux * len(xs))
evidence = [0.0] * 10 # ten neutral observations: the true value is 0
for label, tau0 in (("open prior (τ0 = 0.5)", 0.5), ("firm prior (τ0 = 5)", 5.0),
("rigid prior (τ0 = 50)", 50.0)):
path = [posterior(2.0, tau0, evidence[:n]) for n in (0, 1, 3, 10)]
print(f"{label:22s} belief after 0, 1, 3, 10 neutral observations: "
+ ", ".join(f"{m:.2f}" for m in path))
# open prior (τ0 = 0.5) belief after 0, 1, 3, 10 neutral observations: 2.00, 0.67, 0.29, 0.10
# firm prior (τ0 = 5) belief after 0, 1, 3, 10 neutral observations: 2.00, 1.67, 1.25, 0.67
# rigid prior (τ0 = 50) belief after 0, 1, 3, 10 neutral observations: 2.00, 1.96, 1.89, 1.67精确的先验本身并非不理性；如果先验确实建立在大量以往证据之上，证据就应当这样权衡。问题出在精度是「没挣来」的时候：新证据几乎动不了一个从未有充分根据的信念。
阅读模棱两可的证据
坚定的先验能解释更新缓慢，却不能单独解释为什么两个人读同一段文本会越走越远。要解释这一点，对证据本身的解读必须取决于信念。
推导
四十条证据：十条微弱地支持某个说法，十条微弱地反对，二十条模棱两可。不偏不倚的读者把模棱两可的证据放在一边；固执的读者把每一条都算作支持自己起初那一方。
# Biased assimilation: the same evidence read through an entrenched stance.
# Forty items: ten weakly support claim A, ten weakly support not-A (likelihood
# ratio 1.5 either way), twenty are ambiguous. The even-handed reader ignores the
# ambiguous items; the entrenched reader counts each one for the side they started on.
items = ["A", "notA", "ambiguous", "ambiguous"] * 10
def run(p, entrenched):
side = "A" if p > 0.5 else "notA"
for e in items:
if e == "ambiguous":
if not entrenched:
continue
e = side
lr = 1.5 if e == "A" else 1 / 1.5
p = p * lr / (p * lr + (1 - p))
return p
for start in (0.6, 0.4):
print(f"start {start:.2f}: even-handed reader ends at {run(start, False):.2f}, "
f"entrenched reader ends at {run(start, True):.3f}")
print("Two entrenched readers who begin 0.2 apart end at opposite extremes on identical evidence.")
# start 0.60: even-handed reader ends at 0.60, entrenched reader ends at 1.000
# start 0.40: even-handed reader ends at 0.40, entrenched reader ends at 0.000
# Two entrenched readers who begin 0.2 apart end at opposite extremes on identical evidence.同样的证据使不偏不倚的读者停留在起点，却把起初只相差一点的固执读者推向相反的确信。这正是洛德等人在人身上发现的结构。
投射到机器文本上
语言模型的输出常常是天然的巴纳姆文本：流畅、笼统、顺着问题的框架回应，而且可以有不止一种读法。因此它是读者可以投射的表面。这种投射可以朝任何方向。热衷者可能从流畅的文本中读出理解、意图甚至感情；早在 1960 年代，约瑟夫·魏泽鲍姆（Joseph Weizenbaum）简单的 ELIZA 程序的使用者就向它倾诉，好像它理解他们一样 (Weizenbaum 1976)。怀疑者则可能从同样的文本中读出回避或空洞。两种读法本身都不是关于这段文本的证据。
注
投射是读者普遍的特点，不属于某一个群体。指出投射，并不能证明对某个模型的某项批评或某种热情是错的：那必须靠核查具体的说法来解决。本章的模型描述的是信念如何抵抗或误读证据，并不告诉我们谁是对的。
假说 · 尚未验证
尚未确立。 人们对一段模棱两可的 AI 生成文本质量的评价，更多取决于他们原先对 AI 的态度，而不是文本本身；对于以笼统、镜子式风格写成的文本，这一效应大于提出具体、可核查说法的文本。该假说预测：在一个让参与者评价同样文本、并标明作者是人或 AI 的实验中，「态度 × 标签」的交互作用在笼统文本上大于具体文本。如果两类文本上的交互作用大小相近，假说就被推翻。
参考文献
Fan, Y. (2026). The Algorithmic Mirror: Self-Attention Geometry, Ashby's Requisite Variety and Cognitive Projection in Information Theory and East Asian Philosophy of Mind [算法之镜] (Version 1.0.0). 5D Library. https://doi.org/10.5281/zenodo.23723557 · Licensed under Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International (CC BY-NC-ND 4.0).