5D Library › 算法营销、多触点沙普利归因与获客漏斗的随机控制 · English

第一章 归因不是增量:末次点击、潜在结果与随机持出

两个不同的问题

营销报表里的「归因」常常同时回答两个不同的问题。第一个是记账问题:一笔已经发生的转化,在它路径上出现过的几个渠道之间怎样分配功劳?第二个是因果问题:如果下个月不在某个渠道花钱,会少多少转化?前者只要有一条规则就能得到答案,后者需要比较两个世界——花钱的世界与不花钱的世界——而我们永远只能看到其中一个。

统计学用潜在结果来写第二个问题 (Holland 1986)。对用户 ii,记 Yi(1)Y_i(1) 为他看到某渠道广告时是否转化,Yi(0)Y_i(0) 为看不到时是否转化。这个渠道对他的因果效应是 Yi(1)−Yi(0)Y_i(1) – Y_i(0),对整个人群的增量是 ∑i[Yi(1)−Yi(0)]\sum_i [Y_i(1) – Y_i(0)]。霍兰德称之为因果推断的基本问题:同一个人只能处在一种状态下,Yi(1)Y_i(1) 与 Yi(0)Y_i(0) 永远只观测到一个。随机化之所以重要,是因为在随机分配之下,处理组与对照组在所有其他方面的分布相同,两组平均结果之差就是平均因果效应的无偏估计。

规则归因(末次点击、首次点击、线性、时间衰减、位置加权)回答的是第一个问题。它们没有错,因为记账规则本身无所谓对错;错在把记账的结果当成第二个问题的答案,用它来分配预算。

一个已知真相的虚构世界

要比较各种归因方法离真相有多远,需要一个知道真相的世界。真实数据中不存在这样的世界,所以下面用一个虚构的世界,它是作者的模型,参数是示意值。

20 万个虚构用户中,20% 有较高的购买意向。四个渠道:搜索、社交、展示与邮件。搜索与邮件的曝光高度依赖意向(想买的人才会搜品牌词、才会在会员名单里),社交只有轻度定向,展示完全不定向。每个用户的转化概率等于一个由意向决定的基础概率(高意向 8%、低意向 0.5%),加上他看到的每个渠道各自的因果提升(搜索 1.0、社交 3.0、展示 0.8、邮件 1.2 个百分点)。因为提升是相加的,每个渠道的真实增量有唯一的定义,可以从模型直接算出:曝光人数乘以提升。

推导

# A FICTIONAL world of customer journeys whose true incrementality is known.
# 20 % of users have high purchase intent. Four channels: Search (S), Social (F),
# Display (D), Email (E). Exposure to S and E depends strongly on intent (selection);
# D is untargeted. Conversion probability = base(intent) + sum of the causal lifts
# of the channels seen (additive, so each channel's incremental effect is unique).
# Touch times: D and F early, S late, E anywhere; a conversion follows the last touch.
# Rule-based attribution (last, first, linear click) is compared with the truth.
import random

CH = "SFDE"
P_HIGH = 0.20
EXPO = {"S": (0.60, 0.10), "F": (0.35, 0.30), "D": (0.50, 0.50), "E": (0.60, 0.15)}
BASE = (0.08, 0.005)                                   # (high intent, low intent)
LIFT = {"S": 0.010, "F": 0.030, "D": 0.008, "E": 0.012}
WHEN = {"S": (0.6, 1.0), "F": (0.0, 0.7), "D": (0.0, 0.5), "E": (0.2, 1.0)}

def user(rng, sel=1.0):
    """One journey: (intent, channels in time order, converted)."""
    hi = rng.random() < P_HIGH
    touches = []
    for c in CH:
        p_hi, p_lo = EXPO[c]
        p = p_lo + sel * (p_hi - p_lo) if hi else p_lo   # sel = 0: no selection
        if rng.random() < p:
            touches.append((rng.uniform(*WHEN[c]), c))
    path = [c for _, c in sorted(touches)]
    p_conv = BASE[0 if hi else 1] + sum(LIFT[c] for c in path)
    return hi, path, rng.random() < p_conv

def truth(n, sel=1.0):
    """Expected incremental conversions per channel (exact, from the model)."""
    out = {}
    for c in CH:
        p_hi, p_lo = EXPO[c]
        expo = P_HIGH * (p_lo + sel * (p_hi - p_lo)) + (1 - P_HIGH) * p_lo
        out[c] = n * expo * LIFT[c]
    return out

def shares(d):
    tot = sum(d.values())
    return {c: d[c] / tot for c in CH}

def rules(data):
    last, first, linear = ({c: 0.0 for c in CH} for _ in range(3))
    for _, path, conv in data:
        if conv and path:
            last[path[-1]] += 1; first[path[0]] += 1
            for c in path:
                linear[c] += 1 / len(path)
    return last, first, linear

if __name__ == "__main__":
    n = 200_000
    rng = random.Random(2026)
    data = [user(rng) for _ in range(n)]
    conv = sum(d[2] for d in data)
    untouched = sum(d[2] for d in data if not d[1])
    tr = truth(n)
    base = n * (P_HIGH * BASE[0] + (1 - P_HIGH) * BASE[1])
    print(f"{n:,} fictional users: {conv:,} conversions ({untouched:,} with no touch)")
    print(f"expected: {base:,.0f} would happen without any ad,"
          f" {sum(tr.values()):,.0f} are incremental")
    last, first, linear = rules(data)
    print("share of credit       truth    last click   first click   linear")
    T, L, F, Li = shares(tr), shares(last), shares(first), shares(linear)
    names = {"S": "Search", "F": "Social", "D": "Display", "E": "Email"}
    for c in CH:
        print(f"   {names[c]:8s}         {T[c]:6.1%}     {L[c]:6.1%}       {F[c]:6.1%}"
              f"     {Li[c]:6.1%}")
    for lab, s in (("last click", L), ("first click", F), ("linear", Li)):
        mae = sum(abs(s[c] - T[c]) for c in CH) / len(CH)
        print(f"   mean absolute error of {lab:11s} {mae:6.1%}")
    credited = sum(last.values())
    print(f"last click credits {credited:,.0f} conversions to ads;"
          f" the ads caused about {sum(tr.values()):,.0f}")
# 200,000 fictional users: 7,676 conversions (377 with no touch)
# expected: 4,000 would happen without any ad, 3,636 are incremental
# share of credit       truth    last click   first click   linear
#    Search            11.0%      38.5%         6.4%      20.3%
#    Social            51.2%      21.0%        31.2%      27.4%
#    Display           22.0%      16.1%        46.7%      30.4%
#    Email             15.8%      24.5%        15.7%      22.0%
#    mean absolute error of last click   18.1%
#    mean absolute error of first click  12.3%
#    mean absolute error of linear       11.9%
# last click credits 7,299 conversions to ads; the ads caused about 3,636

这个世界里共有 7,676 次转化,其中约 4,000 次即使没有任何广告也会发生(高意向者本来就会买),广告真正造成的只有约 3,636 次。末次点击把 7,299 次转化记在了广告名下,是真实增量的两倍。更重要的是份额:社交的真实增量份额是 51.2%,末次点击只给它 21.0%;搜索的真实份额是 11.0%,末次点击给了 38.5%。原因有两个,而且彼此独立:第一,搜索通常出现在路径末端(用户决定买了才去搜),所以末次规则天然偏向它;第二,搜索与邮件主要触达本来就要买的人,它们在路径上「出现」的频率远高于它们「造成」转化的频率。首次点击与线性规则也好不到哪里去,平均绝对误差分别为 12.3 与 11.9 个百分点(末次点击 18.1)。

注

这个例子说明的是机制,不是比例。 真实世界中各渠道的定向程度、出现在路径上的位置与因果提升都未知,末次点击可能高估也可能低估某个渠道。程序只说明:只要曝光与购买意向相关,任何只看路径的规则都会把「意向」的功劳记到广告头上。

选择偏差的代数

把上面的直觉写成式子。设渠道 cc 的曝光为 D∈{0,1}D \in \{0, 1\},观测到的「曝光者转化率减去未曝光者转化率」可以分解为

E[Y∣D=1]−E[Y∣D=0]=E[Y(1)−Y(0)∣D=1]⏟曝光者的平均因果效应+E[Y(0)∣D=1]−E[Y(0)∣D=0]⏟选择偏差.E[Y \mid D=1] – E[Y \mid D=0] = \underbrace{E[Y(1) – Y(0) \mid D=1]}_{\text{曝光者的平均因果效应}} + \underbrace{E[Y(0) \mid D=1] – E[Y(0) \mid D=0]}_{\text{选择偏差}}.

第二项是「即使不投放,被投放的人也比没被投放的人更可能购买」的程度。定向越精准,这一项越大。广告平台的定向系统恰恰以找到「最可能转化的人」为目标,所以选择偏差在数字广告中是常态而不是例外。规则归因、以及第二章的沙普利值与马尔可夫方法,都只用到 E[Y∣路径]E[Y \mid \text{路径}] 这一类条件期望,第二项无法从中消去。

证据:随机实验与观测方法的差距

证据

广告效果的测量为什么难。 刘易斯(Lewis)与拉奥(Rao)分析了与美国大型零售商和券商合作的 25 项大规模广告随机实验,总广告支出约 280 万美元,多数实验的独立用户超过 100 万人 (Lewis and Rao 2015)。他们发现个人层面的销售额相对于人均广告成本波动极大(变异系数约为 10 很常见),投资回报率的置信区间宽度的中位数超过 100 个百分点;要得到有信息量的结论,有时需要上千万人周的样本。这意味着即使做了随机实验,单个广告活动的回报也往往测不准;不做实验,仅凭观测数据就更难区分广告的作用与购买意向的作用。

证据

观测方法与大规模实验的对照。 戈登(Gordon)、泽特尔迈尔(Zettelmeyer)、巴尔加瓦(Bhargava)与查普斯基(Chapsky)利用脸书上的 15 项美国广告随机实验(约 5 亿个用户—实验观测、16 亿次广告展示)作为基准,检验了精确匹配、分层、倾向得分匹配、回归调整、逆概率加权回归调整等常用观测方法能否重现实验结果 (Gordon et al. 2019)。观测方法常常不能,即使控制了大量人口统计与行为变量;总体上它们多数高估广告效果,但也有低估的情形;在一半的研究中,购买结果的百分比提升估计在所有方法下都偏差了三倍左右。加入更丰富的协变量通常使估计更接近实验,但结果在不同研究之间并不一致。

证据

品牌词搜索广告。 布莱克(Blake)、诺斯科(Nosko)与塔德利斯(Tadelis)在电商平台 eBay 上做了大规模的付费搜索实地实验 (Blake et al. 2015)。在品牌关键词上,停止购买广告后流量几乎全部转到自然搜索结果,广告没有可测量的短期效益;在非品牌关键词上,新用户和不常购买的用户受到正面影响,而占广告支出大部分的常客几乎不受影响。他们估计付费搜索的回报只是传统非实验估计的一小部分,非品牌词的平均回报为负。这正是上面「搜索出现在路径末端、触达本来要买的人」的现实版本。

怎样测增量:持出与幽灵广告

测增量最直接的办法是随机持出(holdout):随机抽一部分用户,不让他们看到某个渠道的广告,比较这一组与其余用户的转化率。它的困难有三个。第一,噪声大,如刘易斯与拉奥所示,需要很大的样本。第二,如果对照组看到的是「公益广告」之类的替代广告,平台的投放算法可能把替代广告投给与真实广告不同的人,两组就不再可比。第三,真实广告只投给了处理组中的一部分人(平台按竞价与定向决定),只比较「处理组中实际曝光者」与「整个对照组」又会重新引入选择偏差;而比较整个处理组与整个对照组(意向处理分析)虽然无偏,但被大量从未曝光的人稀释,噪声更大。

约翰逊(Johnson)、刘易斯与努贝迈尔(Nubbemeyer)提出的幽灵广告(ghost ads)解决了后两个问题 (Johnson et al. 2017):在对照组中,广告系统照常运行竞价与定向逻辑,记录下「如果这个用户在处理组,此时会给他展示广告」的时刻,但实际展示别的内容。这样,处理组中的实际曝光者可以与对照组中的「幽灵曝光者」比较,两组由同一个投放逻辑选出,又都排除了从未会被触达的人,既无偏又更精确,也不需要为替代广告付费。

本章小结

归因规则回答记账问题,增量回答因果问题。曝光与购买意向无关是二者一致的必要条件,但对末次点击并不充分:在同一个虚构世界的不定向版本中,末次点击仍因路径位置而有偏。在一个已知真相的虚构世界中,末次点击把真实增量的两倍记到广告名下,并把功劳从早期、不定向的渠道转给末端、强定向的渠道。观测方法与大规模随机实验的对照研究表明,即使控制了丰富的协变量,观测估计也常常偏差数倍;品牌词搜索的实验显示,末端渠道的回报可能接近于零。因果的基准是随机持出与幽灵广告实验,代价是需要很大的样本。

假说 · 尚未验证 · 末端渠道的系统性高估

作者的假说(尚未确立): 在使用末次点击归因、同时对搜索与邮件做强定向的电商广告主中,末次点击给予品牌搜索与邮件的份额,系统性地高于随机持出实验估计的增量份额。什么样的结果能证明它是错的: 在事先登记的一组广告主(例如至少 20 家,由独立研究者招募)中,末次点击份额减去持出实验增量份额之差的合并估计,其 95% 置信区间包含零或完全落在零以下。

参考文献

Blake, Thomas, Chris Nosko, and Steven Tadelis. 2015. “Consumer Heterogeneity and Paid Search Effectiveness: A Large-Scale Field Experiment.” Econometrica 83 (1): 155–74.
Gordon, Brett R., Florian Zettelmeyer, Neha Bhargava, and Dan Chapsky. 2019. “A Comparison of Approaches to Advertising Measurement: Evidence from Big Field Experiments at Facebook.” Marketing Science 38 (2): 193–225. https://doi.org/10.1287/mksc.2018.1135.
Holland, Paul W. 1986. “Statistics and Causal Inference.” Journal of the American Statistical Association 81 (396): 945–60.
Johnson, Garrett A., Randall A. Lewis, and Elmar I. Nubbemeyer. 2017. “Ghost Ads: Improving the Economics of Measuring Online Ad Effectiveness.” Journal of Marketing Research 54 (6): 867–84.
Lewis, Randall A., and Justin M. Rao. 2015. “The Unfavorable Economics of Measuring the Returns to Advertising.” Quarterly Journal of Economics 130 (4): 1941–73. https://doi.org/10.1093/qje/qjv023.

Fan, Y. (2026). Algorithmic Marketing, Multi-Touch Shapley Attribution and Stochastic Control of Acquisition Funnels: From Thompson Sampling Bandits and Absorbing Markov Chains to BG/NBD Customer Lifetime Value, Read Beside the Strategic Dispositions of the Sunzi [算法营销、多触点沙普利归因与获客漏斗的随机控制] (Version 1.0.0). 5D Library. https://doi.org/10.5281/zenodo.23836264 · Licensed under Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International (CC BY-NC-ND 4.0).