《零泄题苏格拉底闯关考官、服务端答案物理隔离与掌握度贝叶斯追问树母典》各章定量结论

在线学堂用语言模型做闯关考官时,常把标准答案写进提示词,再叮嘱模型不许说出。本书检验相反的立项命题:答案在上下文里,套话的累计泄露概率 1-(1-p)^k 随尝试次数趋近 1,叮嘱只能改变速度;只有答案不进入上下文,内容泄露才为零;掌握度改用 Corbett 与 Anderson 1995 年刊于《用户建模与用户自适应交互》的贝叶斯知识追踪记账。核对原文后命题被修正:攻击者各不相同时曲线变慢、会学习时变快;判分本身是每次至多一比特的预言机,模型还可能自己把题解出来,学员也会分享自己答对的题。书中参数为示意;全部计算由书中程序生成,不调用任何模型接口,不含任何密钥或服务器地址,也不收录具体的套话提示词;本书是非个人化经营建议。

DOI 待发布 · 专著页正式发布后上线(本站暂无专著页) · 5DL-B-262 · English version

模型示意算例,非实时报价