科技

我们每天都在看 engagement 指标。点击率、停留时长、完播率、点赞数。这些数字在 dashboard 上跳动，产品经理盯着它们决定下一版推荐策略的权重分配。A/B 实验跑了一周，CTR 提升了 3.2%，团队开香槟庆祝。 没有人问一个问题：用户点这个，是因为它有用，还是因为它好刷？ 这听起来像是哲学家的反问。但答案决定了推荐系统最终变成什么。 多巴胺陷阱的工程学原理 Kahneman 的双系统理论在这里不是概念引用，而是对推荐系统信号源的直接诊断。System-1 是直觉反应，不经过前额叶的审查，直接触发行为。手指往下滑、看到标题就点、被封面吸引停留三秒。这些动作不需要思考，它们更像反射。 System-2 是深思熟虑。读完一篇文章、对比两个产品的功能、看完一个教程然后记笔记。这些行为慢，但产出的效用持久。 推荐系统收集的信号，几乎全部来自 System-1。一次滑动、一次点击、一次播放三秒后跳出，这些行为更接近”手滑”而不是”选择了有价值的东西”。当你用这些信号训练模型，模型学到的不是”什么对用户有用”，而是”什么能让手指停下来”。 这就是多巴胺陷阱的工程学定义：用即时反应信号训练系统，系统学会制造更多即时反应，用户对即时反应的阈值被不断推高，最终陷入停不下来但也记不住的状态。 把优化目标从点击转移到返回 […]

最近看到一篇研究，讲的是哥伦比亚航空法规的问答系统。他们用的是 Gemma1.1 2b。20 亿参数。不是 7000 亿，不是万亿级别，是那个在模型排行榜上连名字都不会出现的数字。 他们手里有 24,478 对专家标注的问答。每一对都经过航空法规领域的人验证。最终这个 2b 模型在特定任务上的表现，超过了不知道大多少倍的通用模型。 24,478。不是 2400 万，不是 24 亿。两万多个经过专家审核的问答对，加上一个不到 2G 内存就能跑的模型。 这个实验的结论比实验本身更有意思。它暗示了一个正在发生的范式转移，而大多数人还在参数竞赛的旧叙事里。 参数竞赛的天花板