HackerTube English?
子领域索引

学习信号与模型行为

从一次训练更新到部署判断，沿证据区分模型学到了什么、分数测到了什么。

从一个问题开始

没人给出标准答案，学习信号从哪里来？ →从一块没有标签的图像开始，再把问题换成需要连续行动的游戏。两者都没有老师逐题打分，但「找出结构」和「选择动作」要求的信息不同。游戏代理的进步，究竟进步在哪里？ →分数上涨可能来自更好的网络、更深的搜索，或者评分规则里的漏洞。分别追踪代理看到了什么、尝试了什么、最后为什么得到奖励。预测下一个词，离回答一个人还有多远？ →把三个问题分开：输入如何变成表示，训练如何改变网络，一个善于续写的模型又如何成为助手。否则很容易拿其中一层解释全部行为。一次成功演示能支持多大的结论？ →程序给出了期待的输出。从「它做到了」到「它一定能做到」，中间隔着测试分布、形式假设和真正的使用场景。这些界限在部署压力出现时尤其容易被忽略。推荐系统学到的偏好，有多少是上一次推荐塑造的？ →一次点击既是对眼前内容的反应，也受之前看见哪些选项影响。从消失的帖子到主动迎合指标的创作者，追踪这次点击怎样进入下一轮推荐。实验测到的，真是日常建议里说的那件事吗？ →从一个早晨散步的例子开始，试着给观察写上准确的动词：移动眼睛、报出字母、测出一种酶。动词一换，我们可能已经在回答另一个问题。司机接管了一次，自动驾驶系统该学到什么？ →一个路口、一笔接管记录、一次软件更新。跟着 openpilot、Tesla 和 Waymo 的工程访谈，区分能帮助定位故障的线索、值得送进训练的样本，以及可以检验修复的旧场景。奖励之外，怎样让好工作发生？ →一段动机演讲与一位研究团队组织者的回忆，提醒我们把报酬、个人奖金、探索空间和合作条件分开看。