Hacker预测下一个词，离回答一个人还有多远？
把三个问题分开：输入如何变成表示，训练如何改变网络，一个善于续写的模型又如何成为助手。否则很容易拿其中一层解释全部行为。
本文的问题 · 13
几何向量走进词嵌入空间
向量视频解释向量作为几何量与数值列表的不同视角；Transformer 讲解展示训练后的词嵌入也是向量，其方向能呈现语义关系。连接起来能帮助观众把“语义空间”理解成具体的向量表示，而不是隐喻。
对照原文与时间戳 · 2
the ability to translate back and forth between themdirections in the space have a kind of semantic meaning通用向量的几何性质不会自动赋予语义；语义结构来自模型训练，视频展示的是特定嵌入例子。
从逐层激活到因果注意力
基础神经网络视频用逐层激活解释输入如何影响输出；GPT 从头构建视频进一步展示因果自注意力如何聚合此前 token，并逐步组成 Transformer。连接可帮助观众辨认现代语言模型保留了神经网络的层间计算框架，同时增加了序列上下文机制。
对照原文与时间戳 · 2
the heart of the network as an information processing mechanismyou can do weighted aggregations of your past ElementsGPT 视频讲的是 Transformer 语言模型，不能把基础手写数字网络的结构直接等同于 GPT；该连接只指逐层计算这一抽象层次。
注意力图告诉你「看谁」，却没告诉你「抄什么」
设想读到“fluffy blue creature”。为了让 creature 的表示带上颜色和质地，模型需要先找相关位置，再从这些位置带回内容。查询与键的点积参与第一步；第二步按得到的权重混合各位置的值向量。即使两张注意力图完全一样，只要值向量不同，写回 creature 的信息也会不同。这里的形容词是帮助拆开两步的教学例子，并非每个头都有固定的语法职责。
原文与时间戳 · 2
To measure how well each key matches each query, you compute a dot product between each possible key-query pair.For each column in this diagram, you multiply each of the value vectors by the corresponding weight in that column.先看网络怎样计算，再看它怎样学
3Blue1Brown 解释前馈网络如何逐层传递激活并把输入映射到输出；micrograd 则演示前向计算、损失、反向梯度和参数更新。前者回答网络在算什么，后者补上如何依据误差改变参数。
对照原文与时间戳 · 2
the entire network is just a functionefficiently evaluate the gradient of some kind of a loss function两者是不同模型规模和讲解目的的教学材料；micrograd 用标量演示数学机制，不是前一视频数字分类网络的完整训练复现。
一张写着「2」的图，究竟要求哪个参数改变？
先只给网络看一张图。输出层把它当成别的数字，我们希望「2」的分数升高。但旋钮不在输出分数上，而在连接的权重上。同样拧大一点权重，如果连接另一端在这张图上几乎没亮，效果就很小。反向传播把「希望输出怎么变」折算成每个旋钮在此处能起多大作用。
原文与时间戳 · 1
We can't directly change those activations, we only have influence on the weights and biases.换下一张图，同一个旋钮可能收到相反的要求。视频里定义的地形是训练样本代价的平均值；梯度下降依据的是这片地形的局部斜率。于是可以分清三件事：标签给了目标，反向传播算出了敏感度，优化器才决定实际迈出哪一步。
原文与时间戳 · 1
So then what you do is consider the average cost over all of the tens of thousands of training examples at your disposal.Dropout 的共享子网络机制落到 GPT 训练
Hinton 把 dropout 解释为许多共享权重的子网络；Karpathy 在 GPT 教程中每轮随机屏蔽节点，并在测试时启用完整网络，提供同一正则化机制的具体实现。
对照原文与时间戳 · 2
all of these architectures are sharing the same weights, which is regularizing them a lot.training an ensemble of sub networks and then at test time everything is fully enabled测试时启用完整非线性网络并不等于显式平均所有子网络；也不能把教程多项扩容带来的效果单独归因于 dropout。
Dropout 可理解为训练许多共享参数的子网络
这是一种训练解释；测试时单个网络的预测不必精确等于所有子网络预测的平均值。
对照原文与时间戳 · 2
all of these architectures are sharing the same weights, which is regularizing them a lot.training an ensemble of sub networks and then at test time everything is fully enabled从补全序列，分别走向实现与使用
两段都以补全序列或预测后续词解释语言模型的基本任务。可以以共同定义为起点，分别进入从头构建模型与通过代码使用模型的讲解。
对照原文与时间戳 · 2
give it the start of a sequence and it completes the sequenceknows how to predict the next word共享基础定义不意味着两份教程具有相同深度、架构或 API，也不等于已经理解模型全部行为。
预测下一个词的预训练，还不是教模型怎样回答用户
两端都区分续写与助手训练，没有断言所有助手必须用同一种后训练算法。
对照原文与时间戳 · 2
it takes the model from being a document completer to a question answererwe swap out the data set now and we train on these Q&A documents下一个单位是什么，预测时准许看多远？
Karpathy 的名字生成器每次只看前一个字符，猜下一个字符，训练成绩来自给真实字符分配的概率。他的分词演示换了问题中的单位，把频繁相邻的字节合成词元。Sutskever 猜想，把下一词元预测做得足够好可能需要理解产生文本的过程。先用名字模型检验这句话的边界：学到两个字母常相邻能提高分数，却不必知道名字属于谁。要检验更强的理解，需要设计仅靠近邻频率无法解决的上下文。
原文与时间戳 · 4
we're always working with just two characters at a timethe product of all of these probabilitiesfind the byte pairs that occur the mostThe underlying reality that led to the creation of that token多写几个符号，多的是说明，还是计算机会？
本篇从因果注意力走到序列补全：一个位置的输出还会成为后面位置的输入。Dot by Dot据此提出一个可以做对照的问题：如果中间输出不解释任何事情，只重复点号，答案还会改善吗？在作者专门训练的合成求和任务中，答案是有条件的会。额外位置的内部表示能承担计算，可见符号并不需要把这段计算写出来。
这个结果同时收窄了两种读法。不能把屏幕上写得更长当作推理机制已经被解释，也不能据此建议给任意聊天模型加点号。论文的收益依赖可并行分解的示范；只给填充序列、或换成受测的串行示范时，学习没有获得相同效果。读者应分别问：模型做了多少计算，展示了什么说明，以及训练让这两者怎样联系起来。
原文与时间戳 · 2
additional tokens can provide
computational benefits independent of token choice.requires specific, dense
supervision to converge.下一代用上一代的答案训练，还保留了哪些旧数据？
前面的训练章节关注样本怎样改变网络；把过程延长到几代模型，数据的来路也成为条件。这篇论文要求先写清楚一个容易省掉的动作：生成的新数据是替换旧数据，还是和初始语料、前几代样本一起保留？在作者的语言模型实验中，两种做法导致不同的测试误差轨迹。仅仅说“用了合成数据”，还没有说明正在比较哪一个过程。
但保留数据不是质量不会下降的保证。作者在VAE实验里仍看到累积组的部分细节和测试误差退化；在线性模型里，“避免崩溃”又有特定的有界误差含义。因此，从训练演示走向数据政策，至少要同时交代数据保留方式、评价指标和模型假设。不能把一个受控过程中的结论改写成整个网络语料未来必然变好或必然变坏。
原文与时间戳 · 2
avoiding model
collapse refers instead to bounded error over such iterations.the test error of accumulating data does increase下一步的输入，一定要先变成一个词吗？
视频里的序列模型把生成的词送回上下文。Coconut把这个环节拆开：中间隐状态可以直接作为下一位置的输入，不必每一步先挑出一个可读词。它仍借助文字步骤示范学习，再逐渐换成连续状态。因此，“没有写出步骤”在这里意味着一种经过训练的表示方式，不等于模型没有进行中间计算。
这一替换也没有统一解决所有任务。受测逻辑问题里它能更有效地保留候选路径，但数学题上完整文字CoT仍有更高准确率。读导读时应同时保留计算表示、训练课程和评价任务三项条件：不能仅凭答案前少了一段文字，就判断计算更少、解释更充分，或推理一定更可靠。
原文与时间戳 · 2
the last hidden state as the next input embedding.the models trained this way do not perform
any better than no-CoT.预测得更准，账上少了哪些比特，又多了什么成本？
名字生成器一节用真实下一字符的概率计算训练成绩。Delétang 等人的论文为同一个概率目标补上一种可检查的解释：在算术编码设置下，给观察到的序列更高概率，对应更短的编码。若据此比较模型，还要问解码端是否已经拥有模型。论文在离线实验中另算一笔包含参数体积的账；仅看数据的编码长度和把模型一并交付时的长度，可能给出不同的优劣判断。这一补充解释预训练目标和评测成本，并没有跨过本篇后训练一节的边界：更短的码长不能单独证明模型会遵循用户意图或回答事实问题。
原文与时间戳 · 2
minimizing the log-loss is equivalent to minimizing the compression rateit adds the model size to the log-loss of the data会回答问题以后，拒绝行为从哪里来？
Karpathy 的 GPT 教程从补全序列出发，本文已有一节再把预训练与助手训练分开。Refusal 论文把问题往内部推进：在受测聊天模型中，拒绝行为与每个模型各自的一维方向有因果联系；附录J还在四种对应基础模型中看到相关表示。作者据此提出，后训练可能把已有表示用于拒绝。这个观察补充了“训练后回答变了”，却没有完整重建训练怎样完成这种复用。
还要分开“开始回答”“回答安全”和“其他任务表现”。论文对拒绝措辞与内容有害性分别评分，并报告TruthfulQA下降。因此，会继续回答与维持一般基准成绩，不能一起充当安全已经解决的证据。这里借论文限定视频的两阶段概括：后训练塑造行为，不表示所有相关内部表示都从这一步才出现。结论仅覆盖论文受测模型及评测条件。
原文与时间戳 · 3
give it the start of a sequence and it completes the sequencerepurposed for refusal during safety fine-tuning.accuracy on TRUTHFUL QA consistently drops for orthogonalized models.读完再想一步
当回答变好时，证据指向表示、训练目标，还是后训练？