HackerTube English?

Let's build the GPT Tokenizer

Andrej KarpathyYouTube ↗

延伸阅读 1

字幕解读

Karpathy 从字节开始构造词表。训练文本里相邻字节对的出现次数决定下一次合并,新单元又参与后续统计,模型看到的序列由此改变。

公开机器转写(可能有听写错误) ↗ · 引文按字幕原文展示,可点时间戳回看片段。

补充字幕原文 2

find the byte pairs that occur the most

iteratively start minting new tokens

Hacker News 评论

查看 HN 原评论 ↗