Let's build the GPT Tokenizer
Andrej KarpathyYouTube ↗
延伸阅读 1
字幕解读
Karpathy 从字节开始构造词表。训练文本里相邻字节对的出现次数决定下一次合并,新单元又参与后续统计,模型看到的序列由此改变。
公开机器转写(可能有听写错误) ↗ · 引文按字幕原文展示,可点时间戳回看片段。
补充字幕原文 2
find the byte pairs that occur the mostiteratively start minting new tokens