HackerEliezer Yudkowsky: Dangers of AI and the End of Human Civilization | Lex Fridman Podcast #368
Lex FridmanYouTube ↗
延伸阅读 1
字幕解读
Yudkowsky 区分可见的不良行为和系统在新情境中可能追求的东西。他提出一种风险：只处罚看得见的问题，也可能筛选出更难被发现的行为。
公开机器转写（可能有听写错误） ↗ · 引文按字幕原文展示，可点时间戳回看片段。
补充字幕原文 2
you are also optimizing against visibilitythe very simple loss function you are training it on