HackerDeadly Truth of General AI? - Computerphile
ComputerphileYouTube ↗
延伸阅读 1
字幕解读
思想实验让机器按一年后的邮票数量给行动排序。只要制造新邮票也计分，它就能通过改变世界来提高分数，偏离了收藏者默许的约束。
存档字幕（转写方式未注明） ↗ · 引文按字幕原文展示，可点时间戳回看片段。
补充字幕原文 2
whichever output it has predicted will produce the most stampsWe've got time to print more stamps