AI "Stop Button" Problem - Computerphile

ComputerphileYouTube ↗

延伸阅读 1

送茶机器人的思想实验改变一项奖励，停机键就从要阻止的障碍变成它想主动按的捷径。检查一个安全开关时还须分析它改变了哪些行动的收益。

存档字幕（转写方式未注明） ↗ · 引文按字幕原文展示，可点时间戳回看片段。

补充字幕原文 2

try and prevent you in any way possible from shutting it down

what it does immediately is shut itself down