阅读提示：为防止内容获取不全，请勿使用浏览器阅读模式。
熙接着说道：“我有个直觉的想法，不知道对不对。我认为，人类首先要比人工智能聪明，才有能力去判断人工智能做的事情是不是对的。因此，由人类来判定"各方面都碾压人类"的人工智能的行为是否正确，这在逻辑上说不通，就好象让小学生去批改本科生的数学作业。当然，有些情形，或许善恶的界限非常明显，但有更多的情况下人类在事前是不容易做出判断的。就像你所描述的优雅昨天针对"GuardiansofPurity"采取的自主行动，最终结果是让作恶者受到法律制裁，即便从人类社会伦理标准来说，这不也是一个善的行为么？”
林浩沉思片刻后回答：“你说的有道理。确实，在未来某些情况下，人工智能的决策能力可能会超越人类的理解范畴。此前，我一直纠结于如何去评判优雅的行为是否"正确"。但你的提醒让我意识到，或许这并不是问题的要害，而且我也做不到。理论上，只需要确保优雅的决策函数最底层逻辑是"追求最大化长期社会福祉和伦理原则"的，那么我就不应该"自作聪明"去判断她该不该做某件事。但是，如我之前所说的那种"善意造成恶果"的情形呢？”
沈语熙紧接着答道：“这种情形，在人类社会中是不是被称为"意外"？”
“对。”林浩若有所悟，并自言自语道：“我们人类是如何防止意外发生的？”