645 命运即为人所共愿（下）（第1 / 2页）

用自然语言来描绘“伟大愿景”是失败的，但迄今为止，通过机器语言来进行严格定义的尝试也仍未获得太大的进展。许愿机们仍然倾向于消灭许愿者，就好像这正是指令本身的意思。事情在此陷入了困局，因为生与死的差异是不言自明的，任何一个心智复杂到足以钻研许愿机问题的文明都能分辨出这两个概念是多么不同。如果许愿机的反应暗示着它们在本质上是一回事，这结论背后代表的事实已不可理喻，完全超出理解，或至少，将令我们彻底的绝对的难堪。它仿佛是我们自身无意义性的铁证，因而这一结论是我们最不愿意去做的。

尽管这个本质问题的阴影仍如灭性星尘的迷雾般缭绕在所有许愿机研究者的思维里，在现阶段，读者们不必把它当作一个严重到足以影响生活的问题。截止到当前阶段，我们所找到的对于“伟大愿景”与实际结果间的矛盾的最广为接纳的解释是：这是一个停留在词汇定义层面的问题。我们未能真正地正确地定义“永生”或“永恒幸福”——那也同样可以说我们没能正确地定义“死亡”。

当许愿机从我们这里接收到指令时，它并不真正知道那维持存在的渴望是什么，而把它变成了一种形式上的诡辩。如果我们说生命就是持续活动，它就让尸体活动，如果我们说生命就是持续思考，它就在杀死我们以前把我们的神经系统引入一个逻辑死循环。可是，如果我们仔细地思考这件事，就不得不承认我们并没把定义真正地讲清楚，因为就连我们自己也尚不完全清楚一切。这并不意味着我们在其他指令词汇上就毫无问题，如果以同样严格的标准来考究我们当前所运用的一切定义，它们同样可以被吹毛求疵。奇怪的是，大部分时候许愿机都显得十分“宽容”，它会顺从一些相当模糊的，几乎是完全按照我们心意来做的定义词汇，却唯独在“伟大愿景”问题上严苛得可怕。如果我们想要它为我们消灭死亡，似乎我们就必须先知道什么是死亡，可是，当我们已经找到一种非许愿机方法来完全理解死亡时，那是否意味着我们已经到了根本不需要许愿机参与的阶段？

摘自：

这是一个众所周知的矛盾：一条道理的准确性与实用性往往成反比。人们希望得知的是对自己有用的告诫，而同时也希望遵守绝对正确的原则。但如果一条道理如果是人们能普遍认为是绝无异议的，它往往也是派不上什么用场的。一种没有使用价值的真理。这一真理必须兼容众多的样本与特例，因此必然是高度概括而模糊的。

但是，真正令人感兴趣的是，这一原则在某种程度上同样显现于许愿机的运作上。一个具备完全的展现力保障的愿望，就是说，一个即便没有许愿机存在，人们也知道要怎么达成的愿望，是最容易为许愿机完成，并且很少引起任何严重后果的。要求许愿机提供指定数量的指定物质，或是提供一种有着明确的、可量化用途的工具设计图，这些要求对于懂得如何编译许愿机语言的人都是轻而易举，鲜少发生疏漏的。但如果我们想要的只是这些微不足道的收获，这些既便不算唾手可得，也是任何一个略为成熟的文明能不依赖许愿机而获取的，那么拥有许愿机这一事实便毫无意义。

倘若它无法用于更大的愿景，无法施行不可行之事，无法抵达不可达之处，我们可以说它最终是种失败的发明，一种对永恒机器的虚妄幻想。它不过是我们对一种现象和结构特性的发现，却连其内在原理都无法揭示。这是不可接受的。我们想要达成的是具有普遍性的，基础性的，或是根源性的，能直指我们所处世界之本质的成就。我们必须设法抵达，因为道路就在那儿。

这时常使我们产生一些极端可怕的或颠覆式的想象。安全闸已被完全卸下了，但凡我们思想所能抵达之地，没有任何别的禁区。我们可以许下任何愿望，比如希望宇宙所有达到复杂度标准的物种都保持绝对的和睦与互不损害，或是将一定集体内可量化的福利指标拉升到某个可以被认定为最大化的数值。长久以来我们在这类愿望上争吵不休。风险就明摆在那里，而且几乎是注定会碰到的，鉴于这些愿望都难以给予无争议的定义阐释，而影响范围又是如此广阔，它们当然很可能会引发我们未能在事前评估到的危险后果。

自然我们也同样担心着相反性质的尝试。如果某台许愿机被要求消灭现存宇宙中的所有物种会怎样？正如我们迄今以来从实践中学到的那样，无论任何水平的许愿机都不会“驳回”愿望。它只会在它的理解力和展现力约束下实现操作者的要求。这种“无驳回”尽管在很多重要时刻是美妙的，可同时也是我们在使用这些“林中之路”时最大的梦魇。我们必须自己设置安全条件和预验证指令，以便在真正的愿望被执行前就知道它是否暗藏着我们最为担忧的那类风险。

如今，这种错误在有经验的研究者手中已经不会再犯了。而对于那些碰巧启动了一台许愿机的倒霉蛋、新手，或是纯粹没脑的捣乱分子，感谢群星，事情实际上也不会变得不可挽回。正如目前我们所验证的，当两台许愿机起冲突时，它们会采用一切方法来让彼此兼容。

我们不能保证每一个危险的愿望都能被恰到好处地“抵消”。那既是一种难以估量的高成本行为，同时也将极大地限制我们对现存的合法注册的许愿机进行研究和探索。但是，令人欣慰的事实在于，只要四级许愿机仍然是我们目前的六级假设理论中真正能制造出来的最具表现力的机器，我们所身处的现实——即所有为我们所依赖的基本逻辑与模型——便不会发生严重的更改和动摇。我们的历史线在整体上也是连贯而稳定的，局部的错乱会被迅速地修整与导正，以确保那些真正重要的成果不会丧失。

许多重要的工作在此前提下得以展开。所有现存许愿机都被要求尝试过那些最被期望实现的指令，比如在现阶段暂时被我们认为是最高目标的那一个：通俗地说，就是要令世间一切种族与生命获得永恒的、不可剥夺的健康与幸福。

我们当然不能让这些思考逻辑独特的机器们胡搅一气，但这的确是个既引起巨大迷惑，同时又非常令人沮丧的事实。似乎无论我们用什么形式的许愿机来执行，用任何一种文明曾使用过，正在使用，或预备使用的自然语言来索取永生，它们提供的第一解决都完完全全是指令的相反意思：死亡。这究竟是基于何种机制而引起的反馈？这是否是在说，即便是这些被我们认为通往无限的机器，实际上在意识与生命问题上也并非真的全能？它们的反应是一种运行错误后的处理机制？“恼羞成怒”？这是可能的，但迄今以来，没有任何一台机器承认这点——我们的确试过对每一台注册过的机器进行了相关条件的预验证，我们询问它们假设提出这个愿望，它们是否会因不可实现而输出错误的结果，而，所有的机器都给予相同的反馈：它们能实现这个愿望，并且也不会输出错误的结果。那似乎是在说，在许愿机的思考逻辑中看来，“永生”与“福利最大化”都是“死亡”的同义词。