我不做人了[星际] 第178节（第2 / 5页）

于是灯塔的科学家们只能另辟蹊径，在这个超级智能的最底层代码中写入了一些指令。例如：对于必须由人类掌握绝对控制权的领域，仍然采用传统的手操控制，如果遇见迫不得已的情况，需要超级智能离开虚拟机进入这些领域工作，必须提前开放相应的隔离系统，并且这一切要经过灯塔和相关部门的审查核准。

这些指令给予了人类监控超级智能的权力。

但实际上，掌握着监管权的还是灯塔。

亚宁隐隐猜到，之后灯塔组织或是超级智能的监管者，一定还在白银中枢的核心代码里写入了一些束缚它的规则，否则它没必要搞之前那些花招来和他们签署协议，索要所谓的“允许权”。

但，他所在的副本名义上是还原历史，可是白银中枢可以随意篡改它想改变的部分。提到白银中枢弱点的相关资料一定会被它刻意隐去。

灯塔对超级智能的创造已经进入了实操阶段。

为了方便监控与改造超级智能， 灯塔创造了一台巨大的、与外界世界隔离的虚拟机，并且仿照人类的神经元网络，着手打造出了一个巨大的“虚拟数阵”——与单纯的机械相比，它更像是一种机械生物。

“虚拟数阵”能根据虚拟机的环境进行自我调整。它会自主淘汰掉集体中感知速度慢的，进一步优化感知速度快的。整个调整的过程就像是一场进化。不过，这场进化的钥匙掌握在人类手中，但进化的结果却不是由人类百分百掌控的。

这也是他们建设大型虚拟机的原因。

如果在测试过程中发现了什么问题，他们可以随时将实验对象彻底销毁， 不至于放出不成熟的超级智能毁灭人类社会。

所以，理论上说，他继续呆在这个副本里也只是浪费时间。

期间，他也偶尔和白银中枢聊起几句，对方不放他出副本的态度相当坚决。似乎非要他在副本里继续熬下去。

亚宁一直怀疑——白银中枢就是想要拖住他。

出于某种理由，即使亚宁已经签署了协议，它也不希望他在现实中醒来。

“感知效率的提升， 也大大拉高了它的认知能力。它很快就将如我们所愿， 进化出超强的计算力和智能。”文件末尾提到， “但目前还存在一个巨大的问题。我们该怎样给这个即将拥有智慧的科技造物赋格？我们怎么保证在给予它自主性的同时又保障它对人类的忠诚和友善？”

很多人生性没有自我束缚的能力。所以人类社会才有道德。

现在，他们希望一个人工智能也有自我束缚的能力。但这个问题着实难倒了他们。

原定计划是赋予这个超级智能一个虚拟人格。但他们很快发现，这个计划行不通。因为超级智能的进化充满不可预知性。用一个简单的比喻，他们现在就像是在养育一个小孩子，他们只能确定这个孩子是个天才，但他们不能确定这个孩子的性格会朝着哪个方向发展。他们确实可以花上几百年的时间静静等待、慢慢雕琢，等系统迭代出合适的样本，但他们没有时间了。

虫族已经兵临城下。期间，连灯塔都被迫后撤了一次。