释了几句,然后撂下电话。
逐渐冷静下来之后,她发现了一个新的问题。
如果是无界之城困住了那些人的意识,那无界之城为什么只困联邦人,不困帝国人呢?
第一百五十八章
亚宁不知道自己已经在灯塔中度过了多少天。
自从严静怡和周嵂都离开后, 他的时间感官就变得混沌起来。一会儿觉得时间流逝地异常之快,一会儿又觉得度日如年。
他身边的人来来往往,每个人都鲜活地跟现实中的别无二致。亚宁因此更加不敢放纵自己完全沉浸在这个世界里。他开始不去记这些人的名字, 只把他们当做数据来看待。
他作为指挥官的本领在灯塔中依旧发挥着作用。他因为超常的理智、冷静被高层看重, 同僚和属下也对他颇为信任。只是,他们经常感慨亚宁的冷漠与傲气——因为他从不与人亲近, 也不愿意把别人记在心里。
就这样,虚拟副本里的二十年过去, 亚宁这具身体的外表已经步入中年, 虽然个人角色面板上的数据没有明显变化,但已经显现出衰老的征兆。
作为高级官员,亚宁拥有自己的办公室。他坐在办公室里,伸出自己开始显现出皱纹的手指,盯着发了会儿愣。随后, 他神色如常地在电脑里输入多项密码,然后开始查阅近期的报告。
“虚拟机搭建完成。”
“智能代码开始自适应迭代。”
灯塔对超级智能的创造已经进入了实操阶段。
为了方便监控与改造超级智能, 灯塔创造了一台巨大的、与外界世界隔离的虚拟机,并且仿照人类的神经元网络,着手打造出了一个巨大的“虚拟数阵”——与单纯的机械相比,它更像是一种机械生物。
“虚拟数阵”能根据虚拟机的环境进行自我调整。它会自主淘汰掉集体中感知速度慢的,进一步优化感知速度快的。整个调整的过程就像是一场进化。不过,这场进化的钥匙掌握在人类手中,但进化的结果却不是由人类百分百掌控的。
这也是他们建设大型虚拟机的原因。
如果在测试过程中发现了什么问题,他们可以随时将实验对象彻底销毁, 不至于放出不成熟的超级智能毁灭人类社会。
“感知效率的提升, 也大大拉高了它的认知能力。它很快就将如我们所愿, 进化出超强的计算力和智能。”文件末尾提到, “但目前还存在一个巨大的问题。我们该怎样给这个即将拥有智慧的科技造物赋格?我们怎么保证在给予它自主性的同时又保障它对人类的忠诚和友善?”
很多人生性没有自我束缚的能力。所以人类社会才有道德。
现在,他们希望一个人工智能也有自我束缚的能力。但这个问题着实难倒了他们。
原定计划是赋予这个超级智能一个虚拟人格。但他们很快发现,这个计划行不通。因为超级智能的进化充满不可预知性。用一个简单的比喻,他们现在就像是在养育一个小孩子,他们只能确定这个孩子是个天才,但他们不能确定这个孩子的性格会朝着哪个方向发展。他们确实可以花上几百年的时间静静等待、慢慢雕琢,等系统迭代出合适的样本,但他们没有时间了。
虫族已经兵临城下。期间,连灯塔都被迫后撤了一次。
于是灯塔的科学家们只能另辟蹊径,在这个超级智能的最底层代码中写入了一些指令。例如:对于必须由人类掌握绝对控制权的领域,仍然采用传统的手操控制,如果遇见迫不得已的情况,需要超级智能离开虚拟机进入这些领域工作,必须提前开放相应的隔离系统,并且这一切要经过灯塔和相关部门的审查核准。
这些指令给予了人类监控超级智能的权力。
但实际上,掌握着监管权的还是灯塔。
亚宁隐隐猜到,之后灯塔组织或是超级智能的监管者,一定还在白银中枢的核心代码里写入了一些束缚它的规则,否则它没必要搞之前那些花招来和他们签署协议,索要所谓的“允许权”。
搜索的提交是按输入法界面上的确定/提交/前进键的