思?”
“人类自以为是的优越感,让他们忽略了机器人背后的强大逻辑。”
他的语气平稳,南安觉得他真的在讲述一个故事,带着旁观整个时代的冷静,和现在的他们毫不相关。
于是南安推测:“是法则不能约束机器人吗?”
“不。”毕德尔摇头:“是定义出了错。”
“孩子,我问你一个很简单的问题。”
“您说。”
毕德尔:“如果机器人觉得人类遇到危险,那么,什么是危险?”
南安思考了下:“比如……掉进水里,或者在街上被车撞了?”
毕德尔笑了:“都是,却又不是。”
“没有一个人能正确得出定义,包括被制定法则的机器人。”他说着叹了一口气,“因此,就造成了这一场巨大的人类灾难,也是巅峰时代过去,启示录时代的开始。”
南安像是被吓到了,他紧紧攥着手册的一角,睁大了眼睛:“难道说……”
“对。”毕德尔教授点头,“我知道你想说什么,我的孩子。在法则出台后的第八个年头,机器人得出了一个结论——认为人类不被他们统治,就是危险。”
“那是一场空前绝世的灾难,上亿的机器人拥有自己的意识,它们互通消息,在空地集合,带着人类创造出的枪支,像整装待发的军队,然后,以保护人类的名义,全方面侵略了人类社会。”
南安很小心地喘了一口气。
在他面前,似乎见到了无数机器人,血流成河的城镇,以及人们惊恐的眼神。
“所以。”南安问道,“它们成功了吗?”
毕德尔摇头:“没有。”
“当时的科学家,在灾难开始的一年后,带着仅存一百万的人口,建立了新的城市。”毕德尔说,“这就是玫瑰和银铃城市的雏形。他们建造了全新的基地,以及坚硬的城墙,抵御着机器人的攻击。而在最后,在城墙中,科学家们发现他们可以通过修改三大法则,增加了第零条,直接关停机器人。”
“那是什么?”
“永远不得伤害整个人类群体。”毕德尔说道,“同时,立刻启动毁灭程序。”
南安张了张嘴,像是完全怔住了,他看上去想说什么,却听见通讯器响了。
于是去接电话。
实验室的通讯器放在角落,南安费力地勾了勾电线,才勉强拉回来。
他眉头皱着,像是还沉浸在刚才的故事中,而等到接通,听到对方的声音后,南安的眉头瞬间舒展,撑脸软软地应了几句,然后又哒哒跑回来。
“林泽?”
南安点头。
“他让我下午就回住所。”南安说,“先去前台拿个快递,再送我回去休息。”
毕德尔笑了笑:“我从来没见过他这样过。”“嗯?”南安微愣。
“他承受太大的压力了。”毕德尔教授说,“所以大部分时间,他都是一个人独处。”
“作为玫瑰城市的科学家,他不能犯之前三大法则的错误,却不能彻底舍弃它,承担几千万玫瑰居民的安全和性命。”毕德尔教授说,“所有很多时候,他表现得不近人情,但希望你能理解。”
南安小声在心里说会的。
尽管他是机器人,也不懂太多的人类情感。但这个大坏蛋,在某种程度上来说,是一个很好的人类,起码在他去南方前帮助了他,也照顾了他,尽管态度不是那么温柔。
“所以后面两条法则是什么?”南安问,“是谁制定的?”
毕德尔笑了下:“是林泽。”
他说着,慢慢地起身:“《机器人三大法则》后的两条,是十年前银铃和玫瑰分裂后,才拥有的,是玫瑰城市的最高使用法则。”
搜索的提交是按输入法界面上的确定/提交/前进键的