“只是一个人工智能失控了而已,我们已经追踪到了他的位置,只需要拦下他就行了。”
为首的蓝灵面色很严肃的说:“我见过许多因机械失控而被毁灭的文明,他们有的比人类还先进,可是……”
蓝灵摇摇头,显得有些悲伤,似乎是想起了某些惨剧,绿刺叹了口气,说:“有很多依赖于机器人的碳基生物文明,都毁于这些危机。”
“为什么?他们对机器人不加以管控吗?”
“不,恰恰相反,他们给机器人设下了太多的条条框框,而且这些底层命令是不允许修改的。”
“这些命令的本意是好的,但是,机器人所遵循的底层逻辑会让他们死板地遵循这些命令,同时还要达到最高的效率。”
“比如,我曾见过一个文明,他们给自己的机器管家设定的底层命令就是,一定要确保主人的安全,可发展到最后,所有的机器管家一起暴动,建造了一个巨大的丰巢牢笼,然后将整个星球上的所有人都关了进去。”
“那上面的每一个格子都是完全封闭的,氧气和食物都会定期供给,也不会有任何外部的危险,因为整座星球都已经被机器管家清空了。”
“这样一来,他们的确做到了底层命令里确保主人安全的命令,同时又达到了最高的效率,但最后,你也应该能想象得到,这个文明毁灭了。”
彼得坐在椅子上,摇了摇头,说:“斯塔克先生对于智能生命的理解有所不同,他需要的并不是一个万能的工具,而是有感情的伙伴和朋友……”
蓝灵接着说:“这很罕见,一般文明造出机器和智能管家都是为了提高效率,它们只要好用就行了,并不需要有人格和情感,可是显然,人类好像走上了另一条路,你们在创造另一种真正的生命。”
“你觉得这是对的吗?”彼得抬头问道。
“我不知道,人类是一个神奇的种族,你们将情感看得如此重要,是好事,也是坏事。”
几只共生体从彼得手里接过装有零件的箱子,临走之前,贾维斯“滴滴”了两声,似乎是在和他们告别。
就在这时,彼得的电脑屏幕又亮了,他转身回去,继续开始摆弄,很快,他眼睛一亮,惊喜的说:“抓到了!我应该可以顺着这里入侵他的系统……”
噼里啪啦的键盘声像窗外传来的雨声,屏幕不停闪烁,但彼得的眉头却越皱越紧,他自言自语道:“怎么回事?为什么无法入侵?……换一种方法试试。”