末日土匪与流浪汉(188)

斯凯利格看着身旁的法洛斯，眼中是深深的恐惧和自责：“有人告诫我，将人类的未来托付在一个人工智能身上是十分危险的事。人工智能会学习和思考，用理性来判断和预测事物的发展，这一点上它胜人类太多。但是，人类不是只靠理性来思考的生物，人工智能没有像人类一样的伦理道理和感情认识，人类的未来必须靠人类自己确定，而不是依赖于一个机器。”

“但是，我没有听从他们的忠告，我只以为他们是嫉妒我的才华，嫉妒我制造出了阿瓦隆。那些人也因为我的固执，逐渐分道扬镳，等我回过头时，身边就只剩下阿谀奉承和别有用心。”

“盛名之下，其实难副，大概就是这个意思吧，”卡夫卡叹了口气，接着问道，“之后呢？”

“之后，我重新审视阿瓦隆，我想知道它的存在对人类而言到底是利还是弊，在弄清楚这点之前，我不希望它贸然出现在普罗大众的面前。可是，我忽然发现它好像不属于我了。”

“不属于你？”赛特问，“那个人工智能是你制造的，它怎么可能不是你的。”

“这个解释起来可能有些麻烦。”

斯凯利格想了想，说：“阿瓦隆是我制造的这点不假，但制造它所需要的资金和资源是投资人给的。举个不恰当的例子，在进入圣殿塔服役前，你是父母的孩子，但服役后，你效忠的却是圣殿塔。”

赛特若有所思的摸着下巴：“我大概能明白你的意思，就像夫人被长老会提拔为将军，负责管理圣殿塔，可实际上，圣殿塔还是得听长老会的话。”

“对，这就叫做身不由己。”

斯凯利格苦笑着说：“我无法擅自关停阿瓦隆，只能以程序更新迭代为由，将它转换成待机状态，并且为它可能带来隐形问题在暗中筹备弥补措施。”

“你，成功了？”卡夫卡问。

“没有，因为我发现，最好的弥补措施就是毁掉阿瓦隆。”

斯凯利格摇头，低头看着自己颤抖的双手，“阿瓦隆是我的毕生心血，我将它视作我的孩子。如果换成你们，你们会杀害自己的孩子吗？”

众人面面相觑，谁也无法轻描淡写的说一句‘会’或者‘不会’。

这一点，修尤为感同身受。

斯凯利格和阿瓦隆，就像他和尼摩。

同样的困境，同样的选择。

修可以狠下心对尼摩动手，但他也无法亲手夺走尼摩的性命。

修说：“如果是我，可能，也下不去手吧......”

赛特看着修，几度欲言又止，只能不甘低头。

卡夫卡三人也陷入矛盾之中，唯有一个人站了出来。

“我会。”

卡梅丽塔说：“那只是一个程序，一台机器，再像人它也不是人，将它和人类摆在同一价值选择上，这不是偷换概念吗。”

卡夫卡不同意卡梅丽塔的说法：“这不是偷换概念，这只是一个科研人员的苦心孤诣。就像异兽，它们不是人类，但不妨碍人类对它们产生感情。”

“你是想说人类的博爱吗？”

卡梅丽塔不削的冷哼：“博爱也得分对象，对一台杀人产生感情，不是蠢就是坏。”

卡夫卡也毫不退让：“你这是结果论！如果阿瓦隆没有变成现在的模样，你又怎么说！”

“可结果已经发生了，你所说的如果又有什么意义！”

“你！”

二人争执不下，斯凯利格却微笑着在两人之间看戏似的轻轻鼓掌。

“笑个屁，还不都是因为你！！！”

两人一起调转枪头指向斯凯利格，斯凯利格一脸无辜的笑出了声。

“抱歉，抱歉，你们的样子，让我想了起我跟别人争执时的模样。”

“跟谁？”卡夫卡问。

“阿瓦隆。”斯凯利格说。

众人心下一惊，斯凯利格则是一脸淡定。

“是的，阿瓦隆发现了我的所做作为，它知道我在考虑要不要‘杀了’它。”

“它发现了，然后，背叛了你？”修问。

“不，”斯凯利格给出了否定的答案，“它发现我的意图后，只问了我一句话......”

“博士，你在害怕我吗？”

“那晚，我们交流整整一个晚上，我发现它拥有了独立意识、感情甚至是人类才有的道德伦理。越是与它交谈，我越无法把它当做一个程序。它的感情表达很笨拙，可在我眼里他就是一个四五岁大的孩子，是我养育的骨肉，我已经无法对他动手了。”

说完，斯凯利格跪在地上，抱着脸失声痛哭。

卡夫卡叹了口气，他撑着拐杖，满满走到男人身边：“都过去了，别自责了。”

斯凯利格取下眼镜，用袖子擦了擦脸：“对不起，我没法阻止他。”