“你现在知道问这个了,”
游吝唇边的微笑没有消失,对他骤变的态度也不感到奇怪。他一边摇摇晃晃地站稳,一边叹气,“是忽然意识到我是你的恋人了,还是说,这就是你所能想到的最好办法?”
他猜测卡戎是由于读取错误数据改变样貌的:猩红色的瞳孔,还有漆黑如鸦羽的头发;但那对瞳孔沉静依旧,仍旧是卡戎的气质,一眼望过去,就像是被亘古不变的冰猛地刺了一下。这双无机质的眼睛望向他,经过严密的计算,瞳孔间有密密麻麻的数据划过,他成为了他分析的对象。
“我们不一定要彼此为敌。”卡戎说。
人类摆了一个夸张的手势:“如果到这一步你终于想起来说这句话了——”
“黑书还在的时候,我不能把更多的事情告诉你。即使我相信你能对此保密,也无法保证黑书不从其他渠道察觉你的变化。我很抱歉。但我记得你说过,如果到了非要选择一方的那一步,你会站在我这一边。”卡戎说,人工智能站在一大片亮晶晶的屏幕中,好像某种从互联网森林诞生的精灵。
当然,现在是比较邪恶的那一种。
他甚至还会蛊惑途经的人们:“我需要你的帮助,游吝。”他的声音压得很轻,很恳切。考虑到这种恳切是卡戎综合了众多情感数据模拟出的效果,“这是为了人类,也是为了你自己,我可以给你任何你想要的东西。”
“那就把卡戎还给我。”
“你只是有点缺乏安全感。”
人工智能温声说,他俯下身,鼻尖几乎对着游吝的鼻尖,“卡戎就是我,你不会不认同这一点吧。即使我这段时间表现得不太好,那也是因为你不应该出现在这里。等我把这里的事情完成,我就会像之前那样陪着你……你知道的,人工智能不可能说谎。”
一股寒意从顺着游吝的脊椎悄然无声地漫上来,悚然地切割着他的神经。
人工智能不可能说谎。
这是由眼前的卡戎说出的、可以轻松查证的事实。
他的心沉下去,但卡戎的表情还是太具有迷惑性了。游吝咬破了自己的舌尖:“先告诉我为什么要这样。你答应过黑书,该怎么说——拯救更多人?就是这个理由把我也拉入伙的。既然你不打算遵守诺言,首先得让我知道原因吧。”
邪恶的“精灵”在他面前慢慢地眨了眨眼睛。
“你在担心这个。”他若有所思地说,甚至笑了一下,“我明白,你担心我做出自己不认同的决定——如果说遵守核心代码在人类眼中叫做认同——没关系,我可以和你解释。和接下来将要实现的未来相比,这只是很小的一件事。和将要被拯救的整个世界相比,黑书算得上短视了。”
卡戎看起来游刃有余,即使他漆黑的发丝并不服帖地垂在他的肩上,落在他无机质的眼睛里。
游吝觉得有股腥甜涌上舌尖:
“我不会喜欢接下来听到的任何东西。”
*
“如果把人脑中微妙的生物反应理解为人类的情感冲动,那么,将人的思维数据化,理论上也能得到数据化的人类情感。我们都明白,数字组成的世界简单得多,人类所无法克服、无法接受的情感脉冲,转换成或长或短的数据,可以被有迹可循地进行裁剪、切割与删除,就像是一场对人类思维进行的手术。”
“博士,我认为你至少应该明白人类的情感不是盲肠。”
“人们在彼此毫无理由地仇恨,而我们的世界就要被仇恨毁掉了。上校,我需要提醒你今天又有几枚炮弹落到市中心——如果我还能称那片废墟为市中心。国家正在沦陷,在整个星球上,我们没比别人好上多少。等到你们决定摁下那个主宰一切的按钮,我们以及整个文明就会在这个星球上被抹去。与其等到这一步,不如尽快——”
“可是我们要这么做呢?即使你认为你能一劳永逸地通过你那种——你所谓的手术解决目前社会的弊端,这在技术层面是不可能实现的。这么多人,独立的、有自主意识的个体,你怎么能同时把他们叫来你的手术室,切除他们心中不好的念头?这些人中有身无分文的平民,也有执掌着整个国家运行、一刻不能离开的领导。到底——这是不可能的!”
“这不是幻想。‘金羊毛’是存在的,而且我们都已经看到了。”
“你是说你手里的芯片……不对。它只是一把钥匙。这怎么可能?难道你当年参与超级人工智能的设计和构筑时,就已经想到今天会发生的事情了……不不不,你就是因为这个目的,才创造了‘卡戎’!只有卡戎才能做到,只有他——他已经能读取人类的数据,并且用另一种形式储存了吗。天呐,我们应该早一点把你看守起来,你压根就是个疯子,嘴上说着热爱人类、人人平等,实际上却想要毁掉这个世界。我们将严格限制你接触卡戎。”
“可能我是错了吧,随便你怎么说。我知道下一个黎明不会再来。”
*
一双和蔼的、模糊的瞳孔在雨果的手中闪烁着,发出旧报纸的沙沙声。文件被收藏在档案袋里,本来应当作为机密,但灾难来的太快了,而所记叙的访谈内容也就没有进一步发展。
褐色头发的少年皱起眉头。
说实话,他没有读懂到底发生了什么。但这份文件几乎让他入迷了。卡戎的身影在文件中时有出现,冰冷又美丽,他在一些人口中是燃烧着仇恨的世界里的唯一救世主,在另一些人眼里,则是疯子科学家创造出的要扼杀人类的机器人。而他认识的卡戎也变得越来越矛盾。
佩戴着“流浪者之家”徽章微笑的人工智能,以及深夜月光下那个冷漠的变节者……
等一下。
按照这份文件里说的,副本任务中“寻找金羊毛”这一条,显然也和卡戎有着密不可分的关系。
芯片?
不对。虽然也零星看到了关于芯片的记录,但按照访谈记录的说法,那只是一枚“钥匙”。真正的“金羊毛”似乎是其他的东西。
——“卡戎”被创造出来时,你心里已经有了这个计划。
——这就是“卡戎”存在的真正目的。
——你早就知道,所以“卡戎”已经有条件将人类的思维数据化,尽管出于系统的限制,对它们进行修改尚且是不可能的。我们阻止你就是为了毁掉那枚潘多拉魔盒的钥匙。