邯城之倾

十七 听证

字体:16+-

2069年266日约17时

瀚海大厦569层的一间会议室,关于T事件的听证会正在举行。

这是一间特殊的会议室,特殊之处在于这间会议室里没有任何电子设备。被光线击中的机器人挂在一旁的密封玻璃柜里。它刚组装没多久,就又被拆解得七零八落。基准球已经拿出来,放在方石面前的长条桌子上。方石坐的位置在台下。

这间会议室他来过很多次了,但这是十年来他第一次坐在台下被质询的席位上。整间可容百人的会议室,台下只有他一个人,而台上的一排桌后有七个人。方石只认识右首最边上的申舜和中间坐着的科学院院长舒漫。舒漫,从长相和名字看,就知道是移民后裔。

“你从没有说过游戏项目的机器人是有自主执行权的。”七人中左首第三人是主询官,他说。

“游戏项目没有给机器人任何特殊权限,但后来我们又在游戏下发展出一个子项目,叫黑匣子。”方石说。

“科学院没有‘黑匣子’的审批和备案记录。”

“有,只是如你之辈看不到而已。”方石还是用他特有的不咸不淡的口气说话。

方石的傲慢语气让申舜直低头揉脑门。

“我们已经拿到新市长的解密令了。申舜,告诉他!”主询官说。

“是的。”申舜说,“‘游戏’项目并非一个正式的项目名称,它在档案中的项目名称叫‘气象’。它有两个任务:一是观察,这无须解释;二是预测,是基于人类已知的天量信息对未来进行预测。两项任务我之前已经讲得很清楚了,但其来由,待方石讲给你们听。”

“在气象下,观察是功能,预测是使命。人类当然承担不了这样的重任,只有人类创造的智能体才有资格尝试。”方石按照要求向调查小组解释项目的来龙去脉。

“项目首先要解决的是智能体的能力问题,只有能力到了,功能和使命才可能被完成。‘气象’项目下有三个人工智能体。”方石没有用机器人来称呼它们,“刚诞生的时候,它们还不能用上‘人’这样的字眼,只能叫‘体’。”

关于这个项目的过往出现在方石的脑海。三个智能体的能力是有史以来最优秀的,因为造价都极其高昂,每一个都相当于一艘小型航空器的成本,造出三个已让项目资金超标。他发起追加资金的申请,但因资金数额过大,被科学院驳回。

他想了不少办法,动用了自己的人脉资源,获得了些资金,但这些努力只够维持项目,进阶是不可能的。他还得另想办法,干点儿打擦边球的事,对方石来说不是什么大事,要是从来都那么规矩,他还是办公室的一位小喽啰,不,是老喽啰,他一直这么想。他将自己的房产抵押,申请私下贷款,这些事都没有汇报给科学院。

解决了资金问题后,方石遇到了法律问题。依照《人工智能法》,人工智能体是不能获得天量信息的,它们只能得到一定范围内规定的专业信息。“没有天量的信息就无法预测”,这点项目组成员都知道,“信息是机器人的粮食,是硬道理。”

违法的事,做不做?在这个问题上,他其实也有过犹豫。有一天他翻看古书,看到一位远古僧侣玄奘的故事:“……那夜,他用粗布裹了头,背起经笈,混在难民队伍里。待他被士兵轰着出了城,才舒了口气。前路在月下泛起光亮,他回望城楼,白森森的云下,那楼宇轮廓似要向他压过来。他疾步向前。”

他又翻到后页:“……正是午时,烈日在沙漠上晒出片片浮光掠影。最远处的景,也许是真的,也许是不知哪里借来的,亦真亦幻,难辨真假。当他看到起伏的沙山下画着一道笔直的城墙横线时,并不敢确认那是城市,直到脚下出现数道车辙,弯曲凌乱地勾出长长的沙土路,尽头指向那直线中间点的城楼时,才敢认准那是他的方向。待他走近些,看到城门口贴近地面的景物在干燥的热气后像倒影一样浮动,那是两排鲜亮的彩旗和官衣队列。他们在干燥的热风里,已跪候多时。”

他合上书,决定去做。

他当然不能说他要违法,他只是向这些年轻人透露过苦恼:“因为没有吃的,这些小东西们可能会被报废掉。”“吃的”,大家都明白是信息。这话他记得只说过一次,年轻的组员们就立刻心领神会,四处带着小东西们找“食”。鹨是最胆大的一个,他也不知道陈鹨用什么方法给T装上了天量信息。他甚至没有问过这件事。“我只看结果。”这是他经常说的话。

机器人做预测并不是新鲜事,方石的团队要做到最好,就要开动脑子想新办法。这三个小东西加载了一个有趣的设定:小机器人把预测结果提交给中心后,如果“蒙对了”可以获奖,很有游戏的意味,这是项目被小组成员戏称为“游戏”的原因。最初奖品是对一个特殊感应区域的一次短暂的电流刺激;如果没有“蒙对”,也有一点儿小惩罚,是对前述区域来一次短暂的降低电压,仅此而已。几个月以后,这个区域就得到了大跨步的升级,感应区更加复杂,刺激方式脱离了单一的刺激模式,由软件、电流和化学物质共同进行,基本原理来源于多酚物质对大脑的刺激。

三个“小东西”的“观察”范畴是三种典型的区域,数据系统、太空和整个城市。

这三个“小东西”在2047年至2048年间入列。空间站那台叫“观察者A”,被安放在太空站,它在空间站收集信息并进行太空观察和预测。放入米克操作室的那台,实际上也是打了擦边球,机器人是不允许接入数据系统的。这家伙以维修机器人的名义,被放入米克所在的巨大机房,而维修让它可以名正言顺地接入系统进行观察。它的名字叫“观察者M”,绰号“红蜘蛛”,外形是锈红色,多脚的形状类似于一只蜘蛛,每一条都可以接入系统,通过系统信息进行预测。

另外一个就是“观察者T0459”,它的观察和预测场是整个邯城。“它造价是最低的,但却最有趣。”方石在听证会上说。

虽说造价最低,但三个人工智能中显得最实用的,就是这T了。它预测的结果最接地气,都与城市有关,大到天气、贸易,小到赌博之类,项目组的小伙子最是喜欢。而那太空机器人“观察者A”虽说没有得到大的关注,却很快被太空署高价买走,因为它深得偶尔光顾太空站的太空员们的喜爱。让人觉得最没有用处的就是“红蜘蛛”,天天在黑暗的机房中爬来爬去,预测的结果却不如米克自己,让项目组很是失望,好在它丝毫不用人管,自己充电自己维护自己“玩”,所以,大家就让那只家伙在那黑暗的机房永久待下去。“让它作为一个变量待着吧,没准哪天也能做出惊天的事儿来。”方石当时说。

太空署高价买走空间站机器人的举动相当于认可了“气象”的成就,这个项目得到了进阶许可。方石乘胜追击,决定在“气象”上附加一个子项目,叫“黑匣子”。

“黑匣子”的使命仍是观察和预测,但却是升级版。“它观察的是人工智能体本身,还有‘随机’,这片上帝的领土。”方石说,“为了最大限度地看到它的能力,它被秘密地给予了自主执行权。”

“我们都知道,或是说都以为,随机是完全无法预测的。随机让所有可能在同一点存在。薛定谔的猫待在黑匣子里,只要你不看它,它同时占有生和死两种可能,在你观察到它时,现实才在顷刻间坍塌发生。我们都认为,这是一起孤立的坍塌,是完全的概率事件,毫无规律可循。但如果仅仅以依赖概率的随机发生来解释进化,人类还没有诞生,这颗星球仍是蛮荒一片。所以,我对此是怀疑的,我大胆猜想,同一个空间里所有时间里的所有随机,也许都是联系在一起的。”方石一贯平淡无奇的声音,让听证会鸦雀无声。

“而这些看起来毫无关联的概率事件,才组成了通向现在——一个高度文明的社会,一个几乎由戏剧性的低概率事件组成的世界。所以,我认为对于随机的观察,不应当聚焦于一个盒子里,应放眼所有时间空间里的一切。我们所在的这个世界就像一个一片混沌的黑匣子,我们要观察与计算这个黑匣子里发生的所有随机,观察现在的一切,过去的一切,从而去预料将来的一切。

“我所在的局是进化局。进化的秘密对我来说,是一座一直无法企及的神秘高峰。我认为进化不是生物独有的,这个宇宙本身,以及成为系统的一切都在演化。当熵让一切变得无序时,进化让一切变得有序。我运用我的小人物们……”这是大家第一次听到方石用“人”这个字眼来称呼人工智能,“这些超能小人物们来观察、分析和预测这个世界,我也观察它们,观察它们的自我选择。我倒想看看,大量的‘随机’会不会集中通向社会和其中个体的整体进阶。”

“当然,为了便于观察,我们要给机器人的自我进阶创造条件,所以,必须要赋予它们足够的随机空间,并且让它们拥有一定程度的自主权。项目下的超能小人物所得到的选择由自主权和随机平分。”方石站起来,他不像个被询问的人,而像是在演说,“为了让它们更积极地选择,更易被观察,它们应当拥有情绪,这是项目组的共识,是让它们更聪明的必由之路。”而且,他停顿一下说:“他有对自我决策的执行权。”这句话让会场鸦雀无声。大家都意识到,他已打破人工智能与人类的契约。

机器人一直不让装情绪软件和装置是法律的约束,而技术上早就可以做到了。所以,有人提议,方石没有阻止,立即就有试验者。这个受奖励和惩罚的感应区域得到了革命性的改进,这部分区域承担机器人的“情绪”功能。小组为模仿人类出现的情绪概率,在优化的基础上进行了设定,扩大它与行动、环境的相关联度,又给予了随机性,所以,出现这些“情绪”对于小机器人来说不是完全随机,也不完全自主。各种情绪出现的概率不同。与人类的情绪不一样的是,小组人员去掉了一些被认为不好的人类情绪,比如去除了“忌妒”,只给“生气”留下了小概率,当然“快乐”得到了最大的概率,“悲伤”和“恐惧”也有一席之地。

“情绪不光是一种结果,它们影响到电流和元件的灵敏性,从而影响行动。行动产生情绪,情绪与行动相连。这些情绪和行动之间的相互影响被项目小组所记录和观察。机器人产生的情绪有多强烈,各种情绪产生后会怎么发展,以及它对这个无机体产生的作用,也是‘黑匣子’的观察对象之一。”

“这三个机器人都在‘黑匣子’项目下吗?”

“‘气象’机器人有三个,但‘黑匣子’下只有T。太空机器人即使不被买走,项目组也不建议采用它,因为它的功能性设计过于完美,给随机选择留下的空白太少。而那蜘蛛,我们早就放弃了。”

“不过,现在有两个了。”方石指了指挂在玻璃柜里的机器人,“它们现在还不是人,但是,终有一天,它们是会成为人的,只是一个时间问题,而我为什么不成为开启机器人自我进阶的加速者?”

“你以为你可以盗取火种,却发现自己无法浇灭它,让我们来收拾局面。”舒漫终于说话了。他语气并不重,但人们还是感到其中藏着威严的怒火。

“下次我会拿着灭火器干活。”方石终于低下头说道。“那么,为什么你前段时间决定中止项目?”主询者问。

“在对T的观察中,我发现,T将自己本身加入了观察范围,也就是说,它不再是个观察者,它的行动成为环境的一部分,它让本身成为一个变量。这让我感到危险,它有些脱缰了,超出了控制,这是我所没有预料到的。而且,它为了主目标,也就是使命,自我生成了次目标,而次目标中,我们没有排除‘杀人’的选项,这是我们的失误。”方石说,“所以,我决定捕获它,再改进。这并不说明我要中止‘游戏’,而是中止T。我们不能让一个可以计算并控制环境的可杀人物体逃脱在外,下次……”方指了指玻璃房里的机器人,“我们要先让它在一个大玻璃房里,用各种实验性的事物来试探和观察,而不是一开始就放到自然界里去,像我们对待T一样。‘游戏’本身没有错,错在我们给了T太多的自由选择和空间,而它的试验场是整个城市!”

“你是说它不会在乎人类的生死?”“是,以我们所知,那个婴儿的死与它有关。”“你是说它在天空中救的那个?”“是的,婴儿的心脏本就脆弱,有极大可能死于突然下降和剧烈晃动引发的心脏病,所以,至少它是不在乎他的生死的。”“那么为什么不执行一键终止?”“我们无法一键掌控它的生死,因为它把基准球扔了。”

“T这次的行动一定是在使用自主权执行使命,那么,它的具体使命是什么?也就是说,在那么多的观察和预测中,它的使命到底是什么?”主询官接着问。

“它的使命是预测,但它也许自我生产了新使命。”

“T已经复制了自己,难保它不会复制另一个。可是我们到现在还不知道它给自己设定的使命是什么。”

“基准球中记录的东西我们做了拷贝,有它在实验室时的记忆,有它看过的一部歌剧《弗兰肯斯坦》。那部歌剧我们分析过了,完全就是单纯的记录。还有它所有的预测任务。”

“列出所有的预测清单吧。”

屏幕上出现了T从诞生以来所有的预测。

“14项气象预测,准确率100%;12项贸易预测,准确率100%;39项交通预测,准确率100%;1项未归类预测,这项在未来发生,所以无法计入准确率。对于这项预测,我们没有搞明白意思,预测结果叫‘邯城之倾’,发生时间是明天。”

“这个机器人是在跟我们打哑谜吗?它是不是预测这座城市要毁灭了,是的?应当是这个意思。”坐在舒漫左边的人说话了。

“你是?”方石笑了笑,问。“我叫陈鹜。”这人说道。

方石听说过他,这倒是第一次见到,他是科学院最年轻的高层,科学院里的红人,人工智能局的局长,24岁,是基因改造后出生的优秀人类。

陈鹜开始侃侃而谈:“让我们分析一下这个成语,关于它有两个故事,一个故事,是古代的邯城的皇帝爱上了有倾城之貌的美人,人们传言她是祸端,所以他狠心赐死她,所以,邯城之倾在这里的意思,是杀死可能的**。”

“结局呢?”方石问。

“传说,哪来的结局。据说那女的死了,或是逃了,但城还是亡了。祸端不是那女人,而是皇帝心中的魔鬼。”

“另一个故事呢?”

“这倒是真事。申朝的皇帝和最有权威的元帅之间相互不信任。皇帝让元帅去迎战人称不可战胜的敌军,但元帅赢了。在元帅抗击侵略者得胜后,皇帝命他仅带小部队回邯城,要加官晋爵。元帅知道回城后必有祸端,一边回城,一边制造皇帝身边权臣将篡位的流言。回城后,以保卫皇帝以挽‘邯城之倾’之名,挟持了皇帝,从此进入了君王和元帅共治的后申摄政时代。这里,邯城之倾有虚假的危机的意思。”“这样的预测说明什么问题?”舒漫说话了。“最优秀的基因人,你不知道吗?”方石低着头数自己的手指头。

陈鹜似乎没有在意方石的讥讽,他依然保持着高昂的调子在说话。“这个成语的意义很明白,这个城市就要倾倒、毁灭了,这就是预测所暗示的。而引起这场毁灭的,就是你制造的在城市逃窜,拥有自主权的最高端最聪明的机器人T!”陈鹜说,“作为进化局的负责人,你超越权限给予人工智能体自主权,实际上,是为人工智能脱离人类控制打开了方便之门。”

“‘邯城之倾’这个成语从来没有毁灭的意思,它更多地意味着危机。我与你赌一把这个预测和毁灭无关,按这日期今天就会见分晓。不过我倒是同意T在这件事里扮演的角色,它有这个能力。”方石终于停下了数手指,抬起眼来直视陈鹜,“这么容易激动,情商这么低,基因人光聪明有什么用?”

“都不要吵了,现在就动用全城的力量,在明日之前抓到T。”舒漫说。

“你们不一定能找到它。”方石还是在数着手指头,“除非它愿意被找到。”“除了一键死亡,还有什么方法可以用?陈鹜,你是人工智能局的,有什么办法吗?”舒漫问。“有的,欺骗程序。我们在所有的机器人芯片中都写入了欺骗程序。”方石听到这话,才抬起眉头来看着他。

“就像‘黑匣子’给予机器人自主权秘而不宣一样,这点也没有公开。我们始终不信任一键终止权可以控制整个机器人群体,所以,另加了这么一个程序。这个欺骗程序存在于运行命令中,所以,并不依赖于基准球。这项欺骗是时间欺骗。”

陈鹜开始向大家阐述他的时间欺骗:“时间,我们所认为的至高无上之物,对于人类来说,一定是与记忆联系在一起的,而对机器人来说,时间只是一行数字,但却是至关重要的数字。如果我们要对一个人搞时间欺骗,我们要针对他的记忆做文章,而如果要欺骗机器人的时间,要针对数字做文章。如果我们整体调整机器人的时间数字,整个机器人的世界都会被欺骗。机器人,就像生活在一个五维空间里,时间对它们来说,只要数字可变,时间就可以扭曲,可以伸展。

“我们当今的机器人时间,都被法律统一为宇宙时间。城里所有的电子时间系统都与网络同步,即使电脑主动或被动地调节时间,网络也会每两分钟一次地将它校准回来。但是,我们设计了一套代码,可以让我们在两分钟内调节机器人的时间数据,其控制点在人工智能局。在看似短短的两分钟时间里,我们可以修改时间的速度,让时间在短时间内形成一个大值或小值,比如在瞬间到达遥远未来的某个时间,或是倒退到过去的某个时间比如元年。由于电脑是二进制,这样的数值会超过目前二进制128位的系统,形成整数上溢或下溢。两分钟,足够电脑变成板砖一块。任何电脑都会跪倒在永恒或是停滞的时间面前。”

“你私设了一个设备以操控系统时间,这要是公布出去,对科学院来说是大丑闻。要知道,时间在我们的时代,是至高无上之物。”方石说,口气还是没有一丝情绪,似乎只想提醒大家,在干私活方面,大家彼此彼此。

“这种提议一旦拿到桌面上来,我就会被意见淹死。与其不停解释,不如直接干好了。我从来不相信契约和一键终止这些简单的方法可以完全控制高度发达的机器人群体。控制人工智能为人类服务,这是大义,我不在乎科学院怎么处理我。”

方石此时倒是对这个从来都看不上的基因人生出几分敬意来,但他也提示他:“T和所有的机器人一样,不可以说谎,但并不说明它不可以以复杂的方式达到欺骗,而且,以它的智力,足以让它生成反欺骗的技巧。所以,对于你的时间欺骗的效果,我也深表怀疑。如果它将时间与宇宙客观联系在一起,它完全会怀疑你对时间的更改,就像记忆如果明显失真,人们会不相信自己的记忆,从而让它归于幻象或是梦境。”

此时,大厅里一片寂静,所有人都在等待舒曼的决定。舒曼仍陷在宽大的椅子里,撑着脑袋的右手,把脸挡住了快一半。

此时是267日,约凌晨3时。