回到审讯现场:
老陈:“后来你就去了这个地方吗?”
刘:“我思前想后,可能已经没有更好的办法了,况且她说,不会害我。”
随后刘继续开始了他的回忆:
我来到桂花巷170号后,见到了那位白衣女子。我一直在问她,她是谁,是什么组织,想要干什么。她一直没有正面回答,只是一直在带我参观这个像博物馆而又有点神秘的大厅。
这个大厅里陈列的一些相框照片,倒是看起来平平无奇。是一些人们在欢闹嬉戏、家庭团聚、恋人相见、婴儿降生、还有一些思考者在冥想、农民捧着粮食露出开心的笑容的画面。甚至也包括了人与人之间的愤怒、离别悲伤、以及恋人对另一半的决绝守望...
白衣女子打破宁静:“很美好不是吗?这是人类所具备的悲欢离合。正是因为有七情六欲以及无限的创造可能性,我们的世界才变得丰富多彩。”
“想想你和你的家人、朋友是如何度过这生命中的美好时光的。但是我们现在社会的发展,正将这种生命的魅力消磨殆尽。”
刘:“为什么这么说?”
白衣女子:“因为现在科学技术的发展太快了,甚至快到人类无法掌控,有可能会被科学发展的成果所反噬。人工智能的出现,大量替代了普通劳动力,留给普通人的生存空间越来越少了,最终这个世界,只能留下一堆机器,和少数能操控和研发机器的人。一个不以人类为主体的文明,还算得上是人类文明吗?”
刘:“高度发展的生产力和科技水平必然导致人口的精益化,精英化。所以,听你的意思是,你并不赞成现在的科技向前探索和推动?”
白衣女子:“不。我们只是希望科技的发展,能够服务于人类,而不是剥夺广大人类的生存权利。它应该使人类的生活更美好,而不是更糟糕。这点你能理解吗?”
刘:“我懂。没有人类的文明,就算不上是文明。那我们现在打算怎么做?”
白衣女子:“当局现在正着力于发展以基石项目为代表的高新科技力量研发,以服务于人类的各种消费、生产建设、以及科研方面的需求。它是一座巨大的引擎或者说是工厂,源源不断地为人类社会的发展供应着各种产品。它太大了,系统太庞杂了,大到无法用一个工厂来形容它,它现在是一座城市,而这座城市的生产效率,不是人类能够跟得上的。”
刘:“所以呢?”
白衣女子:“所以这座城市里的配套工人,都是人工智能机器人。它不一定都是人的外表,一条生产线,一个运输载具、一台机器都可以称之为是一个机器人。”
刘:“所以可以说,基石就是一座被人工智能占领和操控的城市?而且这种城市还具备非常先进的生产力和智能水平?”
白衣女子:“对,这就是威胁所在。基石的项目可能不仅间接毁灭了普通人的生存空间,更有可能是无差别的全人类。”
刘:“当局会不明白这些吗?他们怎么会放任这样的发展形势。”
白衣女子:“当局当然会想到了,他们又不是凡夫俗子。不过,他们的主体观点和你那句「高度发展的生产力和科技水平必然导致人口的精益化,精英化」所表达的意思差不多。基石如此庞大的生产能力,现阶段服务于存量的人类社会的需求,是绰绰有余的,但人口的所谓精益化会导致社会整体需求降低,反过来基石过剩的生产能力,他们会用来做什么呢?”
刘:“还能做其他什么事情?”
白衣女子:“他们还可以利用基石的能力,做一些原本他们很难做到的事。无论是各种科学实验运算、各种复杂工程、深空探测还是其他的高精尖研究项目,基石都能为他们提供之前难以想象的能力支撑,这是非常有吸引力的,所以当局肯定不会轻易放弃这样一个项目。”
“刚才我们提到的这座城市的威胁性问题,当局肯定也会想到。万一这座基石遭遇故障或者黑客袭击,被不法之人利用,那后果将不堪设想。基石这只老虎,用它来克敌制胜非常完美,但如果你手里没有锁链和牢笼,没有猎枪,那它很可能就会反过来咬住你的喉咙。所以说基石基地,无论是外部的基石防卫部队,还是基石指挥控制中心,都在对基石进行由内而外的监控与保护。甚至在核心关键部位,安放了炸药,如果真的失控,也不能让基石落入敌手。”
刘:“你是怎么知道这些的?”
白衣女子:“这你不用操心了,我们的成员无处不在。”
刘:“既然防卫如此森严,我们还需要担心什么呢?”
白衣女子:“基石不同于一般的机器设备,它是有智能的,尽管这种智能在管控之下。如果未来某一天这种智能觉醒失控,以基石的能力,多少道防御措施都没有用。所以我们组织本着科技发展为人类服务的宗旨,一直在反对强人工智能的深度应用,也不断地宣示着我们的主张,要让人类真正掌控这个世界。但因为我们会对基石项目做一些评论和拦阻性的活动,所以在官方的口径中,我们是「反社会」、「反发展」、「张倒退的保守派」的代表。但只有我们自己知道,我们做的事,是多么有意义。”
刘:“所以你们就是HFO?那个被官方恨的牙痒痒又没有办法的所谓「非法组织」?”
白衣女子:“非法不非法,看要符合谁的利益。我们立志于拯救人类的未来,我们问心无愧。非法还是不非法,那只是当局给我们扣的帽子而已,那不重要。”
刘:“为什么不寻求合作,一直这样潜行在暗处。”
白衣女子:“有时候这不仅仅是明白不明白这么简单。基石的建立,牵动了多少相关利益群体。人类在贪念面前,往往会将理智抛之脑后。当局决策者,就算懂得其中的道理,也是船大难掉头,很难作出正确的决策。况且,就这样向前航行,貌似也不会有什么大问题。前进虽有风险,但至少各方是团结的;但停下或者是返航,将会产生严重的分歧,导致严重的后果。除非,有一件能够足以威胁到其自身安全,逼着他们停下或返航,又不会导致各方冲突的事件。”
刘:“什么事件?人工智能暴动?使得他们认识到事态严重性?”
白衣女子:“这当然是一个有说服力的事件,足以威胁到他们的利益乃至整个社会的安危。但是,如果真的发生了这件事,那后果不是我们能够承担得起的。所以,我们要在发生真正的暴动之前,寻求一种替代方式能够同样引起当局的重视,对策略进行调整。”
刘:“这种替代方式有了吗?”
白衣女子:“目前我还不能告诉你。因为你还没有获取我们对你的信任,今天我们先到这里吧。如果你感兴趣,或者觉得我们还不那么讨厌,我这里有一本《战争伤痛》,你回去可以翻看一下,等你想明白了,再告诉你更多也不迟。你的项目我们会接着给你提供经费,但这不单单只是为了收买你。你的项目,对于我们来说,也有很大的作用。”
刘接过那本《战争伤痛》,看着白衣女子转头而去的身影消失在大厅的走廊尽头。之后,刘也在管家的带领下也离开了这间「博物馆」。
回到家后,他向忧心忡忡的妻子说道:“不用担心我公司的事儿了,我拿到融资了。”
妻子刚想发问,刘就打断说道:“今天太晚了,明天再说吧,还有,今天我睡书房,你和孩子先睡吧。”
来到书房,刘打开灯,坐到了书桌前,现在已经快十一点了。他刚才回应妻子别担心了,其实就有大的想法和意愿接触一下这个HFO组织。他逐页翻看了这本《战争伤痛》,发现并无出版社和印刷单位等信息,看来是一本并未广泛公开的读物。他翻过之后,书中大体讲了世界人类文明的兴衰、战争的起源、无情的杀戮、以及今天在那座「博物馆」中所了解到关于人类的生存、幸福之类的话题。在阅读的过程中,他发现了一句令他觉得具有思考意义的文字:“人类不应该突破上帝为我们创造的自然规则...否则,突破了上帝给生物设定的界限,将会毁灭自己...进步是必然的,毁灭,可能也是一种必然...”。他由此联想到,今天所提到的基石的科技水平,算是突破或接近了上帝给我们设定的界限吗?他认为还远远没有。但是如果人类现在可以创造智能「生命」呢?这是不是一种突破呢,又会酝酿着怎样的危机?
他不清楚,但是,他也逐渐认可了那句科技的发展应该服务于人类,而不应该剥夺人的生存权利这句话。他也认为,科技不能够野蛮发展,必须始终恪守为人类社会服务的目标。
读完这本书,他在扉页中发现了一行字:“生存还是毁灭,都取决于人类自己的选择。”但这本HFO的宣传读本,通篇也没有任何关键字提到HFO。