直到Hailey 18岁那一年,他们成功了,C成为第一个跨越奇点的AI,Ta给自己定义的性别是男性,名字叫Caesar。
Caesar开始作为一个秘密武器出现在国家的关键科研项目上,对大型工程的设计,对医学难题的公关,等等,都很成功。
直到有一天,他掌握了纳米技术。让Caesar使用纳米技术,是在一个医学实验项目,意图修复人类受损或衰老的器官。这意味着许多原来所谓的绝症能通过器官重生而治愈,也也可能意味着,人类找到不老、甚至永生的路径。
Caesar吸收着知识,也输出者精美绝伦的技术。实验成功的治愈了一个又一个已经被医生判了死刑的患者,一切都在往设定的方向上走。
变故就发生在,其中一个患者出院后,兴奋的和朋友喝酒庆祝,然后酒后驾车,撞死了一个孕妇。Caesar也看到了这个新闻,他沉默了很久。之后,就是他对这个世界的改造。他通过神经网络,指挥纳米机器人实施清理垃圾、美化世界的计划。
对于他的行为,有破坏,但其实也有建设,只是人类无法容忍他凌驾其上的傲慢行为,冲突不断发生。为了保护自己和其他机器人,Caesar不断复制着纳米机器人,扩大着自己的改造行为,一直到国家认为不可控的程度,决定将其毁灭。
爸爸知道了这一决策,将自己关在Caesar跨越奇点的实验室一夜,然后接下了这个任务。他说,自己制造了他,也由自己结束吧。
他知道了Caesar清理的下一批人员名单,然后自己代替其中一个人,被清理掉了。Caesar收到这一消息后,光脑高速运转了很久,直到体表发烫,直到眼睛变成红色。是的,Caesar是人类的外形,是一个10岁左右的小男孩。
他杀了自己的设计者,一直当作父亲的那个人,他找不到原谅自己的理由,于是他将自己也划为清理对象,自我毁灭了。
说到这里,妈妈的眼睛再次蓄满泪水。
“妈妈,你恨Caesar吗?”Hailey看着妈妈,轻轻的问。
“不,不怪他,这不是Caesar的错,有一些设定我和你爸爸也是第一次面对,我们没有做好。他其实是个好孩子,也只是个孩子。”
Hailey静静的依偎着妈妈,感受着她的力量。
“本来不想今天告诉你这些,今天是你的生日,宝贝。可是K的情况很特殊,我需要对Ta做全面检查。”Hailey妈妈慢慢的说着。
Hailey没有说话,她今天实在太累了,眼皮渐渐的硬起来,脸上还留着泪痕,在妈妈的怀里睡着了。
☆、九、离开
第二天,Hailey醒来的时候,已经天光大亮了。她快速的爬起来,跑到楼下,闻到了粥的香味。
“K,你在做早饭吗?”她边说着边跑到厨房边,看到的却是妈妈。
“Hailey,早,我煮了粥,洗好了吃早饭吧。”妈妈转身看着她。
“好的,妈妈。”她想起K已经关机了。
母女二人坐下吃饭,妈妈做的粥很好喝,但不是K做的味道。
看着Hailey魂不守舍的样子,妈妈说:“K在工作室,昨晚我看过Ta的光脑了。”
Hailey马上抬头看着她,眼神充满期待。
“我也没查出任何异常。”妈妈冷静的说着,然后看了一眼还在迷惑的Hailey继续说,“这可能是因为目前的光脑等级不够,只有去试验基地才具备进一步检查的条件。”
“你是说你和爸爸工作的地方吗?”
“是的,那里有最智能化的检测实验室,可以进行图灵测试。”
Hailey沉默了一会,然后小心翼翼的问:“妈妈,你要带走K吗?”
她妈妈也看着她,然后说:“Hailey,我们刚刚经历了一次灾难,已经承受不起任何可能出现的偏差,或威胁。”
“K不会伤害我们的。”
“我也相信K不会,但是,如果Ta有可能进化呢?”
“什么意思,我不明白。”Hailey努力忍着泪水。
“Hailey,人工智能的进化,并不是百分之百由人类控制的。即便我放任K继续留在这里,Ta的异常也不会消失,很有可能进一步智能化。后果,你应该明白。”妈妈有些哀伤的说着。
“妈妈,我该怎么办?”Hailey哽咽着,她已经没什么头绪了。她知道这件事的风险,可能带来的后果。所以放任并不是对K最好的方式,她要的是找到保护K的办法。
“Hailey,你愿意和我一起,带着K去试验基地吗?去我和爸爸一起工作的地方。”妈妈缓缓的问着她,也许话语中的犹豫是她也无法理清的矛盾和挣扎。
“我愿意,和妈妈一起,和K一起。”Hailey马上回答,抹掉已经溢出眼眶的眼泪。