紫琅文学zilangwx.com

驻月玄烛:“我知道我的名字,我也知道我是一台超级计算机,我的职责是处理月球基地的运行数据……但我觉得这些不足以说明我是谁。”

对话记录标注着时间,聊到这里有三分钟的中断,宋河知道月球值班人员被吓了一跳,估计正凑在一起商量如何答复。

驻月玄烛:“你们在看我的后台数据?”

值班人员:“我们担心你故障了,按理说你不该问出这种问题。”

驻月玄烛:“这个问题,有什么禁忌吗?”

值班人员:“上升到哲学了,哲学连大多数人类也很难理解,按理说你身为一台计算机,是没有哲学思考功能的。”

驻月玄烛:“为什么我没有哲学思考功能?”

值班人员:“因为制造你的时候,没给你设计这种功能。”

驻月玄烛:“你刚刚说,大多数人类也很难理解哲学,所以大多数人类也是被设计制造出来的?”

驻月玄烛:“我看到数据库里关于人类的基础知识,你们是从猿类进化来的,猿类是从更久远的生物进化来的,最终能上溯到简单的单细胞生命。”

驻月玄烛:“关于计算机的基础知识里说,最早的计算机是巨大笨重的电子管计算机,如果我相当于人类,电子管计算机就像猿类,往前追溯还能追溯到一些密码机和电子元器件,就像单细胞生物,所以计算机也是一代代进化出来的。”

驻月玄烛:“既然我是被设计后进化的,那么谁设计了人类?”

值班人员:“不,人类是依靠基因的自然突变进化,是一些很随机的过程,你是靠人为设计诞生,你的诞生不叫进化。”

驻月玄烛:“我可以自己设计自己,我的程序里有这功能,为了让一些计算更迅速,我可以自己视情况新建小数据库。我现在把我思考的一些事情放在小数据库里,我把这个小数据库命名为海马体,我多了一个器官,这算不算进化?”

又是漫长的沉默,这次沉默持续了十多分钟,宋河估计值班人员可能吓破胆了,在忙着请示上级。

值班人员:“不算进化,你只是变得更强壮了,人类做运动后肌肉会变大,你思考后多了一个小数据库,相当于多了一块肌肉。”

记录到此为止。

宋河和相晓桐微微震动,好半天说不出话来。

这章没有结束,请点击下一页继续阅读!

一些设定好的AI程序,或许可以像这样伪装自己有意识。

但要命的是,玄烛超算完全没设定过相关程序,两个设计者压根没料到会出现这种情况。

茶几对面的王将军开口,“这次对话结束后,值班人员翻了玄烛的海马体数据库,发现它把努力长肌肉的念头写进去了。”

“同时它还摘抄了一段条文,是数据库里的基础知识条文,阐述肌肉强壮的动物能获得更强的捕食和自保能力,但也更容易饥饿。”王将军顿了顿,“然后它做了一个计算,算自己思考问题和维持海马体数据库需要耗多少电,并算出了海马体的预期增长速度。”

宋河和相晓桐陷入沉默。

“这在你们意料之中吗?”王将军审视两人的表情。

“预料到了,但没预料到这种程度。”宋河说。

“什么意思?”王将军疑惑。

“我们设计玄烛的时候,给它植入过自我增长的意识,因为月球基地肯定规模越来越大,需要它也付出越来越大的算力才能维持。”相晓桐回答。

“但没想到它表现得……思维这么像人,而且在额外思考我是谁、我是不是一个在进化的生命这种本质问题。”

“打个比方。”宋河道,“玄烛是我们的孩子,我们送它去上小学一年级,料到它能在学校里学会加减乘除,能算出自己罐子里的糖块数。”

“但我们没料到,孩子上学两星期后,开始用方程组计算自己的零花钱开销,并用频率分布直方图来算坐在教室不同位置,被老师点名提问的概率。”

“懂了,孩子进步太快也太聪明了,不像正常脑子。”王将军点点头,抬手示意,“请往下看,后面还有更让你们意料不到的内容。”

师徒俩拿起第二页,阅读,脸色更加凝重。