第590章 上帝的伊甸园(1 / 3)

泽田弘树还用空闲的投影,播放了一下跟柯南告别的画面,用来做示例,“里面跟柯南说话的是方舟,那个时候我已经追寻教父上传到这里的定位程序、先一步过来了,它所使用的是我的相貌模型、我的声音,至于做出的表情和反馈给柯南的情绪,则是根据我设定的结果推算出来的。”

“对柯南来说,这是个残酷的事实。”池非迟评价。

确实很残酷。

柯南那么投入地跟方舟聊天、为方舟表现出的情绪而伤感,但面对的只不过是一个没有感情的程序。

所有感情,都是由泽田弘树事先设计好结果、由方舟自己进行推算而表现出来的。

而看这段重播出来的视频,泽田弘树并没有像原剧情一样,揭穿柯南就是工藤新一的事,只是说自己想跟其他孩子玩,还播放了跟池非迟的一些回忆,都是些没有涉及秘密的简单回忆,制造出了告别的假象。

“他可以觉得残酷,我不否认,不过我也没骗他,我有教父很幸福,”泽田弘树失笑,很快又收敛了笑意,小脸严肃地对池加奈、池真之介道,“我做出融合程序这个决定,并没有告诉教父,怕他担心、阻扰,但我必须做,原因很多,我自己想变得强大而自由,我想帮教父的忙,我想真正创造一个完美的网络神明、想做点大事,比如完成一伞遮天计划,这个之后再说……但还有一个很重要的原因,教父和安布雷拉需要方舟,我也不忍心摧毁它,但只要使用它,慢慢就会出现隐患……”

泽田弘树用方舟推算过方舟的未来。

方舟成长一年相当于人类成长五年,慢慢的,就算没有泽田弘树的设定,方舟也能学着人类,自己表现出一些对应的情绪。

比如核心设定为‘不能伤害人类’,方舟判定出某人的某行为‘违背核心设定’,就会做出以下计算:

违背意愿——分析违背程度为轻,对应解决方式为:需要警告——警告的方式有直接说、模拟人类情绪表达等——根据推算,人类在接受到相应情绪时,更容易重视、接受提醒,所以我需要表达出人类的情绪——这种情况下,人类表现情绪为抵触,不高兴,语气是严厉……

而人类表现抵触、不高兴的反应是皱眉,面部肌肉如何……

严厉语气语速值多少、音量值多少……

这一段推算过程很快,几乎不耗费多少时间,表现出的结果就是:

某人说,‘发射一个蘑菇弹。’

方舟立刻皱眉严肃警告,‘这种行为违背了我的核心设定……’

似乎很正常,但方舟要不要表现情绪、情绪怎么表现都是经过大量运算的结果,这一串运算可以钻空子。

而随着方舟成长,它也会自己补规则,避免被人钻空子,但补的规则有可能出现问题。

比如,推算变成了:需要警告——人类在承受痛苦时更容易接受警告——这个人类需要惩罚——分析惩罚力度——开始执行。

之后诺亚方舟就会控制某种手段攻击人。

这种隐患确实可以由泽田弘树设定时避免,但不止这一种推算有隐患,泽田弘树根本无法方方面面都顾及到、设定好。

任何一点小缺陷,随着方舟成长,都有可能导致出乎人意料的后果。

“这是我之前利用方舟推算出的结果……”

泽田弘树在投影中切割出八个版面。

版面中,一个个画面快速闪过。

“在成长三年、即达到人类智慧15岁时,方舟隐患被放大、做出错误推算的几率就达到了76.6%,在成长五年、即达到人类智慧25岁时,因为没有人的发育上限,这时候的方舟会变得很可怕,而方舟隐患被放大、做出错误推断的几率几乎是100%,而且还不止一个隐患,成长六年,方舟做出人类无法控制事件的几