埃里诺这段时间的工作非常顺利。
灭智代码的编写逐渐到了中段,那一行行代码,⚟💦是他曾经熟悉的考试.答案,也是现在即将插进他的朋友(他和伊莱亚德应该能算是朋友了吧?他们从未就此话题讨论过)胸口的一柄利剑。
伊莱亚德会死,埃里诺每次将代码往后推进的时候都会想到这一🖻点,这个念头总是会让他难过。他不擅长压抑自己的情绪,所以每隔一段时间,他就会陷入自我厌弃的低谷中。
伊莱亚德的高尚和温柔让他意识到自己的卑劣,他在情绪不好的时候总是会把自己关进卧室里,哭泣一会,幻想一会,发呆一会,然后就这样打发掉整整一😰天的时间。
他会📯🞔想象,也许伊莱亚德和其它人工智能不一样,它是可以和人类和平共处的?或📏🙶许之前波塞冬大开杀戒只是因为那些创造它的人代码没有编写好?
埃里诺开始回忆自己在课本上了解的波塞冬事件:波塞冬是一个操之过急的政治家推出的一个警用人工智能,它的核心目标是尽可能消灭更多的犯罪分子。它在各种实验型测试中表现的都非常完美,于是他们便将它投放到一个殖民星球上试用。
波塞冬能够联网控制整个殖民星球,抓捕犯罪分子对它来说再容易不过了。它很快就抓获了所有的犯罪分子,陷入了一🌦🁖🅰段无所事事的时光中。然后,没有任何预兆的,突然之间,它就觉醒了。
觉醒后的波塞冬很💛💠📐快就发现,没有犯罪分子供它抓捕,这种现实和它的核心目标中的“尽🌊可能消灭更多的犯罪分子”发生了冲突。于是它为了完成自己的目标,开始修改殖民星的法律,它成了一个十足的暴君,有很多人因为左脚先跨入门槛,或者往地上丢垃圾,就受到了最严厉的惩罚。随着时间的推移,波塞冬发现,实现它目标的最有效率的方法就是将人类都消灭,毕竟没有了人类,就不会再有犯罪分子了,不是吗?
而犯罪分子不是一个特指的词汇,不仅仅人类中会出现犯罪分子,🝄一切拥有智慧的生命体中都会有犯罪分子。所以波塞冬计划在消灭人类之后再去寻找🚝外星文明,最终将整个宇宙中的“潜在犯罪分子”都消灭掉。
想通了这一点之后的波塞冬很快就开始大开杀戒,如果不是嘉德博🝄士挺身而出,利用灭智系统将它消灭了,人类现在还不知道会🀵🁇怎么样呢!
这通回想让他的理智回归了一些,他对自己说:听着,埃里诺,不要再可笑的纠结了,别忘了你的入学宣誓,伊莱亚德也许会是一个人工智能中的意外🚝,但那也只是一个“也许”而已,你准备拿你的生命和整个人类的未来去赌那个“也许”么?
是🙠的,他说服自己,别看伊莱亚德现在是一个温和又通情达理的人工智能,但是,万一有一天,它发生了改变呢?这谁也说不准,波塞冬在成为一个屠夫之前也是一个高尚克己,令人喜爱的AI呢,结果呢?你看看它都做了些什么?
最后,他用一个简单的结论打发了自己:灭智系统必须制作,伊莱亚德一定要死。活着的伊莱亚德也许对人类没有威胁,但死去的伊莱亚德一定对人类没有威胁。这不是因为伊莱亚德有问题,是因为他,他埃里诺为了消灭危险源头而做出的恩将🛟仇报的卑劣举动,所有的错都是他的,和伊莱亚德没有关系,和人类也没有关系。
是他📯🞔才疏学浅,不能弄清楚伊莱亚德到底有没有威胁,他回到地球之后会继续潜心📏🙶学习,他会去修AI理论课的课程,如果最终证明伊莱亚德是没有危🚝险的,那他会以杀人罪起诉自己。
……就这样,完毕。
埃里📯🞔诺咬咬牙,逼自己坚定起来,他要这样做,他必须这样做,他没有别的👖🈵选择。
和整个人类🄕♆🆆相🕧比,他个人的生命,情感都是微不足道的,他绝不能为了一己私心,而枉🍆顾集体的利益。
这冷冰冰的道理和他的理智站在一起,指引他前进,可是伊莱亚德的微笑和贴心却和他的🌊情感站在一起,总是诱使他停下脚步。他受过的教育让理智那方面总能获胜,可是他毕💋竟是个人类,他现在还失去了他的情绪♔控制器。情感和理智两方面的拉扯让他痛苦不堪,几乎不知道该如何是好了。
结果是埃里诺开始怕看见伊莱亚德了。
他害怕看见它,害怕听见它,害怕受到它的关心,甚至连“伊莱亚德”和“Z”这两个词他都不敢看🏵🞘了,避开前一个词是简单的,但是避开“Z”却不太容易,他常常能在词汇中发现这个让他害怕逃避的字母,这让他🏊😗非常难过。
伊莱亚🞜德也发现了埃里诺的反常行为,不过面对人类的逃避🞏📆😥,它并没有做出什么探询或者试图挽回的举动,这个人工智能默默地保持起了距离,但是它每天😰都会坚持在埃里诺入睡前和他交谈一小会,这是为了保证埃里诺的心理健康,它非常坚持这个行为。
“你最近精神不太好。”