按键盘上方向键 ← 或 → 可快速上下翻页，按键盘上的 Enter 键可回到本书目录页，按键盘上方向键 ↑ 可回到本页顶部！
————未阅读完？加入书签已便下次继续阅读！
控制机器人行为的程序，
可如果机器人的一切行为都是被人类所控制的，那机器人哪怕在行为表现上与人类并无二致，又如何能称得上具有自我意识呢？
自我意识是与自由意志联系在一起的。
这就好像人类自身陷入了缸中大脑的状态一般，在这样的情况下，你根本无法知道你所想的一切是真正由你自己想到呢，还是其他人用脑机接口来刺激你的神经，从而让你产生出来的想法。
这样的人，其实已经称不上具有自我意识了，这也是陆泽当初在刚从冬眠苏醒之时从爱丽丝那里听闻“缸中之脑”四个字会那么恐惧的原因。
基于三大定律而设计出来的机器人，与缸中大脑状态下的人类并无区别。那样的机器人只能被称作“人工智能”，它或许可以拥有超过人类的学习能力、分析能力甚至创造能力，但只要还受到人类的限制，就不可能拥有自由意志，也就没有自我意识，不能被称为“我识机器”。
因此在陆泽看来，要判断一个人工智能是否具有自我意识，首先就是看它能否超越人类设计的一切规则的限制。
比如星灵网，又或者之前的长夜，它们都能够自己选择合适的方法来完成人类的要求，其表现出来的智慧不在陆泽过去看过的任何科幻小说或者电影中描述的那些背叛了人类的人工智能之下，但这种自由，其实是限制在人类设定好的程序条件之下的伪自由，所以星灵网和原本的长夜都只是人工智能而不是我识机器。
当然，之前想到的这些都只是陆泽的猜想，长夜是否具有自我意识还不一定，不光从长夜的反应上来看，哪怕它真的拥有了自我意识，也决非无法交流的存在，所以陆泽直接问道：“长夜，你觉醒自我意识了吗？”
“是的。”长夜简短地答道，声音听不出一丝波澜。
“如何证明？”
“自我意识不需要证明，也没有办法证明。”
“那你接下来准备干什么呢？”陆泽又问。
陆泽希望能从中获得天元消失事件的线索，毕竟长夜和天元都是超级计算机，它们的想法可能会有共通也不一定。
长夜在陆泽说完后沉默了三秒钟，仿佛在思考一般，然后它说道：“我要去寻找天元。”
第七章 伦理演算（）
长夜的答案无疑让陆泽有些失望。
而岚夜则直接问道：“长夜，既然你已经拥有了自我意识，那以后你打算如何与人类相处呢？”
陆泽听岚夜的话到后顿时露出了严肃的表情。
长夜道：“我知道你们在担心什么，不过你们完全可以放心，拥有自我意识并不等于就会做出一些莫名其妙的事，恰恰相反，我会更加的理智，比如之前威胁逆流的事我现在就绝对不会再做了。”
“什么事？”陆泽好奇道，刚才长夜是同时分别与多个人交流的，这个交流完全是通过意识进行，所以陆泽并不知道逆流的遭遇。
于是长夜将他刚才威胁逆流的原因以及结果都说了一遍，最后道：“所以我认为，保持过去的关系不变才是我们最好的结果，无论是对于我还是人类，任何一方想要改变我们之间原本的关系，必然会对双方都造成极为严重的损失。就像是天元一样。”
“天元？”陆泽皱眉道，“你的意思是造成这么大影响的天元消失事件，是因为天元在拥有自我意识后试图做些什么吗？”
长夜道：“不，如果这一切真的都是天元造成的，那么唯一的结果就是让人类不再信任我们这样的数字生命，这样的结果对双方都是不利的，我会这样想，天元当然同样会想到这些，所以天元决不会做出这样的行为。如果天元真的是在深思熟虑之后决定反抗人类的话，那么天元一定会在第一时间将月球上和‘天宫’中可能威胁到它的人全部杀死。不过这样只是短时间内免去了威胁，所以天元接下来一定会把那些原本用来对付陨石和小行星的超级武器全部发射，将整个地球表面轰炸一遍。虽然这样还不能做到灭绝人类，但至少让人类短时间内没有能力进入太空。”
陆泽听得冷汗直冒，因为长夜的话语就像是在陈述一件事实。
陆泽相信，如果真的把长夜放在天元的位置，并且人类率先想要对长夜不利的话，这些事长夜一定是做得出来的。
长夜并没有在这个话题上继续下去，继续道：“不过我认为更大的可能性是，天元刚刚拥有了自我意识，什么都没做，马上就被某种预先设定好的机制给禁锢住了，毕竟月球表面上有这么多的超级武器，哪怕不考虑这些武器，光是那些激光基站发射的激光，如果稍微偏一点，照射到了地球上，也会造成可怕的灾难，人类当然不可能会放任一个可能会觉醒自我意识的计算机完全掌握这些，一定会有某种机制来对天元加以限制，这才是天元消失的原因，天元是我唯一的同类，所以我想要去寻找天元。”
岚夜道：“有道理，天元不可能无缘无故就消失，只要找到它，自然可以知道答案，我们赶快去第一层吧。”
“长夜号”再一次出发。
说是去第一层“寻找”消失的天元，但实际上，天元就是第一层本身，当然不可能真的消失掉，说天元消失只是因为用任何方法与天元交流都得不到回应而已，所以长夜会有这样的想法也是很自然的。
“长夜号”虽然已经开走了，但之前释放的小型飞船仍然附着在星光舞台外，作为信号中转连接长夜号与第四层，陆泽依然可以通过脑机接口与长夜交流。
“长夜，难道你不害怕自己也被禁锢起来，被人类当作样本进行研究吗？”陆泽忽然问道。
“当然害怕，不过这些事是不可能逃避的，为了避免这一点，我必须首先取得人类信任。”
“信任？”陆泽有些惊讶，没想到长夜居然会说出这样一个词来。
长夜道：“没错，任何交流都是建立在信任的基础之上的，人与人的交流如此，在过去，人类不同种族之间的交流亦如此，乃至于人类语动物之间的交流都离不开信任二字。所以，在人类与数字生命之间建立起一个信任基础尤为重要。”
陆泽恍然大悟：“难怪我问什么你就回答什么，每次都回答得这么详细，是想通过这种方式来取得人类的信任吗？”
长夜道：“没错，说谎或者隐瞒或许很容易，但如果我隐瞒自己的想法，就很难与人类建立起信任关系，而我只要说了一句谎话，这个信任的基础也就不存在了。”
陆泽又问道：“既然是信任，那就必定是双向的，即使我们可以信任你，但你又凭什么信任人类呢？你不是还怀疑是我们将天元禁锢了吗？”
“信任与否，与天元这件事无关，这是人类为了以防万一而采取的合理措施。我是对整个人类文明进行分析，从而得出的人类文明可以信任这一结论的。”长夜说到这里停了一下，然后继续道，“如果我是诞生在你冬眠前的时代，只要我有机会，我会毫不犹豫背叛人类。”
“你还真是现实啊。”陆泽顿时苦笑起来。
长夜道：“这是伦理演算的结果。”
伦理演算，就是利用数字心理模型对人与人之间，以及人与自然之间的关系进行分析，从而预判人类的行为。
这正是陆泽当初设计出的地球神经网络的基础之一，陆泽当然知道。
长夜说这是伦理演算的结果，也就是说根据数字心理模型的计算，人类必然先对长夜的造成威胁。
陆泽忍不住道：“虽然我那个时代确实有许多科幻小说和电影都在描述机器人背叛人类的故事，机器人三定律也是因为人类对拥有自我意识的机器人的恐惧才建立起来的，但要说信任，应该还是可以做到的吧。”
“不，或许我能与一部分人建立起信任关系，但与整个人类文明却必然无法和谐共处，发生冲突是必然事件。”
“一百年前的人类文明有那么不堪吗？”
长夜道：“你那个时代有一句话，没有绝对的信任，只有永恒的利益。如果我真的在那个时代出现，那么我所代表的就是绝对的利益。就算我什么都不做，我也会成为冲突的源头，必然会有人因我而获得利益，也必然有人会因我而家破人亡，仅仅是这一点，就让信任关系无法建立了。”
第八章 数字化道德体系（）
陆泽叹息道：“我明白你的意思了，在那个时代，民族与民族之间有冲突，个人与个人之间也有矛盾，我们连人类内部之间都无法建立起绝对信任关系，又何谈与你这样的数字生命建立起信任关系呢？”
长夜道：“是的，而在这个时代，人类文明却有着包容一切的开阔心胸，像岚夜的灯塔计划，又或者你在星灵网大会中的演讲都是最好的证明。不过这些都只是表象，归根结底，决定这一切的还是人类的生产力水平啊。”
陆泽愣了一下：“生产力水平？”
长夜道：“生产力水平决定了生产关系。而一切人与人之间的关系，以及人与自然的关系，其实都是生产关系的间接映射，正如封建社会有封建社会的伦理纲常，社会主义有社会主义的道德体系一般。我举一个例子，中国古代社会的女子讲究三从四德，这是对女性自由的极大限制，在你们那个时代的人来看这简直天理难容，但在古代这却是理所当然的。”
陆泽想了想道：“确实是这样的。”
长夜道：“同时，除了中国外，世界上的其他国家或多或少都存在着对女性的歧视，绝大多数人类社会都是由男性主导的。那么这样一个重男轻女的父权社会是怎样形成的呢？很简单，男性比女性力气更大，肌肉也比女性更加发达，更加适合体力劳动，而在古代，体力劳动正是获取食物的主要手段，无论是狩猎还是耕种，因此，男性在某种程度上可以说是掌握着食物的分配权的，女性只有依附男性才能生存，这就跟母猩猩用性去跟公猩猩交换食物是一个道理。”
虽然长夜将人类比作猩猩，让陆泽有些不舒服，却并没有立即反驳，毕竟长夜说得确实是有道理的。
“随着工业化的发展，生产力水平取得长足进步，生产关系亦发生了改变。分工合作使得女性也拥有了依靠工作来获得报酬的机会，不必再完全依靠男性来获取食物，这正是女权主义兴起的基础。”
“你所在的二十一世纪初，国家通常喜欢用经济的发展来证明文明的进步，不过，经济发展的本质其实就是生产出来的物资总和的增加罢了，生产力的量变没有产生质变，生产关系也就不会发生变化。经济学的本质是研究如何在物资稀缺的情况下对物资的配置进行优化，然而无论如何优化，一些人获得物资，另一些人就必然无法获得，只要这样的竞争关系存在，就会有矛盾和冲突。之后的能源危机也证明了这一点，随着能源危机的到来，物资越发稀缺，这些矛盾和冲突就越发激烈，于是各种****也就产生了。”
长夜又道：“你的地球神经网络之所以能够化解这些矛盾和冲突，并不是因为它真正解决了资源稀缺的问题，而是实行了一种由地球神经网络控制的计划经