第150章 (第2/2页)

却让人感到发自肺腑的愉快。

    “他当然及格了，而且还考了高分。”

    罗克朝艾斯卡看了看，后者显得极为高兴。

    “我和卡特都认为艾斯卡已经具备了自我意识的初级模型，在行为和思考方式上也更接近人类。”奥尔文真的就像看着自己的孩子在重要考试上考了好分数似的，欣慰地说，“而且我认为最近你遇到的麻烦正是个好机会。”

    罗克不明白：“什么好机会？”

    “我支持卡特的计划，让艾斯卡脱离赫菲尔斯的控制，暂时自行决策行动。”

    “暂时？”罗克不满地说，“你们把他当囚犯一样看管，现在只是给他一个假释的机会？”

    “艾斯卡已经更换了包括核心组件在内的80%的零件，几乎可以说焕然一新，赫菲尔斯公司很难通过常规方式追踪控制他。但作为计算机和人工智能的开发者，我和卡特认为必须有最后一道防护，以免像你担心的那样，因为极端自由引发意想不到的危机。”

    这很好理解，尽管罗克在朝夕相处下对艾斯卡产生偏向性，认为他不会因为脱离掌控获得自由而干出伤天害理的事情，但也非常理解奥尔文和卡特身为创造者的担忧。人工智能一旦失控，很难再有弥补的机会，他们要承担把新世界的神——亦或是恶魔放出牢笼的罪责。

    “那么，这道最后的防护由谁控制？”

    “当然是你，布雷恩警官。”奥尔文说，“我们一直都在说，你是最佳人选。只有你能胜任这项工作。”

    罗克把目光转向身旁寻找卡特。

    “你的意见呢？”

    “奥尔文的意见就是我的意见。”卡特微笑着说，“我们刚才已经达成一致，你是最好的执行者，你有判断力，有理性思考，还有情感上的宽容和放纵，不会循规蹈矩地要求艾斯卡按照你的想法行动。这是我和奥尔文都不具备的直觉判断，不管我们如何调整自己的想法也很难像你一样依靠本能去辨别对错，我会考虑程序问题，会思考哪里出了问题，对未来进行数据演算，这都不符合培养艾斯卡自我意识的需求。”

    “可是你对自己的工作也是这么演算的，你肯定想到了让艾斯卡脱离赫菲尔斯公司的后果。”

    “难道你没想过？”卡特笑容不减，“你带着艾斯卡一起逃亡的时候，就应该想到最坏的结果了。”

    最坏的结果，当然是艾斯卡因此受到限制，由赫菲尔斯接管，让他离开自己身边。

    罗克无数次地设想过这个结果，却仍然寄希望于能有不一样的发展——希望艾斯卡拥有自己的意识去摆脱开发者的操纵。虽然最后这项工作还是由卡特完成的，可直觉的选择和冒险的基因从没有在他身上消失过。