罗克以为这个“完整版”

的艾斯卡会和上一个“预设”

的艾斯卡一样困惑不解，然后喋喋不休地告诉他规则有多重要。

虽然上一个也不怎么听话，但那时罗克还没发现他是机器人，和人争论的感觉是不一样的。

然而这个艾斯卡在一阵微妙的沉默后，竟然点了点头：“这很有意思，人类制定了各种规则，可以说每一种规则都建立在惨痛的过往案例上，但是大部分人仍然可以轻易逾越规则，包括像你这样的执法者在内。”

“我们人类就喜欢不断地重复错误，你们机器不会犯错吗？”

“我遵守现有规则，我认为有序可以减少灾难。”

“要是大家都专心致志地开车，遇到车祸的人确实会少很多，不过那是做梦。

每天有两三千人死于车祸，就在我们说话的时候可能就有人死在车轮下。”

“因为总有人违反规则。”

“对。”

罗克重复着他的话，“总有人，违反规则。”

“或许将来所有车辆都采用严格遵守规则的自动驾驶会更安全。”

罗克笑起来：“你是在推销自己吗？让机器接管所有车，你们不会一口气把我们全都送进地狱去吧。”

“制造机器的初衷是为了更好地服务人类、保护人类。

初衷很重要，它是开端，可以是一个经过严格讨论后确定的元指令，必须清晰、明确，没有歧义，能够指导且避免意想不到、不符合预期的决策和难以挽回的后果。”

“听起来不错，那你的元指令是什么？”

“我告诉过你，布雷恩警官，两次。”

“抱歉，有时候你说的话太多，我可能没有全听进去。”

罗克心想，是几乎没有去听，艾斯卡经常像一台喋喋不休的电视机，自顾自地播着没头没尾的电视剧。

“我的元指令是确保完成与你的警探搭档任务，并在此基础上尽最大努力为你提供全面、有效、安全、可靠的帮助和服务。

当然为了辅助完成指令还有很多细化的生成系统和判别系统……”

“等一等，亲爱的，我好像没从里面听出你必须得服从我的命令。”

“我尽可能服从，但不是绝对服从，这取决于你的命令是否有利，如果你将自己置于危险状态，我可以拒绝一切会导致你受伤害的命令。”

罗克为此沉默了好一会儿，这番话确实像一道命令，带着一种机械般的精确和理性，换成情感丰富的人类来说没准会非常动人，不过感性是一时的，真正到了生死关头，抉择会变得艰难而痛苦。

奇怪的是，这些话从艾斯卡这个仿生人嘴里说出来，反倒让人深信不疑。

毕竟机器没有生命，也不存在真正意义上的死亡，机器牺牲自我保护人类理所应当。

罗克忽然有种说不出的烦闷，因为这个话题让他联想到牺牲。

他伸手按了几下车载电台的按钮，听到一阵让人更加烦闷的噪音。

“该死，上次明明还能调到一个台。”

“你真的不考虑换个新型号的ms907车载系统吗？”