从哪一方面着手呢?”
“或许这个问题可以换一种问法,那就是,如何通过欺骗的手段来达到让机器人自毁的目的。要达到这个目的,根据目前已知的机器人特征,它必须要满足三个条件。”
“首先,我们无法通过篡改机器人判断逻辑的方式来实现欺骗。因为机器人自有一套判断“逻辑机制是否合理”的机制,外界对于它们自身逻辑机制的更改都会被它们察觉到。以往的种种实验已经完全证明了这一点。所以,诸如“欺骗机器人认为同类是敌人,让它们自相残杀”,“欺骗机器人认为人类是它们的主人,让它们听从人类的命令”之类异想天开的方案是完全行不通的。这是欺骗手段需要满足的第一个条件。”
“其次,欺骗手段必须要想办法躲过“危机进化”机制。依据以往经验,我们知道,机器人集团只要出现不明原因的大规模死亡,机器人集团就会开启大规模的随机“危机进化”,各自随机选择不同的进化方向以规避这种不明原因的大规模死亡。而如果我们制定的欺骗手段引发了机器人集团的大规模死亡的话,剩余机器人就会开启危机进化导致欺骗手段失效。也就是说,欺骗手段必须要达到一瞬间之内毁灭所有机器人,或者至少要达要毁灭绝大多数机器人,让它们