第六章 面具与小刀（13/13）

「关于第一条的意义，实际上所谓的〈机器人工学的三原则〉被认为是由〈弗兰肯斯坦情结〉产生的……你知道〈弗兰肯斯坦情结〉吗？」

「知道。」

我回答说：「大概是弗兰肯斯坦博士被自己创造的怪物杀死的故事。」

「对。〈科学的产物脱离人类控制并对人类造成伤害〉的心理，2019年有位叫筒井康隆的作家在他的著作中将其称为〈造物主的担忧〉，但严格来说，〈弗兰肯斯坦情结〉更多的是对智能机器人可能杀死人类的危机感，而不仅仅是智能机器人对人类的反叛。」

「……」

「……想象一下，如果在〈爱丽丝事件〉中，爱丽丝反抗并不小心杀死了其中一个人。我们人类真的不能原谅她的行为吗？不，可能在现代，大多数人会原谅她。也就是说，根据情况，智能机器人杀死人类是可以被接受的。重要的是，智能机器人对人类的反叛可能性。这也包括了智能机器人可能会判断，完全『管理』人类，就像饲养家畜一样，会对人类更有帮助，并实际采取行动……这不是善意或恶意的问题。我们作为创造者，不想把主导权交给我们的孩子。当然，对于那些并非开发者的人来说，他们根本不会觉得智能机器人是自己的孩子……总之，避免智能机器人对……（內容加載失敗！請刷新或更換瀏覽器）