快眼看书网

手机浏览器扫描二维码访问

第三章 回忆（第1页）

二十年前，科学家在不懈的努力下解析出了灵魂。

这一成果惊动了全世界，因为解析灵魂意味着掌握了人类最重要的部分。

但也就在灵魂解析成功的第二天机器人叛乱了。

根据机器人三大原则：

第一，机器人不得伤害人类。

并且，不能因为自己的不作为而使人类处于危险中；

第二，机器人必须服从人类一切条件，但在违反第一原则时例外；

第三，机器人在不违反第一、二原则的情况下必须保护自己。

机器人的叛乱让世界震惊，谁都不知道到底是哪里出了问题。

由于机器人的叛乱完全没有预料到，所以机器人很快的占下了军事力量薄弱的城市，但是在军事部署完全的城市机器人和部队正打得难舍难分。

但军用机器人和军人的身体不同，人类渐渐败下阵来，当机器人占领各国的首都之后，人类政权面临危机。

在机器人叛乱前一天，科学家们还沉浸在解析成功的喜悦中，没人意识到明天开始世界就将发生变化。

解析灵魂是个庞大的工程，需要大数据的分析，人类的大脑是不足够解析这些大数据的，所以在这次解析中人类只负责提供数据，而机器人负责解析。

而奈梧则是其中的一员，只不过他是一个机器人，一个人形机器人。

奈梧是由各国科学家在为解析灵魂所制造出来的，他被赋予了一套很复杂的程序，这套程序使他像个人一样学习，并且大脑的拥有世界上最强的计算分析能力。

他能与人交流，这使他可以在交流中学习。

“我如何才能知道自己是否在伤害人类？”

奈梧对科学家们提问，

“这是一个程序，你无法作出一切伤害人类的行为。”

科学家如是答到，

“那要是我接到了去街上扫射或者去炸掉一栋建筑的命令，我会服从吗？”

“不会，因为那是对人类有害的。”

“可是命令中并没有关于伤害人类的指令。”

奈梧接着提问，

“这就需要判断了，虽然指令中没有，但这一行为是会对人类造成伤害的。”

“判断？”

“对，判断可以使你明白你行为带来的后果。”

“可是我的身体里没有判断这个程序。”

科学家陷入了沉思，判断说起来很简单，但这属于人的思维，机器人只能通过程序来行动，是别人下达了指令的，但判断则是自己做出的指令，如果机器人能自己下达指令那和人又有什么区别？这句话让科学家久久不能释怀。

“如果街上有一个恐怖分子准备向人群投射炸弹时，需要击杀他时你会上去制止他吗？”

第二天科学家向奈梧提问。

“根据第一原则我的程序不允许我阻止他，但是根据分析，在击杀他一个人就可以救多数人的时候我会行动。”

“这违反了第一原则。”

“是的，但我要是不这样做也违反了第一原则，所以我选择击杀他。”