|
|
机器人学的三条规则 1．机器人不可伤害人，不可袖手旁观地听任人受到伤害。 2．机器人必须服从人给与它的命令，但是如果这个命令与第一条规则发生抵触，那就不服从。 3．只要不违背第一条规则或第二条规则，机器人必须保护它自身的生存。 安德鲁·马丁说，“谢谢，”同时坐在请他坐的位子上。他看上去并没有露出背水一战的样子，但是他已经没有退路了。 实际上他什么也没有表示出来，因为除了有人想象看到他眼睛里流露出来的悲哀以外，他的脸孔平静得毫无表情。他的头发光滑，呈淡褐色，很好看。他脸上光滑，好像刚刮过脸的样子。他的衣服显然是老式的，但是很干净，像是紫红色的天鹅绒做的。 面对着他的是坐在办公桌后面的外科医生。办公桌上面的姓名牌上写着由文字和数字组成的证明身份的全部内容，安德鲁很容易看懂。称他为医生就够了。 “医生，什么时候能做手术？”他问道。 那位外科医生以某种对待人类的必不可少的恭敬的口气温和地说，“先生，我不能肯定我了解怎样做这种手术，或者对谁做这种手术。” 如果像外科医生那样的机器人的青铜色不锈钢脸孔上能够有不妥协的表情，或者任何别的表情的话，那么他脸上可能露出了一种恭敬而又不妥协的表情。 安德鲁·马丁观察那机器人用来拿刀子的右手。那只手一动不动地放在办公桌上。几只手指都很长，是带有艺术性的金属手指；弧形的曲线弯得很优美、很恰当，人们能够想象它们适合于拿解剖刀，拿刀子时手指和刀子连成一体。他做手术时不会犹豫，不会失手，不会发抖，不会弄错。这种信心当然是伴随着专业化产生的。人类强烈要求这种专业化，只有极少数机器人具有这种专业化的头脑。外科医生当然必须具有这种脑子。但是这个机器人，虽然具有专业化的脑子，可是他的能力被限制在专业范围内，所以他不认识安德鲁，也许从来没听说过安德鲁。 “你曾想过你会像人那样吗？”安德鲁问道。 外科医生犹豫了一会儿，似乎在给他规定的阳电子的电路里没有这个问题。“先生，我可是机器人啊。” “做一个人不是更好么？” “先生，做一个更好的外科医生会更好些。如果我是人，我就不能做更好的外科医生，只有我是个更先进的机器人，我才能做更好的外科医生。如果我能成为更先进的机器人，我就会感到高兴。” “如果我命令你做各种事情，这会冒犯你吗？如果我一声令下就能使你站起、坐下，向右或向左移动，这会冒犯你吗？” “先生，使你高兴会使我感到愉快。如果你的命令旨在干涉我对你或对其他任何人的职责，我就不服从你。关于我对人的安全负责的第一条规则比关于服从的第二条规则更重要，但服从会使我感到愉快。那么请告诉我，我要给谁做这个手术呢？” “给我做手术，”安德鲁说道。 “但这是不可能的。这显然是破坏性的手术。” “没关系。”安德鲁平静地说道。 “我决不可使你受到破坏，”外科，医生说道。 “你不可使人受到破坏，但是我也是机器人”，安德鲁说道。当安德鲁第一次被制造出来的时候他很像机器人。像任何机器人一样，他的外表很像机器人——设计得很光滑，而且是以实用为主的。 当机器人在家庭里，或者在整个行星上还很希罕的时候，他在他所安身的那个家庭里干得很好。那个家庭有四个人：先生，夫人，小姐和小小姐。他当然知道他们的名字，但是他从来不用这些名字。先生名叫杰拉尔德·马丁。 他自己的编号是ndri……他终于忘记了这个数字。他当然已经忘记了很久了，但是如果他想要记住这数字，他就不会忘记。他根本不想记住。 小小姐是第一个称他为安德鲁的人，因为她不会用那几个字母；于是家里其余的人统统照她那样称呼。 小小姐……她活了90岁，已经死了多年了。他曾经想称她为夫人，但是她不允许他那样称呼。小小姐这个称呼一直用到她最后的日子。 安德鲁曾经想执行男仆和男管家的任务，甚至想执行女仆的任务。执行那些任务的日子对他来说是试验的日子。除了在离开地球的工业和探测工厂以及空间站以外，对任何地方的所有的机器来说也确实是试验的日子。 马丁一家人都喜欢他，因为小姐和小小姐要和他玩，所以他的工作时间被占去了一半。小姐第一个懂得怎样安排他陪她们玩。“我们命令你和我们玩，你必须服从命令。” “小姐，很抱歉。先生先发出的命令必须先执行。” 但是她却说，“爹爹刚才说他希望你打扫一下。这并不是命令。现在我命令你。” 先生并不介意。先生喜欢小姐和小小姐，甚至超过喜欢夫人；安德鲁也喜欢她们。她们对他的行动所造成的影响，用人的标准来衡量，至少可以称为喜爱的结果。安德鲁认为影响他的行动的东西是喜爱，他不知道表达它的任何其他的字眼。 正是为了小小姐，安德鲁才用木头雕了一个垂饰。她曾经命令他雕。小姐似乎得到了一个有涡形装饰的象牙垂饰，作为她的生日礼品。小小姐感到不开心。她只有一块木头，便把这块木头连同一把小菜刀拿给安德鲁。 他雕木头雕得很快，小小姐曾经说，“安德鲁，太好了。我要把它拿给爹爹看。” 先生不相信。“曼迪，说实话，你从哪里得到这东西的？”曼迪是他对小小姐的称呼。当小小姐向他保证她说的是实话时，他转向安德鲁。“安德鲁，是你雕的吗？” “先生，是的。” “图样也是你设计的吗？” “先生，是的。” “图样是从哪里复制来的呢？” “先生，那是顺着木头纹理雕出的具有几何图形的艺术品。” 第二天先生把一块更大的木头和一把电动刀拿给他。“安德鲁，用这块木头雕东西吧。你想要雕什么就雕什么。”他说道. 安德鲁在先生注视下雕东西，然后对雕成的东西看了很久。从此以后安德鲁不再伺候进餐了。主人命令他阅读关于家具设计的书籍，于是他便学习做家具。 “安德鲁，这些家具都是令人惊异的产品。”先生立刻对他说。 “先生，我喜欢做家具。”安德鲁承认道。 “喜欢吗？” “这个活儿使我脑子的电路更容易流动。先生，我听说，你用了‘喜欢’这个词儿，并且你用这个词儿的方式符合我感觉这个词儿的方式。我喜欢干这一行。” 杰拉尔德·马丁把安德鲁带到联邦机器人和机械人公司的区公司去。作为区立法机关的一位成员，他可以毫无阻挡地会见机器人心理学主任。仅仅因为他是区立法机关的成员，就使他有资格在第一个地方，在早期机器人还很少的时候成为机器人的主人。 当时安德鲁对这件事一点也不懂。但是在以后的岁月里，当他学得更多的时候，他就能重温早期的情景，并能正确地理解它。 默腾·曼斯基这位机器人心理学家皱着眉头听着，不止一次地设法不让他的手指在桌面上咯咯咯地敲。他的脸孔拉长了，前额布满了皱纹，但是事实上他可能比他的外表更年轻。 “马丁先生，机器人学不是一门精密的技艺”，曼斯基解释道。“我不能向你详细说明它，但是数学是支配阳电子电路的标绘工作的，它太复杂了，允许求得近似的答案。自然，由于我们环绕这三条规则制造每件东西，这些规则是不容置疑的。我们当然要更换你的机器人——” “别客气”，先生说，“在他那一方面没有失败的问题。他能圆满完成分配给他的任务。关键在于他也把木头雕成精美的式样，并且从来不重复一种式样。他制造工艺品。”曼斯基似乎给弄糊涂了。“真奇怪。这些日子我们当然在试用一般化的电路。你认为这真的是创造性的吗？”“请你自己看吧。”先生把一个小木球拿过来，木球上有一个运动场。场上的男孩们和女孩们雕得太小了，几乎看不清楚。但是他们非常匀称，和木头的纹理这样自然地配合在一起，似乎纹理也是雕出来的。 曼斯基表示怀疑。“他雕的吗？”他摇摇头，把它拿回给先生。“真讨人喜欢。电路里有名堂。” “你能叫他再雕一个吗？” “大概不能。再雕的事情从来没有听说过。” “很好！我毫不反对安德鲁是唯一能雕的机器人。” “我猜想公司会请你把你的机器人送回来，让他们研究。”曼斯基说。 “不可能！”先生突然严厉地说。“忘掉这件事把。”他转身对安德鲁说道，“让我们回家吧。” “先生，照办，”安德鲁说道。 小姐正在和男孩们约会，家务事管得不多。现在安德鲁的心目中只有小小姐，她已经不像过去那样小了。她始终没有忘记他雕的第一个木雕品是给她的。她把它系在她颈上挂的银项链上。 第一个反对先生习惯于把安德鲁的工艺品送人的人就是她。“爹爹，听我说，如果任何人想要一件工艺品，就叫他拿钱买吧，它值得付钱。” “曼迪，它不像你那样贪钱。” “爹爹，不是为了我们，而是为了这位艺术家。”安德鲁过去从来没有听见过这个字，当他有点儿时间能让自己安排的时候，便在词典里查出这个字。 然后先生又带他出去，这一次是到先生的律师家里去。 “约翰，你认为这件东西怎么样？”先生问道。律师名叫约翰·费戈尔德。他头发雪白，大腹便便，他的无形眼镜的边缘给染上了鲜明的绿色。他看着先生递给他的那块小饰板。“这东西太美了，但是我已经听到这消息。它是你的机器人的雕刻作品吗？我说的是你带来的这件东西。”“是的，是安德鲁雕刻的。安德鲁，难道是你雕刻的吗”“先生，是我雕刻的。”安德鲁说道。“你愿意付多少钱买它？”先生问道。“我不能说。我不是收集这种东西的收藏家。” “你相信我已经出价250美元买那件小东西吗？安德鲁曾经制造了卖到500美元的几只椅子。卖出安德鲁的产品存在银行里的钱已有20万美元。” “天哪，杰拉尔德，他使你发财啦。” “发了一半财，”先生说道。“一半存款是存在安德鲁·马丁的账户里的。” “存在那机器人的账户里吗？” “对啦，我想知道这是不是合法。” “合法……？”当费戈尔德在他坐的椅子里向后仰的时候，椅子吱吱嘎嘎地响着。“杰拉尔德，没有这种先例。你的机器人怎样在必需的文件上签名呢？” “他能签名，因此我把他的签名拿到银行去。可是我没有带他到银行去。现在还有其他的事要做吗？” “哼。”费戈尔德目光似乎朝自己扫了一下。然后他说道，“好吧，我们能够成立一个组织来处理他的户名里面的资金问题，这样就可以在他和敌对的世界之间放置一个绝缘层。此外，我的意见是你什么都别做。以前从来没有人阻止过你。如果有人反对，那就让他控告吧。” “如果有人控告，你接受这案件吗？” “为了一笔律师费，当然接受。” “多少钱？” “像这东西一样的数目，”费戈尔德说道同时指着那块木质饰板。 “很公平，”先生说道。 当费戈尔德转向机器人的时候，他笑着说道，“安德鲁你有了钱高兴吗？” “先生，很高兴。” “你打算怎样用这笔钱呢？” “先生，用来买东西，要不然马丁先生就要付买东西的钱先生，我付了钱就可以节省他的开支。” 这样的机会来了。修理费用是昂贵的，而更新费用甚至更昂贵。随着岁月的流逝，新型的机器人制造出来了，而先生更注意使安德鲁具有每种新设计的优势，直到他成为优等金属机器人的模范。更新的费用都是安德鲁支付的。安德鲁坚持这一点。 “安德鲁，新型的机器人没有你那样好，”他说道，“新机器人毫无价值。公司学会了把电路造得更刻板，鼻子上的电路更紧密，思路更深。新机器人不转变。它们按照指令做它们的事，从不偏离正道。我更喜欢你。” “先生，谢谢您。” “安德鲁，别忘记你的所作所为。我确信一旦曼斯基仔细观察了你，他就会结束一般化的电路。他不喜欢无法预言的事。你知道他多少次要求把你送回让他研究吗？九次！可是我从来不让他得到你。现在他已退休了，我们可以和睦相处……” 先生的头发少起来了，变成灰白色了，他的脸孔变长了，而安德鲁则比他开始进入这个家庭时看上去更好。夫人参加了欧洲某地的一个艺术家组织，小姐是纽约的一位诗人。她们偶尔写作，写作的次数不多。小小姐已结婚，住在不远的地方。她说她不愿意离开安德鲁。当她的小孩小先生出生的时候，她让安德鲁拿奶瓶喂他。 孙子出生了，安德鲁感到先生终于有人替补那些已经死去的人。因此，现在向他提出请求就不会显得大不公平了。 “先生，承蒙您好意允许我按照我的意愿花我的钱。” “安德鲁，那是你的钱。” “先生，全靠您自愿的行动。我认为法律不会阻止您拥有全部的钱。” “安德鲁，法律不会说服我做错事。” “先生，除了所有的开支，除了税款以外，我还有将近60万美元。” “安德鲁，我知道这数目。” “先生，我想把这笔钱给您。” “安德鲁，我不会拿这笔钱。” “先生，用这笔钱来交换您能给我的东西。” “啊，安德鲁，那是什么东西呢？” “先生，我的自由。” “你的——” “先生，我想买我的自由。” 事情并不那么容易。先生红着脸说道，“看在老天爷面上！”然后他转过身子，大踏步走了。 小小姐最后当着安德鲁的面挑战似地而且生硬地使先生改变了主意。三十年来没有人曾经当着安德鲁的面吞吞吐吐地说话，不管所说的事是不是和安德鲁有关。他只是一个机器人罢了。 “爹爹，你为什么把这件事看作人身的侮辱？他仍旧待在这里。他仍然是忠诚的，他不能改变这种状况，这是他的本性决定的。他所想要的只是说话的形式。他想要人们说他是自由的。难道这种想法很可怕吗？他难道没有得到这种机会吗？天哪，这件事他对我已经谈了多年了！” “你们真的谈了多年吗？” “是的，他再三把这件事拖下来，因为恐怕他会伤你的感情，我叫他当面向你提出这件事。” “他不知道自由是什么。他只是个机器人罢了。” “爹爹，你不了解他。他把家里的藏书都读过了。我不知道他内心在想什么，我也不知道你内心在想什么。当你对他说话的时候，你会发现他会像你和我一样，对不同的抽象概念作出不同的反应。此外还有什么值得考虑呢？如果另外一个人的反应和你自己的反应一样，你还能再要求什么呢？” “法律不会采取这种态度”，先生怒道。“喂，你这东西！”他转向安德鲁故意用刺耳的声音说。“除非通过法律手续，我不能使你得到自由。如果这事由法庭解决，那么你不但得不到自由，而且司法界对你的金钱要采取正式的法定看法。他们将会告诉你，机器人没有赚钱的权利。你的胡言乱语会使你失去金钱，这样做值得吗？” “先生，自由是无价的，”安德鲁说。“即使是获得自由的机会也很值钱。” 法庭似乎也认为自由是无价的，可能判决，不管出价怎么高，机器人也不能购买它的自由。 区律师代表采取一致行动来反对自由的那些人，他的简单的声明是这样的：“自由，这个词用在机器人身上毫无意义。只有人才能享有自由。”这句话他说了好几遍。当这句话似乎很适当的时候，他就用手缓慢而有节奏地敲打他面前的办公桌，使人们注意听他的话。 小小姐请求允许她代表安德鲁发言。 人们听到她的全名，认出了她，安德鲁过去从来没有听见人念她的全名：“阿曼达·劳拉·马丁·查尼可以向法官席靠近。” “先生，谢谢您。我不是律师，我不知道用适当的措词来说话，但是我希望您听懂我的意思而不计较我的用词。” “让我们弄懂，对安德鲁来说，自由是什么意思。在某些方面，他是自由的。我认为，自从马丁家庭里有人叫他做某件可能不是出于他的自愿的事以来，至少已经有二十年了。但是，如果我们想要的话，我们就能命令他做任何事，随心所欲地严厉命令他，因为他是属于我们的机器。他已经忠实地为我们服务了这么久，已经为我们赚了那么多的钱，我们为什么还要命令他呢？他没有再欠我们什么。要说借贷不平衡，该偿付的恰恰是在我们一方。” “即使我们在法律上被禁止使安德鲁处于非自愿的奴隶状态，他仍然会心甘情愿地为我们服务。使他得到自由仅仅是玩弄言词，但是对他来说却是一件大事。这样做会使他得到一切，而我们则毫无损失。” 法官似乎勉强笑了一会儿。“查尼太太，我明白你的主要观点。事实是在这一方面还没有有约束力的法律，也没有先例。然而却有一种没有表达出来的假定：只有人才能享有自由。我可以在这里制订一条新法律，让它受到上一级法庭的撤销；但是我不能轻易反对那个假定。让我对机器人说话。安德鲁！” “先生，我在。” 这是安德鲁第一次在法庭上讲话，而法官似乎对他的声音中含有人的音色感到吃惊。 “安德鲁，你为什么想要自由？自由对你有什么意义？” “先生，您愿意做奴隶吗？”安德鲁间道。 “但是你不是奴隶。你是十分好的机器人——我听说你是一位天才的机器人，具有举世无双的艺术表现力。如果你得到自由，你能多做些什么呢？”“先生，也许不能比我现在做的更多，但是能得到更大的乐趣。据说在这间审判室里只有人才是自由的。在我看来，似乎只有想要自由的人才可能是自由的。我想要自由。” 正是这句话使法官受到启发。在他的判决中的警句是，“对于具有先进的头脑、能够掌握自由的概念并且渴望自由的任何物体，没有拒绝把自由给它的权利。” 这件事终于由世界法庭确认。 先生仍然很不高兴，他那刺耳的声音使安德鲁感到他似乎发生了障碍。“安德鲁，我不想要你的臭钱。我拿这笔钱只是因为我不这样做你就不会感到自由。从今以后你能够挑选你自己的工作，照你所喜欢的去干你的工作。除了于你所喜欢的工作这句话以外，我不再向你发号施令。但是我仍然要对你负责。这是法庭的命令的一部分。我希望你理解。” 小小姐插嘴说。“爹爹，别动肝火。责任并不是一件麻烦事 “先生，人们不是也受他们的法律约束吗？”安德鲁回答道。你知道你不必做任何事。三条规则仍然有效。”“那么他怎么会是自由的呢？” “我不想辩论。”先生离开了房间。此后安德鲁就不常看见他了。 小小姐常常到小房子里去看他，这所小房子是为他建造并加以改造的。它当然没有厨房，也没有洗澡的设备。它只有两间房间。一间是图书室，另一间是一室两用的贮藏室和工作室，安德鲁接受了许多委托他做的工作，他作为一个自由的机器人比过去更加努力地工作，直到那所房子的代价付清了，并经签字让给了他。 有一天小先生（不，应该称乔治！）来了。在法庭判决之后小先生曾经坚持这称呼。“一位自由的机器人不称任何人为小先生，”乔治曾经说过。“我叫你安德鲁。你一定要叫我乔治。” 他的爱好是用命令的语气说出来的，因此安德鲁称他为乔治——但是小小姐仍然被称为小小姐。 有一天乔治单独来了，那就是说先生已经垂危。小小姐守在床边，但是先生想见安德鲁一面。 虽然先生似乎不能移动，可是他的声音仍然很响。他挣扎着举起他的手。 “安德鲁，”他说道，“安德鲁——乔治，别扶我。我只是垂危罢了。我并没有残废。安德鲁，我很高兴你得到自由了。我只是想告诉你这一点。” 安德鲁不知道说什么。他过去从来没有在一个垂死的人身边待过，但是他知道这是人停止活动的方式。这是一种非自愿的和不可改变的解体，可是安德鲁不知道说什么才恰当。他只能一直站着，绝对地安静，纹丝不动。 这种静止的状态过去以后，小小姐就对他说，“安德鲁，他垂死时似乎没有对你表示友好，但是你该知道他老了；你想要自由伤了他的心。” 于是安德鲁就找到了要说的话。“小小姐，如果没有他我就永远得不到自由。”九 安德鲁只是在先生逝世以后才开始穿衣服。他先穿乔治给他的那条旧裤子。 乔治己结婚，是位律师。他加入了费戈尔德的公司。老费戈尔德早已逝世了，但是他的女儿继承父业。最后那公司的名称变成费戈尔德和马丁公司。这名称甚至一直保留到那位女儿退休而再没有费戈尔德家族的人接替她的职位的时候。这时安德鲁才第一次穿上衣服，马丁的名字才加在那家公司上。 当乔治第一次看见安德鲁尝试着穿上裤子的时候，他极力忍住笑，但是安德鲁仍然看见他脸上的笑容。乔治做样子告诉安德鲁怎样用静电来使裤子张开，包住下体并合拢。乔治用自己的裤子示范，但是安德鲁很清楚要花一点时间才能照样做出流利的动作。 “安德鲁，你为什么要穿裤子呢？你的身体设计得挺漂亮，不应该遮盖它——特别是因为你不必为保持体温或遮羞而担忧，再说衣料不能适当地依附在身体上——依附在金属上。” 安德鲁坚持自己的观点，“乔治，难道人的身体不是设计得很美吗？可是你们都把自己包起来。” “为了保暖，为了清洁，为了保护身体，为了装饰，这些目的都不能用在你身上。” “不穿衣服我感到赤裸裸的。乔治，我感到与众不同。”安德鲁答道。 “与众不同！安德鲁，地球上现在有千百万的机器人。在这个地区里，根据最近的统计数字，机器人几乎和人一样多。” “乔治，我知道。机器人做着每种可以想得到的工作。” “可是他们当中没有一个人穿衣服。” “但是，乔治，它们当中没有一个人是自由的。” 安德鲁衣橱里的衣服逐渐多起来。乔治的微笑和委托他办事的人们的凝视使他感到不宜再添衣服了。 他可能是自由的，但是他体内建立了关于他对人们的态度的详细的程序，只有用极微小的步幅他才敢于前进上、公开的非难会使他后退很多个月。并不是每个人都认为安德鲁是自由的。他不能对这偏见表示忿恨，而且当他想到这一点的时候，他的思路上还有困难。最重要的是，当他想到小小姐可能来看他的时候，他趋向于避免穿衣服，或者避免穿大多的衣服。她现在已经更老了，而且在气候较温暖的时候常常离开家里，但是她回家时，第一件事就是看望他 有一次，当她看望时，乔治悲伤地说，“安德鲁：她说服了我。明年我将竟选立法机关的成员。她说‘有其祖必有其孙’。” “有其祖……”安德鲁感到没有把握，没把话说完。 “我的意思是说我（孙子乔治）会像我的祖父（先生），他曾经在立法机关待过。” “乔治，如果先生仍然……那多么开心啊，”他没有把话说完，因为他不想说，“处于正常状态。”这样说似乎不恰当。 “活着，”乔治说道。“是的，我有时也想到这个老怪物。” 安德鲁常常想到这段对话。当他和乔治谈话的时候，他已经注意到他自己讲话困难。自从安德鲁得到本来的词汇以来，不知怎么的语言已经发生了变化。于是乔治便用了先生和小小姐从来没有用过的口语。为什么他称先生为怪物呢？这个词儿确实是不恰当的。安德鲁甚至不能从他自己的书籍中寻求指导。这些书陈旧了，而且其中大部分是关于木工的，关于美术和关于家具设计的。没有关于语言的，也没有关于人的生活方式的。 最后他似乎感到他必须找寻专门的书籍；而且，作为自由的机器人，他不能求乔治。他要到城里去，利用图书馆。这是个成功的决定。他感到他的电位显然在提高，直到他不得不插进阻抗线圈。 他穿上全副服装，甚至包括一条木质的肩圈。他本来想戴发光的塑料圈，但是乔治曾说过木质圈更恰当，并且说过磨光的杉木更有价值。 在聚集的阻力使他停下来以前，他在他自己和房屋之间安排了一百英尺的距离。他把阻抗线圈从电路中取出，而当这种做法似乎无济干事时，他便回到家里，在一张便条上清楚地写出，“我到图书馆去了，”并且把这字条放在工作台上容易看见的地方 安德鲁从来没有真正走到图书馆。 他仔细观看了地图。他知道地图上的路线，但却不知道实际的路的样子。实际的界标并不像地图上的记号那样，因此他总是犹豫不决。最后他认为他必然走错了路，因为每样东西看起来都是陌生的。 他经过一个偶然出现的野外的机器人，但是当他决定问路的时候却什么都看不见。一辆机动车驶过他，没有停下来。 安德鲁犹豫不决地站着，这意味着他镇静自若，毫无动作，因为有两个人穿过田野向他走来。 他转过身子面向着他们，而他们也改变了行进的方向，迎着他走来。在这之前不久，他们曾经大声讲话。他听见他们的声音。但是现在他们却沉默了。他们的神色使安德鲁联想到人们犹疑不决的样子。他们都很年轻，但又不太年轻。也许是20岁？安德鲁从来不能断定人的年龄。 “先生们，你们愿意把到城市图书馆去的路怎样走告诉我吗？” 他们当中一个人，两人中比较高的那一个，他的高帽子使他显得更高，几乎高得出奇。他说话了，不是对安德鲁说，而是对另一个人说，“它是个机器人。” 另一个人是蒜头鼻、厚眼睑。他说道，不是对安德鲁说，而是对第一个人说，“它穿着衣服。” 高个子啪的一声捻了一下手指。“它是那个自由的机器人。他们有一个不为任何人所有的机器人住在老马丁的家里。为什么它穿着衣服呢？” “问它。”蒜头鼻说道。 “你是马丁家的机器人吗？”高个子问道。 “先生，我是安德鲁·马丁。”安德鲁说道。 “好。把衣服脱下。机器人是不穿衣服的。”他又对另一个人说，“真讨厌。看他那副样子！” 安德鲁犹豫不决了。他很久没有听见过用那种声调说出的命令了，所以他的第二条规则的电路暂时不通了 高个子又说了一遍，“把衣服脱下。我命令你。” 慢慢地，安德鲁开始脱衣服。 “把衣服丢下，”高个子说。 蒜头鼻说道，“如果它不属于任何人，那么它可能属于我们，也可能属于其他任何人。” “不管怎样，”高个子说道，“谁会反对我们所做的事呢？我们没有毁坏财产。”他转向安德鲁。“用头支地倒立。” “头并不是用来……”安德鲁开始说道。 “这是命令。如果你不知道怎样倒立，无论如何要尝试。” 安德鲁又犹豫了，然后弯下身子把头支在地上。他努力举起双腿，但是却跌倒了，跌得很重。 高个子说道，“就躺在那里吧。”他对另一个人说道，“我们能把他拆开。曾经有人把机器人拆开吗？” “他会让我们把他拆开吗？” “他怎么能阻止我们呢？” 如果他们用强有力的态度命令他不得违抗，那么安德鲁就无法阻止他们。关于服从的第二条规则比关于自卫的第三条规则更重要。总之他不能在不伤害他们的前提下保卫自己，而这样做就意味着违反了第一条规则。想到这一点他就感觉到每一个能动的单元微微收缩，而当他躺在那里的时候他就浑身发抖。 高个子走了过来用脚踩他。“他很重。我认为我们需要用工具来把他拆开。” 蒜头鼻说道，“我们能够命令他拆开自己。看着他这样做真有趣。” “是的，”高个子若有所思地说道，“但是让我们使他离开道路。如果有人来……” 太迟了。确实有人来了，那人就是乔治。安德鲁已经从他躺着的地方看见乔治在三十米远的地方走上了一个小高地的顶上。他想用某种手势向乔治示意，但是最后的命令是“躺着别动！” 乔治快步地跑过来了。他来到出事地点的时候已经有些气急了。那两个年轻人朝后移动了一点儿，然后若有所思地等待着。 “安德鲁，出了事吗？”乔治担心地问道。 安德鲁答道，“乔治，我很好。” “那么你就站起来吧。你的衣服呢？” “老兄，这是你的机器人吗？”高个子问道。 乔治严厉地回答道。“他不是任何人的机器人。这里发生了什么事？” “我们很客气地叫他脱去衣服。如果你不是他的主人，这和你有什么关系呢？” 乔治转向安德鲁，“安德鲁，他们想干什么？” “他们想把我拆开，他们即将把我搬到一块安静的地方，然后下令叫我把自己拆开。” 乔治盯着那两个年轻人，他的下颊发抖了。 那两个青年没有再往后退。他们在微笑。 高个子轻浮地说，“矮胖子，你想干什么？想打我们吗？” 乔治说道，“不，我不必动手。这个机器人在我家里待了75年以上，他了解我们，他尊重我们，比对其他任何人都更尊重。我打算告诉他，你们两个正在威胁我的生命，而你则想要杀我。我要求他保护我。他在我和你们俩之间进行选择时，一定会选择我。当他打你们时，你们知道自己会受到怎么样的伤害吗？” 那两人后退了一点儿，显出不安的样子。 乔治严厉地说，“安德鲁，我处境危险，即将受到这两个青年的伤害。冲向他们！” 安德鲁奉命进攻，可是那两个青年也没有待着，他们跑了。 “安德鲁，干得好，现在放松吧，”乔治说道。他显出轻松的样子。他早已过了能和一个青年争吵的年龄，更不用说和两个青年争吵了。 “乔治，我不能把他们打伤。我能看出他们不打算打你。” “我没有命令你打他们。我只是叫你向他们靠近。他们自己吓跑了。” “他们怎么会怕机器人呢？” “这是人类的通病，一种直到现在还没有治好的病。但是别介意。安德鲁，你究竟到这里来干什么呢？幸亏我看到你的便条。当我看到你的时候我正准备回去雇直升飞机。你怎么会想到到图书馆去呢？我会把你所需要的任何书带给你。” “我是个……”安德鲁开始说。 “自由的机器人。是的，是的。很对，你想在图书馆里看什么书呢？” “我想要知道更多有关于人的事，关于世界的事，关于每件东西的事。乔治，还有关于机器人的事。” 乔治把一只手臂放在安德鲁的肩上。“很好，让我们走回家吧。但是首先把你的衣服拾起来。安德鲁、关于机器人学的书有一百万册，所有这些书都包括科学史。这个世界上不但机器人越来越多，而且关于机器人的信息也越来越多。” 安德鲁摇摇头，这是他近来开始采用的人的姿势。“乔治，不是机器人学的历史，而是由一个机器人写的机器人的历史。我想要解释，自从允许第一批机器人在地球上工作和生活以来，他们对已经发生的事有什么感受。” 乔治的眉毛抬起了，但是他没有说一句话来回答。 小小姐刚度过她的83岁生日，但是她的精力仍然充沛，决心仍然坚强。 她用手杖做手势的次数比用它支撑身体的次数更多。 她听了事件的经过，表示极大的义愤。“乔治，真可怕。那两个小流氓是谁呀？” “我不知道。不知道他们的姓名有什么关系呢？归根结底他们没有造成任何破坏。” “他们可能造成破坏。乔治，你是个律师；如果你富裕起来，那完全要归功于安德鲁的才能。正是他赚的钱成为我们的每件东西的基础。他使我们这个家庭长盛不衰。我决不允许把他当作上发条的玩具那样对待。” “妈，你要我干什么呢？”乔治问道。 “我说你是个律师。你没有听吗？你用某种方式提出一个判决先例，然后迫使区法庭表态支持机器人享有权利，并且使立法机关通过必要的法案。如果你认为必要的话，那就把整个案件向世界法庭上诉。乔治，我监视着你做，我不能容忍你逃避义务。” 她是认真的，因此，作为安慰这位可怕的老太大的方法的第一步，就必须使牵涉到法律的复杂的事情变得有趣。作为费戈尔德和马丁公司的高级合股人，乔治筹划策略。他让 他的低级合股人做实际工作，很多实际工作由他的儿子保罗来做。保罗也是公司的成员，他很负责，几乎每天都向他的祖母报告。她也每天和安德鲁讨论这案件。 安德鲁深深地卷入到这件事里面。当他钻研法律论据，甚至当他有时提出胆怯的建议时，他写论述机器人的书的工作一而再、再而三地推迟了。“乔治在我受欺负的那一天告诉我说，人们一向害怕机器人，”他有一天说道。“只要法庭和立法机关存在一天，它们就一天不会为机器人努力工作。难道不应该做些工作来制造舆论吗？” 因此当保罗待在法庭的时候，乔治就走向大众讲台，这种做法使他能够不拘礼节，于是他有时甚至穿上宽大的新式衣服，他称这种衣服为服装。 保罗责备他道，“爹爹，别在舞台上绊倒。” 乔治没精打采地回答道，“我努力避免绊倒。” 有一次他在全息新闻编辑年会上发表演说，一部分演说词是：“如果凭借第二条规则，我们能够要求任何机器人在各方面（不包括伤害人）无限制地服从，那么任何人，任何人都会对任何机器人，任何机器人拥有可怕的控制权。特别是由于第二条规则取代了第三条规则，任何人都能利用服从的规则来克服自卫的规则。他能够以任何理由，或者毫无理由命令任何机器人损害自己，甚至毁灭自己。” “这公平吗？我们会这样对待动物吗？即使曾经向我们提供良好的服务的没有生命的物体也有要求我们考虑的权利。何况机器人并不是感觉迟钝的；它不是动物。它有相当好的思考能力，所以能和我们谈话，和我们推理，和我们开玩笑。我们不能像朋友那样对待它们吗？不能和它们一起工作吗？不能把友谊的一些成果给它们吗？不能把一些共同工作的利益给它们吗？” “如果人有向机器人发布任何命令（不包括伤害人）的权利，那么他就应该正正经经，不向机器人发布任何伤害它的命令，除非人的安全绝对需要发布这种命令。权力大，责任也大；如果机器人有三条保护人的规则，那么要求人有一条或二条保护机器人的规则是不是过分呢？” 安德鲁是对的。争取舆论的战斗控制了法庭和立法机关。最后通过一条规则，这条规则规定了几个条件。根据这些条件，伤害机器人的命令是要禁止的。这条规则是永远有保留的，并且违犯这条规则的处罚是完全不适当的，但是原则已经制定了。在小小姐逝世的那一天传来了世界立法机关最 后通过了这条规则的消息。 这不是巧合。小小姐在最后的辩论中拼命要使自己活下去，而只是在胜利的消息传来之后才逝世的。她最后的微笑是给安德鲁看的。她最后的话是，“安德鲁，你一向对我们很好。”她握着安德鲁的手死去，而她的儿子儿媳和孩子们则与她俩保持一定的距离以表示恭敬。十当机器人接待员走进里面的办公室而消失时，安德鲁耐心地等待着。那个接待员可能使用了全息照相术的说话机，但是毫无疑问，它因为要接待另一个机器人而不是接待一个人，所以感到烦恼。 安德鲁在消磨时间的时候心里在反复考虑这件事：在这件事里，“使失去机器人气概”能不能用作“使失去男子气概”的同源语呢？或者“使失去男子气概”已经变成了脱离了它本来意义的一个隐喻词而用在机器人身上——或者用在女人身上呢？当他写论述机器人的书时，这样的问题常常涌现出来。想出句子来表达所有复杂事物的花招，毫无疑问已经增加了他的词汇。 偶尔有人走进房间盯着他看，而他也不企图躲开这种凝视。他平静地看着每个人，而每个人却把目光转开了。 保罗·马丁最后出现了。他看上去很惊奇的样子，或者会露出惊奇的样子，如果安德鲁肯定能理解他的表情的话。保罗已经习惯于穿盛装，这种服式是男女都可以穿的。虽然这种服式使保罗微露温和的线条的面孔显得轮廓更鲜明更坚定，可是安德鲁仍然不赞成。他发现人表现出来的这种不赞同，只要这种不赞同没有用言语表达出来，他就不会感到很不舒服，他甚至能够把这种不赞同写出来。他肯定事情并不总是那样的。 “安德鲁，进来吧。叫你等候，真对不起，但是有些事我必须做完。进来吧。你曾经说过你想要和我谈谈，但是我不知道你的意思是在城里——这儿跟我谈。” “保罗，如果你忙着，那么我就再等下去。” 保罗朝墙上用作时计的日冕上移动的影子看了一眼，然后说道，“我能抽一点时间。你单独来吗？” “我叫了一辆机动车。” “碰到麻烦吗？”保罗相当担心地问道。 “我没有想到任何麻烦。我的权利已经得到保护。” 保罗对这句话更感到忧虑。“安德鲁，我已经解释过，那条法律不是强制执行的，至少在大多数情况下不是这样。如果你坚持要穿衣服，那么你终究要碰到像你第二次碰到的那种麻烦的。” “保罗，就只那一次。你感到不高兴，我很抱歉。” “好啦，照这样看这件事吧：安德鲁，你真是活生生的传奇人物，你在许多方面大有价值了，所以你没有任何权利亲自冒险行事。顺便问一下，你那本书写得怎样了？” “保罗，快要写完了。出版商很高兴。” “很好！” “我不知道他竟然对那本书这样高兴。我认为他期望销售许多册，因为那是机器人写的书，而这就是使他高兴的原因。” “我恐怕那只是为了人。” “我并不生气。让它以任何理由去出售吧，既然出售意味着金钱，我自然能有一部分钱用。” “祖母留给你——” “小小姐是慷慨的，我确信我能依靠这个家庭帮助我再前进一步。但是我也指望从这本书所得到的版税帮助我度过下步，下一步又怎样呢？”“我想要看望美国机器人和机械人公司的主任。我曾企图和他约会，但是直到现在我仍然不能会见他。在我写这本书的时候，那公司不和我合作，所以我对此并不感到惊奇，这一点你是理解的。” 保罗显然很高兴。“合作是你能期望的最后一件事。在我们为机器人的权利而奋斗的伟大斗争中，他们不和我们合作。完全与我们背道而驰，你能明白那是为什么。把权利给与机器人，人们就可能不愿购买机器人了。” “然而，”安德鲁说，“如果你打电话给他们，你就可能为我预约一次会见。” “安德鲁，我并不比你更受到他们的欢迎。” “但是你也许能暗示，他们和我会见可能阻止费戈尔德和马丁公司所发动的进一步加强机器人权利的运动。” “安德鲁，这样做不是说谎吗？” “保罗，是说谎，可是我不能说谎。这就是为什么你必须打电话的理由。” “啊，你不能说谎，可是你却能怂恿我说谎，是不是这样？安德鲁，你不断地变得越来越像人了。” 即使用上了保罗的鼎鼎大名，会见仍然是不容易安排的。但是会见终于成功了。会见的时候哈利·斯迈思一罗伯逊看上去非常不高兴的样子。他的职位是从那家公司的创办人一直传下来的，他的姓采用了连字号来说明这一点。他正在接近退休年龄，作为总经理，他已经把他的全部精力和财力用在机器人权利的事情上。他的灰白色的头发薄薄地粘贴在头顶上；他的脸孔没有修饰，他那稍含敌意的目光有时盯着安德鲁 安德鲁开始谈话。“先生，将近一百年以前，这家公司的默顿·曼斯基就曾告诉我说，决定阳电子电路的布局的数学太复杂了，只能求得近似的解法，因此我自己的能力就不是完全可预言的。”“那已是一百年前的事了。”斯迈恩罗伯逊犹疑了一下，随即冷冷地说，“先生，情况不再是那样的了。现在我们的机器人造得很精密，并且精确地针对它们的工作进行训练。” “是的，”保罗说道。正如他所说，他是来查明公司是否光明正大，“结果是，每逢事情偏离常规（不管偏离得多么微小），我的接待员就必须加以指导。” “如果它想敷衍塞责，那么你就会更加不高兴。”斯迈思。罗伯逊说道。 “于是你就不再制造像我这样灵活而适应性强的机器人……” “不再制造。” “我写我那本书时所进行的研究，”安德鲁说道，“表明我是目前在积极工作的最古老的机器人。” “目前最古老的”，斯迈思一罗伯逊说道，“比以往任何时候都更古老的。将来永远是最古老的：25年以后没有一个机器人是有用的了。它们被收回，被更新的式样所取代。” “现在制造的机器人到了20年以后没有一个是有用的了，”保罗说道，声音里包含着讽刺的语调。“在这一方面安德鲁的确是个例外。” 安德鲁坚持他给自己规划的思路，继续说道，“作为世界上最古老、最灵活的机器人，难道我不是与众不同，不值得公司的特殊待遇吗？” “根本不值得，”斯迈恩罗伯逊非常冷淡地说道。“你的不同寻常使公司感到为难，如果你是以租借的方式使用的，而不是通过某种灾难全部出售的，那么你早就被取代了。” “但是这正是事情的要害，”安德鲁说道。“我是个自由的机器人，我有自主权。所以我到你这里来要求你更换我。没有主人的同意你就不能这样做。现在这种同意被强迫成为租借的条件，但是在我那个时代没有发生这种情况。” 斯迈思一罗伯逊看上去既吃惊又为难，一时间出现了沉默的现象。安德鲁发现他自己注视着墙上的全息图。那图是苏珊·卡尔文，所有的机器人学家的最初的领导人的遗容面具。她已经逝世了二百年了，但是安德鲁由于写了那本书，对她非常了解，能够使自己相信他曾经在人世间见过她。 斯迈思。罗伯逊最后问道，“我怎么能为了你而更换你呢？如果我把你作为机器人更换了，那么我怎么能把新机器人送给作为物主的你呢？因为在更换的行动中你已经不存在了。”他冷酷地微笑着说。 “根本不困难，”保罗插嘴道。“安德鲁的人格所在地是他的阳电子的大脑，而这个部分是不能更换的，除非创造一个新机器人。所以阳电子大脑是作为物主的安德鲁。机器人身体的其他每个部分都可以更换而不会影响那个机器人的个性；其他那些部分都是大脑的所有物。我应该说明，安德鲁想要使他的大脑得到一个新的机器人身体。” “很对，”安德鲁心平气和地说。他转向斯迈恩罗伯逊。“你制造了机器人，是吗，那些机器人具有人的外表，连皮肤的组织都完全像人，是吗？” “是的，我们制造过。它们具有合成纤维的皮肤和腿，运转得很好。除了大脑以外，其他任何部分实际上都没有金属，可是它们几乎和金属制的机器人一样坚韧。一对一的比较起来，它们更坚韧。” 保罗看上去很感兴趣。“我不知道这种情况。这种机器人市场上有多少呢？” “一个也没有”，斯迈思。罗伯逊说道。“它们比金属机器人贵得多，并且市场调查表示它们不会受欢迎。它们看上去太像人了。” 安德鲁很受感动。“但是我假定那公司保留了它的专门知识。既然这样，我想要求我能够被一个有机的机器人（一个像人的机器人）所取代。” 保罗看上去很惊奇。“天哪！”他说道。 斯迈恩罗伯逊强硬起来了。“完全不可能！” “为什么不可能呢？”安德鲁问道。“当然，我要支付任何合理的费用。” “我们不制造像人的机器人。” “你们不愿意制造像人的机器人，这不等于不能够制造它们。”保罗很快地插嘴道。 “然而”，斯迈思。罗伯逊答道，“制造像人的机器人是违反政府的政策的。” “并没有不准制造的法律。”保罗说道。 “然而我们不制造它们一并且我们不愿意制造。” 保罗清了清嗓子，说道，“斯迈思。罗伯逊先生，安德鲁是个自由的机器人，他根据保证机器人享有权利的法律条文到这里来。我认为你知道这种情况，是不是？” “确实知道。” “这个机器人，作为一个自由的机器人，想要穿衣服。这种选择使他常常受到没有头脑的人们的侮辱，这些人无视不准侮辱机器人的法律。这些不明确的犯法行为没有受到那些必须决定是犯罪还是无罪的人们的普遍的批评，所以很难对它们起诉。” “美国机器人公司从一开始就了解这种情况。你父亲的公司却不了解，这是很不幸的。” “我父亲现在已经死了，但是我所看见的事情是我们这里有一个目的明确的犯法事件。” “你在说什么呀？”斯迈恩罗伯逊说道。 “我的当事人安德鲁·马下——他刚成为我的当事人——是个自由的机器人，他有向美国机器人和机械人公司要求更换的权利，该公司25年以来已经向拥有机器人的任何人提供更换。事实上该公司一直坚持这种更换。” 保罗十分轻松地微笑着。“我的当事人的阳电子大脑，”他继续说道，“是我的当事人的身体的物主——它的确已经超过25岁了。那阳电子大脑要求更换它的身体，并且愿意出任何合理的费用来换到一具像人的机器人的身体。如果你拒绝这个请求，那么我的当事人就受到侮辱而要起诉。” “尽管舆论在这样的案件里通常不会支持一个机器人的要求，可是我可以提醒你，美国机器人公司通常并没有受到公众的欢迎。即使那些机器人用得最多并且获利最多的人们也对公司起疑心。这可能是从普遍害怕机器人的时代遗留下来的习惯。它可能是对拥有遍及全球的专利品的美国机器人公司的权力和财富有怨恨。不管是哪一种原因，怨恨是存在的。我认为你会发现你宁可不坐在被告席上，特别是由于我的当事人既有钱，又将活千百年，并且他没有任何理由不把这场官司永远打下去。” 斯迈恩罗伯逊慢慢脸红起来；“你在企图强迫……” “我不强迫你做任何事，”保罗说道。“如果你不答应我的当事人的合理请求，那么你可以用一切办法这样做，我们将不再说一句话，马上离开。但是我们要起诉，这是我们的权利，而你则会发现你最后必将败诉。” “我知道你打算答应，”保罗说。“你可以犹豫一下，但是最后会答应的。那么让我来使你确信更深一层的要点：如果在把我的当事人的阳电子大脑所主宰的身体变换为有机躯体的过程中造成了任何损害（不管怎样轻微的损害），那么我就永不休战，直到把那公司打翻在地为止。如果我的当事人的铂一铱材料中一条大脑电路被搅乱，那么我就要采取每种可能的步骤（如果需要这样做的话）来制造舆论反对那公司。”他转向安德鲁，问道，“安德鲁，你同意这一切吗？” 安德鲁犹豫了足足一分钟。同意就等于赞成说谎、讹诈等于赞成对一个人纠缠和使他受辱。但是，他自言自语地沈这不是肉体的伤害，不是肉体的伤害。 他最后设法含含糊糊地说出：“同意。” 他感觉到他似乎被重新制造出来。经过许多天，再经过许多星期，最后经过许多月，安德鲁发现不知怎么已不像他自己了。他对那些最简单的动作则不断地产生犹疑。 保罗激动得发狂似的。“安德鲁，他们把你毁坏了。我们一定要起诉！” 安德鲁非常慢地说道。“你……一定不要。你永远不能证明……一些事情……像蓄意……” “蓄意犯罪吗？” “蓄意犯罪。并且我变得……更强、更好。那是损……” “颤抖吗？” “损伤。归根结底，过去从来不曾有过这样的机……” 安德鲁能够从内部感觉到他的大脑。没有任何其他的人能做到这一点。他知道他身体健康。在他用来学习充分的协调和阳电子的相互作用的那许多个月里，他在镜子前面度过了很多钟头。 不十分像人。脸孔是僵硬的——太僵硬了——并且动作太审慎了，缺乏人的随随便便、毫不拘束的样子；但是这种样子也许会随着时间的推移而学会。目前他至少能够穿上衣服，不会像过去那样，在金属的面孔上流露出可笑的反常现象 最后他说道，“我打算回去工作。” 保罗笑了。“这意味着你身体健康。你打算干什么？写另一本书吗？” “不，”安德鲁认真地说道。“我活得太长了，任何一种生涯不能抓住我的喉咙而永不松手。起初我是个艺术家，我能够再干那一行。后来我又是一个历史学家，我也能够再干那一行。但是现在我想做一个机器人生物学家。” “你的意思是说做个机器人心理学家。” “不是。那意味着研究阳电子大脑，而目前我不想从事这项研究。在我看来，机器人生物学家是与附属于那个大脑的身体的活动有关系的。” “那是不是机器人学家？” “机器人学家研究金属的身体。我打算研究有机的像人的机器人的身体。据我所知，只有我有那样一个仅有的身体。” “你要缩小你的研究范围，”保罗考虑周到地说。“作为艺术家，整个概念都是你自己的；作为历史学家，你主要是研究机器人；作为机器人生物学家，你要研究你自己。” 安德鲁点头道。“似乎是这样的。” 安德鲁要从头开始，因为他对普通生物学一无所知，对自然科学也几乎一无所知。常常可以看到他待在图书馆里。他在图书馆里坐在电子索引台前面，一坐就是几个钟头，穿的衣服看上去完全正常。极少数知道他是机器人的人一点也不打扰他。 他在一问房间里建造了一个实验室，这间房间是他在住房旁边加造的；他的藏书也越来越多。 很多年过去了，有一天保罗到他身边来对他说道，“你不再研究机器人的历史，真是憾事。我了解美国机器人公司正在采取一项彻底革新的政策，” 保罗年事已高，他的视力衰退的双眼已经换上了光适应力细胞。在这一点上，他和安德鲁更加接近了。 “他们做了什么呀？”安德鲁问道。 “他们正在制造中央计算机群。那真正是巨大的阳电子大脑群，它们用微波和任何地方的十几个机器人至一千个机器人交流信息。而机器人本身则根本没有大脑。机器人是巨大的大脑的肢体，而这两者实质上是分开的。” “这种做法是不是更有效？” “美国机器人公司说更有效。斯迈思。罗伯逊在他逝世以前制定了这个新方向，可是我认为这是对你不利的强烈的反应。美国机器人公司下定决心不再制造给他们带来像你那样的麻烦的机器人，因此他们把大脑和身体分开。大脑将没有想要改变的身体；身体没有大脑来想任何事情。” “安德鲁，这多么可惊啊！”保罗继续说道。 “这是你对机器人历史所造成的影响。正是你的艺术才能鼓励了美国机器人公司制造更精密更专门的机器人；正是你的自由使机器人的权利的原则能够确定；正是由于你坚决要求一种像人的机器人的身体才使美国机器人公司转向把大脑和身体分开的做法。” 安德鲁陷入沉思中了。“我最后猜想那家公司会制造一个庞大的大脑来控制几万亿的机器人身体。所有的鸡蛋将装在一个篮子里。真危险啊。一点也不恰当。” “我认为你说得对，”保罗说道，“但是我不怀疑它至少能经过一百年，我恐怕活不到那么长的时间来看到它的下场。事实上我可能活不到明年。” “保罗！”安德鲁叫道，表示关切。 保罗耸耸肩。“安德鲁，人终有一死。我们不像你那样。我并不把死看得太重要，我认为重要的是我要使你确信一个要点。在马丁家族中我是最后一个人。我亲自管理的钱将用你的名字托管。就任何人所能预见的未来来说，你在经济上是可靠的。” “没有必要，”安德鲁感到困难地说道。在这整个时期，他对马丁家族里的人的死亡总是感到不习惯。 “咱们别争论吧。这就是我们将要处理这件事的方式。现在你在研究什么呀？” “我正在为考虑中的像人的机器人——我自己——设计一个体系，以便从碳氢化合物的燃烧中获得能，而不是从原子核得到能。” 保罗抬起他的眉毛。“为了使它们会呼吸和吃吗？” “是的。” “你朝这方向推进了多久呢？” “很长一段时间了，但是我认为我终于设计出一种适当的燃烧室，以便进行催化的和受控制的裂变。” “但是，安德鲁，为什么要这样设计呢？原子核确实无限好。” “在某些方面也许好。但是原子核不是人的细胞。” 设计要花时间，但是安德鲁有时间。第一，他在保罗平安地死去以前不想做任何事。先生的曾孙死去以后，安德鲁感到几乎更加面临一个敌对的世界，因此下定更大的决心沿着他已经选择的道路前进。 可是他并不是真正孤单的。如果一个人已经死了，那么费戈尔德和马丁公司仍然活着，因为一个公司不会比～个机器人更容易死。 公司有它的方针，它冷静地遵循这些方针。通过信托并且通过律师行会，安德鲁继续做富翁。费戈尔德和马丁公司每年付了一大笔律师费。结果却使自己卷入了关于新燃烧室的多方面的法律事务中。但是当安德鲁参观美国机器人和机械人公司的时间来到的时候，他单独去参观。第一次他和先生一起去参观，另一次和保罗一起去参观。这一次是第三次，他像一个人那样单独去参观。 美国机器人公司已经变了。实实在在的生产工厂已经变成了一个大空间站，逐渐成为越来越多的工业基地。许多机器人随着这些工业活动起来了。地球本身正在变得像公园那样，人口稳定在10亿，也许不多于百分之三十的同样大的机器人独立地装配了大脑。 研究机构的主任是阿尔文·马格德斯卡，他的皮肤和头发都是黑色的，下巴上的胡须小而尖，腰部以上没有穿衣服，但是穿上了那时流行的胸带。安德鲁本人穿着几十年以前的老式衣服。 马格德斯卡向来访者伸出他的手。“我当然知道你，见到你我更感到高兴。你是我们的名气最大的产品，遗憾的是老斯迈思。罗伯逊那样反对你。我们本来可以和你相处得更好。” “你仍然能够和我很好地相处。”安德鲁说道。 “不，我认为不是那样。我们度过了那个时代。我们已经使机器人在地球上待了一百多年。但是这种情况正在改变。人将和机器人一起回到空间去，留在地球上的机器人将不装配大脑。” “但是我自己仍然留着，待在地球上。” “这是真的，但是你身上似乎没有很多机器人的成分了。你有什么新的请求呢？” “使机器人的成分更少些。既然我现在是有机的，我想要有机的能源。我这里有计划……” 马格德斯卡不急于看这些计划。他起初可能想看，但是他麻木了一阵子，随即越来越想看。他针对一个要点，说道，“这计划非常好，有独创性。这一切是谁想出来的？” “我想出来的。”安德鲁答道。 马格德斯卡抬起头来，敏锐地看着他，然后说道，“照这计划办就要对你的身体进行大检修，并且检修是试验性的，因为这样的事情过去从来没有尝试过。我建议不进行这种试验。你还是保留原来的样子吧。” 安德鲁的脸孔的表情有限，但是他的声音显然流露出不耐烦的情绪。“马格德斯卡博士，你没有打中要害。你除了答应我的请求以外别无选择。如果这样的装置能够造在我的身体里，那么它们也能造在人的身体里。用修复的装置来延长人的寿命，这种倾向已经有人不断地谈起。没有比我已经设计的或正在设计的装置更好的装置了。” “我碰巧通过费戈尔德和马丁公司来控制专利。我们完全有能力为我们自己经营商业，有能力发展这种修复的装置，发展到最后就能制造带有很多机器人特性的人。你自己的商业就要遭受损失。” “然而，如果你现在就给我做手术，并且同意将来在相似的情况下给我做手术，那么我们就允许你利用专利，并且允许你控制制造机器人的技术和修复人的技术。当然不能一开始就把这些技术转让给你，直到第一次的手术做得很成功之后，直到经过相当长的时间，事实证明手术确实做得很成功以后才能转让技术。” 当安德鲁向一个人提出这些苛刻的条件时，他几乎没有感觉到受第一条规则的任何束缚。他正在学习推论：似乎是残酷的东西到最后可能是仁慈的东西。 马格德斯卡大吃一惊。“我不是决定这种事的人。这件事要经过讨论决定，因而要花时间。” “我能等待一段合理的时间，”安德鲁说，“但是只能等待一段合理的时间。”于是他满意地认为，保罗本人也未必能把这件事办得更好十 只花了一段合理的时间，手术做得很成功。 “安德鲁，我非常反对做这手术，”马格德斯卡说道，“但是我反对的理由可能是你想不到的。如果是在另一个人身上做这试验，我丝毫不反对。我恨在你的阳电子大脑上冒险做试验。因为你有与模仿的神经线路相互作用的阳电子电路，所以，如果你的身体变坏了，那么要想使大脑不受影响就可能会很困难。” “我对美国机器人公司的工作人员的技术满怀信心，”安德鲁说道。“我现在能吃东西了。” “好啦，你能够呷橄榄油了。这将意味着有时要把燃烧室弄干净，正像我已经向你解释过的那样。我认为这会使你感到有点儿不舒服。” “如果我不期望更进一步，也许会感到有点儿不舒服。自我清洁并不是不可能的。事实上我正在制造的装置将能消化固体食物，可以期望这种食物里包含一小部分不燃物——所谓不消化的东西，必须把它抛弃掉。” “那么你必须造一个肛门了。” “或者与肛门相当的东西。”“安德鲁，还有别的什么呢？” “还有每个别的东西。” “还有生殖器吗？”“只要它们在适合我的计划的范围内就要有它们。我的身体是一块画布，我想在画布上画……” 马格德斯卡等着对方把这句话说完，而当这句话似乎不会说完时，他就自己把对方的话说完。“一个人吗？” “我们会看见的。”安德鲁说道。 “安德鲁，那是个小小的野心。你比一个人更高明。自从你选择使自己成为有机物以来，你已经走下坡路了。” “我的大脑并没有遭受过痛苦。” “是的，它没有受苦。我姑且承认这一点。但是，安德鲁，你的专利使得在修复术的装置方面的整个的新突破成为可能，它正在以你的名字在市场上销售。你被认为是发明家，因此你正受到尊敬——像你应该受到尊敬那样。你为什么还要用你的身体做进一步的游戏呢？” 安德鲁没有回答。 荣誉来了。他被好几个学术团体吸收为会员，其中包括致力研究他所建立起来的新科学的那个团体——他称这个新科学力机器人生物学，但它终于被命名为修复学。在他造成第150周年的时候，美国机器人公司为了向他表示敬意而举行了表扬他的宴会。如果安德鲁看出了其中的冷嘲，那么他心里明白却不会说出来。 阿尔文。马格德斯卡虽已退休，却出来主持宴会。他本人已94岁了，却仍然活着，因为他身上也有修复的装置。这些装置除了其他的作用以外还履行了肝和肾的功能。当马格德斯卡发表了简短而动人的谈话以后，举杯为这位150岁的机器人祝酒时，宴会达到了高潮。 安德鲁脸上的肌肉重新设计过，能够表示人的各种感情，但是在宴会中他自始至终严肃地坐着而毫无表情。他不想成为一个150岁的机器人。 正是修复学最后使安德鲁离开了地球。 在庆祝他诞生150周年以后的几十年，月球终于成为在各方面（除了重力以外）比地球更像地球的世界；在它的地下城市里人口密度相当大。修复术的装置必须考虑较小的重力。安德鲁在月球上花了五年时间和当地的修复术专家们一道工作，进行必要的修复手术。当他不工作的时候，就在机器人居民中闲逛，每个机器人都把他当作人那样奉承巴结。 他回到与月球相比显得单调和安静的地球，拜访了费戈尔德和马丁的几个办公室，说他回来了。 目前公司的首脑西蒙·德朗吃了一惊。“安德鲁，我们听说你要回来”——他几乎说出了马丁先生——“但是我们本来期望你下星期回来。” “我变得不耐烦起来，”安德鲁尖刻地说。他急于开门见山地说。“西蒙，在月球上我负责一个由20位人类科学家组成的研究组。我下命令说任何人不得提问。月球上的机器人像听从人那样听从我。那么，我为什么不是人呢？” 德朗的双眼流露出警惕的神色。“我亲爱的安德鲁，正像你刚才所解释的，你被机器人和人看作人。因此你是事实上的人。” “做一个事实上的人是不够的。我不但想被看作人，而且想在法律上被认定是入。我想成为法律上的人。” “现在这是另一件事，”德朗说道。“在这件事里我们会碰到人类的偏见和这个毫无疑问的事实：不管你可能多么像人，可是你却不是人。” “在哪一方面不是人呢？”安德鲁问道。“我具有人的形状，我有与人的器官相等的各种器官。事实上我的几个器官和修复过的人体内的某些器官是完全相同的。我曾经在艺术上、文学上和科学上对人类文化作出过很多贡献，与现在活着的任何人所作出的贡献同样多。人们还能再问什么呢？” “我本人不会再问什么。麻烦在于世界立法机关要拟定一个法令来规定你是人。但白说，我希望不要发生麻烦。” “在立法机关里我能对谁说话呢？” “也许能对科学技术委员会的主席说话。” “你能够安排一次会见吗？” “但是你几乎不需要介绍人。以你的地位，你能够……” “不，请你安排会见。”安德鲁从来没有想到他竟会向人发号施令，他已经在月球上养成了发号施令的习惯。“我想要使他知道费戈尔德和马丁公司在这件事上完全支持我。” “好吧，现在……” “西蒙，完全支持我，在173年中我曾经以这种方式或那种方式为该公司作出了巨大的贡献。过去我曾经受该公司某些人的恩惠。可是现在不是那样。现在的情况与过去不一样了，我打算收回我的债款。” “我要做我所能做的事。”德朗说道。 科学技术委员会的主席是东亚地区的人，并且是位妇女。她名叫奇丽星，她的服装是透明的——只是服装上的炫眼的东西遮掩了她想要遮掩的部分。——这服装使她看上去好像是用塑料包裹起来似的。 “你想要享有充分的人权，我对你这种愿望深表同情”，她说道。“历史上曾经有过部分居民为充分的人权而斗争的事。然而，你可能想要你没有享受到的权利是怎样的权利呢？” “像我的生存权那样简单的事，”安德鲁说道。“一个机器人在任何时候都可能被拆散。” “一个人在任何时候都可能被处死。” “只有遵循适当的法律手续才能处死。可是拆散却不需要任何审问。只需要有权的人说一句话，就可以结束我的生命。此外……此外……”安德鲁极力设法不流露辩护的迹象。但是他的细心设计的人类表情的窍门和声调在下面的话里暴露了这种迹象。“事情的真相是，我想要成为一个人。我已经期望了六代人那么长的时间。” 丽星抬起头来，用流露出同情心的那双黑眼睛看着他。“立法机关能够通过一条宣布你是人的法律。他们能够通过一条法律，宣告把一座石像定名为人。然而，他们是不是真的这样做，在第一种情况里的可能性和第二种情况里的可能性是一样的。国会议员和其余的人一样，都具有人的特性，总有一些疑心重的人反对机器人，” “甚至现在也反对吗。” “甚至现在也反对。我们大家都会承认这个事实：你已经得到许多人的奖赏，可是仍然有人害怕因此而开了一个讨厌的先例。” “什么先例呢？我是唯一的自由的机器人，是我这种类型中唯一的一个，永远不会有另外一个了。你可以到美国机器人公司去问。” “永远不，是个很长的字，安德鲁——或者用你更喜欢的名字，马丁先生——因为我乐于把人的称号授予你。你会发现大多数国会议员不愿意开这个先例，尽管这样的先例可能是没有什么意义的。马丁先生，我很同情你，但是我不能叫你去希望。的确……” 她向后靠坐着，额上起了皱纹。“的确，如果争论白热化起来，那么在立法机关内部和外部就可能为了你所提出的把你拆散的事情引起某种情绪。把你干掉就可能成为解决难题的最容易的方法。在决定推动这项工作以前，请把刚才的事情考虑一下。” 安德鲁态度很坚决。“难道没有人记得修复的技术吗？这种技术几乎完全是我创造出来的。” “这件事看上去可能很残酷，他们不会记得这种技术。如果他们记得，那么他们所记得的事是对你不利的。人们会说你发明这技术仅仅是为了你自己。这件事会被说成使人机器化运动的一部分，或者说成使机器人变成人的运动的一部分。这两种情况任何一种情况都是邪恶的、有害的。马丁先生，你从来没有投入政治仇恨运动；但是我要告诉你，你将成为诬蔑的对象，这种诬蔑无论是你或是我都不会相信，然而却有人会不折不扣地相信。马丁先生，听天由命吧。” 她站了起来，在安德鲁坐着的体形旁边她显得很细小，而且几乎显得孩子气十足。 “如果我决定争取成为真正的人，你支持我吗？” 她考虑了一下，然后回答道，“在力所能及的范围内我一定支持你。如果这种支持的立场会威胁我的政治前途，那么我就可能不得不抛弃你。因为我感到这种争论并不处于我的信念的中心。我正在企图成为你的诚实的朋友。” “谢谢你，我不再向你提出更多的要求了。不管结果如何，我要把这场斗争进行到底。我只要求你在可能的范围内给予我帮助。” 这不是一场直接的战斗。费戈尔德和马丁公司劝安德鲁忍耐，可是安德鲁严厉地抱怨道，他的耐心是无穷无尽的。于是费戈尔德和马丁公司开展一场运动来缩小、来限制斗争的范围。 他们起诉，否认对装有修复心脏的个人有还债的义务，理由是，具有机器器官的人失去了做人的资格，同时失去了宪法规定的公民权利。他们对这件事进行灵活而又顽强的争辩。尽管每一次争辩都失败了，但是失败的方式总是使判决不得不尽可能的宽，然后用向世界法庭上诉的方式把官司打下去。 官司打了很多年，花了数以百万计的美元。 当最后判决宣布的时候，德朗举行了一个庆祝屡次败诉终获胜利的庆祝会。安德鲁这时当然出席了公司各办公室的庆祝会。 “安德鲁，我们做了两件事，”德朗说道，“两件事都是好事，首先，我们规定：人体内不管装有多少人造器官仍然是人体。其次，在这个问题上我们已经争取到舆论的支持，我们争取舆论的方式是强调广泛解释人性，因为，如果修复术能够使人活下去，那就没有一个活着的人不希望接受修复术……” “你认为立法机关现在会把我的人权授予我吗？”安德鲁问道。 德朗看上去有点儿不舒服。“关于这一点，我不能乐观。仍然有一个被世界法庭用作人的标准的器官。人有一个有机的由细胞组成的脑，而机器人则有一个铂铱阳电子脑（如果它们有一个脑的话）一而你肯定有一个阳电子的脑。安德鲁，别在你的眼睛里流露出那种神色。我们缺乏复制细胞脑的作用的知识，不能用相当接近有机脑的人造结构来迎合法庭的判决。甚至你也不能做到这一点……” “那么我们怎么办呢？” “当然要尝试一下，国会议员丽星会支持我们，其他越来越多的国会议员也会支持我们，在这件事上总统毫无疑问会赞同立法机关中大多数人的意见。” “我们有这个大多数吗？” “没有。远远没有达到大多数。但是如果公众想要把对人的广泛的解释扩展到你身上，我们就会有一个大多数。这是一个小小的机遇，我承认这一点；但是如果你不想放弃，我们就必须冒险于一下。” “我不想放弃。” 国会议员丽星比安德鲁第一次会见她时老多了，她早已不穿透明的衣服了。她的头发现在已经剪得很短，她的外衣是圆筒形的，可是安德鲁仍然墨守一百多年以前流行的服装式样，那时他第一次采用这种式样，现在则可能在合理的情趣的范围接近那种式样。 “安德鲁，我们已经谈得像我们所能谈的那么远了，”丽星承认道。“休会之后我们还要再试一次。但是，说真话，失败是肯定的。然后不得不把整个事情搁下来。我最近所作出的一切努力只会使我在即将到来的国会竟选运动中肯定失败……” “我知道，”安德鲁说道，“这使我感到痛苦。你曾说过，如果你失败了你就会抛弃我。你为什么不那样做呢？” “你知道，人们会改变主意。不知怎么的，抛弃你使我感到比我为了再当选一次所花的代价更高。事实上，我在立法机关待了25年之久。真够我受的。” “难道我们没有改变主意的办法吗？” “我们已经改变了所有的能够合理地改变的东西。所剩下的没有改变的东西——公众的大多数一不能从他们的反感中摆脱出来。” “反感不是投票决定一种方式或另一种方式的正当理由。” “安德鲁，我知道这一点。但是他们并不把情感上的对立发展成为他们的理性。” “那么归根结底是脑子的问题了，”安德鲁小心翼翼地说。“但是我们必须把这个问题停留在细胞对阳电子的水平上吗？难道无法强迫下一个实用的定义么？难道我们必须说脑子是由这种或那种东西组成的么？难道我们不可以说脑子是某种——任何种——能思考的东西么？” “不行，”丽星说道。“你的脑子是人造的，而人脑则不是。你的脑子是制造出来的，而人脑则是进化成功的。对于任何想要坚决保持他本人和机器人之间的这道障碍的人来说，那些差别是高一英里、厚一英里的铜墙铁壁。” “如果我们能了解他们对立的根源，就是这个根源——” “在你经过那么多年以后，”丽星悲哀地说，“你仍然想说服人。可怜的安德鲁，请别发怒，正是你的机器人性格驱使你朝这个方向干。” “我不知道”，安德鲁说道。“我是不是能使我自己……” 是不是能使他自己…… 长期以来他就已经知道事情会发展到这一步，他终于来到这位外科医生的工作室。他已经找到了一位能做即将进行的手术而且技术相当熟练的外科医生——这意味着他找到了一位充当外科医生的机器人，因为不能相信任何一位外科医 生能做这种手术——无论在能力方面或意向方面都不能做。 那位机器人医生从来没有在人身上做手术，所以安德鲁用悲哀的询问方式来拖延作出决定的时间，这反映了他内心的不安。然后他不顾第一条规则，说道，“我也是个机器人。” 然后他又语气坚决地说道，“我命令你在我身上做手术。”这是过去几十年来他学习遣词造句，表达坚决的语气的结果，甚至对人说话也是这样。 第一条规则被取消之后，一个很像人的东西发出这样坚决的口令，足够促使第二条规则马上见效。二十一安德鲁确信，他虚弱的感觉完全是不真实的。他已经从手术中苏醒过来。然而他尽可能表现得很自然地倚在壁上，这显然流露出他想要坐下的样子。 丽星说道，“安德鲁，本星期将进行最后的表决。我不能把表决再推迟了，并且我们必然会失败。安德鲁，事情就会是那样。” “我很感激你推迟表决的决定。推迟给予我所需要的时间，我不得不冒险。” “冒什么险呢？”丽星显然很关心地问道。 “我不能告诉你，甚至不能告诉费戈尔德和马丁公司里的人。我确信我将被难倒。瞧吧，如果争论的东西是脑子，那么永存的问题难道不是最大的争论么？谁真正关心脑子像什么，是由什么东西做成的，是怎样做成的。重要的是人脑细胞会死亡，必然死亡。即使体内其他每个器官保持着，或者被更换，脑细胞（它不能在不改变个性因而消灭个性的前提下更换）最后必然会死亡。” “我自己的阳电子电路已经经历了将近二百年而没有明显的改变，并且能够再经历几百年。这难道不是基本的障碍吗？人们能够容忍永生的机器人，因为机器能经历多么长的时间是无关紧要的。但是他们不能容忍永生的人，因为他们自己的必然死亡只有在死亡是普遍的现象这个前提下才能忍受。为了这个缘故他们不愿使我成为人。” “安德鲁，你准备做什么呢？”丽星问道。 “我已经取消了那个问题。几十年以前，我的阳电子脑是和有机的神经连接的。现在最后次手术已经用这样一种方式安排连接，使潜能正在慢慢地一十分慢地——从我的电路中流出。” 丽星的细纹密布的脸孔暂时没有表情。然后她的双唇绷紧了。“安德鲁，你的意思是不是说你已经安排去死啦？你不能这样安排。这违背了第三条规则。” “不违背，”安德鲁说道，“我在肉体的死亡和抱负的死亡两者之间进行选择。用更大的死亡的代价来使我的肉体活下去正是违背了第三条规则的做法。” 丽星抓住他的臂膀，似乎要摇动他似的。但是她没有摇动他。“安德鲁，这样做行不通！改变这种做法吧。” “不能改变了。已经造成了大多的损失。我只能活一年——年左右。我将度过我造成之后的第200个周年。我虚弱得不能安排200周年纪念。” “你这样做值得吗？安德鲁，你太傻了。” “如果这样做能使我成为人，那就值得。如果不能使我成为人，那么我就不必再奋斗，这也值得。” 于是丽星做出使她自己吃惊的事来。她悄悄地哭起来了。 最后的行为怎么会引起世人的想象，这是很奇怪的。安德鲁过去所做的一切并没有影响他们。但是他最后甚至不惜一死来争取做人。这个牺牲太大了，不能不承认这一点。 为了庆祝诞生200周年的纪念会最后确定了开会的时间，完全是经过仔细考虑确定的。世界总统准备签署那条法令来制订出表达人们意志的法律。纪念会的实况将通过全球的电视网播放，并且将播放到月球州去，甚至播放到火星殖民地去。 安德鲁坐在轮椅里。他仍能行走，但只能摇摇晃晃地走。 在全人类的目光的注视之下，世界总统说道，“安德鲁，50年以前我们宣布你是150岁的机器人。”停顿了一下之后，他用更庄重的语气继续说道，“马丁先生，今天我们宣布你是200岁的人。” 安德鲁微笑着，伸出他的手去和总统握手。 当安德鲁躺在床上的时候，他的思想活动正在慢慢减弱。他拼命抓住他的思想。人！他是人！他希望这是他最后的思想。他想要随着这思想消失一一死亡—— 他再一次张开双眼，他最后一次认出丽星庄重地等待着。其他的人也在那儿，但是他们仅仅是影子，认不出的影子。只有丽星在越来越深的灰色背景上显得很突出。 慢慢地，非常缓慢地，他向她伸出手来，并且模模糊糊地、非常微弱地感觉到她握住他的手。 当他最后的思想慢慢消失的时候，她在他的双眼里也逐渐消失了。但是在她完全消失以前，他又有了一个最后一闪而过的记忆；在每件事消失以前，这记忆在他的头脑里停留了一会儿。“小小姐”他低声说道声音低得听不见。 --------------------------------------------------- 本文由：失落的星辰http://loststar.yeah.net 扫描制作转载请保留！ |
|
|
回目录 |
|
|