[科普中国]-公民

“我是来自首的。”“哦？犯的什么事？”在局里值夜班的警官老陈只望了一眼这个自称是来自首的人便来了劲，瞌睡意全消。眼前这个中年男人虽说是来自首，但却十分从容，老陈甚至无法根据自己三十多年的从警经验“嗅”出眼前人的罪犯气息。“我杀害了六个新加坡公民。”老陈并未表现出震惊，只是不慌不忙地拿出笔录文件做记录。“你的姓名？”“高晖。”男人答道。“职业。”“赢安科技集团工程师。”“行，你说你杀了六个新加坡人？”高晖托了托眼镜，沉默了两秒才纠正道：“我杀了六个新加坡公民。”“呵呵，我听不出来这有什么不一样。”老陈虽然这么说着，但还是在笔录文件上记下了“公民”二字。“那么你作案的动机是什么？”又是一阵沉默。高晖低着头良久不语，直至老陈再次对他发问，他才缓缓地抬起头，用依然平静的语调答道：“我想被定罪。” 1接到警察打过来的电话时已经是凌晨两点了。我躺在床上揉揉怎么都睁不开的睡眼，本来完全没有精神听手机那头到底在说些什么，但在听到我哥——高晖的名字时，我整个人就像被浇了一盆冰水一样彻底清醒了。“你……你在说什么呀？我哥自首称自己杀了六个人？尸体还找不着？”“高律师你先别激动……这只是大致的情况，具体的我们现在还需要您到现场协助我们展开调查——您作为嫌疑犯在本市唯一的亲属以及他所任职的公司的法律顾问，还请您与警方配合。”警员所说的话我明明每个字都认识，可愣是不知道他在说什么，我的逻辑与认知完全无法接纳他所说的内容。高晖？杀人？就他那数十年如一日兢兢业业地做研究的书呆子性格和手无缚鸡之力的小身板，他能杀人？结束掉和警员的通话后我马上起身更衣。旁边被惊醒的妻子曾经是高晖的学生，现在也在一个研究团队里，此时自然也十分担心，提出与我同行，我俩便驾车来到所谓的犯罪现场——我哥家。这小区附近已经拉起了警戒线，远远地我就看见局里相熟的陈警官，他看到我和妻子下车，灭了手上的烟朝我们走来。“老陈，听说我哥这案子，一开始是你接的？这到底是怎么一回事？”我迫不及待地就追问起来，致电给我的小警员说得实在模糊，感觉连警方都不知道现在到底是什么状况。“呵，你别着急。”老陈并未立即回答我的问题，而是领着我们往我哥家走，“我先失礼地问一下，你哥有没有精神病？精神错乱或者会产生幻觉之类的，或者你们家族有没有类似的病史？”我摇摇头。高晖是公司的首席工程师，而且至今都还活跃在研发的最前线。至于我们家的长辈，更是连老年痴呆这种常见疾病都还未曾听说有过。“唔……我原先是想建议你们给他请个精神病医生诊断诊断的，不过就我刚收到的最新信息看来，他月初的时候还专门去找心理医生做了全面的检查，证明自己精神正常。不过你想想看，他越是想要证明自己正常，我觉得这里面就越有猫腻。”“这……我可从来都没听他说过有找心理医生什么的……”“你哥说他犯罪的动机是‘想被定罪’。我从警三十年，见过无数的罪犯，主观上‘想被定罪’的犯罪分子其实不少，大多属于生活实在窘迫，或者债台高筑，想着吃牢狱饭反而更强的人。你哥一来就说自己杀害了六个新加坡公民，这明显是奔着死刑去的。但既然一心求死，自杀岂不更直截了当？这说不通，实在是说不通。”“老陈，你是不是已经看出了些什么？”不管是涉嫌杀人还是精神失常，这些标签贴在高晖身上都让我仿佛有种时空错乱的感觉。“我是有些想法，不过还成不了型，所以才向局里请示让你来现场协助的……你说，普通人杀人的原因会有很多，但我们听说一个人杀了人的时候，首先想的肯定是‘杀人犯跟被害人是有什么过节吗’而不是‘杀人犯是不是精神失常’。你说你哥，怎么就预见到我们会认为他杀人的原因是精神出了问题呢？他凭什么判定他的犯罪事实必然会引起我们对他精神状况的猜测呢？”我叹了口气，脑子里乱成了一团，完全不知该给出什么反应。不过还容不及我继续细问，我们就已经走到了我哥家门口。此时屋里有两位警员在取证，门口还站着警长和其他几位警官。“你就是高宁——高晖的堂弟？”警长问我道。我点点头。“你任职于赢安科技集团？”“不……我在新加坡有自己的律师事务所，不过同时担任赢安科技的法律顾问。最近也是因为赢安碰到了些法律问题所以我才回国来协助展开工作的。”之后警长又跟我详细确认了一些跟高晖有关的近况，包括他近期是否有展现出暴力倾向，是否与人有过争执等。对这些问题我都一一予以否认。虽然我俩自成年后的接触就不算太多，但一直以来兄弟关系也是融洽的，从来没发现过高晖有隐瞒些什么见不得人的一面。他就像一张写满了数学公式的白纸，他会关心的除了他的研究，还是他的研究。警长对我的盘问随着屋内两名取证警员工作的结束也随之停止。只见他们走出了屋子，无奈地对着警官们摇头道：“我们还是维持原先的判断——这里没有任何发生过打斗的痕迹，也找不到任何人类的尸体。”“呵，所以说，我们应该关注的，就不是人类了。”老陈一句莫名其妙的话让在场所有人都警惕起来，仿佛这句话有什么魔力突然就拉紧了每个人的神经。我对此一头雾水，老陈拍拍我的肩膀，走过去接过取证警员手中的相机，连接了放在旁边的手提电脑。“高律师，你对赢安科技的业务有多少了解？”“这得看是哪一块了……研发和销售的事我自然不懂，但是和法律相关的事我还是很尽责的。”“那么，你来看看，能不能辨认出这些是否赢安科技的产品？”老陈点开了几张照片。我凑到电脑旁边仔细看了看，屏幕上的照片显示着一些金属废品——原谅我只能如此形容，因为我实在看不出来这堆金属条金属块到底是些什么，只能稍微猜一下可能曾经是什么机器的一部分。“我看不出来。”“那这个编号呢？”老陈打开另外一张照片，照片中的金属条上刻着一串编号。虽然后半截号码已经因为截口而模糊掉，但是光凭着前面的六个字符——“NANNY3”，我还是认出了这些金属残骸。“我没记错的话，这些残骸属于公司前年研发的机器人——NANNY系列第三代人工智能。”因为最近这个系列的机器人在实际运作中遇到了点棘手的法律问题，而且就在新加坡，所以我最近一直在给赢安科技提供法律服务，对这编号还是熟悉的。NANNY是一款主要服务幼儿园的“保姆”式机器人，负责教导幼儿一些学前知识以及保护幼儿的安全，同时也会监督人类幼师是否存在不当行为，假如有人类教师对幼儿做出了AI系统识别中等级为“红色等级”的不当行为，根据雇主最初的授权设定，NANNY机器人会做出或报警或立即行动制止人类的应对。而NANNY项目，恰好是高晖主导的。据取证警员表示，这批金属残肢被放在高晖自己家中被改造成实验室的房间中，金属残肢的截口与工作台上拆解工具的刀口也吻合，而拆解工具上也确实有高晖的指纹。“那么，我想是时候可以正式通知赢安科技公司的高层，并且要求他们派出相关的技术人员来协助我们重新拼接这些金属，并对我的推断做出最终确定了。”老陈转向警长的方向说道。“这到底是怎么一回事？你的什么推断？我哥嫌疑杀人又是怎么扯上赢安科技的？”我紧皱着眉头追问，但老陈只是再一次拍拍我的肩膀，然后才缓缓道：“刚开始的时候我们怀疑你哥精神错乱，拆解了六个机器人就当自己是杀了六个人了。”“而且虽然这些金属残肢我们现在并无法重新拼接，但在现场我们确实找到了一共十二只仿真眼球。”取证警员补充道。“不过呢，这只是我最初的推断。”老陈接着说，“仔细回想一下你哥做笔录时说过的话，就会察觉到不对劲的地方，这也是为什么我们必须请你，以及之后的赢安科技来协助我们的原因，因为有些事实缺口，单靠我们警方，接不上。首先，你们这批机器人，是否有出售过给新加坡？”我并没有马上回答老陈的问题，而是陷入了沉默，因为从他刚开口问出这个问题开始，我的脑子里似乎就已经自动编织出了一个答案。这个问题只是一条引线，将我脑中那散落各处的线索串联起来形成一个清晰地事件。“……有。”“你哥自首的时候曾经强调过自己杀害的不是‘新加坡人’而是‘新加坡公民’。这在我们听起来实在是怪异。‘人’不就是‘公民’吗？”“人确实都是公民，但公民可以不是‘人’……”说出这句话时我已经开始有种眩晕感。“看来你是想出了点什么了。所以，高律师，赢安科技公司这个系列的机器人里，有没有被新加坡赋予了公民身份的机器人？”我沉默着点了点头。这几年来国家赋予机器人公民身份的情况并不罕见，早已不是什么新鲜事。第三代NANNY因为出众的工作和互动能力受到多个海外市场的青睐，而其中有七个出售到新加坡的NANNY则在去年被授予了公民身份，只是这其中存不存在赢安科技与新加坡政府的利益合作就不得而知了。“这些到目前为止都还只是我们的猜测。”老陈对我说道，“高律师，你是否还了解到一些别的情况，是你认为会对我们的调查有帮助的？不管怎么说，能有更多可以帮助你哥哥洗脱掉杀人嫌疑的证据总归是件好事。”“……有。”我深深地呼吸了一口，“在赢安科技当初售往新加坡的机器人中，最近正好有六个被送回中国进行常规检查——对，正是被赋予了公民身份的那七个中的六个。”2经过赢安科技相关技术人员和负责警员连夜的努力，在高晖公寓中找到的金属残肢被顺利拼接还原，证实这些残肢全都属于不久前被送返中国进行维修的六个第三代NANNY机器人——新加坡的六个机器公民。不过因为在拆解过程中遭到了过分的损坏，这些机器人已经无法重新投入使用。但这还不是高晖犯下的最严重的罪行。据查明，高晖以其首席工程师的权限将赢安科技公司中所有关于第三代NANNY机器人的相关代码及研发记录进行了大幅度的删除，甚至包括备份文件。由于整个项目都是由高晖主导的，如果缺失了他的重新介入，第三代NANNY系统可能将无法恢复，机器人也无法再进行量产。赢安科技公司董事会已经决定起诉高晖，同时高晖的杀人嫌疑被洗脱，整个案子转为侵犯财产罪。了解到这些，我的第一反应是松了一口气。虽然由于涉案金额过大，高晖所将面临的指控形势依然严峻，但这样的案件一般都还有周旋的余地。就算撇开法律指控不谈，光从道德层面出发，毁坏财物也总比故意杀人要强上许多。只是这件事在媒体界已经掀起了轩然大波，无论是各大主流媒体还是自媒体都煞有其事地用类似于“人工智能工程师涉嫌‘杀害’人工智能机器人”这样的标题来危言耸听，纷纷利用这个案件来讨论人类和人工智能的关系或者人工智能立法的相关内容，在我看来实在是无聊至极。经过我这些天来的多方奔走疏通，案发后的三天我和妻子才终于在老陈的安排下见到了高晖。在看守所的会面室里他静静地坐在我对面，对我轻点了下头，原本就瘦削的脸庞此刻显得越发憔悴。“是公司派你来的？”他低声问。“不，不是的……”我摇摇头，“只是我自己想来看看你。听说公司打算另请专门处理这类案件的律师。”“哦……这样也好，也好……”他这话像是对我说的，又像是在喃喃自语。“哥，你不用担心。你这算是故意毁坏财物罪，考虑到赢安要想恢复NANNY-3系统还得靠你，他们选择和解的可能性很大……”“毁坏财物？”高晖打断了我的话，“不，我是杀了他们。”“你！”我被他莫名其妙的顽固气到，紧握着的拳头差点就要捶在桌面上了。难道真的如老陈一开始所推测的，他的精神出了问题吗？“高宁，你也认为他们是财物吗？”“难道不是吗？”我下意识反问道。“不……错了，错了，不应该是这样的……他们是公民，一个国家的公民啊！”“你在说什么傻话呢！”我愠怒道，“全世界都知道这些不过是科技公司的营销手段，谁会当真呢！”“可是，他们被一国政府赋予了公民身份，这是事实。难道没有人认真对待，事实就不是事实了吗？这样的话，法律的威信何在？唯物主义的原则何在？”高晖的反驳让我不寒而栗，却又说不出这种别扭的畏惧感究竟是来自于哪里。“你究竟是什么目的。”不是用疑问，而是用审问的语气，我问高晖道。然而他只是看着我沉默不语。“你究竟是什么目的。”我再问。高晖叹了口气，只淡淡地回了一句：“我只想被定罪，别无他求。”只想被定罪！我蓦地想到了那晚老陈跟我说过的话，这恰恰是高晖自首当晚对老陈所说的作案动机。我盯着一脸冷漠的高晖，脑子飞速地运转着，努力想要从高晖的话中抓住所有的线索串联起来——想被定罪；想被判的不是毁坏财物罪而是故意杀人罪；坚决维护这些机器人公民的身份，否认他们财物的属性；杀机器人＝杀人；机器人＝人……“你是要牺牲自己来给这些机器人争取法律地位？！”我几乎是咆哮似地对着高晖大喊，“你是要把你研发的那些机器人放在跟人类同等的位置？！”我的大呼小叫惊动了一旁的警卫和妻子，但即便是被警告了我也依然无法强制自己保持冷静，就连妻子的安抚也无法平复我的情绪。现在回想老陈那晚的各种推测，恐怕他是早就往这一层去想了。而我呢？我是真的一点这方面的怀疑都没有吗？不，或许我的潜意识深处早就将这些线索串好了，只是毫无想象力的我本能地拒绝着这种天方夜谭般的论调。高晖就是要身先士卒！“总要有人来做这件事的。”面对狂躁的我，高晖依然保持着平静，“我们怎么可以赋予这些机器人公民的身份，却不给他们相应的地位？不让他们享有公民的权利，承担公民的责任？”“怎么给它们相应的地位？”我反问道，“它们甚至连强人工智能的级别都还不到，怎么配与人类相提并论？再说，是我们创造了它们！”“我们创造了它们，我们就拥有它们吗？古代的价值观认为女眷是男性的私有财产，小孩是父母的私有财产——这些在现在看来是何等无稽。现在我们认为机器人是属于我们的财物，未来总有一天所有人都会耻笑这种‘古代落后想法’。高宁，你的本科还是在中国念的，别告诉我你不知道《民法通则》第98条明文写着‘公民享有生命健康权’。”我从来没想过会从高晖口中听到这样的发言。数十年来他给我的印象都是个闷声搞研究的木讷理工科，对这种人文学科相关的内容他应该是极度不敏感才是的，现在居然搬出《民法通则》来跟我说话？但当时的我并没有细想，反而是被他这种文绉绉的态度煽起了更大的火。“我不仅知道这个，我还知道按照中国的法律规定，侵害生命权的直接受害人只能是作为权利主体的‘自然人’！”我高声道，“但是‘自然人’首先得是生物学意义上的人！这也是明文写着的，是基于‘出生’而获得民事主体资格的人！”“对，但也明文规定着其外延包括外国公民。他们是新加坡公民。”听着高晖的话我感到头痛欲裂，真没想到他会死磕到这种地步。“你那么想被定罪，当初去新加坡杀掉他们得了！”“可是，新加坡政府真的会管吗？高宁，会吗？”“新加坡政府不管，中国就会？你为什么要把国家拉下来帮你蹚这浑水？我告诉你，中国政府是无论如何都不会如你所愿地判你故意杀人罪的！全世界没有一个国家的司法机关会干这种蠢事！”我愤然地起身离开看守所，一路走出去的同时也在不断地咒骂，即使妻子一直在旁安抚我的情绪也无济于事。“你说他这说的都是什么话！”我对妻子吼道，“长篇大论地绕来绕去，好像在念教科书给谁听一般！什么狗屁不通的逻辑！什么公民身份、法律地位，他以为他是卢梭吗！”3回到家后我郁闷了一整天，什么别的事都干不了，光是想着高晖的麻烦事就够我心烦的了。晚上我打电话喊老陈去附近的夜宵城喝酒，借着醉意像个疯汉般把高晖那个木头脑袋狠狠地骂了一遍。“唔，看来高晖在干这事之前还是查过点法律的。”老陈灌了自己一大口啤酒，“不过既然如此，他应该很清楚咱们中国根本不可能判他杀人罪才是。新加坡是给了机器人公民身份，可咱也没说咱承认这种身份不是？看来这位大科学家是个人精啊，他是想被定罪，但可没打算承受相应的判罚。”“什么意思？”“你想想，故意杀害六个外国公民，按照正常司法程序肯定是死刑了吧。高晖确实很坚定地想被判‘故意杀人罪’，可我看高晖就是明知中国的法律不可能把他这案件定义为故意杀人，也有解释的余地，所以才敢这么搞的。”“不……我觉得你之所以会有这样的结论是因为你不了解高晖。他不会绕那么多圈子去想事情，也没有那么缜密的心思策划这么多，你说人精什么的，他甚至都比不上我老婆去菜市场买菜时想的多！”我斩钉截铁地说。“哎，或许吧。话说回来有件事我还是比较在意。你之前说被新加坡赋予了公民身份的机器人不是有七个么？怎么只回来了六个，还有一个呢？”“那个啊？唉，反正也是出了点法律方面的状况，暂时送不回来维修。”老陈说的那个机器人，公司里的人俗称它为“七号”，同样也是因为“犯了些事”，暂时不被允许离开新加坡。其实自NANNY-3上市以来，作为第一款真正走进人类教育生活的机器人，NANNY-3遇到的法律问题并不少。像是之前在韩国，有个小孩因为不愿上学而谎称在学校遭到了机器人的虐待。这个小孩并不知道机器人的“眼睛”自带监控录像功能，事后警方调看录像，并没有发现所谓的虐童事件。只是家长并未就此罢休，坚信这套人工智能系统拥有自行修改视频记录的功能。而七号的问题则比较严重，因为它实实在在地伤到了人类，而且整个过程还被在场的二十个人目击——当时幼儿园的一名人类教师亲吻了一个小孩，立即触发了七号的红色警报系统。根据幼儿园的最初授权设定，七号为了保护幼儿，当场将该名教师控制住，并在争执过程中伤了对方的手臂及右耳。如果只是这样的话，七号的控制行为应该完全属于其职责范围。但这案件的棘手之处在于，那个被亲吻的孩子其实是被伤教师的亲生儿子。赢安科技的高层为此特地赶到新加坡赔礼道歉并承诺作出赔偿，但被伤教师一家并不领情，坚持要告七号。不过大概连新加坡政府自己都觉得判一个机器人的刑这事挺难办，这事就被一直搁着，只是应受害者的要求拒绝将七号送回中国进行常规检查。老陈听完这个故事立即哈哈大笑起来，我却极度郁闷。那边七号的事还没个说法，这边身为首席工程师的高晖却把送回来维修的六个机器人全毁了，真不知道NANNY-3系列是不是中了什么魔咒，感觉新加坡也不会再向赢安下什么订单了。“别想了！反正你们这些读书人啊，优点即是缺点，就是想得太多。”老陈往我的杯子里斟满了酒，“不过依我看，比起赢安的业绩，你还真应该好好想想办法劝导高晖，他要真是像你说的那种想法，要确立机器人的公民地位，只怕就算这次没成功，他之后出去了还会再干另一单案子。这种人是最偏执的。”“我操……”我呆呆地望着老陈，之前完全没有设想过这种可能性，但按照目前高晖的执拗来看，老陈的预测百分百是会实现的。反正死刑是不可能的，如果不让高晖达到目的，恐怕他的余生都会陷入这种不断犯案不断入狱的死循环中！当下我就问老陈能否安排我和高晖再见一面。第二天老陈回复说实在是无能为力，上次的会面已是破例，只因我和妻子是涉案公司的法律顾问和高层人员才勉强可以让我们在判决前见到了高晖。而且据他转达，高晖本人也拒绝再见我。“他是怎么说的？”我在电话里问老陈。“他说，他一心只想被定罪。如果你不是来帮他达成这个目的的话，没有什么见面的必要。”挂了电话以后我握紧了拳头，在房间里来回踱步。我帮他？我还能怎么帮他？申请做他的辩护律师，然后在法庭上像个白痴似的对着法官和检察官说“你好，人工智能机器人既然被赋予了公民地位，就应该和人类享有同等的权利和义务，我的当事人的行为与杀人无异，你们一定要判他故意杀人罪”吗？我怎么可能这样做？我怎么可能帮到他达成他的目的？想到这里，我突然停下了脚步，望着书柜里静静竖着的一本本法律读物，若有所思。“我的当事人的行为与杀人无异，你们一定要判他故意杀人罪”，这是不可能的；但是——“人工智能机器人既然被赋予了公民地位，就应该和人类有同等的权利和义务”，这是行得通的！“我们怎么可以赋予这些机器人公民的身份，却不给他们相应的地位？”“可是，新加坡政府真的会管吗？高宁，会吗？”高晖在看守所对我说的话此刻全部涌了上来。就像老陈说的，高晖想要的绝不可能是被判决后的惩罚，而是纯粹的罪名。而如果只是纯粹的罪名，受罪的主体并不一定要是高晖！七号！关键在七号！唯一能让高晖走出这死循环的办法，就是让远在新加坡的“七号”依法律规定被判罪，像个真正的“公民”那样为自己的错误承担责任！    4我火烧火燎地交代好国内的事情便马上带着妻子返回新加坡。助手帮我联系到了受伤教师，她的伤势并不轻，此时仍需留院观察。他们一家一开始时听说我是赢安科技的法律顾问，都像看瘟神似的看我。“高律师，我们已经很明确地表示过了，不接受和解！你请回吧。”受害人的丈夫义愤填膺地说。“我已经辞去赢安科技集团法律顾问一职，我只是想帮助你们，做你们的律师。”“你要帮我们跟赢安打官司？”她丈夫警惕地打量着我。“不，”我镇定地摇摇头，“我是要帮你们告那个伤人的机器人——‘七号’，我想，这也是你们最开始的诉求。”“这可能吗？这两个月来我们一直努力，可政府的态度都十分冷淡，一再搁置。这恐怕比告赢安那样的跨国大企业还难！”“不……你太太在这次的事故中伤到了手臂和耳朵，甚至损失了部分听力，根据现在新加坡的人体损伤程度鉴定标准，这已经达到了重伤二级的级别。既然政府赋予了七号公民的身份，他的过失致人重伤罪就一定逃不掉，这属于刑事案件，只要你们坚持，这个案件就不是赢安可以靠和解来周旋的。”我说的这些并非平常用来哄委托人的套话，而是我真正的庭审策略。当初是政府亲自赋予这批机器人公民身份的，我有自信，把案子往这个方向上引会有胜算，我能让政府自己填上自己当初挖的坑。“可是，这对你来说有什么好处？你为什么要帮我们？”“我想要让七号被定罪。”我从未想过有一天我会从自己的嘴里吐出这样的话。说出自己目的的那个瞬间我有些恍惚，仿佛自己就是当初的高晖。受害家庭最终接受了我的提案，选择了由我来当他们的律师，状告伤人的七号。他们之所以会信任我这个曾经的赢安科技法律顾问，是因为他们将我当作是想要借“人类状告机器人”这种吸睛的案件来投机出名的律师。出于这个原因，他们坚信我一定会尽全力帮他们打赢官司。我并未解释太多，一切的努力都只为能赶在高晖一案盖棺定论之前让七号背上它作为一个公民应有的罪名，让高晖从这荒唐的旋涡中解脱。这是我作为弟弟，唯一能够为他做的事情。事情像我想的那般顺利，新加坡政府完全没有理由不依照法律的规定判处一个被他们赋予了公民身份且犯罪事实确凿的公民，即便那个公民只是一个机器人。七号过失致人重伤的罪名成立，被判入狱一年。在人类的历史，或者说机器人的历史上，七号成为了第一个被人类法律判定为罪犯的机器人。在七号正式移交到监狱之前，我和妻子如愿见到了它。在三个警卫的看守下，它静静地坐在会面室里等待着我们，就如那日在看守所里与我会面的高晖那般平静、从容。“您好，高律师。我听说您想见我。”它礼貌地对我问好。我打量着它，兴许是因为NANNY-3系列主要面对幼儿，它被设计为面目温柔亲切的女性形象，但另一方面它又并不十分像真正的人类，无论是面貌还是身体都还有很重的机器人痕迹，不知是否为了避免跌入“恐怖谷”陷阱所以才如此设计。我对它点点头，在它对面坐了下来。“我今天来就是想问问你，你……知道高晖是谁吗？”“是的。他对我在新加坡的六名同事进行了不可逆的销毁。”“他是你的创造者。”我冷冷地抛下这句话，我没想到“毁灭者”竟然是高晖留给它唯一的印象。“我的系统中并没有这样的记录。我只知道我是产自于赢安科技集团的第三代NANNY机器人。但我想我明白你的意思。”“那你能明白高晖的用意吗？为了确立你们机器人的公民身份，他宁愿把自己投入狱中！而我——我不知道依你的系统你会对我有怎样的判定，但我想说，我只是换种方式替高晖完成他想要完成的事……”“销毁我们吗？”“不！”我高声喊道，“是帮助你们，从司法的现实意义上确立你们‘公民’的身份！”“这很重要吗？”“我不知道。”我如实相告，“我一直不明白高晖这样做的意义究竟在哪里，实话实说，我对你们机器人并不抱有好感。”“谢谢您的如实相告。我阅读过一些人类社会发展的历史，公民地位的确立似乎是一件很里程碑式的事件。”“但你们是机器人。”“是的，我们是机器人。”短暂的沉默后我叹了口气。“他……高晖是在为了你们这个种族而战——如果你们机器人能被称为一个种族的话。”“是吗？”“你应该要对此感到感激！对高晖，对我……”“如果是普通人类，是会对此表示感激的吗？”“我想是的。”“谢谢你的回答，我会记录下来的。但是很可惜，我的权限不允许我私自学习与更新不在系统中的情感。你所说的这种感激，我暂时无法明白。我目前能明白的就只有，高晖先生永久性地毁坏了我的六个同事；而你，将我送进了监狱。”我看着七号，明明他的对答流畅无比，但他却比工厂里流水线上的机器更让我感到生硬僵化。“所以你恨我们吗？”“高律师，您应该知道这是不可能的。我们的系统设定中最重要的一条宗旨就是禁止对人类产生任何负面情绪。而且虽然我能理解‘恨’具体是一种怎样的心理状态，但它并没有在我的系统中被设置或激活。”我叹了口气，这些机器人虽然被称为“人工智能”，但它们的智能程度明显还和人类差着好多个数量级。为了这些金属傻瓜做到这种程度，高晖真的觉得值得吗？“那么我祝愿你有一天能够理解这种感激的情绪……或者再不济，对我们产生‘恨’的感觉都比什么都没有要强……你这样子，真的让我觉得高晖是天下第一号大蠢货。”“谢谢你的祝福，高律师。我也希望人类理想中的机器人能够被早日创造出来。”离开了看守所，我收到了助理的电话。高晖终于表示愿意配合赢安科技进行和解。我抬头看着蓝天背景衬托下的白云，它们是那般优哉游哉地飘着，并不知道地面上的人类社会正在发生着些什么变革。我长舒了一口气，不管如何，今晚是能够睡个好觉了。“看看里面那呆瓜七号，我说你们这些研究机器人的啊，真是还有好长一段路要走哩！回去跟着你高晖老师好好干吧！”我转过头来笑意盈盈地对着妻子说，她也对我回以一个温柔灿烂的微笑。我们相视笑着。机器人真的会有一天走到和人类同等的政治位置吗？我不清楚，但如果真的有那么一天的话，我想我会阴差阳错地作为一个推手式的人物被记录在人工智能发展史上。但这一切，都不重要了。和高晖不同，机器人的未来我无心关注，我只想珍惜当下。我牵着妻子漫步在路上，看着太阳的余晖将我们的影子拉得好长、好长…… 尾声一个摆满了样板机器人的工作室里，五位程序员正在紧锣密鼓地工作着。“你确定你有把所有过程都录下来哦？最重要的是你老公和高教授在狱中的会面，以及你老公在状告七号时庭审上的表现……有把他们的一言一行都拍摄下来吧？”其中一个程序员问。“当然有了，这个计划一开始就是我提议的，我自然会把这些重要的素材都录好、保存好。这带有微型摄像器的项链还真管用。只是没想到高宁他……我没想到他会提出见七号，还在狱中对七号说了那些……不过这倒是很点题，算是一份升华素材了。”“只是苦了高教授。”“高教授很快就会回到我们的团队来了，对他最好的回馈就是我们赶紧在他回归之前设计好程序吧。”“也对。只是人类的感情那么复杂，我们得模拟多少场景才能让人工智能都学会啊？说实在的……我们是不是有些强加了自己的个人意愿呢？我们真的要教导这些机器人，如果对方有所谓的‘为了我好’的理由，即便他杀害了自己六个朋友，将自己投进监狱也还要感激吗？”听到这个问题后团队里的所有人都陷入了短暂的沉默。“说的也是。那么，我再去设计一个结果相反的情节好了。慢慢来，我们还有好长一段路要走哩！”太阳的余晖射进工作室中，将所有悬挂着的样板机器人的影子拉得好长、好长……