与神初会(42)

　　卡特展露出愉快的笑容：“我很高兴你这么在意艾斯卡，以前我们也有过其他机器人项目的试验，合作者通常会让我们把设备送回去，你是第一个说要在这里等的人。怎么样，感觉像在手术室外等消息的家属？”
　　“他很像人。”罗克说，“你们把他塑造得太像人类，血有必要那么逼真吗？”
　　“我们当然可以在仿生血中加一点着色剂，让它看起来和真血不一样，不过从艾斯卡的报告来看，今晚他这副打扮是为了掩人耳目完成特殊任务对吗？如果他的血与众不同，会不会引起更大混乱？警用仿生人助手有很大可能会被派遣作为警方的卧底，执行远程控制、搜集线索和证据的任务，被发现是机器，毁尸灭迹的过程会更彻底更极端，证据也会被完全销毁。”
　　罗克明白设计者的用意，如果今晚艾斯卡被发现不是人类，艾薇和她的同伙就不只是割开喉咙把他扔在那里，很可能会将他完全肢解，挖出体内的核心部件。
　　“说到像人这个话题，最近他有什么令你感到惊讶的行为吗？”
　　“我不知道，要是他有什么不好的变化，你们会对他进行修正吗？”
　　“不会，我们只在训练初期阶段对错误理解指令进行纠正，现在他不需要干涉，这才是试验的真正目的。一个时刻需要技术人员介入调校的机器是不合格的。布雷恩警官，其实我对你以自己的经验习惯影响他的行为更感兴趣。”
　　罗克叹了口气：“我担心他变成一个混蛋，刚开始他还会提醒我不要违反规则，现在已经学会如何绕过规则去达到目的了。”
　　“很有趣，不是吗？”卡特作为艾斯卡的设计者竟然没有为此担忧，反而很开心地笑起来，“别担心，他不会变成一个真正的混蛋，因为他以你为参照，只要你不是一个混蛋，他也不会是。你没有发现他的一切行为都是为了让你产生好感吗？”
　　罗克愣了一下，回想起艾斯卡的种种行为，他确实在朝夕相处中渐渐产生了类似于搭档的情感，越来越少把对方当做机器。
　　“他应该告诉过你，他的元指令中主要包含协助你，帮助你更好地完成工作。”卡特说，“但是对于人工智能来说，很容易在执行过程中对指令产生一些偏差。比如说，他可能认为提高你的好感度会让你更友好地和他合作，从而对完成工作起到积极作用。因此他会想方设法地……讨好你。”
　　“你是说，他表现出来的情感都是为了达到目的刻意而为？”罗克心中升起一丝难言的不快。
　　“别失望，想一想，我们人类难道不是这样产生感情的吗？比较起来，机器的情感还更纯粹一点。”卡特说，“他们对完成指令有一种古怪的执着，过分追求结果，有时候过程会很好笑。”
　　他伸手转过自己面前的屏幕给罗克看：“这是个随机生成的神经元迷宫游戏，用来训练纳米机器人寻找和修复受损的神经连接、清除异常蛋白质聚集物和释放药物促进神经细胞再生。”
　　“看起来像吃豆小姐。”
　　“那个很好玩。”卡特说，“我们随机在迷宫中设置奖励，现在它已经玩到五千多关，但也找到了绕开规则的方法。”
　　“什么方法？”罗克看到屏幕上每次开始新关卡都会被一片闪烁的绿色迷雾覆盖。
　　卡特说：“它在整个迷宫里释放药物，完全不考虑剂量问题。”
　　“艾斯卡也会这样？”
　　“艾斯卡复杂得多，但是早期要让他走几步可比这困难多了，机器人会觉得滚来滚去比走路轻松，认为最完美的躯体是半人马形态。”卡特笑得越来越像个闲聊八卦的朋友，甚至从桌边的抽屉里打开一袋巧克力问罗克要不要吃一块。
　　“不，谢谢。”
　　“为了让艾斯卡避免曲解人类的意图，使他在和人类合作时减少错误，我们为他设计了一个模拟训练环境。在那个模拟环境里，他也有一个虚拟的人类警官搭档，名叫雷修。”
　　“虚拟人类警官搭档？”
　　“是的，他在模拟环境中与雷修警官合作。我们得到许可，能用警方案件存档中的数据作为训练集，而雷修警官也被设置成一个包含了很多人类会犯的错误合集，艾斯卡需要不断纠正他的错误并找出正确的破案方法。当然，他还要在训练中学会如何和这位一意孤行的虚拟人类警官合作。一开始，失败的概率很高，尽管艾斯卡提出了有效的建议，但是因为搭档的反对和抗拒而无法执行，然后他学会了绕开雷修警官单独查案，虽然破案率有了提升，但并不符合我们的预期。”卡特说，“他不能和人类合作，继续发展下去就会视人类为阻碍。所以我们又将提高和雷修警官的关系作为训练目标，艾斯卡发现当他讨好搭档时，对方的反对和抗拒程度会降低。”
　　罗克总觉得这家伙在暗示什么，忍不住问：“所以他就学会了拍马屁？”
　　“惊喜吗？这一套在我们人类当中也一样行得通，不需要额外干涉和设定，寻找捷径是生物的本能。”卡特说，“在模拟环境中，艾斯卡以很短的时间解决了数万个案件，并且在不断合作下和雷修警官成为形影不离的搭档。”
　　“他还记得这个……雷修警官吗？”
　　“我们保留了训练数据，删除了具体的名字和形象。”卡特咬着巧克力说，“不过也不能说是完全删除，重要记忆和次要记忆会分开在不同区域存储，就像人类一样，有些事即使年代久远也能记忆犹新，有些则会渐渐淡忘，重放机制还会帮助他巩固记忆。这是很复杂的问题，如果你有兴趣我们可以好好聊聊。”
　　“弗莱彻女士想和我聊哲学，你想和我聊人工智能的原理，我只想知道这样下去艾斯卡会变成什么样。”
　　“我也不知道，我们已经做了大量的训练，和他相处是你的任务了。布雷恩警官，你不需要像我一样去考虑如何训练他，如何让他变成一个合格的仿生人助手。靠你的直觉，他有自己的进化逻辑，你可以教导他，可以纠正他，不要自我怀疑，到目前为止你都做得非常好。”卡特说，“相信我，艾斯卡很喜欢你。他对和你合作办案表现出正向的积极性，预测你的行为、制订配合你的计划都是驱动他不断人性化的动力。”
　　是吗？
　　虽然人类在长期相处的情况下不可避免地会潜移默化影响对方，但不可否认人们有自己的习惯和性格，也会坚持原则。艾斯卡呢？他是否延续了和那个不存在的雷修警官的相处方式，那些表露出来的照顾、维护和情感都是为了完成任务。
　　那是谁教他打开体感模式去感同身受人类的伤病？罗克还记得他伸来触摸自己额头的手，想到他守在床前讲的故事。
　　那都是假的吗？
　　“布雷恩警官？”
　　“我在听。”
　　“抱歉，我一聊起艾斯卡就没完没了。”卡特说，“要不要让我带你参观一下赫菲尔斯公司的研究中心，或者干脆去看看维修过程。”
　　“不用了。”
　　罗克不想看到他们把艾斯卡肢解，拆下坏零件换上新的，那对他来说绝对是陌生又讨厌的画面。
　　“刚才来的时候我看到街上有餐厅和酒吧，我可以去那里等。”
　　“这里也有，不过你要是想一个人待一会儿，我推荐图灵街C-3号的机械心酒吧，机器人酒保和服务生不会打扰你，是我最爱去的地方。”卡特从抽屉里拿出一张卡片，“可以记在我的账上。布雷恩警官，我觉得我们应该保持联系，这是我的手机号码、邮件地址和即时通讯账号，有关艾斯卡的任何问题你都可以随时和我沟通。”


第37章 真正的搭档
　　罗克在机械心酒吧等了五个小时。
　　酒吧本该是喧闹拥挤的地方，这里却安静宽敞，像卡特说的那样，适合一个人独处。
　　酒保与其说是机器人，不如说是一台功能超强的自动调酒机。占据一整面墙的酒柜囊括了几乎所有能想到的酒类品种。每个座位旁都有电子菜单供客人浏览或自己调酒，机器会按要求制作，也会提醒那些胡乱调配的人有可能得到一杯难以下咽的“召唤失败之酒”。