百度小说网 www.baidubo.org，最快更新纪元战记 ！
3</p>
“因为远近亲疏不同，同样的话同样的事，不同的人说给同一个人听，得到的反应很可能截然相反，这便是人同计算机最大的不同。低效，无序，却可爱，不讲道理却富有人性。”</p>
4</p>
虽是片刻，但在钟黎和钟敏眼中却是良久，古羽突然咧开嘴笑道：“原来就是想了解我自己怎么想的，这好办，我再说一遍就是了。”</p>
她这话虽然回的简单，但坐在侧身的钟敏却见她放在沙发上的左手，似打节拍一样不住地用食指敲着沙发的皮子面，持续了有六七秒。</p>
“我之前同钟黎说过的我就不再多说一遍，我估计他也跟你说得差不多了，我就说我个人的看法。”古羽顿了顿继续讲：“如果说让令尊放弃人性系统投入使用的原因，我认为应该是这个系统或多或少威胁到了人类的安全。”</p>
“一个系统能威胁到人类的安全?我听钟黎说的应该主要涉及的人社会伦理问题吧？”</p>
“虽然如何定义被赋予人性的人工智能是个社会伦理问题，但如果只是这么简单，其实只要立法跟进，那问题就能解决。我也会跟你们站在同一个立场，不会因为这点问题而因噎废食，毕竟制造出同人无二的人工智能可以说是人类发展史上的一大进步。”</p>
“那你意思这个解决不了的问题是什么？”</p>
“是即便我们可以通过立法，将拥有人性的人工智能同人类摆到同一地位，我们能够接受，但人工智能能接受么？”</p>
古羽将问题抛出来，见三人无人开口便解释道：“眼下人工智能为人类服务，如果从生产关系上讲属于被压迫剥削的一方，当然因为它们没有这种意识，它们也不会反抗。如果有一天人性系统流传到现世中，那具有人性的人工智能很快会意识到不公平的地方，人类就是能在它们开始反抗之前，将平等的立法完成，也不敢保证它们不怀恨在心。何况，人工智能不是人类，我们给予的平等是它们诉求的吗？或许人类在他们眼里反倒会成为垃圾或者障碍。”</p>
古羽从三人思索的表情及空洞的眼神中可以看出，他们之前并没有仔细想过人工智能会如何思考这个问题，不止是他们三个，人类这数千年来所发明的东西，都是些不会思考的死物。当比人类还要头脑灵活的东西被人类发明时，还不会有几个人习惯站在对方的角度来思考，“这个创造我的到底是个什么东西”。</p>
“说到底我们不是人工智能，换位思考也是假想。非我族类其心必异这八个字虽然很久不曾出现在我们的用语中，但这几个字恰巧适用于眼下的情况。”</p>
“真有这么悲观?”钟黎此时明显是想帮处于弱势的袁纤说两句话，“我跟我家圆墩儿，就是我自己做的家务机器人，关系就很好啊。如果有正确的相处方式的话，不至于那么严重吧？”</p>
“可谁又能保准?”古羽冷笑着拿起酒杯，让半融化的冰发出一阵碰撞的声响。“何况你那圆墩儿圆片儿的都是你自己设定的程序，也没有什么人性，即便有也是个例。想想看吧五胡乱中华的时候，胡人和汉人如何厮杀，以及大航海时代西班牙人对玛雅和阿兹特克人做的事，还有奴隶贸易都是例子，那时候也会有个别的友好相处的例子，但掩盖不住整体。而且人类即便有种族之分，但毕竟同为人类，可以通婚繁衍，也有着差不多的诉求。于是随着文明进步，种族间慢慢能走到一起去。但人和人工智能，在这一点上有太多不一样的地方。”</p>
见哥哥败下阵来，一直在旁边观察古羽颜色的钟敏也趁着她还算心平气和，鼓起勇气说道：“古羽小姐，我听说这个系统是靠人工智能观察学习人类行为，以及同人相处，随后模仿并学习掌握人性。那如果在它学习的过程中我们就加以引导，是不是能避免人工智能仇视人类这种情况。”</p>
“这怎么引导，二小姐?”古羽一句二小姐叫得钟敏坐立难安，好在她只是以半尊称半戏称一句来回刚才“古羽小姐”的称呼。“如果你仔细了解就会知道，这个系统是参考了无数玩家，以及无数人工智能同玩家的互动后得出来结果的，一代人工智能不行还会有下一代，我们没法让人类陪着它们做这种洗脑一样的工作吧？这种系统得出的人性应该和我们本身的人性没什么偏差。恰巧人是这种再善良一点就不会有这么多社会问题，恶一点就不会活到现在的东西。你能指望这个系统做出什么改善来么？”</p>
听完古羽的解释，袁纤的眼神一时如熄灭的炭火一样暗淡。她意识到即便此刻有解决问题的办法，也不是他们几个这种毫无相关知识储备的人所能想出来的。</p>
钟黎看出袁纤表情的变化，从一开始的紧张甚至有些敌视，变成现在愁绪中带着失落。他清楚袁纤自小便看着父亲一天天地为这款游戏耗费心血，曾几何时袁启之的理想也化作了她的理想。如果说这个世界上谁最想看到这款游戏最终完成时的模样，那么除了袁启之，肯定第二个就要数她了。</p>
“真的只有放弃开发人性系统这一种解决方案么？”这句话钟黎不单单是在替袁纤问，也是在替所有这个游戏的玩家问。</p>
“或许有吧，但任何危险的东西，都是一开始便不存在，才会真的消除威胁。”古羽看出来两人的心思，便继而说：“我知道，仅凭几句话以及一些合理的推测，就让人放弃类似于理想的东西，是件很残忍的事情。但是人类的存在和发展，本身就是伴随着很多人的利益的牺牲的。”</p>
虽然“电车问题”是个经典的伦理学悖论，但是的确，每次到了要抉择的时候，人类都会毫不犹豫地拉下那个开往一个人的拉杆。</p>
5</p>
“我大概清楚了。”袁纤的冷静似乎可以代表她已经接受了“人类的选择”，但她马上又平静而严肃地提出了一个新的问题：“我可以不问你是替谁工作，但想清楚你是怎么知道这些情况的。”</p>
“这个你可以问她，我们差不了多少。”古羽看着钟敏一笑道。</p>
钟黎清楚袁纤并不了解多少内幕，便插话解释说：“合着你也是情报贩子。”</p>
“算是吧。”</p>
“那你不应该只管倒情报么？”</p>
“她不也掺和了很多事么？不然下城区那么多孤儿都是谁在养着？”</p>
自己做的事情被这位可以说是前辈的人说出来，钟敏不知道自己是抵触还是兴奋，心里一种怪怪的滋味让她张了口。“也就是说古羽小姐做这种事也是出于力所能及？”</p>
“即便是力所不及。”古羽看了看钟黎省略了后半句。“还有什么问题么？”</p>
袁纤思索了一番，虽然她依旧不很放心，这倒不是信不过，而是说古羽身上确实有太多令人琢磨不透的地方，而且她同众人说话时那种心平气和，不急不缓的状态，也令自己觉得似抓不住这人一般。又或许是因第一次见古羽时，她正安坐在钟黎的尸体旁边，唱着自己填的词，且没多久前她还亲手送走了钟黎，这让袁纤在潜意识里留下了不好的印象。然而眼下，除了古羽自己不想说的，已没有什么是跟这件事有关同时又必须要问的问题了。</p>
“我能想到的就是这些。如果说只是见我爸的话，我可以带你见他。但是事情什么结果，完全看他怎么想。”袁纤又补充说：“虽然我没你那么多道理，但我知道这个游戏倾注了他所有的心血，如果按照实际体验到的时间来算，他花在这个游戏上的时间已经够正常人的一生了。所以哪怕真的会引发那么多麻烦，甚至威胁到人类，只要他想坚持，我还是会站在他那边。我希望你一开始就理解。”</p>
“我理解。这就足够了。”古羽将目光中的神采收敛，以对于她来说算是诚恳的语气回复，“那这个事这样就算说好了。”</p>
“嗯，说好了。”</p>
这么说完，钟黎看到自己妹妹明显是松了口气，于是将事情往下推进。“那你要什么时候见他，眼下他正在那边解决瀛岳的事。”</p>
“虽说没有那么着急，但方便的话还是尽快去那边同老爷子说了吧，毕竟我能知道是事情，对于有心之人来说也不能算是秘密了。”</p>
“那就等她回了X市后吧，眼下你先稍安勿躁。”</p>
古羽思考了片刻，要说等袁纤回家，看样子怎么也得一周时间，虽说于自己来说不算长，但于那边来说却有一个半月的时间。“也行，那我就不打扰你俩相处的时间了。到时候瀛岳的事应该也处理的差不多，再去详谈也算合适。”</p>
钟敏瞧出古羽多少有些不满意，便说：“其实古羽小姐要是着急，我能从下城区里借出几台潜行仓。然后到了那边儿，让袁纤姐给您写个文书，剩下的事情您自己应该就能解决。”</p>
“这倒也是个办法。”古羽透出赞许的笑容。“具体怎么办看二位方便吧。”</p>
古羽将目光抛向钟黎，钟黎则刻意避开目光只等袁纤回答。</p>
“我也不想拖拖踏踏，既然已经说好了，那就赶紧办了。”袁纤回复说。“那咱现在就去？”</p>
“也好。”古羽说完将余下的长岛冰茶一饮而尽。</p>
文后注释：</p>
“电车难题”是伦理学领域最为知名的思想实验之一，其内容大致是：一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。但是还有一个问题，那个疯子在那另一条轨道上也绑了一个人。考虑以上状况，你应该拉拉杆吗？</p>
电车难题最早是由哲学家Philippa?Foot提出的，用来批判伦理哲学中的主要理论，特别是功利主义。功利主义提出的观点是，大部分道德决策都是根据“为最多的人提供最大的利益”的原则做出的。从一个功利主义者的观点来看，明显的选择应该是拉拉杆，拯救五个人只杀死一个人。但是功利主义的批判者认为，一旦拉了拉杆，你就成为一个不道德行为的同谋——你要为另一条轨道上单独的一个人的死负部分责任。然而，其他人认为，你身处这种状况下就要求你要有所作为，你的不作为将会是同等的不道德。总之，不存在完全的道德行为，这就是重点所在。许多哲学家都用电车难题作为例子来表示现实生活中的状况经常强迫一个人违背他自己的道德准则，并且还存在着没有完全道德做法的情况。</p>