海岸线文学

手机浏览器扫描二维码访问

NO 23故地赴约论前事中（第1页）

3

“因为远近亲疏不同，同样的话同样的事，不同的人说给同一个人听，得到的反应很可能截然相反，这便是人同计算机最大的不同。低效，无序，却可爱，不讲道理却富有人性。”

4

虽是片刻，但在钟黎和钟敏眼中却是良久，古羽突然咧开嘴笑道：“原来就是想了解我自己怎么想的，这好办，我再说一遍就是了。”

她这话虽然回的简单，但坐在侧身的钟敏却见她放在沙发上的左手，似打节拍一样不住地用食指敲着沙发的皮子面，持续了有六七秒。

“我之前同钟黎说过的我就不再多说一遍，我估计他也跟你说得差不多了，我就说我个人的看法。”古羽顿了顿继续讲：“如果说让令尊放弃人性系统投入使用的原因，我认为应该是这个系统或多或少威胁到了人类的安全。”

“一个系统能威胁到人类的安全?我听钟黎说的应该主要涉及的人社会伦理问题吧？”

“虽然如何定义被赋予人性的人工智能是个社会伦理问题，但如果只是这么简单，其实只要立法跟进，那问题就能解决。我也会跟你们站在同一个立场，不会因为这点问题而因噎废食，毕竟制造出同人无二的人工智能可以说是人类发展史上的一大进步。”

“那你意思这个解决不了的问题是什么？”

“是即便我们可以通过立法，将拥有人性的人工智能同人类摆到同一地位，我们能够接受，但人工智能能接受么？”

古羽将问题抛出来，见三人无人开口便解释道：“眼下人工智能为人类服务，如果从生产关系上讲属于被压迫剥削的一方，当然因为它们没有这种意识，它们也不会反抗。如果有一天人性系统流传到现世中，那具有人性的人工智能很快会意识到不公平的地方，人类就是能在它们开始反抗之前，将平等的立法完成，也不敢保证它们不怀恨在心。何况，人工智能不是人类，我们给予的平等是它们诉求的吗？或许人类在他们眼里反倒会成为垃圾或者障碍。”

古羽从三人思索的表情及空洞的眼神中可以看出，他们之前并没有仔细想过人工智能会如何思考这个问题，不止是他们三个，人类这数千年来所发明的东西，都是些不会思考的死物。当比人类还要头脑灵活的东西被人类发明时，还不会有几个人习惯站在对方的角度来思考，“这个创造我的到底是个什么东西”。

“说到底我们不是人工智能，换位思考也是假想。非我族类其心必异这八个字虽然很久不曾出现在我们的用语中，但这几个字恰巧适用于眼下的情况。”

“真有这么悲观?”钟黎此时明显是想帮处于弱势的袁纤说两句话，“我跟我家圆墩儿，就是我自己做的家务机器人，关系就很好啊。如果有正确的相处方式的话，不至于那么严重吧？”

“可谁又能保准?”古羽冷笑着拿起酒杯，让半融化的冰发出一阵碰撞的声响。“何况你那圆墩儿圆片儿的都是你自己设定的程序，也没有什么人性，即便有也是个例。想想看吧五胡乱中华的时候，胡人和汉人如何厮杀，以及大航海时代西班牙人对玛雅和阿兹特克人做的事，还有奴隶贸易都是例子，那时候也会有个别的友好相处的例子，但掩盖不住整体。而且人类即便有种族之分，但毕竟同为人类，可以通婚繁衍，也有着差不多的诉求。于是随着文明进步，种族间慢慢能走到一起去。但人和人工智能，在这一点上有太多不一样的地方。”

见哥哥败下阵来，一直在旁边观察古羽颜色的钟敏也趁着她还算心平气和，鼓起勇气说道：“古羽小姐，我听说这个系统是靠人工智能观察学习人类行为，以及同人相处，随后模仿并学习掌握人性。那如果在它学习的过程中我们就加以引导，是不是能避免人工智能仇视人类这种情况。”

“这怎么引导，二小姐?”古羽一句二小姐叫得钟敏坐立难安，好在她只是以半尊称半戏称一句来回刚才“古羽小姐”的称呼。“如果你仔细了解就会知道，这个系统是参考了无数玩家，以及无数人工智能同玩家的互动后得出来结果的，一代人工智能不行还会有下一代，我们没法让人类陪着它们做这种洗脑一样的工作吧？这种系统得出的人性应该和我们本身的人性没什么偏差。恰巧人是这种再善良一点就不会有这么多社会问题，恶一点就不会活到现在的东西。你能指望这个系统做出什么改善来么？”

听完古羽的解释，袁纤的眼神一时如熄灭的炭火一样暗淡。她意识到即便此刻有解决问题的办法，也不是他们几个这种毫无相关知识储备的人所能想出来的。

钟黎看出袁纤表情的变化，从一开始的紧张甚至有些敌视，变成现在愁绪中带着失落。他清楚袁纤自小便看着父亲一天天地为这款游戏耗费心血，曾几何时袁启之的理想也化作了她的理想。如果说这个世界上谁最想看到这款游戏最终完成时的模样，那么除了袁启之，肯定第二个就要数她了。

“真的只有放弃开发人性系统这一种解决方案么？”这句话钟黎不单单是在替袁纤问，也是在替所有这个游戏的玩家问。

“或许有吧，但任何危险的东西，都是一开始便不存在，才会真的消除威胁。”古羽看出来两人的心思，便继而说：“我知道，仅凭几句话以及一些合理的推测，就让人放弃类似于理想的东西，是件很残忍的事情。但是人类的存在和发展，本身就是伴随着很多人的利益的牺牲的。”

虽然“电车问题”是个经典的伦理学悖论，但是的确，每次到了要抉择的时候，人类都会毫不犹豫地拉下那个开往一个人的拉杆。

5

“我大概清楚了。”袁纤的冷静似乎可以代表她已经接受了“人类的选择”，但她马上又平静而严肃地提出了一个新的问题：“我可以不问你是替谁工作，但想清楚你是怎么知道这些情况的。”