首页 > 分享 > 刘永谋：机器人的伦理地位类似动物吗？纠缠于合作论与工具论之间的技术乐观主义愿景

刘永谋：机器人的伦理地位类似动物吗？纠缠于合作论与工具论之间的技术乐观主义愿景

萌宠菠菠乐园
2024-11-07 14:39

*中国人民大学吴玉章讲席教授刘永谋首发于微信公众号，保留一切知识产权，侵犯必究。

达琳(KateDarling)是MIT媒体实验室的机器人伦理学研究员，2021年出版《新物种：如何思考机器人》（The New Breed: How to Think About Robots）一书。湛庐公司以《智能新物种》为题即出版中文版，大家可以关注。

从该书的内容看，相比机器人伦理学，达琳对动物伦理学更熟悉。当然，机器人伦理学最近才提出来，非常稚嫩，还处理凝练概念、探索问题的草创阶段，达琳也谈不上能熟悉什么机器人伦理学的内容。但是，AI大火，机器人也在大干快上，机器人伦理学看起来很需要。怎么研究呢？对动物伦理学的熟悉，自然让达琳想到一个问题：动物伦理学的资源是否可以启发机器人伦理学的研究呢？

这个思路我称之为“机器人的动物类比”，区别于“机器人的人类类比”，可以对机器人伦理学的研究起到一定的启发作用。这是达琳方法论的创新：将机器人视为动物，将伴侣机器人视为宠物，能帮助我们厘定机器人的伦理地位吗？

总的来说，《新物种》讨论了三个问题，也就是全书所分的三个部分。

1.动物类比的伦理学结论。1）机器人可以和家畜一样融入人类社会，不是取代而是替代、补充人类劳动。2）和动物一样，机器人不能承担责任，人类应该为机器人造成的伤害承担责任。

第二点我是赞成的，因为我坚持机器人的复杂工具论，工具当然不能担责。与之相应，机器人应该去道德化、去意识化，作为劳动工具而存在。达琳是将机器人类比动物得出的类似结论。

这里根本性的差异在于：动物尤其是家畜、宠物是否是纯粹的工具。在这个问题上，达琳出现了混乱，她认为在工作场所动物和人是合作关系。合作论不等于工具论：我们使用工具，而不是与工具合作。只有平等主体之间才有合作劳动，主体与非主体只有工具使用。

达琳混淆了合作论与工具论，因而得出了经不起推敲的技术乐观主义结论，即机器人不会取代人类的工作。她的逻辑是：动物没有取代人的工作，所以机器人也不会。首先，机器人不是动物，动物可以融入，但机器人可能全面取代。其次，机器人最终与人达成合作关系是一种愿景，不是现实。换言之，人类如果真的将机器人当作合作伙伴来理解和使用，达琳的想法才有可能实现。最后，取代与否主要责任不在机器人，而在于人类。按照合作论，机器人与人优势互补，应该从事3D即肮脏（dirty）、枯燥（dull）和危险（dangerous）的工作。但实际上，机器人并不是如此，而是取代那些能让资本赚钱的工作，最近热议的自动驾驶出租车便是明证。总之，AI失业是资本与技术共同促成，资本逐利逻辑必定会减少昂贵和不确定性高的人力投入。

在我看来，机器人就是工具，不是动物、家畜、宠物，更不是某种人如奴隶。对此，我有很多理由，其中最重要的是两点：1）坚持马克思主义基本原理，2）人的责任别想推给机器人工具，否则我们必将万劫不覆。

2.在拟人论思维之下理解伴侣机器人问题，妥善利用伴侣机器人。

很显然，伴侣机器人或社交机器人对工具论是最大的挑战，因为它们会与人类产生情感关系，甚至非常亲密的关系。以往工具论思维会将之纳入恋物癖模式进行思考。但是，近年来恋物癖越来越流行，此种带有否定的解释模式已经不适应当下人们的心性状态了。简言之，这不再是正常与变态的问题，不再属于变态心理学解释的范围了。

达琳从拟人论的角度来理解社交机器人。人类具有拟人论的天性，这一点显而易见。为什么呢？目前存在两种解释：第一，拟人化帮助我们理解周围世界。第二，拟人化满足人对社会连续的内在需要，比如长期孤独激发拟人化的恋物癖。

实际上，宠物和社交机器人一样是拟人化思维的结果。比如，宠物可以治疗孤独症，伴侣机器人也可以。人对宠物很亲热，也可能对宠物机器人很亲热。同样，宠物导致的问题如情感依赖、情感胁迫，在人与伴侣机器人的关系中也会出现。

进一步而言，达琳没有意识到整个机器人伦理学和动物伦理学、机器人权利论和动物权力论均为拟人化的结果——拟畜化只是转到拟人化的中间一环——源自人类古老的泛灵论倾向。如果没有人的拟人化倾向，机器人伦理学和动物伦理学都不会产生。按照我的AI有限主义，我们不需要这两种理论，或者说，它们的目标就是要去道德、去意识。

达琳看到拟人化的意义，但是没有意识到它有很大的问题。按照马克思主义基本原理，泛灵论和拟人化属于落后的、非理性的东西。在漫长的演化过程中，人具有了拟人化倾向，但这并不一定就是好的，反倒可能是要克服的东西，就像人类身上的肥胖基因一样。

记住：人类并非从来就有道德的，而且有道德不等于更高的适应性。从根本上说，伦理学存在的意义，在于帮助人类更好地生存。在伦理问题上，人类中心与非人类中心的选择问题上，我认为两者都是错误的，因为现在的问题是：人类种族的延续面临巨大威胁，还谈不上保护环境，环境也不需要人类保护。换言之，人类中心和非人类中心都是狂妄的。

3.机器人权利问题。类比动物权利论证，机器人权利论证同样有三类，即我所称的属性论、人性论和关系论。1）属性论：动物类人，知道痛苦快乐，应该享有权利。2）人性论：虐待动物会损害人性，让人堕落。3）关系论：动物和人关系亲密，应该享有权利。

实际上，这些论证都是漏洞百出，根源就在于拟人论的非理性。比如，虐待动物让人堕落无法证明。典型的如纳粹特别爱保护动物，却杀人如麻。纳粹通过世界最严格的反虐待动物法律，严禁食用龙虾和蒸煮螃蟹，无故虐待动物要坐牢和罚款。希特勒晚年素食，极力禁止动物实验。比如，性爱机器人是否让人堕落说不清。支持者认为，天天和性爱机器人呆在一起，出门把异性当作性爱机器人对待。反对者认为，性爱机器人发泄了，出了门就老实了。

当然，就目前而言，达琳说的对：“对于机器人，我们或许可以采用与动物研究人员建议我们在自然界中采用的拟人化相同的方法：接受人的本能倾向，让这种本能有意识地激发我们，使大脑引导我们对这种本能进行合理运用，并从中学习。”今天我们可以批评拟人论思维，但必须承认它在当代价值观中的重要地位。

拟人论研究是整个机器人哲学、机器人伦理学的基础。现在的问题不是赞同或反对，而是我们对它的研究还非常缺乏。最近，我的团队讨论了拟人论与AI恐惧的关系。但是，更深入的挖掘还有待进行，我有计划再完成一篇更深入的AI拟人论的纯理论文章。现在的机器人伦理学刚刚开始，还非常稚嫩，AI拟人论的深挖应该能增加一点理论性。