首页 > 分享 > 需要伦理的人工智能应用——读于江生著《人工智能伦理》

需要伦理的人工智能应用——读于江生著《人工智能伦理》

萌宠菠菠乐园
2024-08-18 19:28

一、人工智能的概况

（一）研究现状

人工智能就是有关机器的认知科学（cognitive science），它是语言学、神经科学（neuroscience）、哲学、心理学、伦理学、教育学、计算机科学等的交叉学科。

随着技术的进步，特别是以神经网络为代表的机器学习的流行，人工智能在语音识别、语音合成、图像识别上表现出色，已应用在聊天机器人、医学图像诊断、自动驾驶、机器翻译、棋类游戏、数字识别、虚拟现实、照顾病人等方面。最新研发的ChatGPT已经可以强大到能够完成论文，更是颠覆了人们对人工智能的刻板印象。

（二）未来发展

未来的人工智能可能在更广的领域发展，以电子宠物、机器人伴侣、电子人最为典型。

1. 电子宠物

宠物有助于人类调节精神状态、血压、心率、内分泌系统，可用于作伴、玩赏、减压等目的。相比传统的宠物，电子宠物不携带疾病、不咬人、不扰民、不污染环境，更具优势，可为儿童、老人、残疾人提供陪护、慰藉等服务。

2. 机器人伴侣

更进一步满足人类精神需求的人工智能，就是情感机器人及性爱机器人，在一些科幻影片中已在讨论人类和机器人的恋爱和婚姻。

不过这一直是一个讳莫如深的话题，涉及到机器的自我觉醒，机器是否能被接受为“人”等深层次问题。

3. 电子人

除了机器人的变化和发展，人与机器的结合也是未来的一种可能，比如人造子宫（artificial womb）、高级智能的电子人(cyborg/cyberman)。

电子人是人与机器的混合体。在大脑内植入的芯片可显著提升人类的智能，并能治愈或补偿神经损伤，修改一个人的性格，设定其记忆（例如删除痛苦的回忆）。脑机的结合有望极大限度地扩展人类的记忆能力、计算能力、学习能力等，对人类智能来说将是一场革命。同时，人脑的优势也将弥补人工智能的一些不足，让直觉变得可以计算。目前的人工智能总是难以理解自然语言，特别是其中的隐喻。而脑机结合后，这一障碍将不复存在，读心术、心灵感应（telepathy）也将变为可能。

（三）存在问题

即便人工智能的功能如此强大，已经引发失业的隐忧，而其本身依旧存在着不少问题。

1. 依赖统计分析

现在人们往往把人工智能狭隘地理解为对人类行为的模仿，这是对智能的一种误解。智能的表现形态不是唯一的，人类的也不见得是最好的，因此机器不一定非得模仿人类才能获得智能。

人们习惯用统计分析来揭示因果关系，但是统计分析并不等同于因果分析，如有名的辛普森悖论（Simpson paradox）。当前的机器学习和人工智能并没有重视因果论，还在局限于统计方法、最优化理论。像用于客服、导购等受限领域的聊天机器人，就只能回答用户的常见问题，谈不上智能。

一般情况下，基于知识图谱（knowledge graph）和模板匹配的技术确实能解决大多数的问题。但只有充分发展了因果论和知识论，目前的“人工智障”才会真正走向“人工智能”。

2. 决策的缺陷

人类总以为机器是无比精确和客观的，又提供了令人舒适的服务，于是就在自动驾驶、手术等应用中过度信任机器。但是机器的决策却不那么令人放心，例如，2003年3月23日，美国爱国者反导系统将友军飞机错误地识别为敌机，并将其击落。

人工智能决策的缺陷来源于很多评测人工智能的模型缺乏可信度，试验也不具备可重复性，所发表的论文里也只有经过精心筛选过的少量数据。

长期以来，在人工智能学界缺乏公允的测试标准和测试数据。拿二分类器来说，在某次随机试验中常用准确率(accuracy)、精确率(precision)、召回率(recall)、F-度量等性能指标，这些指标都是基于混淆矩阵(confusion matrix)定义的。相对公正的评测需要大量重复的随机试验（例如k-折交叉验证），然后再考虑性能指标（例如准确率）的经验分布。只有准确率的均值和方差都达到了满意的程度，才能算作一个好的二分类效果。

3. 责任的归属

因为目前的人工智能尚缺乏自主决策能力，现有的法律框架对机器犯错的责任追究仍为空白。

作为机器行为规范的制定者，人类就要为机器的所有错误（包括识别错误、决策错误、伦理错误等）负责。如果机器听从主人命令，不辨是非地做了错事，主人要负主要责任，机器的研发单位也应该负有一些伦理缺陷的责任。如果是因为机器的决策失误或系统缺陷造成了严重的损失，研发单位应该负产品不合格的责任。

二、人工智能的伦理

如同人类社会的运作应该在一定的伦理之下一样，人工智能也需要相应的伦理进行评判和规范。

（一）人工智能伦理学的必要性

科技既可方便人类的生活，也可以制造麻烦，这也体现了研究人工智能伦理学的必要性。

如果滥用人工智能，就会出现以洗脑和教唆目的的聊天机器人、残忍的机器人战士、用深伪（deepfake）技术换脸的虚假图片和视频。在IBM、谷歌、微软等美国科技公司的人脸识别与分析服务中，针对黑人的错误率远高于其他人种。借助大数据的支持或者个人隐私的泄露，电话欺诈将变得智能化、隐蔽化、广泛化。

机器善于处理简单任务，低能力的工人将因过剩而失业。利用技术的改进，精英阶层将更加有力地控制大众，甚至完全可能灭绝人类。人工智能技术能让剥削更加隐蔽，让掠夺更加残酷。

如果把人工智能用来反侦察，则犯罪的风险降低，而侦破的难度加大，高科技就极有可能成为罪犯的帮凶。

（二）奴役机器人

以上讨论的都是以人为中心的人工智能伦理，而忽视了机器人的权利。捷克作家卡雷尔·恰佩克在创造“robot”这个词的时候，他提出了一个严肃的伦理问题：若智慧和情感的载体不是人类而是生化人（或者机器人），他们（或者它们）是否应该被奴役？

1. 机器人行为准则

1985年，美国科幻和科普作家艾萨克·阿西莫夫（Isaac Asimov, 1920—1992）在小说《机器人与帝国》中提出以下机器人行为准则，深刻地影响了人工智能伦理。

【准则零】机器人不得伤害人类整体，或坐视人类整体受到伤害。

【准则一】除非违背准则零，否则不得伤害人类个体，或坐视人类个体受到伤害。

【准则二】机器人必须服从人类命令，除非命令与准则零或准则一冲突。

【准则三】机器人必须保护自己的存在，只要这种保护与准则零、一、二不冲突。

为了防止机器人把自己视为人而不遵守这些准则，人们又增加了三条准则。

【准则四】在所有情况下，机器人都必须确立其身份。

【准则五】机器人必须知道它是机器人。

【准则六】被赋予类似人类理性和良知的机器人，都应本着兄弟情谊相互对待。

阿西莫夫的机器人定律是以人为中心建造和使用机器人的原则，已经成为机器人伦理学（robot ethics）的基础。显然，它默认人类为主人，把机器人设定为奴隶，这对于具有超级智能的机器是不公平的。

2. 机器人的权利

在拥有自我意识之前，所谓“智能机器”只是电子产品，无法取得与人类同等的地位，通常没有任何权利可言。只有当智能机器有了自我意识，它才能拥有权利。

即便机器没有自我意识，也无法观测它的“痛苦”，我们仍然可以从保护机器和人类的角度，定义机器可拥有的“权利”。例如，我们可以把智能机器缺乏动力（例如电能、汽油等）理解为“饥饿”，机器有要求补充动力的权利。类似地，把硬件或软件的错误理解为“疾病”，机器有要求被修理医治的权利。如果机器感知到“饥饿”或“疾病”，不妨将之视为机器感到了“痛苦”。机器有不协助人类自杀或自残的特权，即人类无法命令机器帮助其伤害自己。

3. 共生体

人机是平等的。谁都不是谁的奴隶，谁也不比谁天生拥有特权。人类也在尝试接纳机器成为社会公民的一员，像沙特就授予了人形机器人索菲亚（Sophia）公民身份，“她”是历史上首个获得公民身份的机器人。人工智能和人类正在形成一个共生体。它不仅拓展了人类智能，而且能有望超越人类，并创造一个崭新的文明。

三、约束人工智能

为了应对人工智能可能带来的负面影响，有必要在抑制、对抗、标准等方面采取一些约束的措施。

（一）保护关键技术

对关键的人工智能技术，应制定法律法规防止其泄露和扩散，特别是那些关乎人类生命、国家安全、社会治安、公共健康等方面的核心算法。有价值的大数据和尖端人工智能技术都属于国家战略资源，拥有它们的个体或组织都应依法服从国家意志。

因此，中国对于一些信息处理类技术采取了限制出口的措施，这包括语音合成技术、人工智能交互界面技术、语音评测技术、智能阅卷技术、基于数据分析的个性化信息推送服务技术。作者认为，除此之外，可用于沙盘推演的智能决策模拟技术、某些高性能计算技术、数据攻击技术、端边云自动协同技术等也都是值得保护的。

（二）对抗人工智能的技术

现在有一种说法，用魔法打败魔法。对于人工智能的滥用，也需要以人工智能来制约。

针对深伪技术被滥用于伪造，提供专业从事鉴别的服务，对数据（包括文本、音频、图像、视频等）的真伪进行综合评估。同时，再推动深伪技术的正面应用，比如“复活”已经作古的名人，令今人一睹风采；让离去的所爱之人回到身边，甚至与他们面对面地交流。

（三）可验证的伦理标准

规范人工智能的应用，最重要还是加强伦理测试，要求模型训练没有种族、性别、年龄等伦理特征的预设，包括均衡的训练数据。

在提出人工智能产品的伦理标准时，一定要确保它们是可验证的。例如，在没有交通指示灯的路口，自动驾驶汽车发现有行人横穿马路，就应礼让行人。需要制定伦理核准(verified ethics)的国家标准，只有得到认证的机器才能自主进行伦理决策。此外，还需要基于大量的随机试验，通过因果推断来证明机器的伦理决策没有问题。

现在人工智能产业非常火热，有关的书也很多。不过绝大多数是技术类专著，像探讨人工智能伦理这种前瞻性的主题非常罕见，而这也是人们对科技发展进行全面思考的一种必然趋势。纵观全书，虽然名为《人工智能伦理》，其实较大的篇幅并没有谈及这个比较新颖的话题。书中的最大亮点大概在于从机器的角度审视伦理，一定程度上突破了以人类为中心的局限。看作者的描述，似乎他对未来机器的自我觉醒，以及达到强AI是比较有信心的。也希望到时能如他所愿，，人与机器在平等共生的伦理之下，创造出一种崭新的人机文明。