过去一年，全球关于人工智能伦理有了这些思考

在一月底结束的2019年国际消费电子产品展会上(CES 2019)，LG总裁兼首席技术官帕克(I.P.Park)发表了关于AI如何促进“自我进化”产品的主旨演讲。“人工智能与伦理”的讨论，成为了这场原本与严肃话题不太相关的消费技术盛会的序幕。

从自动驾驶到智能家居，无论是讨论频率还是技术创新，人工智能都已经渗透在人们追求更好生活的方方面面。

据麦肯锡估计，到2030年，人工智能会在全球范围内创造近130亿美元的额外经济产值，占世界GDP增长的1.2%[1]。同时，各国政府也注意到这一技术对人类社会的深入，在加拿大一家国际智库发布的《建设人工智能的世界——国家和区域人工智能政策报告》[2]中，全球已有18个主要国家发布了关于人工智能的针对性战略和政策，包括科技、法规、伦理、社会治理等多个方面。

然而，随着人工智能的井喷式发展，关于人工智能为整个社会带来的影响，也从科幻作品中走进现实。

撇开科幻作品中炫酷而强大的终结者不谈，仅仅简单的自动驾驶技术，当真正投入使用后也会面临“电车悖论”的困扰。人类社会生活的复杂性在于其不仅追求工作的效率和精确，更追求选择的公正与合理。

随着技术的不断发展，当人工智能真正嵌入人们的日常生活，这些伦理选择便也真实地摆在面前，成为人工智能设计者们需要解决的问题。

那么具体来看，人工智能究竟引发了哪些讨论?我们需要关注哪些问题呢?在过去的一年里，大家关注了这些问题：

人工智能不应该伤害人

早在机器人诞生之时，人们便为这种本为帮助人类而设计的机器制定了伦理规范。上世纪50年代，著名科幻小说家阿西莫夫便在《我，机器人》一书中提出了“机器人学的三大法则”。

法则第一条便规定：“机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管”。保护至高的人类生命是一切行动的前提。从字面上看，这应是一条被普遍承认与遵守的规则，但现实并非科幻作品中那样简单。

2018年4月，谷歌与美国五角大楼达成了Maven项目的合作，通过机器学习技术和先进的计算机视觉技术，在无人机拍摄的视频中辨别物体，自动探测和识别38种类别的目标，从而减轻军事分析员的工作负担。此外，该技术也可以用于追踪目标人员的行动。

此举引发众多项目相关员工辞职，也有将近4000名员工签名请愿谷歌取消该项目。6月，谷歌发表声明，强调其不会进行任何武器开发或以伤害人类为目的的人工智能研究，但项目并未终止。最终在员工们“拒绝为军方研究人工智能”的压力下，谷歌最终确认该项目2019年3月到期后将不再续约。

这场在人工智能界由普通员工发起的“反战运动”的胜利提醒我们——毫无疑问，人工智能技术有极为广阔的应用领域，在技术高速发展的今天，人形“终结者”并不会出现，但可能会以另一种形式悄悄到来。

然而，技术发展需要伦理与规则的限制。毕竟，正是这些最基本的规制保持着人类社会在不断的摩擦、碰撞与冲突中的正常前行。

也许人工智能的去武器化已经在社会大部分达成共识，谷歌的项目也在世界众多和平主义者的声讨中败下阵来。

然而，除了自动化武器这种“主动伤人”之外，当人工智能深入到我们生活中不同场景时，一些人工智能“被迫伤人”的场景如何处理也成为了重要的议题。

自动驾驶便是一例。

2018年10月，麻省理工学院在Nature上发表了一篇将自动驾驶牵涉入“电车难题”的论文[3]。

研究人员通过其开发的“道德机器”(moral machine)向来自200多个国家的200多万在线参与者提出了一系列自动驾驶汽车在紧急情况时面对不同生命如何选择的问题。

结果显示了人类间选择的多样性——不同群体的选择偏好有很大不同，如一些集群倾向于保护动物，一些集群倾向于保护老人。这些特殊性可以在人类的不同集群中出现，但对于需要提前规定好程序，按唯一特定模式选择的自动驾驶汽车，要么少数人的偏好被无限放大，与大多数产生冲突，要么少数人的偏好在多数人的压倒性优势下完全湮灭。

如果按照研究的普遍性结果制定自动驾驶规则，那么多数人与青年人会被保护，而少数人与老年人则被牺牲。可以想象，若如此规则被全面推广，老年人是否还敢出现在车水马龙的街头。

“一方面，我们希望为公众提供一种简单的方式进行重要的社会讨论，”媒体实验室媒体艺术与科学副教授Iyad Rahwan说。 “另一方面，我们希望收集数据，以确定人们认为哪些因素对于自动驾驶汽车在解决道德权衡方面的重要性。”讨论并未结束，人们也在不断的讨论中进一步认识自动驾驶的真正影响，并为其制定规则。

人工智能不应该歧视人

在麻省理工学院的调查中，除了对生命的选择，更值得关注的是人工智能算法对人类偏好差异性的放大。若不注意，这些不同很有可能通过算法开发被扩大为偏见，并实在地影响人们的选择。

比如亚马逊的人工智能雇员系统。这一试验性的雇员系统通过对之前员工简历的机器学习，在实际操作中会给女性技术员的简历评分较低。在无数争议后，亚马逊终于在2018年11月关闭了这一系统。

就在亚马逊关闭人工智能简历筛选系统的同一个月，八名美国国会议员向亚马逊的CEO寄出了联名签名信，抗议其人脸识别系统也存在种族歧视的问题。尽管这次亚马逊顶住压力给予回击，但来自全世界的平权者仍不买账。双方的争吵尚未停止。

（编辑：核心网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!