人工智能应该有道德意识吗

人工智能

617人已加入

描述

经典科幻电影《银翼杀手》中,背景是设置在2019年。电影中,这个年份已经出现一种复制人,他们与人类几乎一致,无论美丽的外表还是机智的判断力,甚至对爱的感觉、对暴力的嗜好也一样。当然,还有追杀这些复制人的杀手。

复制人渴望成为人类,这应是死罪么?如果有杀手机器人,应该追究谁的责任?《银翼杀手》核心,其实已经涉及了一个关键问题:人工智能,应该有道德观么?如今,对比科幻电影,在现实中,我们已经到了过去看起来很遥远的2019年。上述问题,其实还是没有妥善答案。现实中,阿里巴巴发起的研究机构罗汉堂于2019年6月25日在杭州提出了“最关乎世界未来的十大问题”,有人称为“世界终极十问”。

如同盗火的普罗米修斯,科技公司释放了技术的能力,带来物质便利以及生活水平的提升;同时,也冲击了原来的社会形态,可以说生产关系已经改变。当科技公司越来越大,市值万亿的公司开始涌现。在2018年前10大上市公司中,有七名都是科技公司,而且前五名都是科技公司,都来自中美两国。这个时候,科技公司变得体量更大,也意味着暴露在更多社会关系中,与监管用户的关系日益复杂。

回顾经济史,创新一直存在,从蒸汽机到铁路,对世界带来的改变巨大,甚至经济的促进作用,也并不亚于互联网。随着人工智能等技术加持,互联网进入转折点。科技公司纷纷转型平台经济,甚至让“中台”成为关键词。

与此同时,平台经济也意味着公司规模扩张,利益相关者增加,对于监管以及信息的使用,都带来各种挑战。比如这些天,国内外都在热议甚至盛赞的Facebook发行数字货币Libra,然而在国外Facebook的相关新闻,不少则集中于隐私丑闻导致活跃度下降等方面。

科技的发展,对于互联网公司管理其实也提出了挑战。互联网公司从边缘的创新,一跃而为成为社会主流公司,也意味着必须承担更多社会责任。这个时候,科技公司仅仅拥抱平台战略或者进行中台整合,已经不足以应对外界无日无之的打量。在6月罗汉堂年会上,阿里巴巴集团CEO张勇和三位诺贝尔经济学奖得主由此对话,罗汉堂秘书长陈龙主持。这场对话核心议题之一,其实就在回应 ,谁是平台经济的受益者?张勇表示,平台不是一个人决定的,平台是所有利益相关方的平台;甚至平台型公司并不是平台的所有者,而只是在运营这个平台,只是平台的一部分。

这些讨论见仁见智,但从超越行业的视角来看,其实有不一样的高度。当下,类似《黑客帝国》以及《三体》的科幻电影场景正在变为现实,对于人类社会冲击逐渐展现。从数据的隐私安全到个人的职业保障再到阶层的重组,都在接近转折点。人类社会如何应对这些挑战,其实是超越了我们当前的知识储备;换言之,我们并非手握答案。认识到这一点,是第一步。

例如开篇谈到的人工智能道德观问题。讨论这个问题,常常有个两难选择的经典场景,比如驾驶一辆失控汽车,假设必须选择撞向一边,左边是老人,右边是小孩,怎么办?

类似的伦理难题,在人类开发人工智能的历程中,也会遭遇不少类似的拷问。那就是,在多大的程度上、以怎样的方式处理人工智能的“类道德问题”?与此相关,罗汉堂的学术委员会成员两位诺贝尔经济学奖得主分别有所阐述。2011年诺奖得主托马斯.萨金特认为,机器并不是自己在学习,所以我们人类在给机器提供数据的时候,要努力去除掉一些偏见;2016年本特霍姆斯特罗姆(Bengt Holmstrom)则指出,人工智能也是公司一员,有工作动机,应该给予其正确动机激励。

人工智能的道德观,这个问题并不是空想,不仅重要,甚至越来越迫切的问题。这个问题背后,不仅涉及算法以及道德问题,更是知识边界拷问的问题。正如站在人类的角度,推进人工智能当然应该有道德观,但是人工智能会不会有道德观是另外一个问题,而且人类的道德观,是否适用人工智能,则是更大的问题。

类似十大问题的提出,其实比起如何回答更有意义。正如艺术家杜尚所言,没有问题就没有答案;反过来说,好的问题往往也意味着解决问题的开始。

比如回顾历史,知识革命的先驱,并不一定总是来自于学院体制。比如在欧洲工业革命时期,一些民间社团对技术革新发挥不小作用。比较著名的是英国月光社,他们就是由一些科学家与工程师甚至枪炮制造商等人自发组织。他们聚会的目的,不是为了赚钱,聚会的结果却往往造成了科学可能性。制造蒸汽机的瓦特,就是其中一员。

当代智库或者社群,其实也应该发挥类似的作用。国外有一个社群Edge,也是汇集各路聪明学者,发布年度重要问题。其中,一个聪明家伙就说,我足够聪明到回答这些问题,但是我足够聪明到提出这些问题么?好的问题,往往是成功的一半,集体智慧好过个人探索。知识边界的拓展,永远从跨界的提问开始。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分