电子说
人类正在迎来机器人时代。一些机器人专家、哲学家担心,未来某个时代,高度智能化的机器人掀起对人类的叛乱,通过各种方式麻痹人类设计的监控、约束机制,“会在不给出预警也不做出挑衅的情况下,进行反攻,建立单一体,并开始按照其最终价值观直接对世界进行改造”(牛津大学学者尼克·波斯特洛姆语)。
在潜在威胁未曾具象化之前,很多人通常表现出漠不关心,或者笃定“桥到船头自然直”。这样的漠视、盲目、颟顸,其实广泛存在,比如迄今为止,无论在美国还是中国,不在少数的人从来就认为环境、资源危机要么无中生有,要么夸大其词。
机器人(超级智能机器)叛乱,从技术发展的方向来看,是可行的,并且,从利益代理机制的脆弱性来看,机器人一旦获得接近人的智能,背叛(人的)委托甚至可以认为将难以避免。为什么这么说?
其实我们每个人某种程度上都是机器人——这里提到的机器人,指的是以载体方式体现的人体,任何人都有两个毫无人性的主人,一个是基因,一个是模因(文化基因)。英国演化生物学家、科普作家理查德·道金斯在其名作《自私的基因》其实就已经指出了这一点(只不过大多数读者没能读懂他的观点)。基因和模因是自私的,它们追求自身永垂不朽,因此安排无限复制,而人体(载体)通常情况下必须服从于基因和模因的安排。
载体跟基因、模因的利益并不完全一致。基因、模因为了延续,会毫无犹豫牺牲载体的利益。人体组成及功能,经历过漫长的自然选择,但从载体的角度来看,并没有实现载体的最优化,而是服务于人类基因、文化基因的传续和优化。
加拿大多伦多大学应用心理学和人类发展科学教授、美国心理学会终身成就奖获得者基思·斯坦诺维奇解释指出,在人的大脑中,存在着两套心智体系,一是遵循基因和模因需要的自发体系(反射心智),二是依托理性而实现的描述分析体系(反省心智)。科学家验证指出,人的绝大多数大脑活动游离于意识之外,是自发体系驱动的结果,这使得人轻而易举地的养成各种习惯、嗜好。例如,吸烟、大量摄入甜食、危险的性行为、依照刻板印象看待他人及处理社会关系。
自发体系是进化的结果,目的是服务于基因利益(繁殖成功),要想对之予以克制,显得非常困难。很多时候,人们会误认为自己已经懂得如何建立理性的思维和行为方式,就像经济学家经常提到的经济人理性原则一样——事实上,人们经常违反自认为的理性、自定的理性准则。而身处现代社会的人们,面临工作、生活方方面面很多问题的选择,难以做到理性计算,更严峻的是,“我们现在了解的关于世界的大部分知识,都不是来自对真实事件的感知,而是来自预处理、预包装的抽象信息”,这就使得我们只好成为自发式系统默认设置的俘虏,即便这种设置错漏百出。
自发体系还服务于模因,也使得人们安装了大量对载体有害的模因(如体现男子气慨的吸烟模因)、社会偏见模因、欲望模因,等等。这些模因使得很多人越来越接近于模因的工具,不具备反思自觉和能力,描述分析体系渐近瘫痪。
人要走出自发体系造成的混沌,避免成为基因和模因驱动下的“行尸走肉”,就必须发动一场“叛乱”,打破基因和模因的利益委托机制,让人真正成为自省、反省、自察的人,使得载体的行为可以真正争取载体的利益。
也只有这样,当未来的人工智能、超级机器逐渐融合为超级智能,人类才可能应对机器人发起的叛变,获得对人类前途命运的控制,“以一种地球生命行为中的独特方式——理性的自我决定”。
责任编辑:tzh
全部0条评论
快来发表一下你的评论吧 !