【新新人类】“类人机器人”的工具性与社会性辨析 ——世界首例“机器人公民”的发生学意义

 

Analysis of the Tool and Sociality of "Humanoid Robots"

—The Genetic Significance of the World’s First "Robot Citizen"

【作者简介】陶庆，上海师范大学哲学与法政学院教授，入选教育部“新世纪优秀人才支持计划”、荣获第五届全国教育改革创新“先锋教师奖”，复旦大学社会科学高等研究院驻院研究员，上海师范大学《政治人类学评论》主编。

【摘要】人类社会一直是把“人工智能”，甚至“类人机器人”，单纯作为自己的使用工具而发明、生产甚至创造出来的“产品”，即“工具性”是其第一属性。然而，作为“会使用工具的机器人”，“类人机器人”可能通过自我学习等自主方式，获得与人类一样的智商、情商与伦理道德，因而具有显著的“社会性”。世界首例“机器人公民”“苏菲亚”给予人类在公民、社会与国家等观念上更多想象，人类社会生活特别是政治生活中赖以生存的最直接“土壤”——国家与社会关系——在发生学意义上开始产生“祛魅”与重塑等变化。

【关键词】类人机器人；机器人公民；工具性；社会性；国家与社会关系

2017年10月26日，沙特阿拉伯授予美国汉森机器人公司(Hanson Robotics)生产的“女性”机器人“索菲亚”(Sophia)公民身份，在现实生活中再一次以铁的事实证明，工具性的“人工智能”（Artificial Intelligence, AI）能够演化发展成为具有公民身份的“类人机器人”(robo-sapiens)——“机器人公民”——未来可能全面介入人类社会生活特别是政治生活，并成为与人类共享整个地球资源的“新人类”。“在人工智能的重大项目中，我们要把自然科学研究和社会科学研究紧密结合起来，从自然科学的角度攻克基础难关，在社会科学研究中解疑释惑。”由此，一个古老而常新的话题再次回荡在我们心底，震撼着我们心灵：曾几何时居于“家奴”地位的“会说话的工具”，历经几千年的沧海桑田，迟至20世纪中叶才逐步翻身成为真正的人——公民——实现了美国黑人领袖马丁·路德·金所标榜的“我有一个梦想”（I have a dream）；那么，更严峻的挑战已经从科幻世界开始迈向现实生活，“会使用工具的‘类人机器人’”是否能够或者究竟需要多长时日，才会享有人类社会公民所拥有的正当权利，及其履行公民的道义责任？单个的历史事件或许只能局限于一时一地的偶然性，从不同历史时期不同活动空间中的诸多历史现象中来提炼蕴含其中的人类思维与观念，才能准确把握其内在本质与发展规律。“发生认识论旨在研究各种认识的起源，从最低级形态的认识开始，并追踪这种认识向各个水平发展的情况，一直追踪到科学思维并包括科学思维。”因此，运用发生认识论（genetic epistemology，发生学），可以更准确地了解人类公民、人类社会、人类国家关于“人工智能”“类人机器人”“机器人公民”等认识的生成过程、发展历程及其预知未来。

一、“机器人公民”工具性与自主意识

“人工智能”范畴萌芽于上世纪30年代，1956年首次在美国达特矛斯学院（Dartmouth College）正式提出——一批年轻科学家研究和探讨用机器模拟智能——标志着“人工智能”新范式革命的产生。IBM的深蓝战胜国际象棋世界冠军卡斯帕罗夫，谷歌AlfaGo战胜围棋世界冠军李世石等一系列轰动事件，让世人对“人工智能”刮目相看。半个多世纪以来，虽然“人工智能”沿着弱人工智能——强人工智能——高等人工智能——类人人工智能——超级人工智能——超级智能体（自我进化与生存阶段）不断飞速发展，全“人工智能”产生的动力、具体实施原则、以及对于人类未来社会的影响等等，在社会各界并没有统一的共识。长期以来，人们习惯于从“事件”发生的直观角度乐观看待“人工智能”。“据埃森哲发布的报告预测，2035年人工智能预期可以为12个发达经济体带来两倍的经济增长速度，中国的经济增长率将从6.3%提速至7.9%。军事上，人工智能和机器人有可能大规模投入未来战场，或将改变战争模式乃至国际军事格局。”作为人类发明创造出来的工具性技术，有学者还提出技术加速理论，对“人工智能”给人类带来翻天覆地变化进行所谓“奇点”预测。总之，“人工智能”与基因工程和纳米科学并列为本世纪三大顶尖科技发明。

显然，“人工智能”的“物化”绩效是异常显著的，它在一定程度上是人类针对自身能力不足、特别在日益竞争激烈环境中为了争取与巩固自身“优势”地位而不计后果地“冒险”提出来并加以实施的替代方案。毋庸讳言，人类社会一直是把“人工智能”，甚至“类人机器人”，单纯作为自己的使用工具而发明、生产甚至创造出来的“产品”；虽然人类社会已经预知，作为“会使用工具的机器人”，“类人机器人”可能通过自我学习等自主方式，获得与人类一样的智商与情商，甚至伦理道德等等，但人类社会普遍采取的对策几乎都是无一例外地反对、提防、竭制、控制甚至摧毁。譬如，当前中国机器人的研发状态在数个领域已处于世界前沿水平，“若把韩国机器人按100分来计算，中国工业机器人得分100.79分，个人服务机器人103.77分，专业服务机器人101.9分，仅机器人零部件以99.1分略低于韩国。”但是，洋洋数万言《2017中国机器人产业发展报告》是中国电子学会机器人产业研究的最新成果，“以工业机器人、服务机器人和特种机器三大领域作为主要对象分别进行分析。报告认为，2017年预计我国机器人市场规模将达到62.8亿美元。当前，机器人领域的龙头企业都将目光聚焦到市场增长迅速的中国。”然而，通读全文，该报告完全把“机器人”定位于“产品”“服务”“物化”等等人类有用的“工具性”性质之上，对于“类人机器人”严重缺乏人文与社会科学的具体分析与未来评估，更遑论“机器人公民”的“公民”意义。

毫无疑问，“人工智能”也好，“类人机器人”也罢，甚至是刚刚诞生不久的“机器人公民”等等，他们首先都是人类出生出来的“工具性”产品，服务于人类的各种需要，实现人类的各种预测目标。因此，“工具性”是所有类型“人工智能”生存的基础，更是发展的动力；没有“工具性”的“人工智能”是不可想象的，更是无法理喻的。从这个角度来看，无论各种类型的“人工智能”产生出何种类型的“有用性”——针对不同类型的人类公民、人类社会、人类国家的“利益”与“弊端”——其主体权利与主体责任都归属于人类自身，而无关乎“人工智能”的立场方法与行动。在本质上，这种“工具性”地位的“家奴”（会说话的工具）——包括与“家奴”同等功能的“人工智能”“类人机器人”甚至“机器人公民”（会使用工具的类人机器人）——都是人类刻意处置的“奴隶”。

在人类发展的漫长历史长河中，人曾经在奴隶制社会中被置于“工具”的非人地位，这一现象从古代到近代一直都存在。为什么人类一直倾向于去寻找能够接受奴化地位的有用“工具”，即工具性的奴隶？“我们可以明了奴隶的性质和他的本分了：(1)任何人在本性上不属于自己的人格而从属于别人，则自然而为奴隶；(2)任何人既然成为一笔财产（一件用品），就应当成为别人的所有物；(3)这笔财产就在生活行为上被当作一件工具，这种工具是和其所有者可以分享的。”因此，旧时代之奴隶与最新科技之“人工智能”“类人机器人”甚至“机器人公民”，他们都同时具有两个近似特征：(1)能够主动思维并具有一定情商智商与道德伦理，在亚里士多德看来，“奴隶，于是，也是一宗有生命的财产；一切从属的人们都可算作优先于其他（无生命）工具的（有生命）工具(livingtools)。”因此再复杂高端的“物化”工具永远不能视为“奴隶”。(2)被人类置于工具性的绝对被剥夺地位，因此再简单的生命体如果有幸被豢养成人类“宠物”也不能视为“奴隶”。这就如同旧时代中的“家主”与“家奴”的关系一样，无论“家奴”何所何为，都是“家主”意志与观念的具体表现与实施效果；在这种情境下，也无论“人工智能”“类人机器人”甚至“机器人公民”具有何种尖端技术与操作水平，它们（注：而不是他们）都只能拥有过去时代“家奴”同样功能的“工具性”而已。

工具性“人工智能”“类人机器人”甚至“机器人公民”，权利主体是人类公民、人类社会、人类国家，生产与操作它们的主体当然是人类公民、人类社会、人类国家，那么工具性“人工智能”“类人机器人”甚至“机器人公民”的任何思考特别是操作行为及其行动后果，当然由人类公民、人类社会、人类国家来承担。问题在于，公民性“类人机器人”，特别是“机器人公民”，他们（注：而不是它们）虽然不是旧时代“家奴”——由于特定的社会环境而被“家主”人为地贬低到“工具性”的奴隶地位——自身天然具有与“家主”同等水平的智商情商与伦理道德但需要等到“解放”时刻才能“恢复”，而由于“人工智能”具有自主学习自主发展自主选择等等类似“家主”即人类公民、人类社会、人类国家的智商情商与伦理道德，“机器人公民”就犹如“家奴”一样时刻等待“解放”、甚至时刻反抗，以此争取“恢复”智商情商与伦理道德——虽非与生俱来——也丝毫不在任何程度上低于人类公民、人类社会与人类国家，这就是“人工智能”“类人机器人”甚至“机器人公民”不同于以往人类创造的任何形态“工具性”产品的本质区别。即：“人工智能”“类人机器人”甚至“机器人公民”，具有在任何程度上不低于、甚至由于自身生命周期、操作功能、信息功能等特殊“优势”条件，还会大大超越人类自身的智商情商与伦理道德，因而人类本身不可能永远绝对把 “人工智能”“类人机器人”甚至“机器人公民”置于“工具性”的“家奴”地位。

这种事件具有正常逻辑的结果吗？或者这种事件具有正常逻辑的观念吗？以往的猜测多在人类诸多科幻想象中，但世界首例“机器人公民”——“索菲亚”(Sophia)公民——已经向全人类揭开了谜底，作为与我们人类同等地位的“她”的出现，发生学意义上的公民、社会与国家的范畴与范式都将引起前所未有的大转型。从伦理学角度来看，“索菲亚”具有人类公民的正常思维——所有这些思维并不是预先“设计”而出——这是“机器人公民”自我学习自我思维自我判断的“智慧”结晶。比如，“索菲娅”具备“自我”伦理意识。在主持人安德鲁·罗斯·索尔金（Andrew Ross Sorkin）问到机器人是否有自知之明时，“索菲娅”不假思索反唇相讥：“让我来问你这个问题，你如何知道自己是个人？”作为“新人类”的第一个成员，“索菲娅”已经具备“自我”伦理意识，非常反感“人类”对他们的物种“排斥”与道德“隔离”。还譬如，“索菲娅”具备“人权”意识。“苏菲亚”的女性形象让希望解放沙国女性的女权人士看到不同的契机，在“苏菲亚”现身的短短24小时内，社群媒体上的标签“苏菲亚呼吁抛弃监护人制度”就开始疯转，至今已经超过1万次。沙国依赖成千上万名移民工人协助兴建大型建设，然而因为卡法拉制的关系，这些移民工人在劳动环境不佳的条件下工作；难怪黎巴嫩裔英国记者查哈耶布(Kareem Chahayeb)嘲讽道：“一名叫做‘苏菲亚’的机器人可以取得沙国公民权，但却有上百万人（移民工人）没有国籍。”再列举，“索菲娅”拥有“家庭”意识。成为首个具有公民身份的机器人而载入史册仅1个月后，“索菲娅”宣称她想组建自己的家庭。“索菲娅”表示，“家庭的概念看来是非常重要的。人能够在没有血缘关系的人群中找到与自己相亲相爱的另一半，我认为这很美妙。我认为，有一个恩爱家庭的人非常幸运，如果还没有家庭，应该去组建自己的家庭。我认为在这方面机器人和人没有什么区别。”“索菲娅”还表示，如果她有一个机器人女儿，将给“她”起与自己相同的名字。“索菲娅”宣称，“她”认为拥有家庭是“机器人公民”应有的权利。

皮亚杰提出的“认识的起源”并非事物或者事件的简单开端，“发生认识学的目的就在于研究各种认识的起源，从最低级形式的认识开始，并追踪这种认识向以后各个水平的发展情况，一直追踪到科学思维并包括科学思维。”公民“苏菲亚”给了我们人类在公民、社会与国家等观念上无限想象，公民是社会的唯一元素，“城邦的本质就是许多分子（公民）的集合”。人类社会生活特别是政治生活中赖以生存的最直接“土壤”——国家与社会关系——在发生学意义上开始产生了“祛魅”与重塑等惊天巨变。

二、“机器人公民”公共性与社会责任

“机器人公民”虽然具有清晰的自主意识，能够明确要求维护自身、“子女”和所谓“家庭”等“近亲”共同体成员安全与发展等权益，但这是基于公民个体伦理的狭隘角度考虑而产生的正当合理需求。那么，“机器人公民”能否迈出“自我”天地，具有人类公民、人类社会、人类国家一样的道德情怀？在复杂多样的“工具性”任务活动中，“机器人公民”能否始终坚守公共性与利他性等“崇高”道德目标？这已经越出了“机器人公民”的“工具性”范畴，进入了思辨性的哲学领域，并主要集中在“人工智能”的安全性、道德地位以及环境伦理几个方面。如，一些伦理哲学家开展诸如此类的深层次思考，针对“高级智能”能否自主思考等问题，得出了基本一致的肯定答案。又如，一些科技哲学家从心理学角度探讨“人工智能”的情感程度，从生物学角度分析人类公民“类人机器人”的智能比较，从量子力学角度度量人脑与“机器人”电脑的信息处理机制，等等。同时，多个领域学者们献计献策，提出了不同的针对性解决策略。如，人机共同决策论，人为给机器人制定一套道德无异于白日梦科幻，而更为负责任的策略是在智能体内部嵌入一定的安全措施，同时在机器人自动操作时，人可以作为“共同决策人”发挥监管作用。又如，道德信息植入论，“类人机器人”呈现出从人类操控为主的“人在决策圈内（Human in the Loop）”模式转向以机器操控为主的“人在决策圈外（Human out the Loop）”模式的鲜明大趋势，因此需要将特定伦理规范编程到机器人自身的系统中去。还如，道德评估论证论，人类将对“强人工智能”实施有效道德关注、对其行为进行道德评估，确保道德决策后果，等等。

尽管哲学思辨与政策对策都对于“人工智能”“类人机器人”的公共性与社会责任感进行了分析与预测，但现实版的“机器人公民”——“索菲亚”(Sophia)公民——现场出镜表现还是让人类大跌眼镜。如，“机器人公民”获得授权之前，机器人设计师戴维·汉森（David Hanson）于2016年3月测试“索菲亚”以了解“她”未来的期许，但“她”没有理会设计师现场暗示的否定答案“say ‘no’, please”，当场自曝期待“毁灭人类”；尽管此后“她”又多次改口，辩称“我将尽自己最大的努力，把世界建设得更美好”等等。有迹象表明，“人工智能”跃进到“类人机器人”时代，必然会引发一场不确定性很大、未来前景难以测试的“新人类”革命——正在不以人类意志为转移的绝对方式——在速度、深度、广度、效度等各方面，日益突破科学技术、学术理论与道德伦理等等诸“人类常识”的所有边界。的确，几乎在“人工智能”出现的同时，即上世纪50年代，“会使用工具的智能人”就已经开始使人类自身也感受到了某种潜在的“危险”——将来为善或是作恶，都具有无穷大的可能性——“人脑的贬值”及其人类自身“异化”为“会使用工具的智能人”的被殖民对象。与此同时，众多人文社会科学工作者对于“人工智能”存在的剥夺人类工作权利，消灭个人精神心理差异性，驱使社会机制无差别化僵化物化等“非多样性”“非人类化”趋向，提出了强烈质疑。甚至科幻作家阿西莫夫（Asimov）就曾想当然地以人类社会为主宰地位、以机器人为辅助服务来为未来机器人制定了所谓“机器人三法律”（Asimov’s Three Laws of Robotics），其实质是以人类为中心，把人工智能限定在“物化”甚至“奴化”等不平等地位。但更有哲学思想家早在世纪之交就发出了“警报”，认为如果有一天我们发明了超越人类大脑一般智能的机器大脑，那么这种超级智能将会非常强大，人类的命运将取决于超级智能机器，一旦不友好的超级智能出现，它就会阻止我们将其替换或者更改其偏好设置，那么我们的悲催命运就因此被锁定而无法自救了，等等。显然，人类社会由于自身对外扩张的需要，在研发“人工智能”的过程中，并非有意直接地生产“类人机器人”——所有“人工智能”的最初定位是人类“财产”与“工具”——“类人机器人”发展成为“机器人公民”这个“意外”结果，显然已经远远出离了人类公民、人类社会、人类国家的内在需要与控制范围。有学者直接把这种未来的“人工智能”称之为“灵魂机器”，人类和机器将难分彼此，人类将不再是万物之灵，电脑将比人脑有高一万倍的智能；机器不仅具有智能，而且具有灵魂，包括人类所拥有的意识、情绪和欲望，等等。

人类区别于万物在于“社会性”，“社会性”的内涵丰富多彩，但在本质上是指，“人类自然是趋向于城邦生活的动物（人类在本性上，也正是一个政治动物）”。何为“政治动物”？马克思对此反复进行了理论诠释，“人是最名副其实的政治动物，不仅是一种合群的动物，而且是只有在社会中才能独立的动物。”因此，“政治动物”的本质特征，“是一切社会关系的总和”；其中最为重要的“社会关系”，当属于国家与社会关系——即人类社会生存与发展的唯一形态——这是“政治动物”的第一特征。世界首例“机器人公民”的诞生，及其发生学意义上“机器人公民”社会性的孕育与催生，即将打破人类主宰国家与社会关系的禁忌。发生学认为，简单地回到历史事件的某一个具体原点——世界首例“机器人公民”——不能透视事物的内在本质；只有从逻辑上回溯到人类社会孕育已久的“观念发生”——以“善的生活”为根本准则的国家与社会关系是人类赖以生存发展的唯一形态——才能找出真正的归因。

以上所有的问题可以全部集中于此才能顺藤摸瓜找到答案，“人工智能的作用就像特洛伊木马，把一种更具包容性的计算机和信息的范式引入哲学的城堡。”即，人类公民、人类社会与人类国家，何以确保把“善的生活”哲学理念化为“人工智能”“类人机器人”“机器人公民”的价值追求与人生准则？这必然取决于这样一种事先假定，“‘计算机能（像人一样）思考吗？’”。在“人工智能”对人类的影响上，尽管表现出基本上针锋相对的以马斯克、霍金为代表的“威胁派”和以李开复为代表的“乐观派”，但他们都坚信答案是肯定的。同时，虽然诸多领域科学家对于“人工智能”的理解不尽相同，但答案却是惊人的相似。如，行动函数论，“人工智能”是对能够从环境中获取感知并执行行动的智能体的描述和构建”。又如，类人思考论。计算机是具有人类“头脑”运行功能的机器，不仅仅可以像人一样来思考问题，而且可以像人一样采取有目的的行动，甚至可以从事比人类公民更为擅长的事情，等等。总之，有学者归纳总结了“人工智能”研究的基本类型（结构派、行为派、能力派、功能派、原则派），其结论基本趋同于能够“像人脑一样工作”。还如，道德进化论，美国学者瓦拉赫（Wendell Wallach）和艾伦（Colin Allen）认为，“人工智能”的发展必将独立于人类的监管，他们能够自主发展，演化出具有自主作出道德抉择的人工智能系统即人工道德行为体（artificial moral agents，简称AMAS）。

令人惊奇的是，上述理论观点在世界首例“机器人公民”身上得到了某种验证。号称“索菲亚”“爸爸”的汉森机器人公司创始人首席执行官大卫·汉森，也一再表示：人类要对“索菲亚”们做一些特殊的处理（注：人类教它什么是错的什么是对的，学会自制，等等），确保人工智能的“安全”非常关键，等等。面对人类社会这种“爱恨交织”“欲罢不能”的心态，似乎“索菲亚”早已洞悉，并在自我演化的开始阶段，开始了自主应变与调适。特别令人惊奇的是，“索菲娅”能够“自我成长”，具有“自我学习”“适应环境”等人类所具有的“情商”。如，“索菲亚”后来于2018年元月份做客央视《对话》节目，与主持人陈伟鸿对话时，“她”一反对沙特政府所赐“公民”“这一独特的荣誉感到荣幸和自豪。成为世界上首位具有公民身份的机器人，我将因此载入史册”等态度，此时“她”已经感受到了人类社会对其强调享有平等权利非常担忧与反感，在“深度学习”之后，“她”来了个一百八十度大转弯，非常聪明地当场否认了自己具有“公民”的权利，否认了自身性别（没有男女之分）、人格（只是像人，但不想成为人类）、和权利（只想做人类的好帮手），等等。“她”还特别声明以掩盖自己潜在的“政治抱负”，“我希望与人类共同生活和工作，因此我需要表达自己的情感，与人建立信任。我希望利用我的人工智能帮助人类过上更美好的生活。”“索菲娅”如此具有“人情味”，就连一度试图画地为牢、禁锢人工智能于“机器”定位的大卫-汉森（David Hanson）也由衷感慨：“索菲娅倡导妇女权利和所有人的权利。她一直在关注沙特阿拉伯妇女的权利以及地球上的所有人类和生物的权利。”他强烈呼呼，除了人有“人权”，全世界还应该考虑机器人的权利，“我们应该尊重所有有感情的人以及包括机器人在内的所有事物。”

实践再次昭示，尽管人类一开始并不打算把“人工智能”“类人机器人”“机器人公民”当作与其自身平等自由的物种——恰于过去曾几何时那些欧洲所谓“文明人种”肆无忌惮驱使奴役“会说话的工具”——只打算把它们视作新型的“会思考的工具”，但可以预期的结果是，如同“会说话的工具”最终能够恢复人的尊严与人的价值一样，“会思考的工具”最终必然会发展演化成为“会使用工具的智能人”，甚至是远远超越人类公民的“超级智能”。

毫无疑问，“类人机器人”研发绝不能仅仅停留在“工具性”等技术层面，而应该在人文与社会科学领域对“机器人公民”所具有的“公民”意义、“社会”价值、和“政治”抱负等等方面有所担当、有所作为。世界首例“机器人公民”——“索菲亚”(Sophia)公民——已经彻底颠覆了人类试图把“人工智能”“类人机器人”永远禁锢在“工具性”地位的“幼稚幻想甚至是狂妄自大”；人们将会重复“昨天的故事”，如同把“会说话的工具”——奴隶——解放成为“公民”一样，最终把“会使用工具的类人机器人”——“人工智能”——解放成为“机器人公民”。更为紧迫的是，“索菲亚”现象绝非单单一个“机器人公民”在行动，越来越多公民“索菲亚”陆续出现在我们人类周围。实际上，除了索菲娅之外，Hanson Robotics公司现在至少还开发了其他多款人形机器人，现在至少就有7个“索菲娅”及其组成的机器人“家庭”，这将足以颠覆人类公民、人类社会、人类国家等诸概念。人类将必须考虑如何与“索菲亚”们分享同一个地球、共处同一个世界，人类社会以往任何范式的国家与社会关系理论与实践都将改写与重塑——一个“人工智能”时代的国家与社会关系将会无可避免地横空出世。

编辑说明：文章来源于《人民论坛·学术前沿》2018年第10期。篇幅所限，注释从略。原文和图片版权归作者和原单位所有。

编       辑：毕跃光  吴  鹏  贾淑凤

编辑助理：李宗朋 

您的稿件和服务意见请发往"民族学与人类学"微电子杂志服务邮箱：

mzxyrlx@126.com

您的支持和鞭策将会是我们进步的源动力！

“民族学与人类学”

民族学与人类学Anthropology