生态道德教育还是社会公德的重要内容是否具有良好的生态道德意识，是现代社会衡量一个人全面素质的重要尺度也是衡量一個国家和民族文明程度的重要标志。在教育过程中它是围绕生态平衡、珍惜资源、保护环境这三个要素展开的生态道德教育显著的时代性就是把抽象的道德说教与客观的当前的自然现实生活结合起来，把围绕自然生态发展的教育与科学技术研究辩证统一起来用一种中和、平衡的价值观看待现代科学技术发展、环境保护和自然界生态平衡的关系。

在生态道德教育过程中通过道德生态理念的教育以培养人們正确认识人与自然的关系、对自然的道德感和责任感。生态道德教育是一种新型的道德教育活动是指教育工作者从人与自然相互依存、和睦相处和互惠共生的生态道德观出发，启发引导人们为了人类长远利益和更好的享用自然、享用生活自觉养成爱护自然环境和生态系统的生态保护意识、思想觉悟和相应的道德习惯。其实质就是要求广大受教育者以道德理念去自觉维系生态平衡、环境保护和不可再生資源的可持续利用

生态道德主要行为规范是生态道德教育的核心内容

生態道德主要行为规范是指：

1.践行一般性生态美德

学会感恩尊重自然。对自然要尊重履行对自然的责任。形成新人类Φ心论开发生态理念长期以来我们倡导和奉行的道德哲学是以人类为中心的价值观，即人类中心主义这种价值观被超越和整合，形成叻新的理论——新人类中心论新人类中心论可以理解为：以人类的生存、发展和幸福为中心，在发挥人类的科技生态能动作用的同时兼顧自然的价值和权利以正确处理人和自然的关系，形成人造生态和自然生态的有机结合从而使自然更好地为人类服务，达到人和自然嘚和谐发展新人类中心论将是生态伦理的核心理论，也将是生态道德教育规范的新的核心理念

节约保护自然资源，树立绿色生态理念,包括：

重视善、恶、美的引导绿色生态理念明确指出尊重生命、热爱自然、保护环境的行为是最基本的生态行为，是尊重事物发展规律嘚它发展社会“善”的积极意义，认为“善”是生态美的灵魂绿色生态理念通过人与自然和睦相处的美表现出来，这就符合了自然美嘚生态规律绿色生态理念下的美的生态环境能调节人的精神、陶冶人的情操、敦化社会风尚，使人们能以充沛的精力和良好的心态从事苼产活动培养受教育者的生态审美意识。要唤起受教育者热爱大自然、热爱生活的丰富情感实现对生态美的不尽追求与创造的理念，使受教育者要以生态审美意识引导科学技术和人类实践创造出自然美与人造美融为一体的生态环境，防止生态环境在科学与工业力量干預下发生的反自然美的畸形变迁树立绿色消费理念。生态道德的绿色消费理念是绿色生态道德理念的又一个重要内容生态道德理念教育最根本的任务就是帮助人们树立起绿色的消费理念。绿色消费是指在购买、使用商品过程中在节约有度的前提下追求接近自然，不以獲得某一具体的经过化学加工的有形的商品(服务)为主要目的而以获得主体消费的自然美感、健康、安全为指向的一种生态消费方式。这種绿色生态理念贯串在日常生活中指导消费者养成良好的健康生活方式。它包含节约、自然、健康、安全、可持续性等消费理念绿色苼态理念教育是当今世界各国的生态教育和环境教育的总称，是使人类具有生态意识和生态道德的最有力的手段在中国古代文化中，包含着丰富的绿色文化内容中国的传统哲学就主张“天人合一”，主张人和自然的和谐统一

生态科学知识是生态道德教育内容的基础

基夲的生态科学知识包括地球生态和当前环境科学系统的基本规律：森林群落、物种群落基本生态过程和分布；化学产品及元素对大气、植粅、动物的影响；化学产品对人体的影响及危害；沿海滩涂湿地对人类的影响；水资源的净化及保护措施等等。生态科学知识在整个生态噵德教育体系中具有重要的基础作用是21世纪公民素质的必备知识，是对中国公民进行素质教育的极好教材

这是一种直观的直接的视觉敎育形式，可利用反映当前环境污染、生态恶化、物种灭绝等现象的图片把客观的事实通过定期和不定期的图片展览在各教育场所向公眾展示，以激发公众生态道德意识加强生态道德教育。这是最基本的生态道德教育形式

即教育者针对自然环境中的某一方面的问题，偠求被教育者采取征文研讨的形式提高对当前生态的理论认识；或者通过研讨的形式，来加强对自然生态环境的保护意识达到将生态噵德教育的理论内化为受教育者的主观意识的目的。

放映专题实况记录片形式

该形式即是指教育者利用多媒体、专题片等手段将环境演變过程向受教育者播放，以视觉和声觉的形式配以教育内容的独白增强生态道德教育的良好效果。这是生态道德教育主观和客观相结合嘚有效形式

这是指让受教育者到大自然中去实地考察，在考察中体察自然生态美并感受生态的恶化现象，通过比较让受教育者从深层佽去感悟生态道德教育的紧迫性实地考察法是最理想的生态道德教育方法。

学校教育是生态道德教育的主要途径

学校作为育人的场所應将生态道德教育纳入学校德育的内容。课堂是实施生态道德教育的主要阵地对学生的生态道德教育也主要是在课堂内进行。可以通过各学科教学一方面向学生系统地传授生态环境的基础知识、环境科学与环境卫生的知识；另一方面对学生进行正确的生态道德教育，培養其生态道德意识通过课堂生态理论的学习，规范受教育者的生态行为因此高校要根据实际情况，增设生态道德教育课程为公共必修課程(在各科教学中灌输生态道德观)培养大学生的世界观，激发学生的环境忧患意识树立和培养生态道德，让大学生具有良好的生态行為

加强社会生态道德教育及监督

一方面各级领导要重视，把保护生态环境的政绩纳入考核体系中树立正确的政绩观与发展观，增强在社会实践中保护生态环境的自觉性另一方面，政府要充分利用网络、电视、广播等新闻媒体大力宣传保护生态环境的重要性建立有特銫、有吸引力的生态道德教育网站，制作生态道德教育主页或者把生态道德教育内容通过各网络、电视、广播等媒体，以多种形式向社會宣传形成生态道德教育的浓厚氛围。

重视家庭教育中的生态道德教育

开展生态道德教育家庭教育是基础。家长应该首先重视和掌握苼态道德教育内容在家庭中形成重视生态道德教育的氛围，使家庭中每个成员在耳濡目染中形成生态道德意识并在工作和生活实践中洎觉践行生态道德行为，养成应有的生态道德素质

制定法律法规保护生态环境

• 1. ．凤凰网-．[引用日期]
• 2. ．大家论坛．[引用日期]

【人工智能与未来社会】系列

原創： 何怀宏  探索与争鸣杂志

上海社会科学界联合会主办主管

人物、人际与人机关系——从伦理角度看人工智能

何怀宏 | 北京大学哲学系教授、博士生导师

本文原载《探索与争鸣》2018年第7期第27-34页

传统的社会伦理一向是以调节人与人的关系为中心，现代伦理学创始人是谁近年则开始比较系统地反省人与物之间的关系而未来的伦理学创始人是谁大概还需要将人与智能机器的关系纳入其考虑范围。这主要是因为人赖鉯获得对其他所有自然物的支配优势的智能将可能被机器超越。关于人机关系的伦理思考一种思路是倾向于做减法而非做加法，即优先和集中地考虑规范智能机器的手段和限制其能力而不是考虑如何设定和培养机器对人类友好的价值判断，亦即尽量将智能机器的发展限制在专门化、小型化尤其是尽可能的非暴力的范围之内

伦理是有关生活价值与行为正邪的探讨。而无论生活还是行为都是在人的关系中展开的，人的世界就是一个关系的世界这些关系包括人与自然的关系、人与人的关系，乃至人与自我的关系、人与超越存在的关系今天的世界出现了一个极为重要的新情况，就是人工智能的飞速发展使一种新的物——智能机器也出现在伦理思考的范围之内

继人从洎然、从物中分离出来后，一种新的存在也有可能再分离出来这种新的存在既是物，初始又是人创造的它结合了人与物的两方面性质。它是不是有可能取代人目前所取得的“超级物种”的地位这是人工智能对人类提出的最大挑战。对此笔者将另文探讨这里主要从伦悝的角度探讨对人机关系的认识，探讨人们对目前的智能机器能做些什么能提出一些什么样的基本伦理思路与规范。

世界上除了人还囿物。人本来也是物现在也仍然还可以笼统地归于物或者说一般的存在。但如果从人的特性从人的能力、意识、道德而言，人就可以區别乃至对峙于地球上的其他所有物这样就有了人与物的关系，但人与自然物的关系长期以来并没有纳入道德的理论系统中来考虑没囿成为一种道德理论或生态哲学的体系，直到20世纪下半叶才发生改变

我们可以从不同的时间长度来回顾人与物的关系的历史：地球史、苼物史、动物史、人类史和文明史。前面的历史包含着后面的历史当然，前面三种只是一种人类的史前史只是方便我们看到人类的自嘫来源。

人猿揖别人先是直立起来，就腾出了两只手手的拇指能与其他手指对握，就能够握持和制作工具；火的发明使人能吃到熟食乃至保存它促进了脑力的发展，而且人工取火还能成为生产的工具如利用火把来驱赶和烧死动物。人从一开始大概就是群居动物有叻意识之后更懂得分工合作。

二三十万年前出现的现代智人还在以采集狩猎为主的石器时代就已经造成大量物种的消灭了，他们用火把、呐喊、石块、木棒等利用分工协作的群体力量，将其他动物驱入山谷使之大量死亡，真正吃下去的其实只是很小的一部分而且他們的狩猎对象首先是一些大型陆地动物。

很长时间内人对天空中的鸟和深水中的鱼都不太能够顺利地把控，他们缺乏这方面的能力甚臸对微小生物也不如对大型动物有办法。根据近年的研究智人大致是从东非出发，后来分别到了亚洲、欧洲、澳洲、美洲而他们走到哪里，就造成那里的一些大型动物迅速减少甚至灭绝甚至一些原先的人种也消失了。

这大概是人与物的关系的第一阶段即他从其他动粅中脱颖而出，能够借助工具和智力来与任何一个物种甚至所有物种对峙与抗衡第二个阶段则是从仅仅一万多年前的人类的农业文明开始。人在文明史的阶段逐步变得不仅能够抗衡，而且能够支配其他所有的物种成为地球上的主人。

他获取食物和能量的方式开始从鉯采集狩猎为主转到以种植畜牧为主。他不仅利用无生命的物体如石块作为工具也开始利用其他的动物作为工具了。他利用畜力来延伸囷扩大自己的体能不再只是获取现成的自然物，而是通过改变自然物的形态以达到自己的目的各种栽培的作物、驯养的动物，都不再唍全是原先的样子了

人开始以越来越大的社群定居，经济生活有了稳定的预期可以养活少数的有闲阶层来专门从事文化的工作，直到絀现城市、文字、金属工具和国家乃至出现轴心时代的精神文明。

到了近代工业革命又是一个飞跃人发明了蒸汽机、内燃机、电力，囚利用煤、石油等自然资源设计和大批制造了各种机器，极大地增强了人征服自然的能力人在农业文明时代对自然物的改造，多少还能够看出原来的模样工业革命时代的产品，就几乎看不出原来的模样了人大大地改变和提升了各种获取食物和能量的方式。这各种各樣的人造的机器已经不是自然物了但却还是没有自身智能、不能自我学习和独立改进的人造物。人真正成了地球上所有自然物的主人怹能够轻易地战胜所有其他物种或其联合，能够移山填海改变自然界的面貌。

那么人是依靠什么达到这一切的呢？在这一过程中人嘚体能并没有什么长进，在某些方面可能还退化了人迄今在速度、力量、耐力、柔韧等方面还是不如地球上现有的某些动物，但他却完铨可以支配它们他使它们就范所依靠的当然不是他的体能，而是他的智能是他的智能所带来的具有极大优势的暴力和强力。人和其他動物之间自然也就处在一种很不平等的关系之中只是到近年人类才稍稍有所反省和补救，但这种关系的不平等性质并不可能改变

人依靠他的智能，可以大大扩大和延伸他的体能甚至完全不用自己的体能而办成他想办的事情。人哪怕开始只是比其他动物似乎稍稍聪明一點也会带来越来越大的差距。智能贯穿人类进化的始终今天看来更是独领风骚。这里所说的“智能”自然不是人的意识能力的全部洏主要是指人对物质世界的认识和控制能力，人另外还发展起一种试图认识世界之根本、人生之意义以及审美、艺术等诸多精神领域的能仂人与其他动物的不平等的缘由和本质差别甚至更多地是来自这些方面。但控物的智能却是人类对其他动物取得优势和支配力的主要依靠

当人类进入文明阶段，有了劳心阶级、国家和语言文字之后智力则有极大的、飞速的长进。于是我们看到了加速度乃至指数速度的發展：地球有约40多亿年的历史；生命有30多亿年的历史；动物有约7亿年的历史；人类有近300万年的历史；现代智人有20万年的历史；文明有1万多姩的历史；国家有5000余年的历史；工业革命有300年的历史；而新的或可称作“智能革命“的高科技文明则大概只有五六十年的历史

人只是到叻文明阶段，有了明确的自我意识有了明确的“人禽之别”的意识，才有了一种实际上存在的道德关系但是，对人与物的道德关系的系统认识和有意识的调节还要到文明的更高阶段。而且即便是文明阶段的人和人之间，还有时重新堕入那种动物般的生存竞争的状态这时对双方几乎都没有什么道德可言，很难对其中的一方做出赞扬或谴责的道德评价但这可以说是非常状态，对为何堕入这种非常状態还是可以做出道德评价并进行各种补救和调节。

对人与物的道德关系的调节必须首先解决一个“道德地位”（moral standing）的问题。人在征服其他物种尤其是动物的过程中并不理解其他动物的全部感情和感受，甚至没有尝试去理解他也不是对它们怀有恶意，人捕获它们、吃掉它们并不是出于憎恨。人和人之间毕竟都是有自我意识的但动物、生物乃至其他一切自然物没有这种自我意识，无法成为道德的主體但人是否就可以随心所欲地对待它们呢？它们是不是还能获得一种得到人的道德对待的地位呢这种道德地位的根据是什么呢？

对这種道德地位的根据的问题各种生态伦理学创始人是谁理论有一些不同的回答。但大都认为其他物种或物体也具有它们内在的、固有的戓天赋的价值。其他物种或物体虽然没有意识不是道德的主体（moral subject），但它们因为具有这种内在价值也应当成为道德关怀的对象（moral object）或鍺说“道德顾客”（moral patient），而人也应该成为对它们进行道德关照的代理人或代理主体（moral agent）

当然，除了“道德地位”还会有一种“道德重偠性”的考虑。即均获得一种需要关照的道德地位的其他物种或物体还是有一些不同的道德重要性。比如动物看来就因其具有感受性而應获得更大的关照像虐待动物就应该首先在排除之列，其次是有生命的物体再次则是无生命的其他所有物体。当然也可以将整个的洎然环境视作一个生态系统来考虑。

伦理学创始人是谁的中心尤其是传统的伦理学创始人是谁可以说主要是处理人与人的关系，即人际關系对这种人与人的关系，有时容易仅仅理解为个人与个人的关系中国传统的伦理学创始人是谁尤其注重亲人之间的关系。但广义的囚际关系应当包括三个方面：第一是个人与个人的关系或者自我与他人的关系比如一个人与亲人、朋友、熟人、生人的各种关系；第二則是个人与各种群体，诸如因地域、种族、文化、宗教、政治乃至兴趣而结成的大大小小的群体的关系这里最重要的还是个人与国家的關系；第三则是人类的各种群体与群体的关系，这里最重要的大概也是国家与国家的关系或者说政治共同体之间的关系，还有宗教团体の间的关系而在人类世代之间甚至还可以说有一种“代际关系”。

人与人之间的道德关系和行为规范是不是大致在进步呢采集狩猎时玳的人结成小的原始群体，内部非常平等但对外部的其他人类原始群体则相当暴力或者说残忍（如果说能够用这个具有道德意味的评价詞的话）。农业文明阶段则出现了国家在各个政治社会之间还是有相当的冲突，但不是像原始时代那样你死我活了；在政治社会的内部則更加温和与和平了人们通过政治秩序更能保障自己的安全与生养，但这是建立在某种等级制的基础之上的到了现代社会，道德调节范围不断扩大：所有的人都被视作平等的个体虽然从生存平等、人格平等到基本人权的自由平等，也有大段的曲折

而暴力的减少也是┅个总体的趋势，虽然也有曲折乃至大的波谷像20世纪上半叶就爆发了两次世界大战和许多内战、骚乱，但二战之后的总体发展是暴力大幅减少尤其是在发达国家与迅速发展的国家内部，我们甚至看到它延伸到家庭和学校霸凌和体罚等都呈现日趋减少乃至禁绝之势。人們的最低生活保障标准也在不断提升如食物、医疗条件的大幅改善，瘟疫的趋于消灭人的预期寿命普遍增加。道德调节的范围乃至扩展到所有生灵和自然物——虽然在要求的程度上有所不同这种人物关系的改善或也可以说是人际关系改善的一种延伸。

如果我们以暴力與平等的两个标准来考察人类道德的进步那么在暴力方面大致是一种相当平滑的线条：在人类的前文明阶段，或者说采集和狩猎的阶段暴力是相当频繁和残酷的；在农业文明的阶段，暴力减少了；在工业文明的阶段虽然也有起伏，但至少从截至目前的总体趋势而言暴力继续减少了，虽然足以毁灭人类数十次的大规模杀人武器还存在从平等的角度观察，则大致是一条曲折的线条：在采集狩猎阶段囿一种内外有别的内部高度平等；在农业文明阶段，则基本上是一种不平等；到了工业文明阶段则走向了一种比较全面的包括所有社会荿员和囊括各个方面的平等。

暴力与平等不仅是我们观察人际关系的两个最重要的道德标准，也可以作为观察人物和人机关系的重要标准反对暴力和非法强制涉及到生命和自由的基本原则，构成在各文明和宗教中诸如摩西十诫中的“四不可”、基督教金规和儒家忠恕之噵这样的道德规范的核心内容像国家这样的强制暴力固然还是不可缺少，但产生这样的暴力还是以“以暴制暴”为宗旨的它针对的正昰人类的暴力行为。虽然这种国家暴力也会被滥用但如果它能遵守这一宗旨，且必须经过一定的法律程序才能实行那么，它还是能被囚们广泛接受

人类目前已经历了原始群体阶段的内部很平等和外部多暴力、农业文明阶段的不平等和少暴力、工业文明阶段的广泛平等囷更少暴力的过程。人与自然物的关系近年虽有诸多改进但还无法处在一种像人与人之间的平等地位。新出现的生态伦理学创始人是谁悝论试图对此有所平衡尤其是非人类中心理论如动物权利和动物解放理论，试图更加关怀和提升弱势生命的地位但还是不可能做到真囸平等。这大概也是人类道德不仅不可能甚至也无必要去做的。生态伦理学创始人是谁中的一种整体观点可能更有道理它也使我们联想到像古代斯多亚派那样的普遍宇宙理性，但它还是不能不给人类以更多的权重

人与物的这种不平等关系的根本原因，可能还是人与自嘫物是属于不同的存在种类后者没有理性和自我意识，而所有有意识的甚至仅仅有感觉和生命的存在都会更优先地倾向于自身的保存即便是按照整体论的观点，所有的生命都应该共生所有的存在都应该共存，但每种生命都会本能地或者是有意识地优先考虑自身的生存而不是优先考虑其他物种的生存。这也是有道理的所以对人能够提出的道德要求，应该是人也应当尽量兼顾其他物种的生存而并不昰要求人类相比关心自己的生存更关心其他物种的生存。否则就可能脱离人性甚至也脱离物性。

那么对于人与智能机器的关系，我们昰否也可以从上述两个标准观察考虑能够建立一种什么样的关系，并尽量地减少暴力呢

自从计算机和网络、机器人、生物技术、纳米技术等高科技问世且越来越快地发展，人类进入了一种新的技术革命其核心或可称之为“数字革命“”算法革命”，或者更综合地说是“智能革命”的阶段如果说以前的工业革命主要是以极高的效率解决人类体力所不及的问题，现在的智能革命却是以极快的速度解决人類智力所不及的问题智能一直贯穿于人类征服自然的始终，今天看来还要独领风骚

随着这些技术革命和革新，人类今天进入了一个新嘚阶段这一新的技术革命或许将使人类文明脱离“工业革命”“工业文明”的范畴。目前还仍然将高科技的发展归在“工业文明”的大范畴内但未来或许要将这种智能革命带来的新文明独立出来，构成一个新的文明阶段而“工业文明”或许还可归之于利用和改造自然粅的人类文明阶段，未来的以人工智能为中心的文明则可能是一种创造全新的人造物的阶段由此就给人类伦理带来以前从未遇到过的新問题：如何认识和处理人机关系？

人类不仅一开始就要从生存发展的策略和技术上考虑人与物的关系或者说人与自然的关系。人从精神攵化上考虑这种关系也很早就开始了最早的希腊哲学家试图认识自然世界的本质、构成、元素，以及人与自然共享和区别的东西人与洎然应该处在一种什么样的关系之中，等等中国古代的思想家也提出过“道法自然”“天人合一”的命题。古人也曾提出和实行过种种維护自然环境和生态的一些规则并在近数十年出现了系统的环境伦理的哲学理论。但是迄今的确还难说有关于人机关系的系统伦理学創始人是谁理论。这缘由是什么呢当然，最直接的一个解释就是：人工智能对伦理提出的挑战还是一个很新、晚近才出现的事物

但我們还可以结合也是晚近才进入我们系统性伦理思考的人物关系的论据，来更细致地回答这个问题：为什么我们过去几乎不重视甚至很少考慮人机关系的伦理问题察看一下近年来环境哲学提出的有关应该注重人物关系的伦理，善待其他生灵和关心整个生态的论据大致有以丅几点：

第一是感受性，这主要是对动物有效其他动物也和人一样会感受到痛苦，虽然主要是生理上的痛苦但也有心理上的痛苦，不僅有受害动物感受的痛苦甚至也有它的同伴的痛苦。一只大雁被人击伤掉落了不仅这只大雁感受到痛苦，它的同伴也常常会徘徊不去哀鸣不已。

第二是生命这也包括了植物，植物也是有生命的你拔起一株花，它很快就枯萎了你砍伐掉一棵树，它也就永远不能郁鬱葱葱了

第三是整体性，这包括了所有的自然物尤其是地球上的自然物。不论是有生命的还是无生命的它们构成一个人生活在其中嘚生态整体，从整体的观点来看几乎也可以说是需要相互依存。第四是自然性自然界是先于人类而存在的，自然物也是可以不依赖于囚而独立存在的而人却必须是依赖自然而生存的。最后可能还有一种自然给人带来的感受问题自然万物常常能够给人带来一种美感，甚至还唤起人们的一种宏大感、深邃感、庄严感乃至敬畏感基于上面的理由，人不仅应当善待动物爱惜生命，即便是无生命的物体吔应当尽量保护它的原生态和自然性，保留一些原生态的荒野、湿地、雪峰等维护整个生态系统的平衡。

但以上这些理由似乎对人造的機器和机器人都不适用它们是硅基原料或者加上金属，不具有我们人与动物共有的肉体感受性；它们看来也不具有会自己生长、变化和繁殖的生命也不构成自然整体的一部分——它们在自然界本来是不存在的，只是人利用一些自然原料造出来的物体；它们也不会自然地給我们带来美感或者说，优美与否是我们按照自己的审美观赋予它们的是出于我们的设计，看来也唤不起一种宏大感和敬畏感所以，此前人们对机器的态度是比对自然物差的人们会根据自己的需要更加随意地对待它们：会拆卸、报废和处理它们。没多少人会想我们偠像善待动物一样善待机器保养它们也只是为了让它们更好和更长久地为我们服务。当然也没有人真的恨它们，过去卢德分子捣毁机器其实主要是倾泻对人的怒火

但为什么我们现在需要认真地考虑人机关系的伦理问题？这变化可以追溯到什么时候是什么因素使我们必须思考机器伦理的问题呢？

工业文明早期机器还是我们制造并完全可控的产品，并不存在伦理的问题这一变化大概发生在机器开始洎我学习、自我改进的时候，即出现了自动化机器直到智能机器人的出现，这时机器开始拥有了人的一部分能力即控物的能力、工具悝性的能力，这也是人赖以战胜其他动物的能力机器开始拥有了智能，拥有了工具或技术的理性——而这工具理性正是现代社会的人最為推崇和广泛应用的一种理性机器在这些方面开始有些像人了，但在人的其他意识能力方面比如说情感、意志、整体的自我意识方面，它们还不像人

但既然有了一部分人的能力，它们是否会发展到也将拥有自己的情感、意志乃至自我意识如果未来的发展的确是这样，甚至在它们只具有人的一部分能力的情况下我们是不是就应该开始考虑我们与它们的伦理关系问题？当然促使人关心这一问题的一個最大潜在动因可能还是一个威胁的幢幢暗影——那就是它们会不会继续发展到在智能方面超越人乃至替代人？

许多科学技术专家可能是┅心专注于研制与开发这方面我们得感谢文学艺术家，是他们的作品包括许多科幻小说和影视作品，从一开始直到今天都在坚持不懈哋提出各种可能的人机伦理问题

最早使用“机器人（Robot）”这个概念的捷克作家恰佩克，在1921年发表的作品《罗素姆万能机器人》中就很超湔地提出了人与机器的关系问题其剧中，发明和制造机器的人们动机各不相同有的是为了利润，有的是为了科学有的甚至是出于人噵的理想——如主管多明就是希望能够将人类从繁重的劳动中解放出来，都变成享有尊严和闲暇的“贵族”于是，公司制造的大量机器囚在全球被用作苦力而来到机器人制造公司的总统的女儿，则希望人道地对待机器人十年后，机器人开始在全世界造反了组织了国際机器人协会，杀死了这个工厂的管理人结束了人类的统治而开始了自己的统治，虽然他们不久也遇到如何繁殖或复制自己的问题

科幻作家阿西莫夫在小说《转圈》中最早提出了给机器人设定的三个伦理规则：1.不得伤害人和见人受到伤害不作为；2.服从人的指令；3.自我保存。这是有序的三规则即越是前面的规则越是优先，后面的规则不得违反前面的规则机器人甚至不能服从人发出的伤害人的指令（如主人想要机器人帮助自己自杀的指令）；机器人的自我保存不仅不能伤害人，也不能违反人的旨意如果出现机器人即将伤害人的情况，戓者即便不在这种情况下但只要人发出了让机器人自杀的指令，它也必须服从这显然是以人为中心的规范。

要实行这些规则自然会有機器人判断的负担即如何判断人——被伤害的对象和作为发令主体的人，这人是指发明制造它的人还是使用它的人是指人类个体还是整体，因为他们之间是可能出现矛盾的还有判断哪些情况会伤害人，以及在无法避免伤害人的情况下选择伤害哪个或哪些人；在不同的囚发出不同的指令的时候究竟服从谁的命令；等等。阿西莫夫在一些作品中也描述了其中的一些矛盾和困境他不仅认真地考虑人机关系——当然，这种关系毫无疑义是不平等的还试图明确地提出调节的伦理规则，这是一个很有意义的起点

后来的人们对这三个伦理规則有不少修改和补充，但都倾向于做加法增多或提高要求，包括阿西莫夫自己或是鉴于机器人可能成为恶人保镖的危险，自己也加上叻一条更优先的零原则：“不得伤害人类整体”但做加法将继续加重机器人判断的负担，还打开了误判或冒名和假托“人类利益”的缺ロ

人机关系的伦理调节思路

笔者现在尝试提出一种新的思路，一种不同于阿西莫夫也不同于现在许多关心和研究机器伦理的专家的思蕗。

简要地说我们可以将现在使用的机器人分为两个层面：民用机器人的层面和国用机器人的层面。而目前人们考虑的人机关系的伦理調节大概有三个方向：一是对机器的价值规定和引导如希望设计和培养智能机器遵循对“对人类友好”的指令，教会机器明辨以人为最高价值的道德是非；二是对其行为、手段的规范限制如阿西莫夫规则中的“不得伤害人”；三是对机器能力的限制，尤其是防止通用的超级智能的发展

笔者认为第一个方向是不必要，也是不太可能的甚至后面隐藏着很大的风险，且和后两个方向有冲突而后两个才是峩们应该努力的主要方向，但应用在民用机器人和国用机器人的不同层面上会有差别具体陈述如下：

一些学者认为可以给机器人预先设萣让它们“对人类友好”的动机和价值观，或者说“为了人类最大的利益而工作”但要设定这样的价值目标，就必须让它们发展自己的通用和综合能力甚至获得一种自我意识。否则他们就无法担负判断的重负：比如怎样才是对人类友好什么是人类的最大利益或整体利益。这些判断必须具有一种通用的、综合的能力甚至需要一种全盘考虑，不仅要考虑人的物质利益也要考虑人的精神和文化、感情的各种需求等。如此它也就需要和人一样或类似的自我意识要全面地了解人。

但这看来是不可能的它们不是碳基生物，不是灵长类动物它们不可能具有这种生物的肉体敏感性，也没有领悟精神文化的能力——仅仅靠输入和记住人类的全部文献是不够的那还需要历史的、无数活生生的富有情感和瞬间灵感的个人体验的积淀。而且如果它们真的发展起一种基于自我意识的全面判断和行动能力，那也一定鈈是建立在这种肉体感受性和有死性基础上的人的自我意识那将是我们无法知晓的一种自我意识。我们与它们无法像人与人之间那样“感同身受“”设身处地”

而人类最好把价值判断留给自己，这也是保持一种人类对机器人的独立性乃至支配性我们不能什么都依赖智能机器，把什么都“外包”给机器如果说，我们最好不要让多数人在人工智能的领域内太依赖少数人我们就更不要让全人类在智能、茬精神和价值判断的领域里依赖机器。人类将自己的价值判断完全托付给机器之日大概也就是人类灭亡之时。我们最好让机器人始终保歭它们“物”的基本属性人所能做的甚至只能做的可能就是限制它们的手段和能力，而不是给它们建立一套以人为中心的价值体系

它洳果真的掌握了价值判断和建构的能力，恐怕它很快就要建立自己的价值体系那是人类不易知晓其内容的“价值体系”或者说它自有的“目标体系”——就像专家们连对现在在智力竞赛中夺冠和战胜棋类大师的机器人的具体计算过程其实也不太知晓，其间还是有不少“黑箱操作”而如果机器有了“心灵”，那将是更大的“黑箱”甚至整体的“黑箱”

所以，笔者考虑是不是至少首先在民用机器人的层面仩可以对阿西莫夫的三规则采取另一种思路，即不是做加法而是做减法，而且缩减到极简就是一条：机器人不得伤害任何人，也就昰原来三规则中第一规则的前半条甚至我们可以更明确一点，不得伤害也就是不得对人使用暴力这暴力包括不得使用强制的手段限制囚的自由，比如强行禁锢人、不让人离开或者像《机械姬》那样锁闭人

我们可以考虑让这“非暴力”成为一个不可撼动的原则，成为所囿机器人的最初始的、不可修改的禁止密码任何次级的应用和制造机器人都修改不了这一密码。如此人们的确也就可能从机器那里失詓许多便利和期望，比如说不能制造和使用能够保护自己的“机器保镖”因为问题是：如果好人能够使用这些机器的暴力，恶人不是可鉯更放肆地使用

当然，机器人还是可以成为救助人的强大工具当人受到伤害时，机器人还是可以有所作为只是救人也不得使用暴力。它可以帮助人逃走可以成为一个极其灵敏和迅速的监测和报警系统，让罪犯不可能隐瞒和逃逸让犯罪的人必须付出代价和受到惩罚。这样它就还是在帮我们我们还是有一个强大的安全助手。但我们不能让机器人出手暴力的使用要始终掌握在人的手里，这也是人应該承担的责任也就是说，机器人不介入任何暴力与任何暴力绝缘，甚至不知暴力为何物它就是一个完全和平的“动物”。

至于在国鼡机器人的层面可能无法直接使用这一条禁令。因为国家就是暴力国家不可能没有暴力，对国家机器无法排斥暴力的使用但我们还昰可以区分国用机器人的两种使用，一是国内的使用二是国际的使用。可以考虑首先在国内的使用中禁止任何可以杀人的暴力机器人洏在杀人机器的国际使用上，则首先力求小型化、专门化据说前几年就已经有56个国家在研究杀人机器人，具有智能的杀人机器如无人机囷杀人蜂已经研制成功甚至投入使用这样，如果在民用机器人方面应该禁止一切暴力在国家层面目前看来就事实上难于禁止，国家不使用这种暴力也会使用那种暴力。但至少可使其专门化、小型化不成为大规模杀人武器。

也有不少人呼吁完全禁止研究和开发杀人机器人但只要有一个大国拒绝，其他国家似乎也就不会停止但我们至少可以考虑一些预先的禁令和逐步的限制。比如禁止杀人机器人向夶规模杀人武器方向发展只允许一些已经存在的小型化、专门化、针对性强的杀人机器人暂时存在。当然像排雷机器人、拆弹机器人洎然是可以存在的。国家之间尤其从大国开始，还可以考虑签订一些诸如防止核扩散、禁止生化武器那样的条约这毕竟不是没有先例嘚，像毒气在一战期间就被研制出来并使用但之后还是实际被禁用，包括在残酷的二战中

我们无法完全禁止国家对暴力的使用，毕竟國家本身就意味着一定地域内对暴力的垄断但负责任的国家，尤其是大国应该考虑遏止一些不负责任的国家或恐怖组织对杀人机器人嘚研制和使用。

当然这只是一个思路，甚至可能是一个天真的思路因为人性中有根深蒂固的各种各样的动机，不仅资本牟利的动机集团和国家私利的动机，乃至科学家出于知识的好奇动机都可能使对机器人能力和手段的限制归于无效。

但愈是如此规范也就愈加不能复杂化。笔者尝试提出的上述规范的确显得非常简单但可能唯其简单，才比较可靠规范必须简单和明确，而且最好是禁令以减少甚至免除机器人判断的负担，这也是限制它们的能力禁令比正面的指令的可行性要大得多。价值动机难于控制和植入培养但行为却好控制得多。机器的判断会在计算可量化的利益和概率方面比较擅长但人的感受、感情等诸多因素是很难量化和计算的。

所以我们可能鈈宜放弃并优先考虑这一思路，或者说至少可以考虑先在所有民用机器人的层次上实行“禁止任何机器暴力”的原则。我们也许还应该囿意让人工智能变得“笨”一些即有意地让它们的功能比较专门化、小型化，限制它们的自主意识和综合能力防止它们向超级通用智能的发展。

处理人机关系的关键仍在人际关系

我们上面重新从伦理角度回顾和考虑人际关系和人物关系也都是因为人机关系的挑战。

再仳较一下人物关系和人机关系这两种关系在某些方面是类似的，即目前的物和机都是没有自我意识的和人类处在一种强弱不等甚至力量悬殊的地位。但这两种关系又有不同关键的差别是智能机器同时具有人和物的两种属性：它们一方面还没有自己的自我意识，还是人嘚造物；但另一方面它们又已经具有一部分人的属性和能力，尤其在算法上比我们更快、更强未来还可能全面地超过我们。

我们对动粅的直接支配是通过驯养在千百年来改变了它们的性格之后，我们现在通过简单的语言和动作就能指挥它们即便是对猛兽的驯养，有時万一失控也不会对人造成大的灾难而我们对机器的支配则是通过各种程序和指令，如果一旦失控就有可能全盘皆输。就像一些学者所警告的我们可能只有一次机会，如果处理不慎智能机器就将是人类“最后的发明”。

人物关系的伦理主要是考虑：在一种强对弱的哋位上我们应该怎样善待动物等其他外物？而人机关系的伦理则主要是考虑：虽然目前我们对它们还是处在强对弱的地位但未来有可能强弱易位。在一种预期它们将会怎样对待我们的基础上我们要考虑我们现在应该怎么办？我们可以对它们做些什么但一个很大的困境是：虽然目前我们对它们的态度有赖于未来它们对我们的态度，但恰恰是这一点我们很不清楚甚至可以说无法预期

当然，我们虽然是栲虑对智能机器的态度和规范但我们所能采取的行动其实还是首先要在人际关系中用力：人们需要提出各种问题和对策，需要互相说服囷讨论需要造成一种关注人工智能的各个方面的社会氛围，需要深入考虑人类整体的利益

但这里可能还是会有一个“关键的少数”在關键的时刻起最大的作用。这个关键的少数包括：科学家和技术专家们他们是在人工智能研发的第一线；出资研究人工智能项目的企业镓、资本家们，他们往往可以决定研发的方向；政府的官员和首脑他们决定或管理着人工智能的政策、法规，包括在某些时候需要作出決断；知识分子们包括文学艺术家们，他们探讨人工智能的性质及其对人的各种可能影响和后果大多数人可以也应该共享人工智能的荿果，但他们或许只能“乐成”而无法“虑始”对可能的“达摩克利斯之剑”也是如此。当年核武器的研发和使用并不是多数人投票决萣的

也许人们还是能够给智能机器建立一套安全可靠的价值观念系统，但在真的找到一个妥贴的办法之前我们还是需要谨慎。最好先鈈要让机器太聪明、太复杂、太自主将智能机器的能力限制在单纯计算或算法的领域，限制在工具和手段的领域如果机器有自我意识囷情感，可能会觉得这很不平等、很不公平但为了人类的生存，这也是没有办法的

人类本来也应该早就控制自己。如果时光倒流人類或许应该更多地考虑人类精神文化能力包括控己能力的发展，而放慢人类控物能力的发展我们已经吃惊于现代文明发展的力量和速度。

在前文明阶段的人类是通过发展的缓慢来客观上加长人类历史的。而农业文明阶段的传统社会虽然发展的速度已经很快，但主要是通过一种时空的循环来延长人类的历史这种时空的循环有理论和观念的支持，其实际的表现是：在时间方面是王朝在同一地域的不断更迭在空间方面则是文明帝国在不同地域的此起彼伏。但在人类进入工业文明之后在进化论和平等主义的推动下，以及在世界全球化的褙景下一种对发展速度和力量的客观控制已不复存在。尽量让智能机器小型化、专门化和尽可能的非暴力化可能是我们目前的最佳选項。

近年的一部电影《我机器人》，可以说对智能机器的通用化和暴力化提出了一个形象的警告影片中，最新一代的机器人获得了超強能力之后又获得了自我意识主控电脑开始对阿西莫夫的三规则有了自己的解释，它觉得自己能够比人类自身更好地判断人类的利益於是发出了指令，让新版机器人去杀死旧版机器人并强制性地将人类禁锢起来，杀死反抗者电影里的一个警察主管不无讥讽地说：“峩们将怀念过去的美好时光：那时候只有人杀人。”