智能革命引发的伦理挑战与风险

来源：《中国社会科学文摘》2023年第3期P33—P34

作者单位：上海社会科学院哲学研究所，摘自《道德与文明》2022年5期，崔晋摘

智能革命泛指以人工智能技术为标志的当代技术，比如，量子信息技术、芯片技术、神经工程技术、基因编辑技术、纳米技术、网络技术、大数据技术、深度学习技术、区块链技术等所带来的革命，通常也被称之为第四次技术革命。它在总体上以信息化、网络化、数据化和智能化为特征，正在使人类文明的发展从工业文明转向智能文明，对建立在人与工具、劳动与休闲、主体与客体、私人空间和公共空间等二分观念以及实体自我和所有权意识之基础的伦理假设提出了挑战。同时，又蕴含着一系列新的伦理风险，科学、技术、伦理都是时代发展的产物，科技力量越强大，机器越智能，经济社会发生的变化就越大，引发的伦理问题就越多，并且，越与人的身体相关，越直达人性，传统伦理框架就越难以应对。这本身不只是需要解决的问题，而且是必须克服的风险。这正是各国纷纷出台人工智能伦理指导意见的原因所在。就方法论路径而言，用关于人类文明未来的思考制定当代科技发展战略，从一体化的视域来建立适合智能社会的伦理框架，是一个建设性的目标，更是应对智能革命引发的伦理风险和挑战的有效方式之一，非常值得关注。

随着社会数字化转型的快速发展，人类文明已经进入数据—信息流变的时代，或者说，数据—信息流替代工业化时代的物质—能量流成为指数式增长的新资源。数据—信息具有的共享使用特征，不仅具有解构传统思维方式和经济活动方式的能力，不断地创造着新型的数字化服务，改变着利益相关方的角色认知，重塑着新时代的思想观念，激发了数字世界里全要素之间的互动创新，而且形成了新的思维方式，颠覆了工业文明基础上提出的经济伦理假设。

人类社会的数字化转型，首先会改变经济领域内的游戏规则，成为变革社会和更新观念的巨型加速器，其次还会深刻地影响人的思想内容和方式。这进一步揭示出，当代社会越来越成为与科学技术发展高度纠缠的社会，已经形成了科学—技术—社会交织互动的复杂系统，或者说，我们的行动、感知、意图、道德等已经与当代信息技术内在地交织在一起，从而使曾经有效的区分变得模糊起来，比如，实在世界与虚拟世界边界的模糊、人类与非人类边界的模糊，私人空间与公共空间边界的模糊，乃至理论伦理学研究与应用伦理学研究边界的模糊。在这种情况下，如何为借助当代科技的深入发展来促进社会的数字化转型提供行动纲领，如何重建更具有可操作性的问责机制等，成为当代伦理学研究的时代命题。这一点在智能化发展过程中显得尤其重要。

智能革命的展开及其被社会的广泛摄取，将人类追求自动化发展的进程从物质生产的自动化拓展到知识生产的自动化，将技术的力量从解放人的双手拓展到部分地解放人的大脑，从增强人的肢体和感知能力拓展到提升人的研究能力，从创造有形的物质产品拓展到创造无形的精神产品，从改造自然拓展到改造文化等。这些拓展不仅意味着，普适计算已经成为嵌入我们生活的一项无形技术，成为我们获取信息的重要关口，而且意味着，智能化发展最终将会把人类从单调的、重复性的、机械性的、程序化的体力劳动和脑力劳动中解放出来，为人类能够专注地从事具有个性化的、创造性的、富有乐趣的、受内在兴趣所驱动的休闲式劳动或活动，提供了现实的可能性。

智能革命在使人类从强迫性劳动中解放出来并拥有充足的自由时间的过程，是伴随着人类文明的一体化转型的过程，也是伴随着人类的自我认识、自我管控和自我成长的过程。在这些过程中，只有全面提高人的伦理素养，才能摆脱虚假自由，才能使自由时间成为人们追求美好生活、发挥创新能力和丰富生命意义的条件，而不是成为使人更有可能以成瘾和沉沦的方式消磨意志的前提，更不是成为不良经济活动和无责任技术创新的牺牲品。当代技术的会聚发展使得这些相关的伦理问题变得更加尖锐。

就技术的本质而言，技术从一开始就是围绕着赋能于人类而展开的。技术的发展史在很大程度上也能折射或记载人类文明的演进史。但是，当智能革命的深化发展使技术的改造作用从改造外部自然拓展到改造人的内部自然时，就使得人的身体技术化和精神技术化成为突出的伦理问题摆在我们面前。在人类文明的演化史上，人与自然的关系已经发生了两次转型。第一次转型是人从自然界中分离出来，形成了人与自然的对象性关系，这种分离不是信念的改变，而是范畴的改变，开启了“人成之为人”的第一个过程。这一个过程主要是以追求物质文明为主，技术的主要目标是探索与改造人类生存于其中的自然界。第二次转型是人类凭借科学技术的力量越来越成为自然界的统治者，人类越来越远离天然自然，出现了人化自然和人工自然，使人与自然的关系从最初形态的人附属于自然界发展到自然界越来越附属于人类的另一端。这种发展理念所带来的生态恶化等全球问题已是有目共睹的事实。这表明，在追求物质最大化和所有权意识理念的引导下，人类虽然获得了越来越多的知识，越来越有能力根据自己的意愿去改造环境，但却不能使所在的环境变得更加适合于居住与生存。而当代技术的会聚发展所导致的一系列伦理之争，进一步把上述困境从人类外部的生存环境拓展到人的身体与心灵层面。

我们必须重新思考治疗与增强的边界问题；重新思考限制增强技术的发展是否会造成对人们改善身体和心智的自由权或自主权的侵犯问题；重新思考支持人的身体技术化发展，是否会对人的自然权利和建立在传统医疗体制基础上的公平公正、自主自愿等原则的适应性提出挑战的问题；思考把人类与非人类区分开来的具体特征是什么，以及人类的哪些特征是根本性和需要保护的，或者说，思考关于什么是人、什么是生命、什么是身体与心灵的关系、成为人意味着什么或“人成之为人”的内禀性及其身体边界等问题。显然，这些问题无法要么归属于理论伦理学，要么归属于应用伦理学，而是需要发明将伦理学、认识论和本体论统合起来的新的伦理框架来解决。

人与自然关系的逆转，人的身体技术化和精神技术化，迫使我们不得不开启“人成之为人”的第二个过程。在这一过程中，我们需要将发展理念从重视物质文明建设拓展到重视精神文明建设，需要在人与自然的关系中进行第三次转型，即人类在掌握了自然规律之后，重新回归到尊重自然的发展理念，重塑人与自然的和谐共生关系，重塑新的发展伦理，把对人的“自然性”与“技术性”的关系以及对“人是什么”等哲学问题的思考，与对未来技术与文明的发展趋向联系起来进行，打破传统的二分观念，从人文主义的视域出发，重塑新的概念框架，这是科学—技术—社会高度纠缠发展所提出的对人性的第二次启蒙，也是最深刻的启蒙。

社会的数字化转型、智能化发展和技术会聚不仅对人的在场、友谊、责任心、能动性、义务与权利等概念提出挑战，而且对诸如自由、平等、道德以及目的等与人的生存境况相关的概念提出了挑战。个体的自我既是自由的，又是社会的，更是人类的，自由不是在理想中和真空中产生的，而是在具有可供性和约束力的空间或世界中产生的，或者说，个体的自我和自由，与他者的自我、技术、人造物和自然界的其余部分密切相关。我们到了需要设计未来，而不只是预期或预测未来的时候了。面对科学—技术—社会的高度纠缠，我们需要站在人类命运共同体的立场上来系统地回答，在智能化时代，“人成之为人”的内在本质是什么？人的自由或平等意味着什么？除非我们能够提出新的伦理概念和伦理框架，否则，我们的世界将没有未来。我们如何为真正维护人性和保卫人的自然权利等，来引导技术发展和制定管理政策，可能是对未来社会的最大挑战。

转自：“中国学派”微信公众号

如有侵权，请联系本站删除！