深度科技化时代的伦理回调之道

人类文明的演进是一个人与世界不断加深纠缠的过程，特别是在培根提出科学与技术可以相互结合为科技的改造力量之后，科技无远弗届地逐渐渗透到我们所生活的行星的每一个角落。进入21世纪以来，随着材料、信息、生命和认知等科技的发展，纳米、人工智能、基因编辑等颠覆性科技方兴未艾，带来了越来越多亟待应对的伦理挑战。为此，世界各国对基因科技、数据和人工智能等领域的伦理问题及其治理日益重视。目前，我国从国家层面提出了加强科技伦理治理的指导意见，明确了科技发展迈向高水平自立自强之路应该遵循的价值与伦理导向。

当前，人们对科技伦理的重视主要体现在加强认知和作出承诺等态度层面。近五年来，在人工智能棋手战胜人类棋手、违背伦理的基因编辑研究等重大事件的推动下，从科学研究到科技产业，从行业组织到各国政府与国际机构，推出了大量的科技伦理标准、规范和指南，提出了加强伦理审查、监管、研究、教育等制度建设框架。为了落实这些承诺，使科技伦理及其治理真正抓住问题的根本并产生实效，首先要对我们所身处的科技社会的特征有一个准确的把握。十多年前，当人脸识别技术还只是小规模计算机视觉实验研究时，人们就开始关注其可能导致的侵犯隐私和普遍监控等伦理、法律和政治问题。最近，数据保护和个人信息保护等相关法规对于以人脸识别为代表的生物特征识别中的隐私和敏感数据的获取与管理等作出了规范。但实际上，当前人脸识别技术的发展水平，已经能从数百万张人脸数据中学会解读微妙的情感暗示，甚至通过人脸识别发现人们之间是否具有基因关联或是否属于同一族群。这一案例说明，数字和生命科技越来越深入地改变着我们的生命结构、社会认知和干预工具，使得原有风险不断积累，新的挑战层出不穷，已认识到的问题将变得更为敏感，而伦理规范和法律法规的发展速度跟不上科技创新的加速度正在成为一种新常态。因此，必须引入一种全新的思考框架对其加以审视，让我们可以更具预见性地探究科技对人和社会未知的深远影响。

我们认为，为了洞察科技加速创新对人和世界的人工化改造及其所带来的系统全面与深刻微妙的影响，可以用“深度科技化”这一趋势性概念来概观我们所生活的科技社会和科技时代，以此增进我们对时代精神的理解与对时代命运的把握。从深度科技化时代这一整体性场域与时空概念出发，有助于我们在应对科技伦理挑战时克服将科技与伦理仅仅视为两种分立的系统的思维惯性——这种思维惯性往往是各种科技伦理风险无法得到及时预见和调节的肇因。对此，美国社会学家奥格本（W. F. Ogburn）曾经指出，文化在发生急剧变迁时，常常会发生非物质文化滞后于物质文化的“文化堕距”（culture lag，又译为“文化滞后”）现象。法国当代哲学家斯蒂格勒（Bernard Stiegler）将基于技术的“人化”（I’hominisation）视为人的“后种系生成” 或人造器官的外置化过程，并指出数字与自动化带来的技术突变导致了人类世熵的无限增加，这种突变产生的毒性让人们正沿着向下的“恶的螺旋”滑向系统愚化。

无论是奥格本对工业现代化后果的社会学描述，还是斯蒂格勒对人类世的技术哲学批判，所体现的都是针对技术社会系统的省察与反思，而这些研究共同揭示了卢曼（Niklas Luhmann）所指出的社会系统通过自我生产、自我参照和自律性得以运行与合理化的必要性。结合拉图尔的行动者网络理论以及其他后人类认知生态系统等方面的研究，可以看到，对科技的理解，不能仅仅停留在科学追求真理、技术是价值中立的工具、科技善恶在于人的运用之类科技与伦理脱钩的论点，而应将科技纳入技术社会系统之中，从系统意识与契约的维度确立科技的社会运作规则。

根据当代科学技术研究的基本理念，科技实现了由培根开启的技术化科学（technoscience）的转型，通过人、人工物（机器）和制度的纠缠而构建起日益复杂的技术社会系统，这是一个未完成、也是有待价值调节的进程。一方面，从早期的军事科技复合体到数字化时代的人机认知组合，技术社会系统呈现出丰富而繁复的多种形态，展示出无限的可能愿景。另一方面，若将技术视为斯蒂格勒意谓的后种系器官，技术突变相当于异体的器官移植，必然带来各种排异现象，需要作出必要的价值调节，如针对认知资本主义所导致的日益加深的废人化应予以解毒疗伤。

尽管科技的高歌猛进实质上是对这些浪漫主义思考的某种嘲讽，但面对深度科技化时代更为根本性的价值挑战，价值观的明晰化与伦理回调已经成为未来技术社会系统实现稳健发展的必然选择。在迄今所展开的科技伦理实践中，经常会遇到的情形是：大量伦理规范的制定仅仅被当作一种伦理承诺，伦理审查没有得到严肃对待，前沿伦理的预见性研究和伦理指引的发布等被视为科技创新的障碍。相较于探索研究与创新中的伦理风险研究，创新者更关心如何突破伦理规范。之所以出现这些“系统意识”，有两个重要的原因。一是在发现和创新中存在着信息与知识高度不对称的知识权力结构，由此难以产生科技与人文的实质性对话。二是研究和创新者往往只关心成果和收益，而不涉及其行为的负面影响与长期后果。但深度科技化时代所昭示的前景，表明技术社会系统不能不在一系列颠覆性的挑战面前重构其系统意识，构建起科技伦理的反射弧。

试想，在缺失严谨预见和必要规则的情况下，“可编辑完美婴儿的基因技术”以及“能识别政治倾向的人脸识别技术”的出现，无疑会在整个技术社会系统产生类似异体器官移植时的排异现象。这些问题不只是技术是否可行、是否完善和是否会对人造成不可逆的伤害等科技层面可以衡量的问题，更是关乎人的生命存在与尊严、整个社会的公平公正，以及社会权力如何正当行使等涉及未来社会伦理基础与权力来源及其合法性的问题。通过对这些问题的思考和质疑，促使科技从驾驭其无以复加的强大力量的必要性出发，真正将价值和伦理作为其发展的基础，实现伦理的回调——这既是技术的命运，也是人类文明发展到深度科技化时代的内生系统意识与演化需求所致。例如，将一项强大的技术用于干预人的行为时，应对实施者提出必要的追问：在这项技术的运用中，你拥有什么权力，你从哪里获得这些权力，你出于谁的利益在行使这些权力，你需要向谁负责，他人如何摆脱你造成的不良影响，等等。这些追问无疑有助于具体的伦理回调的开启。

面对这些前所未有的深刻挑战，技术社会系统如何构建一种伦理回调机制无疑是值得深入探讨的问题。其一，科技要以技术社会系统的稳健演进为目标，不再单纯追求成果和收益的“快科学”“加速创新”和“大工程”，开展在技术社会系统的系统意识引领下的更加稳健和具有社会可接受性的研究与创新。其二，科技的教育和传播要致力于从技术社会想象的维度提升人们的伦理意识，即引导人们从技术社会系统的维度思考和想象自己所希望的未来。可以说，伦理回调的前提是我们要打赢一场关于科技未来想象的战争。最后，科技伦理研究者本身也需要伦理回调，要克服因为社会重视伦理问题而有意无意地进行科技伦理炒作的不良倾向，应致力于对科学事实、技术细节和技术社会现实的综合探究，不断提升权衡事实与价值的论述能力和实践智慧。

（作者单位：中国社会科学院哲学研究所、中国社会科学院大学哲学院）

来源：《中国社会科学报》

转自：“中国学派”微信公众号

如有侵权，请联系本站删除！