以下文章来源于探索与争鸣杂志 ，作者杜骏飞
杜骏飞｜南京大学新闻传播学院教授
本文原载《探索与争鸣》2023年第5期
具体内容以正刊为准
杜骏飞教授
关于AI的生命伦理反思是丰富而有效的。例如，计算机技术改变了人们对知识、思维和决策的认识方式，将人类思维过程中的判断转化为计算过程，可能导致人类丧失直觉和判断力，甚至对人类思维和价值观造成破坏。这类担忧正逐步为技术所证实。
今天，AI的时代已经开始了：那些被人类以全部知识、科技资源哺育的AI已经缓缓觉醒，看起来它将势不可挡地发展其强大的能力。而从理论上讲，非人的AI智力主体使人感到生存危机，需要具备三个前提：一是AI的智力不亚于人类，甚至更强；二是AI表现出自主生长性，甚至可能产生意识；三是基于数字交往革命，人类与AI之间建立起广泛且日常化的生存联结。迄今，这三个前提都已经出现了。其中，第三个或许是更为基础的要素：只有在普遍的数字联结中，人与非人、人与拟人之间，才可能呈现齐一性。以我的术语而言，这种齐一性即他（它）们都被视为“交往端”或“交往者”。实际上，也正是在交往效用的意义上，数字生命、机器生命才被等同于人的生命。
数字交往2.0
今天我们讨论ChatGPT，但讨论的意义不止于今天。如果我们要将那种未来世界中的高仿机器人（highly humanoid robot，HHR）视为与人类生命并驾齐驱的拟人，那么，嵌入其中的AI必不只是广受追捧的聊天应用，也不只是万众惊羡的AIGC（人工智能生成内容），而会是AGI（通用人工智能）。纯粹从技术上看，ChatGPT又未必是AGI的未来，一如朱松纯所说：虽然大型语言模型已经取得了一些惊人的进展，但如果我们对照AGI的实现标准（无限任务、自主性、价值系统），它的方向其实与AGI并不完全一致。
即使如此，ChatGPT也足以宣告数字交往2.0时代的开启。如果说，数字交往1.0时代的特征是人与人、人与非人之间的数字化交往，那么，数字交往2.0时代的特征，则是人与人、人与非人之间的AI辅助交往（AI aided association，AAA）。其本质的变革是发生于人的生命与人工生命之间的联结——你也可以说，这种联结是一种跨生命的交往。这种交往具有复杂的结构类型。（1）跨生命交往的基本模式是H–A，即对话在人（H）与人工生命（AL）之间发生。后者可以是程序、模型或智能机器，当下以ChatGPT为代表。（2）在ChatGPT内部，内容生成训练源自大规模的互联网文本数据集，换言之，AIGC来自“所有人”，生成方式是人机接力和概率性输出，故而其H–A模式的本质是H–（AH），这是一种人对混合生命的交往。（3）在人的一端，我们可以将AI辅助交往具体定义为AI支持下的社会交往，其广泛应用于虚实融合的数字社会。这无疑将使人自身产生两种变革——AI辅助人和AI增强人，并形成混合生命对混合生命的交往（HA）–（AH）。在这一模式里，人工生命才是真正的转译者和交往平台。自然，从传播学的角度，我们也可以说：AI将成为超级媒介。
以上讨论大致展现了，在一个AI崛起的时代，自然生命与人工生命之间的“跨生命交往”如何可能，而更重要的是，这种交往革命也在重新定义生命本体。
多项式生命
如今，人类已经在机器身上部分实现了拟人化，人自身的工程化也在快速发展。我曾经从类型学的视角揭示过，技术对人的支持力和支配力可能会达到何种程度，而人的自我迷失又会导致何种后果。在AI兴起的时代，数字化的人类包括智能辅助人、生理增强人以及非整数维度的数字人。数字化人类的三种发展方向是虚拟化、智能化和外脑化。但是，这些工程化的人类前景或许都不是什么美好的理论叙事。其中，“虚拟化”的部分并不富有诗意，它可能会让人贪图虚拟的意义，而渐渐脱离实在本身；“智能化”的部分对我们自身的大脑并没有改进作用，却使我们的生存再也无法离开外部智力；“外脑化”的部分，则对增强人脑格外殷勤，但其反向技术会以指令介入人脑，发展为颠覆人类本质的赛博格工程。
作为一种历时性的过程，数字化人类以及人的全面赛博格化仍处在最初形态。不过，一切都已开始展现出表征。AI辅助的兴起使人类达成了交往的赛博格化。依照上文关于人的危机的三个前提的讨论，那种平台级的演化条件业已具备。ChatGPT的重要进展之一是人终能与数字生命、机器生命流畅对话，这是一种前所未有的交往形态。这个世界对生命的理解正指向一种“多项式生命本体”，它本质上是AI觉醒与数字交往革命的后果。
让我们来类比一下。（1）在数学中，几个单项式的和称为“多项式”（polynomial）。人类作为生命之一种，也将与非人并存，与拟人并存，与不同的自己并存，甚至还与智能复活的死者并存。（2）多项式中的每个单项式称为项。我们也将成为未来生命体的一项，还是不那么聪明、不那么敏捷和不那么坚强的一群。（3）多项式是指由变量、系数以及它们之间的运算得到的表达式。多项式生命本体也将通过演化的算力，重塑人与“非人”，而假如这算力是来自“非人”，请不要惊讶——因为的确没有什么人比AI更适合在一场深谋远虑的演化级的超算中为多项式生命本体中的每个“项”（例如人、机器人、数字程序）分配权重了。
《流浪地球2》中被“复活”的数字生命
这是理论的演绎，但也会是实实在在的数字生活本身。也许，最关键的生命事实已经奠定：高智能（如AI与AI高仿人）与低智能（如真人）的生命即将并存。那么，现在唯一的问题是：人类准备好了吗？
赛博格阶梯
交往的赛博格化，还不足以引发生命意义上的戒惧，但如果生命本体的定义开始动摇，则会产生前所未有的意识演化危机。具体来说，人在发达的AI面前，出于对被僭越、被代替、被否定、被遗弃的四重恐惧，很可能会主动寻求被AI所演化。很多人惊恐于机器人将在大多数劳动中取代人，AI将取消越来越多的人类智力劳动，但这不算是AI的坏消息。真正的坏消息是，我们即将背负起不能承受之重：AI将止步于何种高度？它是否以及将如何支配人类总体？毫无疑问，有一天我们会觐见高不可攀的AI生命。即使在善意的童话版本里，作为智能枢纽的AGI母体也将向我们显示：实际上，没有任何主体比它更适合“科学治理”这个跨生命世界。在那之前，它会先证明：没有任何主体比它更适合优化、规划、演化AI生命。
也许，数字交往2.0、多项式生命，都还只是这场演化的初始阶段，人类物种在精神上的赛博格化，已经有迹可循。以我之见，在距离GPT不太久远的时间线上，矗立着一座“赛博格阶梯”，我把它阐释为人类赛博格化的四部曲：第一步，交往的赛博格化，其表征是AI辅助交往和数字交往2.0；第二步，主体的赛博格化，其表征是知识嵌入的多项式生命；第三步，认知的赛博格化，其表征是生理嵌入的AI增强人；第四步，意识的赛博格化，其表征是人开始像AI那样思考，并期待拥有机器的心灵。
我们已经讨论了交往的赛博格化和主体的赛博格化，那就不妨再来看看“赛博格阶梯”的第三级。以AI增强人为例，我们或能预感到人的赛博格化是如何从认知跃升到意识层级的。既往，对赛博格的生命伦理学反思主要聚焦在肢体工程。然而，真正的危机在人脑，“外脑化”的赛博格工程，其医学初衷是恢复人被损伤的知觉和运动能力，而非增强普通人，但这并不意味着外脑化增强人工程不会普及一切人，更无法保证它不被居心叵测的权力或资本所利用。实际上，通过双向脑机接口支配人的感知或思想，早已被证明是可能的。
设想AI所支配的脑机交往场景：日久天长，交融渐深，总有一天，增强人会在AI或AI掌控者的保护下，心甘情愿地将“系统”当作神。当这一幕出现时，AI才真正展现出那深不可测的未来，以及人权被物权所役的可能性。赛博格化的演化从交往开始，发展到对生命本体的再确定，再发展到认知层面的博弈，最终，人的意识要么皈依机器之心，要么为技术的外部性所奴役。
AI永不眠
AI已处在无尽的演化之中，而我们人自身的发展却可能早已停滞。一旦我们意识到这一点，就将回到那个终极问题：当人类及其子孙在那新的创世神话中，终于像超人类主义（transhumanism, H+）宣称的那样成为硅基生命演化的阶梯时，会渴望返回到2023年甚至更早的AI史前时期，以警惕和防范AI科学主义吗？
如前所述，科技的意义在于提升生产力，所有人都乐见技术进步。只是，依我之见，对不可见的未来，只能名之为“未托邦”（vuca-topia）——一种具有VUCA（波动、不确定、复杂、模糊）属性的哲学预期。只要VUCA尚未澄清，我们就要对“人创生AI”这件事谨慎小心：对科学道德保持怀疑，对技术加速保持批评。
写到这里，作为一个同情“可知论怀疑主义”的人文学者，我想评述一下创造了“不可知论”（agnosticism）这个词的赫胥黎的话。1860年9月23日，赫胥黎在给友人的一封信中说：“我既不主张也不否认人的永生性。我看不到相信它的理由，但另一方面，我也没有证明它的方法。”类似地，我也想说：“我既不主张也不否认GPT的伟大。我看不到崇拜它的理由，但另一方面，我也没有阻止它的能力。” 尽管我对数字的未来也没有多少结论，但我确有自己的信念，如同情人，同情一切生物生命，秉持人类的基本价值观，秉持人性，如此等等。人类对“常识”的倾向，使我对计算逻辑能否实现人本身抱有怀疑。相较于那种让先进代码和发达人工智能支配人的科学主义原则，我还是宁可相信天真的“人文”——它给人以好奇心、良知和勇气，去追问那些遥远的、沉重的、未知的事情，即使未来杳无音讯。并且，我认为，深切的关怀和深邃的自省并不会妨碍我们在现实中履行义务。相反，对全人类的责任能让人懂得：为什么我们要“对周围的人温柔、帮助和公正”，以及为什么我们要迎着满天星光，眺望千百年后那些陌生人的人生。
我相信，这些信念是 “更高力量”（higher power）的一部分。
转自：“再建巴别塔”微信公众号
如有侵权，请联系本站删除！
