5月27日，著名外交家、美国前国务卿亨利·基辛格迎来百岁诞辰。
在百岁生日前夕，基辛格接受了《经济学人》《华尔街日报》等媒体采访，《经济学人》的采访更是长达8个小时。百岁高龄之上，基辛格仍才思敏捷。他一如既往的加国际问题的讨论，并且还能给出令人佩服的预测。他也非常关注科技的发展，特别是人工智能的发展。
“我们生活在一个破坏性空前的世界中”，基辛格在采访中警告道。尽管原则上人类要介入机器学习的反馈循环，但人工智能还是可能成为全自动的、不可阻挡的武器。
今年，基辛格和谷歌前首席执行官埃里克·施密特、麻省理工学院苏世民学院院长丹尼尔·胡滕洛赫尔共同出版了一本新书《人工智能时代与人类未来》，基辛格对人工智能将会带来的变革表现出了深深的关切。在这本书里他提出“人工智能正试图改变人类认知过程，这是自印刷术发明以来从未经历过的震动。”
作者: [美] 亨利·基辛格 / [美] 埃里克·施密特 / [美] 丹尼尔·胡滕洛赫尔
出版社: 中信出版社
原作名: The Age of AI: And Our Human Future
译者: 胡利平 / 风君
出版年: 2023-5
页数: 320
定价: 88.00元
人工智能——第三种认识世界的方式
在一个机器越来越多地执行过去只有人类才能胜任的任务的时代，我们作为人类的身份又如何体现？人工智能将扩展我们对现实的了解。它将改变我们沟通、联系和共享信息的方式，也将改变我们发展的理论和部署的战略。当我们不再亲自探索和塑造现实，而是将人工智能作为我们感知和思想的辅助工具时，我们将如何看待自己以及我们在世界上的角色？
随着人工智能的崛起，对人类角色、人类愿望和人类成就的定义都将发生变化。在这个时代，人类的哪些品质值得颂扬？其指导原则是什么？
人们有两种认识世界的传统方式：信仰和理性；如今又添上了第三种——人工智能。这种转变将考验（在某些情况下还将改变）我们对这个世界以及我们人类在其中所处位置的核心假设。理性不仅革新了科学，也改变了我们的社会生活、艺术和信仰。在其浸染之下，封建等级制度瓦解了，而民主，即理性的人应该自治的理念崛起了。现在，人工智能将再次检验我们的自我认知所依据的原则到底是什么。
在一个人工智能可以评估我们生活中的诸般事物，预测接下来会发生什么，并决定该做什么的时代，即一个现实可以被预测、近似和模拟的时代，人类理性的角色将会改变。我们对个人和社会的目标感也会随之改变。在某些领域，人工智能可能会增强人类的理性。在其他领域，人工智能则可能会让人类产生一种置身事外的感觉。
对根据一种无法解释原理的计算而选择了不同的车道或路线的司机来说，对根据人工智能协助的审查而被延长或被拒绝信贷的借款人来说，对根据类似程序被决定是否获得面试机会的求职者来说，对在认真开始研究工作之前就被人工智能模型告知最可能答案的学者来说，这种体验可能会是高效的，但并不总是令人满意的。对习惯了独断专行、以自我为中心，并垄断了复杂智力活动的人类而言，人工智能将挑战其自我认知。
到目前为止，我们所设想的种种进步，说明人工智能正在以多种途径改变我们与世界的互动方式，从而改变我们看待自己和自己在世界中所扮演角色的方式。人工智能会进行预测，比如一个人是否处于乳腺癌早期；它会做出决定，比如在国际象棋对弈中该走哪步棋；它能突显和过滤信息，比如该看什么电影或持有什么投资；它还能生成类人风格的文本，从句子到段落，乃至整个文档。随着这种能力变得日趋复杂，它们将迅速成为大多数人眼中具有创造性或专业性的存在。人工智能能够做出某些预测或决定、生成某些材料的事实本身，并不表明它具有类似于人类的复杂性。但在许多情况下，这些结果可以与以前只有人类才能给出的结果相媲美，甚至更好。
借助与人类互补的现实感知，人工智能可能会成为对人类有用的同伴。在科学发现、创造性工作、软件开发和其他类似的领域中，有一个持不同视角的对话者会大有裨益。但这种合作的实现要求人类适应这样一个世界：在这个世界中，我们的理性并不是认识或驾驭现实的唯一方式，或许也不是最具广泛性的方式。这预示着，人类如今所经历的这场转变的意义比自活字印刷机问世近6 个世纪以来所发生的任何转变都更加重大。
最终，个人和社会将不得不决定，生活的哪些方面应该留给人类智能，哪些方面则应交由人工智能或人类与人工智能的合作。人类与人工智能的合作并不是一种对等关系。归根结底，人工智能既由人类构建，也由人类指挥。但随着我们逐渐习惯和依赖人工智能，对其加以限制可能会导致更高昂的成本、更困难的心理挑战，甚至更复杂的技术。我们的使命将是了解人工智能给人类经验带来的变化、它对人类身份的挑战，以及这些发展变化的哪些方面需要由其他的人类义务来加以调节或制衡。人类未来将如何呈现，这取决于人类在人工智能时代的角色界定。
人工智能加速科学发现
科学认识的发展往往涉及理论和实验之间的巨大差距以及大量的试错。
随着机器学习的进步，我们开始看到一种新的范式，在这种范式中，模型不是像传统的那样来自理论理解，而是来自基于实验结果得出结论的人工智能。这种方法需要的专业知识不同于开发理论模型或传统计算模型。它不仅需要对问题有深刻的理解，还需要知道哪些数据，以及数据的哪些表征，将有助于训练一个人工智能模型来解决问题。例如，在发现Halicin 的过程中，选择哪些化合物以及将这些化合物的哪些属性输入模型，既至关重要，又充满偶然。
机器学习对科学理解的重要性日益增加，这对我们看待自己的方式和我们在世界上所扮演的角色提出了另一个挑战。科学历来是人类的专业知识、直觉和洞察力的巅峰组合。在理论和实验的长期相互作用中，人类的聪明才智推动了科学探索的各个方面，但人工智能为科学探究、发现和理解增加了一种非人类的、与人类相异的世界概念。机器学习产生的结果正日益令人感到惊讶，这些结果也催生了新的理论模型和实验。正如国际象棋大师已经采纳了AlphaZero 那些出人意料的原创策略，并将其解释为一项可以提高自身对棋局理解的挑战一样，许多学科的科学家也开始这样做。在生物、化学和物理科学领域，一种混合伙伴关系正在形成，人工智能正在促成新的发现，那是一些人类虽未能亲自发现，却可以努力做出相应理解和解释的发现。
人工智能在生物和化学科学领域推动广泛发现的一个突出例子是AlphaFold 的开发，这一程序使用强化学习创建了强大的新蛋白质模型。蛋白质是复杂的大分子，在生物系统的组织、器官的结构与功能，以及生物过程的调节中起着核心作用。一个蛋白质分子是由数百个（或数千个）被称为氨基酸的小单位组成的，这些小单位彼此连接在一起形成长链。因为在蛋白质的形成过程中有20 种不同类型的氨基酸，所以一种常见的方法是将蛋白质视为一个包含数百个（或数千个）字符的序列，其中每个字符都来自一个由20 个字符组成的“字母表”。
虽然氨基酸序列对研究蛋白质非常有用，但其未能呈现这些蛋白质的一个关键方面：由氨基酸链形成的三维结构。我们可以把蛋白质想象成需要在三维空间中组合在一起的复杂形状，就像锁和钥匙一样，以产生特定的生物或化学结果，比如疾病的进展或治愈。在某些情况下，蛋白质的结构可以通过晶体学等艰苦的实验方法来测量。但在许多情况下，这种方法会扭曲或破坏蛋白质，使其结构无法测量。因此，从氨基酸序列中确定三维结构的能力至关重要。自20 世纪70 年代以来，这一挑战被称为“蛋白质折叠”。
在2016 年之前，学界在提高蛋白质折叠的准确性方面没有太多建树，直到一个名为AlphaFold 的新程序取得了重大进展。正如其名称所暗示的，AlphaFold 的灵感来自开发人员教AlphaZero 下棋时采用的方法。与AlphaZero 一样，AlphaFold 使用强化学习来模拟蛋白质，而不需要人类的专业知识，即之前的方法所依赖的已知蛋白质结构。AlphaFold 将蛋白质折叠的准确性从大约40% 提高了一倍多，达到约85%，这使得世界各地的生物学家和化学家能够重新审视他们以前无法回答的问题，并提出关于如何对抗人类、动物和植物中病原体的新问题。像AlphaFold 这样的进步若没有人工智能参与便不可想象。人工智能正在超越以往在测量和预测方面的限制，其结果是改变了科学家为治疗疾病、保护环境和解决其他基本挑战而获取相应知识的方式。
人工智能将引发教育革命
人工智能时代的到来将改变我们与他人，以及我们与自己的关系。正如今天的“数字原生代”和之前的几代人之间存在代沟一样，“人工智能原生代”和他们的前辈之间也会出现差异。
未来，孩子们可能在比Alexas和谷歌Homes更先进的人工智能助手的陪伴下长大，这个助手集保姆、导师、顾问、朋友等多种角色于一身。这样的助手几乎可以教孩子任何语言，也可以训练孩子学习任何科目，并根据每个学生的表现和学习风格来因材施教，使他们获得最佳的学习效果。当孩子感到无聊时，人工智能可以充当玩伴；当孩子的父母不在时，人工智能又可以成为监护者。随着由人工智能提供和量身定制的教育被引入，普通人的能力既会有所提高，也会面临挑战。
人类和人工智能之间的界限将会惊人地模糊。如果孩子在年幼之时就用到了数字助手，他们就会对此习以为常。同时，数字助手将与它们的主人一起成长发展，并随着他们的成熟，将他们的喜好和偏见逐渐内在化。数字助手的任务是通过个性化最大限度地提高人类同伴的便利感或满足感，它们给出的建议和信息可能会被人类用户视为必不可少，即使人类用户无法准确解释为什么它们要好于其他任何替代资源。
长此以往，人们可能会更偏爱自己的数字助手，而不是人类。因为人类不懂得投其所好，而且更“令人讨厌”。结果，我们对彼此的依赖、对人际关系的依赖，可能都会被削弱。到那时，那些童年时代妙不可言的特质和无可替代的教训将变成什么样子呢？一种并不能感知或体验人类情感却给予无处不在陪伴的机器，将如何影响孩子对世界的感知及其社会化？它将如何塑造想象力？它将如何改变游戏的本质？它将如何改变交友或融入社会的过程？
可以这么说，数字信息的唾手可得已经改变了一代人的教育和文化体验。现在，世界正在开展另一项“伟大实验”，在这个实验中，孩子们将在机器的陪伴下成长，这些机器将在许多方面充当以前世代人类教师那样的角色，却没有人类的感觉、洞察力和情感。最终，实验参与者可能会问，他们的经历是否以他们未曾预料或不能接受的方式被改变了呢？
父母也许会因为担心这种接触会对孩子产生不确定的影响而排斥这种技术。就像上一代的父母限制孩子看电视的时间，现在的父母限制孩子使用数码设备的时间一样，未来的父母可能会限制人工智能陪伴孩子的时间。但那些希望推动孩子取得成功的人，或者没有意愿或能力让孩子得到人类父母养育或人类导师教导而只能依赖人工智能的人，或者只是想满足孩子结交人工智能朋友愿望的人，可能会赞成让孩子与人工智能为伴。因此，这些尚处在学习与发展阶段、易受影响的孩子，可能通过与人工智能的对话形成他们对世界的印象。
具有讽刺意味的是，尽管数字化让越来越多的信息变得可用，但它却压缩了深入、专注思考所需的空间。今天几乎持续不断的媒体流增加了思考的成本，从而减少了思考的频率。算法为了回应人类对刺激的渴望而力推那些夺人眼球的事物，而能够夺人眼球的，往往也是戏剧性的、出人意料的和有感染力的。一个人能否在这种环境中找到思考的空间是一个问题，而如今占主导地位的交流形式不利于促进有节制的理性，这是另一个问题。
人类的全新未来
随着人工智能的普及，一些人可能认为，人类比以往任何时候都更有能力认识和组织周遭的环境。另一些人则可能宣称，我们并没有自己想象的那么无所不能。这种对我们自身和我们所处现实的重新定义，将改变关于我们的基本假设，并让社会、经济和政治布局也随之改变。
传统的理性和信仰将在人工智能时代继续存在，但其性质和范围必将因为引入一种新的、强有力的、机器运作的逻辑形式而受到深刻影响。人类身份可能会继续停留在“生命智能”的顶峰，但人类理性将不再被视为致力于理解现实的智能的全部。为了厘清我们在这个世界上的地位，我们的侧重点可能需要从“以人类理性为中心”转移到“以人类尊严和自主性为中心”。
人工智能可能在探索和管理现实世界和数字世界方面发挥主导作用。
在特定领域，人类可能会对人工智能言听计从，更喜欢人工智能的数据处理过程，而非人类思维的局限性。这种遵从，可能使许多人甚至大多数人退回到一个个人的、过滤的、定制的世界。在这种情境下，人工智能的力量加上它的普遍性、隐蔽性和不透明性，将引发人们对自由社会甚至自由意志前景的怀疑。
在许多领域，人工智能和人类将成为探索事业中的平等伙伴。因此，人类的身份将反映出与新关系的和解，无论是与人工智能还是与现实。不同的社会将为人类领导权开辟不同的领域。同时，它们将形成必要的社会结构和习惯，以理解人工智能并与其有效互动。为了与人工智能融洽相处，社会需要建立相应知识和心理基础设施，并运用其独特才智，尽可能地造福人类。技术将迫使政治和社会生活的许多方面（实际上是大多数方面）做出调整。
一些社会和制度可能会逐步适应，然而，另一些却可能会发现，它们的基本假设与它们感知现实和自身的方式相冲突。由于人工智能促进了教育和信息获取，同时也增加了信息被夸大和操纵的可能性，这些冲突可能会愈演愈烈。个人的消息会更灵通、准备会更充分、观点会有更大影响力，他们可能据此对政府提出更多要求。
对此，可以给出一些原则。首先，为了确保人类的自主权，政府的核心决策应该脱离已被人工智能浸染的结构，并仅限于人类的管理和监督。我们社会固有的原则规定了对争端的和平解决。在这个过程中，秩序与正当性是互为关联的：没有正当性的秩序只是力量而已。
确保人类对政府基本构成部分的监督和决定性参与，对于维持其正当性至关重要。例如，在司法行政过程中，提供解释和道德推理是其正当性的关键要素，这使参与者能够评估裁决的公平性，并在其结论不符合社会所坚持的道德原则时对其提出疑问。由此可见，在人工智能时代，当涉及重大问题时，决策者都应该是具备相应资质、能够为所做选择给出理由的非匿名人类。
人工智能革命发生之迅猛，将超过大多数人的预期。除非我们发展出新的概念来解释、演绎和组织其所带来的转变，否则无论是对人工智能还是对其所产生的影响，我们都无法驾驭。在道德上、哲学上、心理上、实践上，可以说在各个方面，我们均发现自己正处于一个新时代的悬崖边，身后已无路可退。我们必须动用自己最根本的素养和资源，比如理性、信仰、传统和技术，来调整我们与现实的关系，从而让现实仍是人类的现实。
转自：“书斋里外”微信公众号
如有侵权，请联系本站删除！
