来源：《中国社会科学文摘》2023年第10期P15—P16
作者单位：清华大学信息国家研究中心，摘自《自然辩证法通讯》2023年7期，崔晋摘
脑机接口是指不依赖常规的脊髓与外周神经、肌肉系统相互作用，而在脑与外部环境之间建立一种新型的信息交流与控制通道，通过脑信号测量隐性心理活动以实现脑与外部设备之间的直接交互，如脑控轮椅。而脑机融合系统是一种基于脑机接口技术，综合利用生物智能和机器智能的新型智能融合系统。包含“脑—机”“机—脑”“脑—脑”多种信号传输模式，脑机融合的过程需要大脑与机器两者相互适应、协同工作，结合生物脑的感知、认知能力与机器脑的计算能力，使生物脑和机器脑在信息感知、信息处理、决策判断，甚至记忆、意图多个层次相互配合，实现人—机—物的共生系统。
在脑机融合的过程中，会产生脑机双向自适应现象，其是指中枢神经系统和脑机接口系统在交互作用过程中将自动产生相互适应性调节，以提高输出正确率。脑机交互自治是指在脑机交互过程中，“脑”与“机”由于各自的能动性和两者间的交互性形成了共治主体，共同决定人类在脑机融合过程中是否仍旧能够维持自主性。脑机双向自适应系统型构了新型人机融合决策控制机理，其中机器智能基于人工智能技术得以发挥。不同类型的脑机接口使其具有不同的自动化决策能力，在脑机双向自适应系统中，将可能对人脑自主决策能力产生一定影响。因此，脑机融合是否能够进入临床应用乃至消费服务领域，首先取决于脑机接口技术对人类自主性是否构成威胁。
“自主性”在社会、文化和政治意义上有多种诠释侧面，既包括个体的能力属性，也包含群体的关系属性，既涉及抽象原则又根植于具体经验。在脑机接口等技术快速发展推动人机融合的今天，脑机接口对人的侵入和耦合对人类自主性产生的影响是情景化的、交互性的和经验性的，需要从情景化背景考察脑机接口对人类自主性影响的侵入条件和刺激条件，从交互性、关系性扩容自主性的内涵与边界，甚至在自主性的伦理价值方面，比抽象原则更为重要的，是使用者的实际自主性体验。
一般认为，自主性的达成往往需要具备三个条件：具备连贯有意识的自我；具备选择的自由，全面真实地了解情景信息和行为后果，不受到外在因素强迫干预；具备理性控制自身行为的能力。然而脑机接口成为了人与外部世界的交互中介，使人在这一新型的交互自治关系下产生自我异化、决策不知情、伪自主决策等自治漏洞，将对人类自主性构成潜在威胁。生物医学伦理学20世纪70年代起源于美国，作为规范伦理学代表的博尚和柴尔德利斯共同撰写了《生物医学伦理学原则》，倡导尊重患者的自主决定权。其需要满足三个前提：（1）患者的决定是自愿的；（2）医患签署了有效的知情同意书；（3）患者必须具备决策能力。如今侵入式脑机接口在临床领域的快速发展使尊重患者自主决定权的伦理内涵需要扩容以下三个问题：（1）脑机融合智能由于干预了人类的神经基础，是否可能侵犯人的自由意志，甚至使其受困于机器智能的自动化决策；（2）脑机融合是否影响了人类自主决策的真实性；（3）脑机融合是否因干预人类的行为和精神独立性而影响其控制能力。
针对脑机融合智能是否侵犯人的自由意志问题，我们可以从脑机接口侵入与刺激人脑的神经影响、脑机接口设备自身的自动化决策机制以及脑机融合过程中人类中枢神经系统对脑机接口的双向适应三个方面，考察脑机接口对人类自主决策的影响。
在脑机融合系统中，人类主体与具有一定自动化决策能力的脑机接口能动主体共同构成了新型的交互自治主体。在人机交互过程中，人类自主与否部分取决于其交互自治过程中人类自主性体验的真实性，即用户在脑机接口介导下采取行动，其作为行为主体的主事感是否是真实可依的。主事感的真实性是个体自治的首要条件。脑机接口系统对用户思维和行动之间的介导，将会如何影响用户作为自身行为主体的主事感和主控判断，将直接影响用户的自主性体验。可以从脑机交互下的施事感失真、主事迷惑与自主难断、控制错觉与虚假自主等方面进行考察。
自我控制能力是在脑机接口介导下的新型交互主体是否仍具有自主性的重要判断标准。人类自主性的要素可分为精神独立和行为自控两个核心要素。如果脑机接口设备在人类决策的思想和行为中发挥了因果性作用，且无法控制或识别，则将会对人类自主性产生负面影响。格莱农曾提出，自主性不仅仅是行动能力，还包含促成行为的有意识和无意识的心理状态的独立性和主导性。弗里德里希将脑机接口系统对人类自主性的干预和影响因素分为：（1）利用信息和知识产生原因的能力；（2）有效控制执行的能力；（3）在具体的关系和背景下制定意图的能力。基于弗里德里希的分析要素，可以进一步将脑机接口系统对于个体自主性能力的影响，分解为精神独立性和行为能力要素进行分析。具体可分为干预交互自治行为的知情前提、影响交互自治行为的控制执行能力、影响交互自治行为的意图制定等方面。
目前全球仍处于脑机接口技术监管机制的初步构建期，经过五十余年的发展，脑机接口正在逐步走向成熟，但作为一项新兴技术，其临床应用和产品上市仍面临较大的监管挑战，尤其是侵入式脑机接口和具有神经调控功能的脑机接口对人类自治将产生何种潜在、长期影响，仍缺乏实证研究。在全球大多数司法管辖区脑机接口被归类为医疗器械，要求设立更严格的、兼具安全性和有效性的监管框架，即针对器械建立上市前的审批程序与上市后的监督机制，并对不符合要求的器械进口设置障碍。因此，建立针对脑机接口的监管机制，将有效促进其技术成熟度的提升和产品安全性、有效性的提升。
1．强化侵入式和具有神经调控功能的脑机接口监管。美国食品药品监督管理局2021年发布《用于瘫痪或截肢患者的植入式脑机接口（BCI）设备非临床测试和临床注意事项，工业和食品药品监督管理局工作人员指南》，强调在临床试验方面脑机接口设备的家用性和可用性、风险收益和知情同意等要素。中国国家药品监督管理局目前已面向可能对人类自主性存在干预作用的侵入式和脑神经调控类脑机接口进行了高级别监管。相关医疗器械监管依据脑机接口设备的风险程度划分为Ⅱ类和Ⅲ类，针对侵入式脑机接口和脑神经调控类脑机接口进行了更为严格的监管限制。
2．重视脑机自动化决策的潜在影响。脑机融合的核心威胁是在新型的脑机交互过程中人类能否保持自主性，在人机协同决策中享有主导权。自动化决策替代人类决策和人机决策冲突问题如发生在脑机接口应用领域，则可能造成严重后果，需要前置性考察其伦理影响和规制机制。欧盟于1995年发布的《数据保护指令》和2018年欧盟生效的《一般数据保护条例》以保障人类自治为原则，赋予了数据主体“不受自动化决策”影响和获得人为决策的自由，并且设置了核查、纠正自动化决策的管理体制机制。此外，由于脑机接口目前发展以科学研究和医疗应用为主，因此暂时归属于医疗器械监管。然而针对脑机接口的市场规则、消费者规则、数据治理和算法治理等内容，也应成为脑机接口监管体系的重要组成部分。如我国2019年颁布的《算法问责及透明度监管框架》和《算法问责法2019（草案）》已针对人工智能算法和自动化决策问题开展监管。人工智能是脑机接口解读脑信号的技术基础，因此针对脑机接口的人工智能算法问责可逐步作为独立方向开展研究、发展和监管。
脑机融合使脑机接口成为人类与世界交互的新型中介体，“脑”“机”协同组成的新型主体间关系构成的新型交互自治，不仅扩大了人类原先的自主范畴和控制能力，也对人类自主的真实性和控制能力构成了新型挑战，这一介导对于自主性的“双刃剑”作用，应该引起充分重视。未来脑机接口发展危机并存，需要前置化考察其可能带来的伦理道德和社会问题，通过伦理实证研究推进技术和产品的合伦理性工程化设计，分别面向侵入式和具有神经调控功能的脑机接口深化监管机制，对非侵入式脑机接口对大脑的长期潜在影响和脑机自动化决策的伦理影响进行长期随访和伦理考察，以发掘其对人类自主性的长远深刻影响。
转自：“中国学派”微信公众号
如有侵权，请联系本站删除！
