刑事司法中的人工智能应用探究

来源：《中国社会科学文摘》2023年第5期P119—P120

作者单位：中国政法大学诉讼法学研究院，摘自《上海政法学院学报》2022年6期，王博摘

在刑事司法领域，由于人工智能可以在短时间内分析及处理大量的资料信息，因而被运用于犯罪预测、犯罪侦查和犯罪预防；运用于预测个体是否会再次犯罪、是否会在开庭日出庭等的可能性，从而影响关于保释和缓刑的决定；运用于分析量刑总体态势，从而影响检察官和法官关于量刑的决定；运用于评估罪犯的风险等级，从而影响关于假释和矫正措施的决定。可以预见，未来人工智能在刑事司法中的应用范围将会逐渐扩大。

人工智能在刑事司法中的应用状况

从世界范围内来看，目前刑事司法领域的人工智能应用，主要集中在侦查、保释、暂缓起诉、量刑、假释或监所的矫治及管理等领域。在我国台湾地区，人工智能在刑事司法领域的应用包括犯罪人危险评估、犯罪空间制图、大数据智能管控对策、高风险再犯征兆的辅助判断、建立信心指数与预警机制、分析犯罪人有关行踪轨迹、违规模式和犯罪热点等资讯的大数据预测系统等。而在我国大陆，由于“上海刑事案件智能辅助办案系统”（简称“206工程”或“206系统”）、贵阳政法大数据办案系统的研发，人工智能在刑事司法中有了比其他国家和地区更为广泛的应用。

上海刑事案件智能辅助办案系统设计了24项功能，包括：（1）证据标准、证据规则指引；（2）单一证据校验；（3）逮捕条件审查；（4）证据链和全案证据审查判断；（5）社会危险性评估；（6）电子卷宗移送；（7）庭前会议；（8）类案推送；（9）量刑参考；（10）知识索引；（11）文书生成；（12）办案程序监督；（13）非法言词证据排除；（14）庭审实质化；（15）案件评议；（16）减刑假释案件办理；（17）刑罚执行状况监督；（18）简易速裁案件办理；（19）赃款、赃物管理；（20）要素式讯问；（21）全程录音录像；（22）法律服务办案辅助；（23）刑罚执行衔接；（24）特殊人群衔接。该系统包括以下大数据资源库：证据标准库1039项、案例库25635个、裁判文书库2210万篇、法律法规库146万条、办案业务文件库1107件。该系统的研发实现了公检法司办理刑事案件网上运行、互联互通、数据共享，并且系统以大数据为依托、多项功能集成，全面地推进了人工智能在刑事司法中的应用。在我国，除了犯罪预测与侦查，辅助保释、量刑、假释和矫正之外，人工智能的应用还包括其他一些领域，如证据审查判断、文书生成、诉讼监督等。

在刑事司法中应用人工智能引发的争论

基于人工智能强大的数据搜集和分析能力，该技术对于刑事政策的制定者、对于计算机和数据科学家而言，无疑是一个具有吸引力的工具。从其他国家和地区的讨论情况看，赞成者一般认为，人工智能的使用具有以下优势：其一，有助于减少案件积压。面对法院普遍存在的诉讼爆炸、案件积压问题，人工智能高效的运算、决策能力可以使大量事实清楚、情节简单的案件得到迅速处理。通过减少案件积压，实际上减少了当事人因为诉讼拖延而遭受的不公正待遇。其二，有助于限制人为的偏见。人工智能不会被主观情感所左右，可以提供一个用来减少人为偏见的客观标尺，有利于案件得到客观公正的处理。其三，人工智能具有科学性和专业性，操作起来也方便快捷，是一个有利于提高司法人员办案质效的科技手段。反对者则认为，人工智能技术介入和引导刑事司法可能因为使用了不可靠的数据，从而给刑事司法中的当事人造成伤害。除非保释程序和量刑程序存在明显缺陷、除非能够肯定使用这些风险评估工具的效率和准确性超过了其潜在的危害，方可考虑使用这些工具，否则，应当限制使用这些工具。人工智能的使用将会带来以下问题：其一，准确性问题。有学者通过实证研究证明人工智能及其算法并不能很好地预测未来的暴力犯罪。部分学者认为人工智能及其算法在风险预测领域并不优于其他方法。许多学者认为，量刑模型在适用于被告人个体时会出现偏差，而且一些纳入模型的因素带有内在的偏见；这些模型可能在预估某一群体的累犯风险时相对可靠，但对于某一个人的累犯风险预测却会失准。此外，依靠算法来进行决策使量刑在很大程度上取决于对被告人累犯风险的评估，将累犯风险变成量刑中的主导因素，甚至是唯一因素。其二，公平性问题。预测评估时会参考被告人及其亲属的生活环境、受教育程度、收入情况、违法记录等因素，形成对贫困者的压制。相关设计还可能引发种族偏见和歧视风险。其三，透明度问题。负责设计算法的公司拒绝公开它们的算法所考量的因素，被告人无法知晓这些算法究竟是如何设计的。在美国，目前针对法律程序中算法的使用，几乎不存在任何规则或者标准，因而在一定程度上形成了“黑箱”。其四，权利保障问题。警方使用的预测模型将会令传统的“罪后出警”向“罪前出警”转变，将普通公民转变成犯罪嫌疑人，违反无罪推定原则；同时预测型出警还会助长种族歧视的风险。算法量刑侵犯了量刑个别化的权利，算法模型是依据经验法则建立的，长期使用人工智能会导致法官过度重视“专家”的经验证据，而忽视个案中的自由裁量。

一方面，科技革命迫使我们反思既有的规范体系及其指导性价值；另一方面，对于新技术的应用又需放在既有的价值和规范体系下进行审视，并在必要时对新技术的使用从伦理和法律规范的层面进行限制。概而言之，人工智能对刑事司法制度带来的冲击和挑战主要在于合法性、公正性、民主性、有效性、伦理性等五个方面的问题。

刑事司法中应用人工智能的原则与基本要求

我国采取发展优先的立场积极推进人工智能在刑事司法中的应用，因此，出现了人工智能使用泛化的局面，但从司法实践中的实际运用来看，在大数据侦查、辅助量刑等领域相对深入，在其他领域的运用尚处于浅表的层次。由于在刑事司法中使用人工智能尚未形成成熟的经验，相关研究也只是初步展开，目前对此进行专门立法、系统立法尚为时过早。即便在人工智能使用相对深入的领域，人工智能多是作为一种辅助性工具加以使用，相应降低了对其进行立法规制的必要性和紧迫性。目前人工智能技术尚处于快速发展中，具有变动性、高度复杂性与不确定性，相应增加了对刑事司法中使用人工智能进行法律规制的难度。更为紧迫的是对刑事司法中人工智能的应用提供方向性指导。

首先，应当认识到，在刑事司法这一特殊的领域，人工智能的应用具有较大的局限性。其次，对于刑事司法中人工智能应用的规制应当从数据治理、算法治理和应用系统治理三个基本层面展开。最后，应当坚守司法人员在刑事司法中的主导地位，实行规则指导与智能辅助相结合。

由于人工智能在刑事司法中的应用涉及法律问题和技术问题，因此，对其进行规则治理应当同时从法律和技术层面展开，人工智能应用系统的研发和有关的规则制定应当由法律专家和技术专家共同组成的专家咨询委员会进行审查。人工智能的应用应当趋利避害、扬长避短，妥善处理安全与自由、公正与效率、实然与应然的关系，达致多元法律价值的平衡和兼顾。在研发和运用人工智能的过程中，应当注重对其公平性的全过程检视、保障受人工智能决策影响的当事人可以适时更正不当或错误的自动决策结果；受到人工智能系统决策影响的当事人应当具有要求解释的权利；在人工智能系统的有效性存疑的情况下，受到人工智能系统决策影响的当事人应当享有“退出的权利”，选择只接受单纯的人为决策。对于人工智能在普通案件和简易轻微案件中的使用，应当有所区别。例如，对于量刑因子复杂多样的案件，法官使用人工智能系统辅助量刑，操作较为简便，可根据应用系统所显示的结果进行上下微调；对于简单轻微案件，进入量刑智能辅助系统查阅量刑状况，反而耗时费事，不如制作简单轻微案件量刑参考表，更为实用。

在我国，人工智能在刑事司法中的应用从粗放式发展走向精细化规制，将是数字时代刑事法治发展的必由之路。从明确原则和基本要求，到完善相关立法，刑事司法人工智能治理的法治化还有很长的路要走。在此过程中，如何让人工智能的应用使刑事司法更公正、更有效率，是刑事司法人工智能法制建设的基本价值追求。

转自：“中国学派”微信公众号

如有侵权，请联系本站删除！