第二期：“75号咖啡”将以“数字时代的司法观”为主题

法律沙龙

编者注

随着网络化、数字化、智能化的快速融合发展，人类正逐步进入信息社会时代和数字化时代。党的十九届五中全会强调，要坚定不移建设数字中国。全面推进社会数字化转型是一项系统工程，司法部门在其中发挥着关键作用灵魂机器的时代:当计算机超过人类智能时，肩负着重要使命，但也面临着一系列问题和挑战。如何在数字时代重塑司法理念，如何实现工作方式和办案方式的全面转变，如何让司法充分赋能国家治理和社会发展，都值得我们理性审视和反思。深入思考。

“咖啡75”将以“数字时代的司法观”为主题，以“大咖来访”和“法律沙龙”两种形式，对司法人工智能和大数据治理进行深入探讨。

第二期，我们带来了中国人民大学教授、博士生导师陈卫东在上海检察院举办的“法律人工智能技术、理论与应用”讲座的实录。

本期目录

一、司法情报建设必须正视技术的复杂性和阶段性

二、司法人工智能产品开发中的理论边界问题

三、人工智能在辅助量刑中的应用

中国人民大学教授、博士生导师陈卫东

大家好，非常感谢上海市检察院的邀请。今天，我将通过视频与大家分享法律人工智能和检察理论的创新。

信息技术和信息产业蓬勃发展，成为全球产业转型的重要引擎，“无人经济”发展迅速。当代社会，以信息化、数字化为技术起点和功能载体的人工智能为社会建设带来新机遇，应用领域不断拓展。依托人工智能的技术支撑灵魂机器的时代:当计算机超过人类智能时，人工智能在诸多领域的专用应用已经呈现成熟趋势。正是因为人工智能时代的领先价值，世界“

科技在刑事司法中的应用源远流长，在大数据、人工智能等新兴信息技术的助推下，掀起了更大的司法科技浪潮，人工智能技术与刑事司法业务快速融合，一个用于司法工作的人工智能法律系统诞生了。近年来，我国法律人工智能的研发和应用突飞猛进，涌现出一批批的司法智能产品。这一法律现象的出现，无论从宏观层面还是微观层面，都给我们带来了一系列新的研究命题。

对此，我主要从以下三个方面谈谈我的看法。

一、司法情报建设必须正视技术的复杂性和阶段性

律师要想理性认识法律人工智能的新命题，首先要对大数据和人工智能在法律领域的当前进展有一个清晰的判断，尊重其复杂性和阶段性。虽然人工智能技术的发展速度惊人，但不得不说，理论上的可能性和技术上的可行性还有很大的差距。

根据智能机器与人类自主意识的比较，人工智能的发展分为“弱人工智能”、“强人工智能”和“超级人工智能”三个阶段。整体来看，智能机器的研究和应用基本处于“弱人工智能”阶段。它的主要功能是有效地处理信息。法律领域的应用主要是法律信息检索系统和法律专家系统。“强人工智能”是智能机器的下一个发展方向。它的出现意味着人类思维的模拟和再现，能运用认知、推理等一般功能分析问题、判断价值、学习创造。在“超人工智能”阶段，智能机器的智能水平将超过人类水平，智能机器可以自我复制，提高智能。然而，后两个阶段“奇点”的到来只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。并学习和创造。在“超人工智能”阶段，智能机器的智能水平将超过人类的水平，智能机器可以自我复制，提高智能。然而，后两个阶段“奇点”的到来只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。并学习和创造。在“超人工智能”阶段，智能机器的智能水平将超过人类的水平，智能机器可以自我复制，提高智能。然而，后两个阶段“奇点”的到来只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。智能机器的智能水平将超过人类的水平，智能机器可以自我复制，提高智能。然而，后两个阶段“奇点”的到来只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。智能机器的智能水平将超过人类的水平，智能机器可以自我复制，提高智能。然而，后两个阶段“奇点”的到来只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。后两个阶段只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。后两个阶段只是一个未经证实的科学猜想。盲目的担心或过度的期望是一种不精确的技术认知。立足“弱人工智能”阶段，重点在于在技术上限允许范围内探索智能技术在司法应用中的价值，避免技术认知失误导致司法业务误入歧途。

在弱人工智能阶段，“有智能就有多少人工智能”。在法律行业应用人工智能时，应该正视技术本身的优势和目前的瓶颈。客观地说，当前的人工智能在形式化和可表示的数据处理方面确实具有人类无法比拟的强大能力，而且这种优势还在不断扩大。在严格按照数字逻辑规则推演的交易性或技术性工作方面，人工智能应用在法律文本分析、司法数据提取与数据结构化、法律基础知识咨询等方面取得了显著成效。但是，它的劣势也很明显。由于计算机极度依赖“表象”机制，它不可能具有人类的非表象和非正式的智能（如直觉或经验知识），只能按照设定的程序进行机械化。考虑到其他因素，虽然逻辑性强，但过于平淡，感知、识别、反应和创造能力尤其欠缺。因此，在包括事实认定、证据审查在内的司法实体事务中，由于这些法律行为涉及价值选择、直觉判断、学术分析等诸多主观因素，这些智能活动仍然依赖于司法法官的个人能动性。可以说，非正式的、无法代表的智能活动不仅是 Alpha Go 的极限，

此外，目前人工智能的技术局限在司法领域有特殊的表现。人工智能技术的三大核心要素是“数据采集、智能算法和计算能力”。硬件性能的不断提升已经不再是保证机器智能运行速度的问题，但是机器智能在数据和算法方面的技术应用还是很多的。争议。

首先，大多数人工智能算法都是一个“黑匣子”系统。对于一个智能系统的算法模型，司法人员乃至公众都无法完全了解其内部结构和输出原理。因此，“黑匣子”系统的不透明性使得智能算法的结果在司法特殊领域受到质疑，与司法公开原则相冲突。而且，该算法本质上是一个概率模型，在统计意义上寻求最优解。这种输出模型很可能缺乏对案件特殊性的考虑，导致算法结果偏离法官的直观判断。.

其次，人工智能的本质是基于数据的统计模型，其算法基于大数据，因此数据的完整性和真实性至关重要。以大数据研判为例，目前的数据大部分来自公开的裁判文书，但很多裁判文书过于简单化。真正记录法官分析过程的合议笔录等内部文件不对外公开。研发人员很难获得和使用这些可自由支配的元素。信息不完整会导致智能系统的算法和输出结果缺乏相应的可靠性。而且，法律人工智能在司法数据质量的筛选、清洗、筛选等方面还有很大的提升空间。

应该说，相关技术的阶段性和局限性决定了法律AI在对案件认定有重大影响的证据审查、事实认定、法律推理等司法核心事项上应谨慎行事。

二、司法人工智能产品开发中的理论边界问题

法律人工智能的开发和应用涉及到许多复杂的问题，不仅有技术工程原因，还有深层次的理论原因，即人工智能所依赖的理论假设。法律人工智能基于形式理性主义，它假定法律规则和法律逻辑都是清晰、可量化和可表达的对象。

司法正义来源于司法理性，包括形式理性和实体理性。在推理方面，形式理性主义认为，法律推理应根据客观事实、清晰的规则和逻辑来解决法律要求的一切具体行为。如果法律如此运作，无论谁作出判决，法律推理都会导致相同的判决。形式理性要求以主观不可控的方式作出判断，其所依据的标准并非以人的意志为基础，而只是反映法律规则本身和法律逻辑本身。这一特点决定了形式理性主义的适用范围是规则明确、没有核心争议的简单刑事案件和程式化的诉讼事项；而在处理司法事务和程序性工作中，形式上的合理性体现在程序上。正义观强调执法标准的统一，通过排除人为因素的干扰来保证正义的规范。因此，基于形式理性主义的法律人工智能系统可以将其业务范围扩展到所有案件的交易工作和简单案件的推理工作。

司法实体理性强调司法推理的主动性，要求司法法官在遵循基本程序规范的基础上，综合考虑与案件相关的主客观因素，充分发挥其价值选择的作用。 、理论研究判断、经验总结甚至直觉判断。这体现在困难和复杂案件的推理过程中。机器对人的辅助是为了让司法判决成为一个稳定理性的判决，而“人机协同模式”是为了防止机械法官将形式理性主义极端化。当机器没有思考或缺乏实质理性时，其在司法领域的应用应该是人机交互的协同模式。如果任由人工智能法律体系超越其应有的业务范围，适用于各类案件，甚至在很大程度上取代司法人员的实体推理工作，就有可能将司法权引入歧途，即是，导致算法支配正义。

基于形式理性的法律人工智能不能突破自身的业务范围，侵犯司法的实体理性，尤其是在简单刑事案件的推理工作和所有案件的交易性工作中。追求效率牺牲了司法动态价值在复杂案件和纠纷中的决定性作用。否则，马克斯·韦伯对形式合理化带来的“自动售货机”司法机制的担忧，以及对现代法治“非人格化”运作的批判，可能在人工智能时代成为现实。

三、人工智能在辅助量刑中的应用

从全球范围来看，信息技术首先被用于预测犯罪、追踪线索、案件监控、物证分析等具有明显数字化、智能化需求的侦查事务，随后被引入到保释、量刑等司法事务中​​。，用于评估个人风险因素和处罚的准确性。

我国司法商业智能的实践探索首先发生在量刑领域，后来又出现在以司法为核心活动的认证领域。新时代背景下，以检察领导为核心方向的检察理论不断创新发展。可以预见，在未来很长一段时间内，检察官在审前程序中的主导作用将逐步加强。一方面，认罪认罚从宽制度正式引入法律，使检察机关在解决认罪认罚案件量刑纠纷中发挥关键作用。另一方面，以审判为中心的刑事诉讼程序改革不断提高法院审判“ 对证据规范的要求，也倒逼检察院在完善刑事指控制度方面加强牵头作用。可以说，理论创新与科技应用的有效结合，必然会带来预期的实用价值。

一是人工智能与量刑程序相结合的问题。早在1990年代，我国一些学者就开始关注计算机量刑的研究，旨在解决司法实践中量刑轻重的问题。然而，第一代量刑辅助系统自问世以来就饱受争议。不少学者认为，此类智能产品将量刑逻辑绝对客观化、程式化，将量刑程序假定为直接的数值运算。这种做法不仅忽视了刑法的社会功能，而且容易将情节严重的情节包括在内。描述性因素，如 、不良性质和显着次要的，被假定为可表达和可量化的机器代码，这显然背离了司法能动主义的本质。在类似的质疑声中，托付给智能量刑建设的量刑改革希望搁浅，司法智能化热潮暂时退去。随着信息科学技术的飞速发展，大数据、深度学习、神经网络等核心技术如雨后春笋般涌现，促使人工智能更深层次、更大规模地进入司法领域，新一轮的发生了令人兴奋和预期的“化学反应”。”同时，以量刑建议为核心的认罪认罚从宽制度不断推进，量刑标准化问题备受关注。多地法院、检察院与高新技术企业合作，自主探索开发了一批功能显着的智能量刑辅助系统。

为了避免以往智能量刑辅助系统研发的困难和疑惑，必须认识到量刑要解决的主要问题不仅仅是统计、分析和计算，而是如何综合考虑和平衡所有影响量刑的因素，最终得出对被告人最合适的刑罚。在认罪认罚从宽的背景下，量刑程序得出的刑罚结论还应体现社会对刑事报应、预防与制止、纠正与要求等综合因素平衡的要求。如此复杂的综合平衡过程，是计算机等程序化机器无法单独完成的任务，

这种“协同”和“兼容”模式的实现，可以依靠信息科技在诉讼流程优化和业务类型划分方面的显着优势。传统司法业务效率的提升，很大程度上来自诉讼流程和分工的优化，但以人为本的流程和分工难免会遇到“瓶颈”。一旦发生这种情况，诉讼效率的提高将难以为继。智能技术对流程的优化作用是可以实现流程自动化。通过引入智能技术，如文件自动流转、业务信息数据库的形成、系统自动完成贴标任务等，一方面可以减少流程对人工的依赖，借助高效的技术手段和数据分析能力，可以缩短流程周期；另一方面，智能技术的优势在于精准化和个性化，形成对流程的精准把握，针对不同业务类型形成个性化的流程优化解决方案。

二是人工智能与循证指导相结合的问题。证据是诉讼的灵魂，是审判的基石。有效收集和使用证据对于提高办案质量、彰显司法公正具有重要意义。目前，地方探索证据引导制度的一个重要目的是规范调查技术，指导调查取证，从源头上解决虚假证据现象。这实际上是从检察指导和侦查的程序性方面来完善刑事诉讼制度。从全球范围看，检察引导调查取证大多存在多种混合模式。检察机关可以根据办案需要采取适当形式介入侦查过程，充分发挥其在适用法律和保护证据方面的优势作用，指导侦查机关办理刑事案件，确保检察机关依法办案。移送案件符合公诉证据标准。基本方法包括类似的情况。指南和案例指南。司法资源的限制，使得检察官难以提前介入所有案件，寻求指导的多元化建设成为必然选择。在类案指南中，除及时出台相应的指导性文件外，检察机关还可以结合司法情报建设、加强司法信息化办案平台证据指引的开发和应用，使调查指引普遍化。需要引入审前办案系统，通过智能检察服务建设，需要技术上的人力，机器上的智慧。

最后，在数字时代，诉讼的目标将不再局限于实体正义与程序正义的价值平衡，而是如何实现“数字正义”。在以智慧司法建设为口号的司法科技革命进程中，无论是律师还是技术人员，在欢迎和拥抱科技革命带来的巨大成就的同时，也需要对人工智能技术、法律理论和制度有一个理性的认识。当前技术上限与法律理论底线的界限，寻找和把握人工智能可以应用的业务范围，为制度建设和理论创新贡献力量。

谢谢你们！

稿件整理：上海市检察院林竹静齐坤