【自动化观世界：法与自动化】自动化网自动化观世界：1、对于自动化证据本质应当认定为何，目前学界观点主要有“实质论”和“载体论”两种，这两个观点实质上对自动化证据的涵盖范围存在较大差异。2、自动化行政行为及其算法模型加以审查评估的权利从而进行事前评估，这种审查评估程序同时构成了自动化行政方式下正当程序原则的重要一环。同时，应当赋予其一定的证据认定的权力，以帮助法院从多维度考量证据，规范自动化行政系统的运行。

《上海法学研究》|谢佳利：自动化行政视角下的行政诉讼证据认定研究|法与自动化

内容摘要：由案例检索分析得知，目前司法实践中存在证据边界实质性拓宽，法院仅对自动化证据进行形式审查、证据能力具有天然性和应然性以及证据证明效力个案认定存在较大差别等普遍特点，同时，证据认定存在的“载体论”等倾向导致行政机关举证责任负担变相减轻、认定主体范围限缩与法院主体地位技术性削弱等问题。因此，我们必须作出理论回应和法治回应，以帮助司法机关更好地应对科学技术在行政领域的运用带来的司法问题。

近些年，科学技术在行政领域的运用迈向更高层次，在部分行政工作中出现自动化系统部分甚至完全代替人工的现象。目前，国内学界对于人工智能的研究更多聚焦于制度规范维度，思索人工智能时代法律制度的与时俱进之路径，对于人工智能在行政领域的运用带来的司法实践命题，国内法律学者鲜有触及，更遑论展开系统性思考。有关自动化系统在行政管理活动中产生的证据如何在行政诉讼中正确认定的问题，成为司法机关在当今时代背景下的一大难题。这些证据由人工智能系统在纷繁复杂的信息中分析解读相对人的违法行为、评估违法情节，进而触发响应以及其他数字系统进行通信，以此替代传统采集信息的过程。收集的信息数据经过处理，形成一定的结构化，也可成为“视听资料”“电子数据”等行政证据，如电子警察抓拍的违章照片、“秒批”系统后台数据记录、自助税务缴纳系统的信息记录。本文则将着重研究对于这些证据司法机关在实际审判过程中如何认定、采取何种标准认定、认定结果为何等突出性问题，并对人工智能在行政领域中具体运用而产生的证据在行政诉讼中的认定问题进行分析和探讨。

一、自动化行政诉讼证据司法认定特点

（一）证据边界实质性拓宽

对于自动化证据本质应当认定为何，目前学界观点主要有“实质论”和“载体论”两种，这两个观点实质上对自动化证据的涵盖范围存在较大差异。马颜昕研究员将自动化行政活动分为事实情况的识别与输入并形成证据、证据的审核分析及决定、输出与实现决定三个部分。“实质论”所涵盖的证据范围仅仅包括系统在第一部分中信息处理而产生的产物，而“载体论”所涵盖的不仅包括这些产物，并且包括这些产物的形成过程、以其为依据所作出系统决策，即证据包括系统运行全过程三个部分中涉及的电子证据，自动化证据包含于自动化系统。可以说，“载体论”下自动化证据所涉及的范围要广于“实质论”，抑或说二者对证据本质的观点存在广义与狭义的区别。

实际情况是，司法机关在审判过程中主要采纳“载体论”观点，即将作出具体行政行为和提供行为记录及电子证据的自动化系统认定为证据本身，其衍生的证据只不过是其作为证据本质的一种表现形式、证据的一个部分。在行政诉讼中，司法机关将自动化系统认定为证据，并对其进行形式和实质审查，而将自动化证据认定为证据形式之一，那么这样会导致司法实践中行政诉讼证据的涵盖范围即边界实质上拓宽，尽管这没有任何法律上或制度上的规定。这种现状可以理解为，这是司法机关在应对科技冲击的一种“自保”措施，避免因为专业难题、技术难题产生证据认定错误。

（二）法院仅对自动化证据进行形式审查

就传统证据而言，法院对证据的审查既包括形式审查也包括实质审查。自动化证据这种新形态的证据其审查方式应建立在原有证据制度基础之上，根据证据具体情况采取独有的审查方式。从形式审查来看，不仅应审查自动化证据的证据能力即客观性、合法性和关联性，还根据证据的提供规则对各类证据的构成要素如来源、形式、取得方法等进行审查。从实质审查来看，由于自动化证据其产生过程的特殊性，因此，应注意对证据取得方法和过程进行实质性审查，防止原生证据遭到污染。

而诡异之处在于，经过对案例的检索和分析，发现司法实践中法院的普遍做法却只停留在形式层面，仅仅对证据的客观性、合法性、关联性以及证据的构成要素进行审查。其中，对自动化系统的技术问题的审查系法律性审查。一是“形成过程”审查，即审查该套设备系统投入运行前是否经过了充分的论证、检测；二是“明显性”审查，即该套设备系统是否存在明显的违反逻辑和科学性的情形，而行政机关对此难以解释；三是“实际效果”审查，即该套设备系统投入运行后，是否存在明显大量的异议（复议或诉讼），导致产生科学性上的合理怀疑。但并未对证据产生过程的合理性和合法性进行实质上的审查。在如今大数据背景下法院似乎更注重证据“是什么”而不是“为什么”，导致证据资格认定门槛低，只要证据满足“三性”、证据要素条件齐备即认定为证据，这显然与法院其应当负有的义务相违背，但这却并不影响案件的审判工作。

（三）证据证明效力个案认定存在较大差别

通过相关案例检索和研究发现，由于缺乏统一的自动化证据可适用的认定标准，不同案件中对证据证明效力的认定存在一定差别，而这些差别存在影响审判结果的可能性，尽管现实中这种情况鲜有出现。实践中司法机关大致将自动化证据的证明效力分为两类：直接证据和间接证据。

多数案件中，司法机关将自动化证据认定为直接证据，其有较强的证明力，可以独立用于证明案件事实而无须其他证据的佐证。此种情况下，行政机关仅需提交一种被诉行政行为所依据的自动化证据即可证明其行为的合法性，如道路交通案件中电子警察往往只留下违章抓拍、视频等一种证据，行政机关以此作为其行为依据提交到法院。但一些案件中，司法机关认定为间接证据，认为其证明力不足以独立证明案件事实，要求有其他相关证据相互印证。以《何凯与上海市公安局黄浦分局交通警察支队行政其他二审行政判决书》（以下称何凯案）为例，此案中，法院认为自动化证据与其他证据相互佐证，共同构成被诉行政行为的主要证据，以用于证明案件事实。此外，行政许可、税务行政等其他类型的行政诉讼中，自动化系统按流程进行了许多行为步骤，因此生成了多种的证据类型，而这些证据同样被司法机关认定为间接证据，行政机关需要一并提出这些证据，使得它们完成证据相互佐证的过程。

二、认定过程存在的问题

（一）“载体论”倾向导致行政机关举证责任负担的变相减轻

司法机关在审判过程中主要采纳“载体论”的观点，这样的做法似乎有“偷懒”之嫌，刻意将自动化证据范围扩大以便于司法机关进行证据审查认定工作，但因为专业难题、技术难题、自身水平等各种因素而使之合理化。在实际行政诉讼过程中，司法机关仅对证据进行形式审查，行政机关的主要举证责任在于向司法机关提交自动化系统的生产合格证明、政府相关部门认证等证明系统无合理性、技术性瑕疵的材料，无须重复提交自动化证据。

然而，这一结果显然不符合行政诉讼举证责任公平性的原则。一方面，对于原告而言，被告行政机关原本就处于优势地位，更有条件对证据进行举证，而如今行政机关的举证责任变相减轻，打破了本就难以实现的诉讼主体举证责任公平的状态，这显然不利于原告，不仅有违程序正义更在某种程度上与实体正义背道而驰。另一方面，行政机关仅需提交自动化系统的生产合格证明、政府相关部门检测认证报告等证明系统无瑕疵的材料，且这正是司法机关对证据进行形式审查所需要之事项，而对于专业性、技术性问题的举证，对于“为什么”这一问题的解决，行政机关可以国家公权力背书这一理由进行推诿，那么难题便来到司法机关这边，谁来解决这一难题？显然是技术主体与检测认证部门两者，但他们之间谁又负有举证责任、如何分担举证责任？况且，这些主体之间责任界定不明的问题将影响到诉讼效率甚至是诉讼结果。

（二）认定主体范围限缩与法院主体地位技术性削弱

通过案例检索和研究发现，与自动化行政相关的行政诉讼中，行业权威、专门机构、公证机关并未实际参与证据认定过程，而自动化系统的提供者即技术主体，其通常作为一个诉讼参与者的身份，可以在司法机关要求、原告或行政机关请求的情况下对证据进行认定，除了因系统瑕疵问题导致的诉讼中其一同作为被诉方参与诉讼。对系统进行检测评估的政府相关部门也仅仅对其检测评估报告负责，并不参与证据的认定。可以发现，与传统证据制度对比，在自动化行政这一背景下，对于自动化证据的认定主体范围明显缩小到基本仅法院这一主体，其他主体不再参与或直接参与证据认定。

同时，也应该注意到，法院虽最终认定和采纳证据，但其并非总是以一己之力完成，何况在此过程中存在一系列的难题和阻碍，导致其有时处于必须但又不得不求助于以技术主体为主的外界力量这一窘迫处境。法院的主体地位因科学技术带来的改变而遭到削弱，这一削弱的诱发因素既具有内部性，也具有外部性，更具有技术性。人工智能系统不可避免地存在所谓“黑箱”，算法的模糊性及其“黑箱效应”使得法院无法了解行政机关的决策过程，更无从认定证据。同时，当前智能系统中初始算法的设定尚不能脱离人的编程行为。因此，即便某种算法设计之初的动机是中立的，也很难避免因为行政机关自身偏见造成的算法偏见，导致瑕疵算法被下意识且无监督地写入系统中。正是这道科技性、歧视性的数字鸿沟，阻断了法院对证据的认定进程，导致法院有必要、也不得不因为技术难题、专业难题向外界求助，其原本的证据认定主体地位在科学技术面前遭遇“滑铁卢”。

（三）证据认定标准不明下法院自由裁量问题

证据可以分为直接证据和间接证据，法院在二者之间的认定选择直接影响到证据链条是否充分完整、具有说服力，影响到诉讼主体举证责任分配是否公平公正。当认定为直接证据时，自动化证据能够独立完成证明过程，证明案件事实，行政机关仅需要对作出具体行政行为的自动化系统进行举证即可，举证责任较轻。当认定为间接证据时，其则无法独立证明，需要提供其他相关证据的相互佐证，举证责任要求较为严格。

证据认定标准是法院在证据审查、认定过程中的一把标尺，用于指导法院正确进行审判、规范自由裁量行为。自动化行政行为形式多样，繁简程度不一，在行政诉讼中由于缺乏统一的自动化证据可适用的认定标准，面对业已改变的互联网环境以后和新生的人工智能产品，法官中如何理解、运用规制法以解决自动化行政新领域中的问题并无规律可循，具有的可裁量空间过大。不同案件中法院对自动化证据证明效力的认定存在一定的差别，证据认定差异带来的不同影响将给实际审判过程带来众多风险因素，而这些风险不应由诉讼主体承担，何况原告往往承担能力较为有限。这些风险因素将会引起的众多现实和潜在的后果当中，最为突出的便是司法公正与自由裁量的问题。按照程序，法院最终认定和采纳证据这一点在自动化行政背景下仍然不会改变，尽管其主体地位已经受到科学技术的猛烈冲击而技术性削弱。在没有统一认定标准下，存在的合理裁量空间不可避免地非合理性扩张。

三、自动化行政诉讼证据认定方式回应

（一）自动化证据本质上应认定为证据

何凯案中上海市高级人民法院将电子监控设备系统认定为证据本质，其自动生成的照片则为证据的形式。法院这一非常规性认定思路其实是法院对证据的“扩大解释”，超出证据应有之义及惯常思维下对证据的理解范围，这将会带来问题如诉讼主体举证责任分配失衡、公平性原则的虚置。

随着科学技术在行政领域的深入应用，自动化行政将向更高层级迈进，证据的表现形式有高科技化、数据化、复杂化的明显趋势，而法院这一理论倾向会使得本就不可忽视的问题更加严峻，对司法公正的影响存在极化的风险，这与我国法治进程背道而驰。因此，法院需重新审视这两种主要观点的理论基础和现实意义，以比例原则为指导正确评估二者在司法审判中的作用。

实际上，法院统一采纳“实质论”观点更为可取。首先，“实质论”下的自动化证据由自动化系统自动生成，其真实性、合法性、关联性仍然具有天然性和应然性，不存在证据污染、清洗的现象，证据能力不受影响。其次，证据的含义更为精准、具体、合理，原本行政机关笼统、“随意”的举证行为将受到严格约束，强化行政机关举证责任，防止其将举证责任模糊化和转嫁其他相关主体如技术主体、技术检测和认证部门等，并要求就其被诉行政行为依据进一步说明、举证，也有助于保障原告权利。复次，统一这一理论基础有助于法院形成正确、合理的证据认定方法论，制定规范化的证据认定标准并以此指导司法审判，限制法院自由裁量空间的非合理性存在与扩张，保障司法公正不受影响。

（二）技术主体与行政机关举证责任应一体化

首先，明确举证责任的前提应当是明确行为主体和责任主体的身份，确认责任归属。有观点认为应当引入“拟制”技术，即在一般情况下并不强调人工智能的身份，以行政机关作为行为主体。只有当技术主体所研发的自动化系统作出的决策或行为出现错误并因此引起行政诉讼时才被赋予法律意义上的责任主体地位。行政机关应当是行为主体和直接责任主体，当自动化系统的决策和行为出现错误时，被诉行政行为本质上仍是由行政机关作出，理应由行政机关承担直接责任，在此若强行追究技术主体或“人工智能”的责任并不具有实际意义，且在诉讼中仍由行政机关首先承担责任。只有当自动化系统自身错误引起诉讼时，其作为间接责任主体，行政机关有权作为追偿人以双方之间的行政协议或行政合同为依据请求其承担最终责任。同时，在行政诉讼中可以将其作为共同被告，要求在其责任范围内承担举证责任。其次，就是明确行政机关与技术主体之间的举证责任分担问题。为规范行政机关举证行为，明确行政机关的举证责任，保障相对人权利和诉讼的合理运行，在行政诉讼中，应当将行政机关与技术主体的举证责任一体化，共同负有向法院举证的义务。

（三）司法风险的多元规制

1.技术主体算法解释权利义务规制为主

创设算法解释权，要求行政机关或技术主体就自动化系统的运营过程、运营结果、作出行为的推理给出理由说明。行政机关或技术主体提供的算法解释应满足以下条件：第一，解释的形式要件。自动化行政系统的算法运行解释应由其检测认证部门统一提供格式解释文本，保证解释的各项形式完整，否则可视为无效的解释；第二，二者若未提供理由则可以视为没有理由，这可能导致被诉行政行为失效；第三，解释的内容通俗易懂，方便原告和法院理解，且应以书面的形式作出以便为后续可能存在的追责问题留存证据。

同时，要求技术主体和行政机关主动承担对算法进行解释说明的义务，无论原告是否主张其算法解释权利、法院是否要求其进行解释。人工智能的行政化运用给司法审判工作带来难题和风险，这种风险由行政机关为满足自身行政管理活动需要而产生，但这不应由司法审判乃至相对人和其他利益相关人承担。因此，秉承有权必有责的态度从风险的源头进行规制，通过对行政机关和技术主体苛以算法解释的义务对其采用自动化行政方式进行限制。

2.其他主体规制手段并重

法院人才培养，提高司法审判能力。“打铁还需自身硬”，在人工智能技术不断革新的情况下，法院认定证据过程不能固守成规，还应注重加强自身司法队伍培养，不仅要有精通法学专业人才，还需要跨学科领域、多维度思维的复合型人才，将法学特别是法理学、行政法学等理论同人工智能相关专业知识进行深度融合。

赋予专门机构审查评估和证据认定权力。可以赋予具有中立性的专门机构对特定自动化行政行为及其算法模型加以审查评估的权利从而进行事前评估，这种审查评估程序同时构成了自动化行政方式下正当程序原则的重要一环。同时，应当赋予其一定的证据认定的权力，以帮助法院从多维度考量证据，规范自动化行政系统的运行。

企业与行业组织规制。随着人工智能的进一步发展，行业上的防御知识和防御技术会跟随风险一起变得更复杂和更强大，这无疑是自动化行政系统健康发展的重要保障。一方面，企业与行业组织可以通过自我规制规范行为，如通过制定行业自律规范，细化人工智能行业安全标准，保障自动化行政的适用安全，预防黑箱风险；同时也应当赋予其一定的证据审查和认定的权力，这既符合专业性、相关性要求，又减轻法院审判工作的负担，一定程度上降低科学技术风险。

3.根据行政行为性质应采取不同证据认定标准

为了规范法院认定证据行为，以及为法院证据认定环节提供统一行动指南，帮助法院进行司法审判工作，以及规范法院裁判行为，应区分自动化行政行为的性质，采取不同的证据认定标准。以行政处罚为代表的羁束性行政行为中，将此类自动化证据认定为间接证据，一方面有助于行政机关作出自动化行政行为时注重对事实信息依据的收集与保存，重视正当程序原则，谨慎设置算法运行逻辑；另一方面便于法院对自动化证据的多角度审视，谨慎构建证据链条，有利于正确认定证据以作出司法裁判，同时规范法院认定证据行为。因此，在此类行政行为中，应当将证据认定为间接证据。

实践中，授益性行政行为类案件出现频率较低，且案件事实较为简单明确，将此类行为中产生的自动化证据认定为直接证据，有助于法院提高诉讼效率。但结合案例发现，属于授益性行政行为的行政许可应当特别处理。行政许可拥有授益性行政行为的特点属性，而由于其涉及对相对人实施获得利益行为的资格的认定，实践中相对人往往由于行政机关不予以通过行政许可，因此提起行政诉讼，以期实现变更行政行为或者获得赔偿等诉求。鉴于此类案件发生频率较高，且涉及行政诉讼原告的利益范围大、重要性程度高。因此，法院有必要另外将此类行政许可中的自动化证据认定为间接证据，以要求行政机关审慎作出行政行为，承担更为严苛的举证责任，同时帮助法院正确认定证据，规范其审判工作。

人工智能其在行政领域的广泛、深度运用是行政机关为人民服务宗旨的体现，也是建设服务型政府的必然要求，纵使这给法院的审判工作尤其是证据的认定工作带来较大难题和风险。但其引发的问题并不复杂，法院在应对科学技术的过程中应秉持人本主义价值观，正确认识科学技术作用及其风险，重新审视传统制度与先进科技的衔接性问题，同时积极作出回应，制定合理应对策略，以促进司法审判工作与时俱进。