为深化政法智能化建设，加强“智慧治理”“智慧法院”“智慧检务”“智慧警务”“智慧司法”等信息平台建设，深入实施大数据战略，实现科技创新成果同政法工作深度融合。法制日报社已连续举办了七届“政法智能化建设技术装备及成果展”。

　　作为装备展配套活动，法制日报社于2024年3月继续举办了2024政法智能化建设创新经验征集宣传活动，活动征集了“智慧治理”“智慧法院”“智慧检务”“智慧警务”“智慧司法”创新经验。

　　在2024年7月10日至11日举办的成果展上，对入选的创新经验进行了集中展示，并已编辑整理成册——《2024政法智能化建设创新经验汇编》。

　　该汇编分为智慧治理篇、智慧法院篇、智慧检务篇、智慧警务篇、智慧司法篇五个篇章，为政法信息化、智能化建设提供及时、准确、 实用的资讯信息与经验观点。

　　应广大读者要求，我们特开辟专栏，将部分创新经验进行展示，敬请关注！

　　以下推出的是《智慧警务篇 | 创新经验之“人工智能参与行政执法的风险与法律规制”》

　　人工智能参与行政执法的风险与法律规制

　　袁冬亮 宋永泉 山东省潍坊市公安局

　　【摘 要】运用人工智能技术，实现了行政执法现代化。从信息搜集、决策、监察等全过程的参与，使行政执法效率得到了提升，但同时也带来了合法性、安全性、公平性等诸多问题。要想预防和化解危机，推动智慧政府的健康发展，就必须明确人工智能的参与范围、保护其程序性权利、增强技术和隐私安全性、加强中立和透明的人工智能决策。

　　【关键词】人工智能参与行政执法的风险与法律规制

　　人工智能作为新一轮技术革命的核心引擎，正日益成为各国政府管理和管理现代化的主要推动力。由于行政执法具有广泛、普遍的特点，智能化执法是我国行政管理中的典型代表。运用人工智能技术实现行政执法的优化过程中，必然会带来一系列的风险，因此，如何对其进行有效的控制已成为当前行政执法方式成功转型升级的当务之急。

　　一、行政执法中的风险

　　（一）合法性风险

　　行政执法的合法性包含了实体合法与程序合法，其法治原则即是依法行政、程序正当。

　　1.从实质上讲，从人到机器的决策主体的转化，使行政执法的合法性基础受到了削弱

　　在一定程度上，人工智能参与了行政执法活动，使机械代替人类。只要有足够的数据，有足够的计算能力，就可以不受人的干扰，自动地进行案件的分析和处理。人工智能的这种运行方式，让它所参与的行政决策具有“机器意志”的性质，而“机器意志”的背后，则是人工智能的研发人员。这就让我们产生了这样的疑问：在执行过程中，人工智能是否会剥夺了执行机构的权力？究竟是政府的强制执行，还是科技的开发人员的强制执行？怎么才能让“机器意志”与法律的意志完美结合呢？

　　2.从程序角度来看，人工智能的自主决策侵蚀了程序的合法性

　　程序正当性是指在做出涉及相对人权益的决定之前，应当允许相对人陈述和申辩，倾听其诉求，并解释其原因。在智能执法模式下，将实际中的行政执法过程转变成了一种高度隐秘的后台技术流程，其最终的处理结果是否公正、合理，就不得而知了。在行政执法的自动化模式中，行政过程大大简化，当事人应向谁陈述和辩护？怎样开始听证？听力和智能决策的结果不相符，应该怎样选择？从这一点可以看出，在实施过程中，人工智能对相对人的诉讼权益的保护还存在很多缺陷。

　　（二）安全性风险

　　1.在行政执法中引入人工智能存在的技术安全风险

　　首先，数据的真实性和可靠性直接影响到人工智能的运算能力。一旦数据被泄露、篡改，将使行政执法的数据丧失真伪和精确性。其次，人工智能所依赖的算法具有不稳定的特性，有可能发生故障或者被黑客攻击等情况。如果修改了算法，它所涉及的行政执法环节就有可能出现不正确的处理结果，从而损害了相关人员的权益，降低了政府的公信力。

　　2.人工智能在行政执法中的应用存在着社会治安隐患

　　所谓的“社会安全”，就是由于人工智能技术的普及而导致的公共信息泄漏。随着人工智能时代的到来，人们的个人隐私信息处于高度暴露的状态，人工智能可以很容易地从自己的知识中获得包括个人隐私的信息，从而极大地增加了侵犯公民隐私权的危险。人工智能的介入使得原本只属于政府机关的个人隐私资料，被迫向AI技术公司提供，从而导致了被非法使用的危险。

　　（三）公平性风险

　　1.基于原始数据的人工智能操作不够中性

　　人工智能的运作方式主要是对大量的数据进行归纳和总结，并构造出相应的算法模型，从而达到自动决策的目的。所以，数据的真实性、客观性、普遍性都是人工智能的关键，它直接关系到决策的质量和内容。数据采集和存储过程中存在着一定的缺陷，而数据本身的不完整也是一个不可忽略的问题。由于资料样本选取的不全面、样本本身的偏差等原因，会造成原始资料的中性化，从而影响到智能决策的公平性。

　　2.人工智能在行政执法中的应用不透明

　　人工智能的“黑箱效应”是一个不可忽略的因素，它的存在是一种与生俱来的封闭性，而人工智能的执行机构却不能解释它的自动决策机制，更不能对最终的执法结果做出准确的预测，这就造成了行政执法过程的公开和透明。由于公众缺乏对人工智能的了解，人们很可能会质疑人工智能在行政执法中的公平性，从而导致政府和民众的信任危机。

　　二、行政执法中的风险控制

　　（一）合法性风险规则

　　1.确定行政执法中人工智能的应用领域

　　要明确人工智能在行政执法中的作用，必须坚持“以人为本”的执法思想，防止盲目服从、过分依靠人工智能。在参与方式、具体的程序、参与程度等方面，都要由政府来控制，而控制的标准，就是要遵守法律法规。行政机构应该对案例进行合理的分类，并将其归类为人工智能，以及需要人工干预的行政执法。在具体案例的审理中，可以从实践中借鉴运用人工智能进行行政执法的经验和教训，为立法机关提供完善的建议。

　　2.保障知情权与自由选择权

　　行政机关在运用人工智能进行行政执法时，应向当事人如实告知，并给予其合理质疑的权力。在保证相对人知情权的前提下，可以根据实际情况，给予相对人自由选择执法方式的自由，也就是有条件地让相对人不进行智慧执法。这种自主选择权包含了第一次处理时请求人工干涉的权力，以及对执行结果不满意而提出行政复议的权力。要注意，我国的法律、法规应该合理地限制行政相对人的选择，并规定其适用的范围和途径，以避免因行政相对人的滥用而导致的行政资源的浪费。

　　（二）安全性风险规则

　　1.修补技术安全上的缺陷

　　人工智能开发者要担负起自身的社会责任，加强对其安全性的探测与预警，并利用科技创新与算法修补来最大限度地填补其安全缺陷。政府作为人工智能的实施者，应该加强对内部网络的安全管理，建立更坚固的防火墙，完善网络安全监控体系。为了保证数据的安全性，行政机关在运用人工智能进行行政执法时，除了要规范数据采集和存储的方法外，还必须强化数据库的安全，尽可能减少数据安全的风险。

　　2.注重对个人隐私的保护

　　首先，要严格按照有关法律对公民的隐私权的保护，合理使用公民的个人信息，对收集的方式和目的进行公开，对其进行严格的控制；其次，要关注人工智能在行政执法中所引发的信息安全风险的特殊性，组织人工智能专家、法律专家、行政机关的专家学者进行专题讨论会，并有针对性的提出相应的建议，从而为我国的法律制度建设提供一定的理论支持。

　　（三）公平性风险规则

　　1.扩大资料搜集范围，提高资料品质

　　为解决因数据信息缺失而导致的决策偏差，必须进一步深化实施大数据战略，加强基础信息平台的建设。为提高数据资源的代表性和覆盖面，可以在一定程度上运用人工智能的数据处理技术，对具体的行政执法部门进行公共信息的采集。对于隐藏在数据自身中的社会偏颇，可以利用算法监控技术来进行管理。

　　2.健全法律法规，规范人工构建的暗箱

　　人工智能的运用不能完全依赖于市场的自发调控，必须从制度和法律层面对其进行规范。立法机关要制定有关人工智能应用领域的信息公开制度，在合理的范围之内，对其进行设计理念、工作流程等进行适当的披露，并将其及时告知执法部门和公众。在此基础上，还应该给予处于信息交流中的弱势群体一些程序上的权利，具体地说，当行政相对人面对智能执法对其自身的利益产生巨大影响的时候，可以要求其与人工智能研发机构合作，解释其运行过程、决策依据等原因。

　　结论：我们不能“因噎废食”，也不能忽视风险，要从制度和法律层面加强制度、法律等方面进行科学的规划，强化多方合作，形成有效的风险管理合力，从而使科技进步与社会需求相适应、科技进步与法制建设相适应。

　　参考文献

　　[1] 姜素红,张可.人工智能辅助地方立法的应用与规制[J].湖南大学学报（社会科学版）.2019,(4).139-146.

　　[2] 胡敏洁.自动化行政的法律控制[J].行政法学研究.2019,(2).56~66.

　　[3] 张欣.算法解释权与算法治理路径研究[J].中外法学.2019,(6).1425-1445.

　　[4] 王禄生.司法大数据与人工智能技术应用的风险及伦理规制[J].法商研究.2019,(2).101-112.

　　[5] 马长山.智能互联网时代的法律变革[J].法学研究.2018,(4).20~38.

　　责任编辑：晓莉