Inclusive Adaptation and Risk Prevention: A Coupled Framework for Generative AI to Boost the Modernization of Government Governance
-
摘要:
从ChatGPT到Sora,生成式人工智能(GAI)对政府治理带来了难以忽视的冲击,从技术与治理的双重变革出发,对其与治理现代化的耦合逻辑展开研究。研究表明:第一,构建“有用性—易用性—风险性”耦合框架进行分析,兼顾GAI的智能算力与政府行为、公众行为分析GAI对政府的影响。第二,以“政府—公众”双轮驱动模型为视角,分析得出具体影响包括“行政组织—政务服务—数据安全”三个维度。分别表现在治理体系的创新调整、治理能力的创新提效、治理全过程的创新平衡。第三,提出包容适应与风险防范两条实践逻辑。本文以期为GAI助推政府治理现代化进程提供理论与实践方向的启发。
Abstract:From ChatGPT to Sora, GAI has had an impact on government governance that is difficult to ignore. The coupling logic between GAI and governance modernization is studied from the perspective of the dual transformation of technology and governance. The results show that: first, a coupling framework of “usefulness-ease-risk” is constructed for analysis, taking into account the intelligent computing power of GAI and government behavior and public behavior to analyze the impact of GAI on the government. Second, from the perspective of the two-wheel drive model of “government-public”, the analysis shows that the specific impact includes three dimensions: “administrative organization-government service-data security”. It is manifested in the innovation and adjustment of the governance system, the innovation and efficiency improvement of the governance capacity, and the innovation and balance of the whole process of governance. Thirdly, two practical logics of inclusive adaptation and risk prevention are proposed. This paper provides theoretical and practical inspiration for GAI promoting the modernization process of government governance.
-
引言
2023年2月27日,中共中央、国务院印发《数字中国建设整体布局规划》(以下简称《规划》),提出以数字化驱动生产生活和治理方式变革,为以中国式现代化全面推进中华民族伟大复兴注入强大动力,到2025年要实现政务数字化智能化水平明显提升。在2022中关村论坛系列活动——首届科学智能峰会上,多位院士、专家深度剖析人工智能驱动科学研究(AI for Science)的最新发展趋势,认为人工智能技术有望促使科学研究进入全新的研究范式——“科学研究的第五范式”[1]。科学研究领域的范式革新必然会对管理范式带来影响,尤其是在生成式人工智能(GAI)引发社会各行业、各领域强烈反应的现实背景下,公共管理的复杂性进一步加剧,GAI对政府治理现代化的影响也成为了关注热点。
如今,随着数字经济时代全面开启,算力正以一种新的生产力形式为各行各业的数字化转型注入新动能,人工智能作为一种先进的生产工具,代表的是生产力的提升,是一次全新的生产力革命[2],从ChatGPT到Sora,GAI在极短时间内成为了国际关注焦点。就治理现代化而言,涵盖了国家治理组织系统结构以及治理者的素质和方式方法,在智能技术与治理创新的双重作用下,组织结构、治理方式、治理效能等必然面临革新。
GAI 的底层逻辑是算力、数据、算法等的有机融合与升级,本质上是人类在AI 领域综合能力大幅提升的表现。人工智能对知识秩序带来了极大冲击,知识行业的变革必将引起政治领域的反应,政府作为掌舵者,在国家治理现代化面对技术带来的冲击时,要在哪些方面做好应对准备以及以何种态度应对治理过程面临的复杂性?为此本文以GAI为研究切口,系统分析新一代人工智能对政府治理现代化的影响,以助于在顺应技术与社会发展的时代背景下准确定位政府价值选择和未来建设方向,为后续相关领域理论研究和治理实践提供一定的参考价值。
一、 文献综述
(一) 连接–集成与再现–智能个性化:技术迭代与政府治理变革演进
如今,引起极大关注的GAI被认为是继互联网、智能手机之后人类的第三次革命性产品,互联网开辟了“空间革命”,智能手机的出现带来“时间革命”,GAI的横空出世有望形成“思维革命”[3]。在信息化、智能化建设推动国家治理现代化的进程中,人工智能的技术迭代过程经历了互联网时代、大数据时代、人工智能时代的演进,与此相对应的政府治理结构、治理方式方法也在技术驱动下实现了变革与升级。
互联网时代解决了人类社会的连接问题,包括人与人、人与物、物与物之间跨越时空的认知与资源的广泛交互,促进了社会活动、行为方式和社会协调机制的巨大变革[4],对于政府治理过程来说,互联网的应用解决了政务系统内部各类信息与数据的交互问题,使效率远远高于传统工作中信息的人力收集与交换时期。除此之外,互联网也使公共服务的提供更加方便快捷,公众能通过互联网及时准确地了解政府办事流程,实现办事效率的大大提升,低门槛的政府信息也为社会跨越“信息壁垒”提供了有力支撑。
大数据时代解决了海量信息数据的集成与针对性再现问题,主要是将真实世界再现于网络空间中,该时期数据成为新兴生产要素,蕴含着极大的生产价值,是社会生产力发展的关键动力。在此基础上,政府也实现了数据的高效整合与再现,整个业务流程信息能够在足够的数据支撑下进行主动推送,公众可随时随地享受到服务的主动性与便捷性,行政效率迈上了一个新台阶。
人工智能时代解决的是数据的智能化处理与个性化产出的问题,ChatGPT与Sora的亮相,凸显了目前人工智能对人类已有认知边界的拓展,而对知识边界的突破也意味着社会发展秩序的重建[5],政府治理必然需要随之进行适应性调整。人工智能发展到能接受人类指令并生成相应内容这一跨越已经能够替代传统僵化的简单人力劳动。随着人工智能技术应用边界的拓宽,政府领域的智能化并不是将智能技术作为工具与政府职能要素的简单叠加,而是在智能化赋能下促进结构与功能的深度优化[6],可以实现政府部门内部运转的降本增效,解决政务“碎片化”问题,对外公共服务也能在与公众的交互中依托其自适应性实现个性化提供,为治理现代化水平的提高注入强大动力。
(二) 辐射范围广潜力大:人工智能技术发展驱动政府治理研究现状
当今人工智能技术的发展与应用或将成为政府治理效能提升的关键节点,加速我国治理现代化推进步伐。2023年2月27日,中共中央、国务院印发《数字中国建设整体布局规划》,指出要从打通数字基础设施大动脉、畅通数据资源大循环两方面夯实数字中国建设基础。也就是在技术和治理两方面着手为我国数字化建设提质增效,其中治理主要依靠政府力量进行统筹布局与规划,技术则是包括人工智能在内的现代技术的自主创新与研发,与传统的技术治理模式和路径不同,数字化与智能技术的发展需要建构一种以新兴技术为支撑的治理形态[7]。
在人工智能技术影响政府治理与运行的相关研究中,政府内部行政、对外治理、服务提供、政府涉足的其他领域或环节等的治理受到了许多学者的关注与讨论。包容性治理[8]、协同治理[9]、敏捷治理[10]、韧性治理[11]等理论范式被用于人工智能治理路径的构建中。在作用方面,人工智能技术影响下的政府治理呈现出治理主体多元化、治理工具智能化、治理能力现代化的基本特征[12]。人工智能技术的发展使得人机之间的互动更加人性化、普遍化,当前的人工智能技术在自学习、自决策方面有着巨大的突破,政务服务的深度优化、迭代升级有了强大的技术设施支撑,智能政务服务有望实现进一步转型升级,驱动政府的组织结构调整和流程再造,提高政府的公共服务效率和治理效能[13]。
除政府治理外,也有不少学者将关注的焦点放在政府参与的具体某一环节或特殊领域中,包括人工智能在行政执法场景[14]、应急管理[15]、新冠疫情防控[16]、环境治理[17]等领域的应用。由此可见当前人工智能的应用正在向多领域、全方位覆盖,智能技术的价值得到了高效发挥并正向社会广泛辐射。
然而,人工智能的发展及其在政府层面的应用可能产生的风险也引发了一些学者的思考,GAI所引发的创新代价使得从长期视角来看,难以界定其会成为科技创新的帮手还是阻力[18],聚焦于政府层面,政府内部工作面临劳动力冗余、算法歧视、隐私安全、权责归属模糊等问题[19]。在面向公众提供政务服务时,存在权责失衡与冲突、公共价值失灵等风险[20],这些问题也一直是智能技术发展和管理变革急需解决的痛点和难点。
智能化浪潮对政府治理的影响可以视为新公共管理运动在新技术环境下的进一步延伸和应用[21]。在理论上,有学者基于“技术–制度–行动”的框架,分析政府治理中GAI的应用前景[22]。在实践中,越来越多的政府部门也正在尝试将人工智能技术引入政务服务过程中[23]。但在各地政务服务网站的具体实践应用中,简单的智能问答服务效果并未做到与现阶段人工智能发展步伐相匹配,大多表现为依赖现有知识图谱进行检索与呈现,与真正的“智能”还存在一定的差距。
通过对文献的梳理以及实践情况的效果呈现,虽然我国的信息化建设具有良好的智能算力基础与庞大的数据资源规模,但智能技术在政府的实践运用并未达到预期,GAI的出现促使越来越多的科技巨头加速涌入人工智能赛道以期在这一新兴市场占有一席之地,政府也将成为影响与冲击波及的领域之一。现有关于GAI的研究主要聚焦于技术逻辑分析以及对部分行业的冲击问题,从国家视角出发,新一代人工智能助推国家治理现代化与智能化转型的前景十分可观[24],但鲜有研究以框架性分析的形式展开论述,智能技术的发展是政府治理现代化的重要推动力,也是推进中国式现代化的新动能,因此基于理论框架分析GAI的出现可能带来的新冲击与新影响不可忽视。
二、 适应性分析模型构建与双维要素
(一) 适应性分析耦合框架
1 理论基础:技术接受模型(TAM)与创新扩散理论(IDT)
1985年,技术接受模型(Technology Acceptance Model)的首次提出是用以研究用户对信息系统的接纳情况和使用行为[25]。模型中有用性认知和易用性认知共同决定了用户使用信息系统的态度,这种态度和有用性认知一起影响着用户将这种行为意愿转化为实际行为的可能性[26]。后续许多学者在此基础上进行了修正与补充,其中有学者根据关注新技术与社会行为的创新扩散理论新增了感知风险和信任两个关键因素对该模型进行了扩展[27],其中感知风险通过显著影响感知有用性进而作用于后续态度、意图及行为。
2 框架设计
现有研究将感知风险作为影响有用性的前置条件介入分析过程,但就人工智能而言,其可能引发的风险主要涉及数据安全、技术风险、公众焦虑等伦理方面,而有用性和易用性主要是从技术层面考量,因而将GAI的风险性与有用性、易用性并列,创新性地构建出如图1所示的“有用性–易用性–风险性”的适应性分析框架,结合其强大的算法以及智能算力支撑从政府内部与公众双视角分析其有用性、易用性以及风险性。
3 分析要素
作为公共管理的重要发展领域,行为公共管理学的研究内容聚焦政府行为过程与公民体验过程之间的相互影响与作用,梳理其演进脉络,其理论逻辑主要围绕“政府行为–公民体验”双轮模型展开[28]。人工智能技术在介入政府治理的过程中,必然对政府与公众之间的互动关系带来一定的影响,因此,借鉴行为公共管理的研究框架,从“政府–公众”双轮模型切入进行适应性分析。
从政府侧切入,人工智能可能给政府带来的积极作用受到了多数学者的认同,在提高公共服务决策能力、提升公共服务组织内部管理效能、改善公共服务的提供效率与质量、加强公共服务对象与公共服务组织的互动、强化公共服务组织的内外部监督等方面具有助推公共服务治理发展的趋势,但在风险方面也可能会减少公民对公共部门的信任[29]。此外,作为政府治理的辅助性技术工具,由于人工智能程序一定程度上排除了人为扭曲,对具体治理场景与问题具有较高质量的回应性[30]。此类问题在传统的人力服务场景中较为普遍且难以规避,而GAI的介入将在很大程度上破解这一难题。从实践来看福建省龙岩市上线数字机器人进行“智能帮办”,简要流程如图2所示。人工智能识别用户上传的身份信息及基本信息表,自动生成申请表及材料文书,实践表明有效解决了审批人员“二次录入”、办事群众重复填写表单等问题,进一步压减了审批时限,减小了工作人员的压力。龙岩市政务服务中心报告显示,截至2024年3月,数字机器人已经覆盖40多个应用场景,审批数据准确率达100%,工作效率提升90%以上,企业和群众体验感和满意度显著增强[31]。立足于现有研究的基础与实践案例,政府视角的有用性、易用性主要集中表现在提高行政效率、行政质量、促进流程优化、保证服务高效精准等方面,故结合现有学者所提出的积极影响以及GAI在强大算力支撑下在数据聚类分析、学习与记忆功能、结合上下文互动等方面的优势,从政府视角分析其有用性与易用性,而风险性则主要围绕人工智能的安全隐患、技术局限性以及使用效果等方面分析。
从公众侧切入,福建省龙岩市在引入人工智能后,形成了“一件事一次办”的便民模式,公众享受到了极大的便捷性和高效性,打破了原来在不同部门、不同区域的个体事项之间的信息阻隔,将各部门所需的材料全部集中到一张表单、一个窗口,通过智慧政务工作台实现集中统一办理。再加上RPA数字机器人、OCR图像识别、电子签名等技术,完成跨系统、跨平台数据采集、整理、录入,再通过系统统一受理、智能化进行内部分发与审核,做到办理环节由繁到简、办理流程由以天为单位到以分钟为单位的效率跨越,具有提速办理、一次性办结、全程可追溯等优势,为公众简化了办事流程、降低了办事成本、提高了办事体验。
在数字化政府建设中,门户网站以及政务APP能够作为观察政府运作的窗口[32],中国软件评测中心自2006年以来每年均发布政府网站绩效评估结果,其评估体系主要包括信息公开、在线办事和政民互动三个基本维度。中国社会科学院信息化研究中心等单位发布的政府网站绩效评估指标体系包括信息公开、在线服务、互动交流、用户满意和国际化共五项一级指标,也覆盖了信息、服务、互动三个要素。基于此,由于生成式人工智能的应用场景也表现出以服务公众为目的的特点,对其进行分析必然要围绕公众体验展开,因此从公众视角对GAI进行适应性分析的内容就围绕“信息–服务–互动”三个要素结合其相关特点展开,主要是侧重于生成式人工智能对公众办事体验的影响。
基于现有研究所讨论的人工智能对政府内部行政工作以及对外提供服务可能带来的积极或消极影响,借鉴政府网站绩效评估的指标分类,从“政府–公众”双轮模型切入针对GAI的特点分别从如表1所示共18个要素进行适应性分析。
表 1 GAI助推政府治理现代化分析框架及要素分析框架 双轮模型 分析要素 要素来源借鉴 有用性 政府 组织精减降本 张凯军;吴文强、朱侃;秦小建、周瑞文等 工作的高效性 替代繁琐前期工作 公众 信息的全面性 朱光辉,王喜文;龙岩市政府网站;中国软件评测中心;中国社会科学院信息化研究中心等 服务的敏捷性 互动的高效性 易用性 政府 技术门槛低 王谦、刘大玉;于文轩;李晓方、王友奎、孟庆国;曾宇航、史军等 数据输入与输出衔接 产出的规范性 公众 信息获取流程简化 朱光辉,王喜文;龙岩市政府网站;中国软件评测中心;中国社会科学院信息化研究中心等 服务的个性化 意愿表达真实有效 风险性 政府 效果受用户主观影响 郁建兴,刘宇轩;马亮;陈睿、刘大椿;刘玮、王锋;张成福、王祥州等 技术的局限性 政务信息安全 公众 信息权威性存疑 服务的安全隐患 互动自主性缺失 (二) 政府–公众双轮模型分析
1 结构精简、运行流畅与政务安全——政府侧适应性
从有用性角度看,GAI应用场景的广泛性使其在整体组织部门的精减和人力的高效利用方面具有一定的促进作用。《党和国家机构改革方案》中明确指出中央国家机关各部门人员编制要统一按照5%的比例进行精减,由此说明机构和人员的精减化是提高治理现代化水平的调整方向之一,而实践证明人工智能强大的数据聚类分析能力在一定程度上有助于简化业务流程,缩短办理时间,进而解决政务系统人员冗余的问题,降低行政成本,此外,由于政府主体活动所产生的信息量早已超出了传统人力所能承载的范围,尤其是在互联网、大数据等的发展后,政府部门内部工作处理和信息交互已经进入了智慧化阶段,人工智能在一定程度上能代替传统的模式化公文写作、文件起草、资料整理归集、会议记录以及法律文书撰写等前期工作,极大程度上减轻政府工作人员工作量的同时还能有效规避传统人力可能导致的主观性失误,有效保证了工作效率和标准化要求。
从易用性角度看,GAI多轮学习和记忆强化功能对政府工作要求的满足具有超越人力的巨大优势。GAI主要是通过用户的需求进行预期目标内容的高效生成,如图2福建省龙岩市业务办理流程所示,在具体应用过程中,公众只需上传基本信息,智能系统就能根据所需业务自动生成申请表单及材料文书,避免了因流程不熟悉而导致的重复填写、材料错漏等情况的发生,GAI互动式的操作流程门槛低易上手,并且能够在反复互动中完善生成内容,做到上下文输入与输出相衔接,使得其产出的内容更容易满足治理过程中对一致性、规范性和专业性的要求。
从风险性角度看,人工智能所可能引发的数据安全、伦理冲击是政府必须警觉的问题。GAI的使用效果以及产出内容受使用者的主观影响较大,交互方式、场景设定等细微的变化也会产生完全不同的结果,加之我国并未掌握其核心技术,这将会是可能危及我国数据主权甚至国家安全的一大隐患。除技术性问题外,引发争议与舆论质疑的另一重要原因是信息安全问题,教育领域热议的侵权、作弊等问题已经受到大多数人的关注,而政府部门内部的信息和文件更具保密要求,人工智能代替人力是否会增大泄密的风险,以及数据泄露或窃取的渠道、方式是否更难被追踪预防均是政府担心的关键点。目前的研究与实践显示,GAI在表现出极大发展潜力的同时,可能产生的效用失灵、社会失衡、发展失控、人类失语等的情况对治理现代化水平的提升提出了不小的挑战。
2 服务个性化、互动治理与隐私伦理——公众侧适应性
从有用性角度看,人工智能提供或辅助提供的信息、服务能更加精准高效地满足公众需求。深圳宝安引入“人工智能+政务服务”的政务大模型,可以智能分析公众诉求、获取市民满意度评价结果,自动将评价不满意工单退回重办,并通过宝安区城市运行和治理智能中枢平台CIM时空数字底座,高效分析和直观展示诉求处理进展,实现诉求精准匹配、专人跟进、闭环督办。GAI强大的数据库和算法算力具有显著的高速迭代、通用性、颠覆性和重塑性等特性[33],因此能够对海量数据进行快速聚类分析以准确实现数据的自匹配及产出,简化了办事流程,基于特殊的训练方式,其在公共服务中能实现针对性的快速产出,就实际效果来看,GAI的应用同时兼顾了公众所需业务信息的完整性、服务的敏捷性以及办事的高效性。
从易用性角度看,国家治理现代化强调治理主体与治理工具的双重多样性,表明智能时代公民参与治理现代化的必然性。多地政府已经引入了智能问答、智能搜索、智能审批等功能,从上述深圳宝安的实践案例来看,公众可以通过与人工智能对话提问的方式表达自己所需的服务或信息,进而由人工智能对需求进行识别,与知识库进行匹配,最终智能化产出文字、图表等内容,整个互动过程清晰流畅,改变了以往手动进入服务流程或人工办理的模式。由于GAI能利用多模态技术针对不同人的需求调整生成内容的方式、程序以实现个性化服务提供,即使是数字化技能掌握程度较低的公众也能享受到针对性服务,进而提高政民互动的广泛性和有效性。
从风险性角度看,人工智能自身局限性引发的权威性、可靠性质疑和“算法黑箱”困境将会是公众担忧的关键点。在公众看来,政府提供的信息和服务代表的是权威和官方,而人工智能提供的服务和信息是否就代表了政府权威容易引发争议,尤其是在政策或信息更新的过渡时期,由于信息差而导致的信息滞后或服务错位甚至可能会引发政府失信问题,也会引发公众对自身信息和隐私安全的担忧。再加上GAI的生成内容是概率性输出,其准确性并不能完全保证,当结果出现模糊或偏差时,由于公众并不具备足够的信息鉴别和筛选能力,极易受到干扰和误导从而缺乏甚至丧失自主决策的能力,造成公众失语的情况。
由以上分析可以看出,GAI的引入对政府部门内部和公众均既有可取也有值得商榷之处。就积极影响来看,表现在治理体系所包括的组织结构和工作运行流程两方面,而对公众则主要表现在基本政务服务以及政民互动方面,是对治理能力的有效反映;就风险隐患来看,政府内部和公众视角都表现出对可能引发的数据安全性、可靠性以及人机伦理方面的担忧,由于公众对于新技术引入的适应性需要政府进行引导,公众可就使用效果向政府进行反馈,因此形成如图3所示的“政府–公众”双轮驱动模型。
三、 生成式人工智能助推政府治理现代化的三维影响路径
根据上文对政府部门与公众双视角的适应性分析,GAI作为智能技术发展的创新性产物,对政府治理水平的提升路径表现在多维度、多视角,包括治理体系涵盖的政府内部行政组织、反映治理能力的面向公众提供政务服务、治理全过程双方的数据安全三维度。加之技术对社会的塑造作用使得政府治理变革与技术革命需要保持一致性[34],而创新是政府智慧治理的重要动力来源与组成部分[35],因此技术的创新会在不同程度上助推治理创新,人工智能作为当前社会技术创新的重要成果,是未来数字政府在数据价值释放、数据赋能、数据安全保护等方面持续推进的动力[36],是加速提升国家治理现代化水平的关键要素。
基于以往关于组织创新和政府创新的分类体系研究,有学者将中国政府创新分为管理创新、服务创新、技术创新、治理创新和合作创新五类[37],也有学者在有关人工智能对政府治理影响的探讨中提出在解决人力资源缺乏问题、行政流程漫长问题、提高决策质量、构建更融洽的政府–公民交互渠道等方面具有一定的促进作用[38],也涉及了管理、服务、合作、治理等方面的影响。然而,由于人工智能与人类的底层决策思维不同,人类或将成为算法决策的工具而非主体。现阶段投入使用的人工智能体处于去伦理化或弱伦理化的状态,无法在执行治理任务过程中自主维护公共价值和行政伦理,因而还不能被接纳成为社会道德共同体成员[39]。因此,人工智能对伦理带来的冲击不可避免。故以适应性分析得出的“行政组织–政务服务–数据安全”三维影响路径为出发点,将管理、服务、合作、技术、治理、伦理六维度的创新体系融入其中,对GAI的影响进行如图4所示具体分析。
(一) 行政组织影响路径:组织管理与合作运行的现代化治理体系创新调整
1 部门整体精减、局部扩张,人才体系的优化
管理创新主要是聚焦政府治理体系中组织结构的调整和治理过程的改变,包括部门与人员的精减与扩张、新型基础设施的完善升级、人员素质的要求。合肥与科大讯飞合作,将“星火”大模型运用于政府办公、政务服务以及智慧司法等政务场景,在人工智能的助力下,原本需要多个部门、多个窗口、多次取号排队的业务可实现一窗办理,该大模型面向工作人员提供窗口坐席助手、智能任务管家和报表智能填充等服务,涵盖政务热线、文稿智能写作和智能舆情分析等领域,有助于释放人力资源,为工作人员减负,可见在高效办结的同时也有助于优化政府工作人员结构、实现治理过程的降本增效,这必然会对政府组织结构和治理过程带来一定的影响。主要表现在:第一,智能技术具有高效化、标准化、不受时空限制的特点,对传统人工办理流程的替代使得整体上组织部门有极大精减的可能,在处理重复性高、标准化程度高的工作上,人工智能有超越人力时空局限性、精力有限性、情绪稳定性的优势;第二,GAI的发展代表着对智能算力底座的需求呈现膨胀趋势,计算机、人工智能系统等也是政府治理过程中必须加以完善和升级的基础硬件设施,配套的技术辅助、管理和维护、人工智能安全保障等的工作部门和人员也需适度增加,组织结构表现出局部扩张的趋势;第三,政府内部也需对人工智能技术嵌入下的人员体系进行优化,以往电子政务时期对政府工作人员有掌握基本计算机技术的要求,如今人工智能的嵌入还对工作人员提出了与人工智能交互、协作的要求,不仅仅需要掌握基本技能,还需要一定的灵活应变、人机互动、自主筛选信息的能力,在利用人工智能技术辅助决策提高效率的同时还要确保人工智能的作用发挥是在人的可控范围内。
2 合作共享流程简化、互动高效,工作量的重心转移
合作创新主要体现为府际之间、政府内部机构之间、政府与外部组织等之间的信息交互、数据共享关系。2019年1月挂牌成立的内蒙古乌海市行政审批和政务服务局对接教育局、不动产登记中心、公安局、大数据中心等部门,打通各部门、多材料的联通壁垒,人工智能需要庞大的数据资源作为支撑,政府单一部门所提供的数据有限,且由于GAI的产出内容更具灵活性,对训练数据的要求也更高,因此政府在数据资源共享方面必须保持更加开放的态度,乌海市通过不同部门的各项材料智能提取以推进新生入学“一件事一次办”改革,实现了线下提供身份证、户口本、不动产权证等多种证明材料,到新生入学报名“零材料”的流程优化。基于此,为畅通部门合作,政府需要对传统的信息共享硬件软件进行升级优化,各合作方需要建立规范统一的信息标准与共享模式,在保密与共享的界定上达成一致标准并共同遵守。此外,政府内部传统的文件审批、会议纪要、公文撰写等工作均只是资源整合与调动,问题的解决才是关键,但前期大量的文件起草修改工作、繁琐的审批流程使得工作量的重心前移,降低了决策的时效性,GAI功能上所具有的文字处理功能以及对信息数据共享的要求能极大减少前期工作量,为行政决策提供了从客观数据转换成有效信息并形成合理知识的强力工具[40],进而将人力集中于关键决策环节。
(二) 政务服务影响路径:基本服务与治理闭环的现代化治理能力创新提效
政务服务作为不断发展的一项政府职能[40],朝向提供优质高效的公共产品和公共服务的目标,其职能范畴和重心一直在随着经济社会的发展而不断地扩充和发生偏移[41]。社会服务、公共服务、市场服务和管理服务等内容又包含于其中的趋势[42]。从政务服务概念扩张性趋势来看,其范畴不仅局限于传统的服务主体与服务客体间的事项办理过程,还包括对全周期的管理、反馈、监督等环节,政务服务既需要提升治理能力,也要提升治理合法性,因此衍生出“政务服务治理”这一外延[43]。因此,本文从政务服务的基本服务过程及衍生的政务服务治理属性两个视角出发,分别对GAI的影响进行分析。此处所提到的“治理”指政务服务内涵扩张后所涉及的管理、反馈、监督等环节,最终也是作用于政务服务,两者形成政民互动的良性闭环。
1 基本服务的高效公平与满意度并行
服务创新主要针对政府面向公众所提供的基本线上政务服务,当前公众可以通过线上的方式了解并享受,人工智能可对政务数据进行整合分析、在决策场景高效运行、对业务流程与决策全周期进行监管追踪,能够辅助公共部门精准治理[44]。北京市“亦智”政务大模型服务平台的落地,为政务工作注入了全新的生产动能,公众只需输入业务需求,“小亦”就能自动识别办理意图,快速答复相关流程,还能通过智能对话一步步引导用户填写表格、上传材料、提交申请等,直至事项完成。公众不需要在一系列流程中手动选择服务步骤,在提高服务公平性、普惠性的同时技术学习成本大大降低,可见基于传统线上服务相对高效的优点下GAI在兼顾公平性、精准性和提高公众满意度方面进一步做到了加强。
2 公众真实表达与治理闭环形成
治理创新主要体现在因智能技术发展而丰富的社会资源、新兴技术资源为政府治理能力和质量的现代化提供了广阔空间,进而作用于政务服务的高效供给。政务服务是以“服务供给”姿态为社会所熟知的政府治理行为,规则之治导向的政务服务治理强调突破政府对政务服务生产过程的主导作用,注重建构政务服务从设计、接触、办理、评价全过程的闭环管理体系[45]。从具体实践来看,一方面,传统线上服务在提高办事效率的同时也存在一定的“算法歧视”现象,对“数字贫困户”来说仍具有较高的技术门槛,而GAI的互动生成模式能很好解决这一问题,在事项办理过程中,北京市政务大模型“小亦”可根据办事人员具体情况,推荐最适合的办理途径和方法,提升用户体验和办理效率,同时还有助于刺激公众的表达意愿,使政府采集到的公众意见更真实、更深入,进一步降低了社会参与政务服务治理的门槛;另一方面,人工智能在促进政府优化治理结构的同时也有利于提高政府反应速度,保证了政务服务治理中监管、反馈的时效性,从而构成服务质量和治理成效的良性互动闭环。
(三) 数据安全影响路径:技术安全与伦理冲突的现代化治理全过程创新平衡
1 数据安全与技术规制风险
技术创新主要指人工智能技术对政府治理与技术变革带来的影响。在互联网、大数据、人工智能等技术不断发展的过程中,由于人机关系发生了改变,政府、平台、社会治理的边界和互动模式也发生了变化,人工智能的技术性算法逻辑在平台建设与维护、数据资源整合与交互等方面极大可能促进政府治理方式方法功能性和普惠性的创新。但新技术的运用必然会扩大政府治理的触及范围,第一,政府内部许多涉密文件和数据都具有极强的保密要求,而人工智能可能会存在数据隐私、信息保护等方面的安全隐患,甚至涉及数据主权等国家层面的风险,一旦发生数据信息的泄露,将会造成严重的社会秩序混乱甚至危及国家安全,因此数据的评估、保护、监管等安全保障机制都是GAI的嵌入必须落实强化的配套举措。第二,人工智能技术在我国目前存在技术受限问题[46],这对我国自主研发人工智能的技术提出了要求,若引入GAI后我国技术自主性缺乏,算力需求不能得到满足,极有可能会由于技术受制而危及数据与国家主权,任何技术漏洞都可能成为在国际竞争中国家安全屏障的重大威胁。
2 行业与人机伦理冲击
伦理创新目前主要聚焦于人工智能所引发的职业替代、侵权、责任归属等问题。人工智能技术的广泛应用使得普通群众更容易被信息监控和痕迹追踪,也可能引发他们在经济地位和政治权力上的不安全感[47]。一方面GAI在极短的时间内引起了全球尤其是高知群体的关注与热议,不仅仅是因为媒体传播能力的强大,这种集中爆发式的传播背后的原因值得深思,深层逻辑可能涉及对人性的挑战。人工智能的发展促使人们开始关注到人类与技术之间的关系、威胁或风险、伦理道德等人文议题[48],社会的变革促使政府也需要加以重视并思考转变治理格局。
目前在教育行业的颠覆性影响是最明显、最直接的,尤其是论文代写方面,从政府的角度看,当某个行业主要是依论文数量来评职称或晋升,而GAI的出现会引发人们对论文原创性的质疑,那么这种晋升规则就会失去稳定性和说服力,进而迫使行业进行改革,也就是说人工智能短期内可能会带来巨大冲击,但长期有可能是社会和行业进化的催化剂。
另一方面,人性是社会最大的变量,目前人工智能并不能准确评估人性,因而是对传统人类主导的行政行为提出的挑战,从辅助人类整合资源、制定方案直至替代人类做出决策,即使最终决定是由人类做出,但机器的参与会对人类的行为与价值观带来一定的冲击,引发是否会颠覆传统行政伦理的担忧,尤其是涉及隐私安全、涉密文件等时可能面临算法与人性的冲突以及责任归属难界定等问题。因此GAI技术也会给传统伦理带来巨大冲击,给社会秩序带来更多不确定性。
四、 生成式人工智能助推政府治理现代化的实践展望
根据分析结果,GAI的积极影响主要表现在反映治理体系现代化的政府内部行政组织、反映治理能力现代化的政务服务两个维度,但在享受智能技术所带来的便利与高效的同时随之可能产生的问题也必须加以重视,人工智能在数据安全方面可能带来的风险是政府和公众均关注的重点,因此,人工智能介入政府治理的必要实践展望主要从包容适应与风险防范双路径提出,前者主要强调以包容与渐进适应的态度接纳人工智能技术,将其作为工具在治理体系与治理能力现代化方面发挥辅助作用,风险防范主要是针对治理全过程的数据安全维度,确保人工智能的作用发挥不超出人类控制,需从强化安全屏障、规范其自主性以及加快技术自主研发入手。
(一) 包容与适应:强调工具属性、降低权威性
一是要强调其工具属性。由于GAI的潜在价值及风险都还未得到完全准确的评估,政策制度过于保守可能会阻碍技术创新的步伐,因此对政府提出了包容对待的要求。但由于人工智能必须基于其学习过的数据或数据规律输出内容,存在输出的不可预测性、随机性,且人工智能本质上只是一个表达的工具,并没有对错意识和辨别能力,并不掌握答案背后的知识体系以及生成答案的深层逻辑。
二是要降低其权威性。目前GAI的公平性取决于它的训练数据集以及使用它时的上下文和提问方式[49]。而政府是权威的代表,发布的信息、文件等都必须严格审核以保证不具有误导性,人工智能的失误在追责时承担者是政府工作人员,因此这将会导致公众对政府可靠性产生质疑,给政府信誉带来风险。
包容适应的实践展望要求政府在以包容的态度接纳GAI时需要准确定位,将其作为辅助工具协助决策,强调人工智能的工具属性以及人的主体性,在充分发挥其灵活性、精准性、便捷性作用的同时要降低其权威性、避免算法崇拜。此外还需对其产出信息进行筛选加工,渐进性适应人工智能与人的交互协作,避免被模糊或错误信息干扰从而盲目采用导致政府失信于公众,确保政府组织和服务提供的规范化和高效化。
(二) 风险防范:强化安全屏障并规范其自主性、加快自主技术研发
一是要强化安全屏障并规范其自主性。人工智能的广泛应用一定程度上是对法治体系严谨性提出的挑战,对可能性风险的防范是政府的重要任务。一方面,人工智能技术的巨大优势极易导致使用者陷入技术依赖与崇拜的陷阱之中,继而削弱其自主性导致人类失语;另一方面,人工智能自主产出的不可预测性和随机性使其在法律关系中具有客体属性,当涉及侵权、安全隐患等问题时难以界定权责关系,因此需要从制度层面强化安全屏障,划定权责归属,通过制度跟进严格监测、审批、评估人工智能的运行过程,因此监管政策的制定既需要为新技术的发展预留空间[50],也要保证其自主性在人类可控范围内发挥。
二是要加快核心技术的自主研发。GAI对政府数据需求量具有较高要求,这就意味着人工智能掌握的政府数据量极大,机密信息泄露的可能性也随之增大,或将危及国家安全,因此目前国际形势下我国要在人工智能核心技术上不受制于人就必须加快立足中国实际的技术自主研发,积极响应党的二十大精神,强化国家战略科技力量,提高国家创新体系整体效能,形成具有全球竞争力的开放创新生态,在根源上确保在技术赋能政府智能化建设的同时,数据主权、国家安全的自主性不受威胁。
风险防范实践展望要求关于GAI相关配套的准入、监管、责任归属等方面的法律法规及政策制度的跟进必须对可能涉及的主客体、行业领域进行充分评估,在不断的调整中促进GAI的使用规范性和技术创新性同时发展,同时也要加快技术自主研发步伐为我国数据主权保驾护航以规避威胁国家秩序的风险隐患。
五、 结论
人工智能浪潮引发了巨大的讨论,将人机互动的研究进度向前推动了巨大一步,不可否认新技术的引入对建设资源更开放、机构更精简、服务更高效、互动更透明的现代化数字政府具有一定的促进作用,但技术创新也带来了一系列不可避免的风险。
为促使政府更好地顺应智能社会的发展步伐,提高治理现代化水平,本文通过分析GAI对政府治理过程的影响,旨在回应在理论层面,政府应从哪些维度掌握人工智能的影响?在智能技术与政府治理相辅相成的情况下,在实践中应如何应对不断增强的复杂性?据此,研究得出以下结论:
第一,构建“有用性–易用性–风险性” 框架,从主客体双维度的要素分析出发,兼顾新技术与政府行为、公众行为分析GAI对政府的影响。
第二,以“政府–公众”双轮驱动模型为视角,分析得出具体影响包括“行政组织–政务服务–数据安全”三个维度,分别表现在现代化治理体系的创新调整、现代化治理能力的创新提效、现代化治理全过程的创新平衡。
第三,提出包容适应与风险防范双路径实践思路。即在行政组织与政务服务维度以包容与渐进性适应的态度充分利用人工智能的优势,数据安全维度则要做好风险防范工作,包括强化数据安全屏障、加强规范其自主性、加快自主技术的研发等,为GAI助推治理现代化严守安全底线。
-
表 1 GAI助推政府治理现代化分析框架及要素
分析框架 双轮模型 分析要素 要素来源借鉴 有用性 政府 组织精减降本 张凯军;吴文强、朱侃;秦小建、周瑞文等 工作的高效性 替代繁琐前期工作 公众 信息的全面性 朱光辉,王喜文;龙岩市政府网站;中国软件评测中心;中国社会科学院信息化研究中心等 服务的敏捷性 互动的高效性 易用性 政府 技术门槛低 王谦、刘大玉;于文轩;李晓方、王友奎、孟庆国;曾宇航、史军等 数据输入与输出衔接 产出的规范性 公众 信息获取流程简化 朱光辉,王喜文;龙岩市政府网站;中国软件评测中心;中国社会科学院信息化研究中心等 服务的个性化 意愿表达真实有效 风险性 政府 效果受用户主观影响 郁建兴,刘宇轩;马亮;陈睿、刘大椿;刘玮、王锋;张成福、王祥州等 技术的局限性 政务信息安全 公众 信息权威性存疑 服务的安全隐患 互动自主性缺失 -
[1] 张伟. AI赋能 科研“第五范式”引变革[N]. 中国高新技术产业导报, 2022-08-15. [2] 张夏恒. 基于新一代人工智能技术(ChatGPT)的数字经济发展研究[J]. 长安大学学报(社会科学版), 2023, 25(3): 55-64. [3] 朱光辉, 王喜文. ChatGPT的运行模式、关键技术及未来图景[J]. 新疆师范大学学报(哲学社会科学版), 2023, 44(4): 113-122. [4] CHRISTAKIS N A,Fowler J H. Connected: The Surprising Power of Our Social Networks and How they Shape Our Lives[M]. Little, Brown and company, 2009.
[5] 李梅敬. Sora对人类认知边界的延展以及发展共识凝聚[J]. 学术探索, 2024(7): 1-8. [6] 王谦, 刘大玉, 陈放. 智能技术视阈下“互联网+政务服务”研究[J]. 中国行政管理, 2020(6): 73-79. [7] 段忠贤, 滕仁玉. 数字化改革如何赋能经济高质量发展——基于国家级大数据综合试验区的准自然实验[J]. 贵州财经大学学报, 2024(2): 50-60. doi: 10.3969/j.issn.1003-6636.2024.02.006 [8] 于水, 范德志. 新一代人工智能ChatGPT的价值挑战及其包容性治理[J]. 海南大学学报(人文社会科学版), 2023, 41(5): 82-90. [9] 蔡士林, 杨磊. ChatGPT智能机器人应用的风险与协同治理研究[J]. 情报理论与实践, 2023, 46(5): 14-22 [10] 于文轩. ChatGPT与敏捷治理[J]. 学海, 2023(2): 52-57. doi: 10.3969/j.issn.1001-9790.2023.02.009 [11] 许源源, 陈智. 新一代人工智能技术社会化应用的脆弱性风险及其韧性治理研究——以ChatGPT为例[J]. 电子政务, 2023(9): 39-49. [12] 张凯军. 政府治理应用人工智能的路径研究[J]. 中国管理信息化, 2022, 25(15): 177-181. [13] 吴文强, 朱侃. 信息技术应用的双重逻辑及其对政府治理效能的影响——来自G市D区的经验证据[J]. 电子政务, 2021(8): 116-124. [14] 郝炜. 人工智能行政执行场景的行政法调控[J]. 行政法学研究, 2023(5): 156-166. [15] 周利敏, 刘和健. 人工智能时代的社交媒体与灾害治理——兼论国际案例[J]. 理论探讨, 2019(6): 175-181. doi: 10.3969/j.issn.1000-8594.2019.06.029 [16] 赵杨, 曹文航. 人工智能技术在新冠病毒疫情防控中的应用与思考[J]. 信息资源管理学报, 2020, 10(6): 20-27+37. [17] 张文博. 环境治理中的人工智能[J]. 国外社会科学前沿, 2019(10): 56-62+84. [18] 郁建兴, 刘宇轩, 吴超. 人工智能大模型的变革与治理[J]. 中国行政管理, 2023, 39(4): 6-13. [19] 陈睿, 刘大椿. “双循环”新发展格局下政府数字化转型的创新路径研究[J]. 经济体制改革, 2022(232): 28-34. [20] 刘玮, 王锋. 政务服务智能化创新的演化、风险与图景——基于场域视角的分析[J]. 电子政务, 2024(2): 79-88. [21] 李晓方, 王友奎, 孟庆国. 政务服务智能化: 典型场景、价值质询和治理回应[J]. 电子政务, 2020(2): 2-10. [22] 曾宇航, 史军. 政府治理中的生成式人工智能: 逻辑理路与风险规制[J]. 中国行政管理, 2023, 39(9): 90-95. [23] 姚清晨, 黄璜. 聊天机器人在公共部门管理中的应用研究综述[J]. 图书情报知识, 2022, 39(5): 144-156. [24] 马亮. 新一代人工智能技术赋能国家治理现代化的前景分析[J]. 国家治理, 2024(1): 29-33. [25] FRED D. DAVIS. A technology acceptance model for empirically testing new end-user information systems: theory and results[D]. Massachusetts: Massachusetts Institute of Technology, 1985.
[26] 边鹏. 技术接受模型研究综述[J]. 图书馆学研究, 2012(1): 2-6+10. [27] DHAMI H S .The role of trust and perceived risk in user acceptance of technology innovation in safety-critical systems[D]. Rensselaer Polytechnic Institute, 2005.
[28] 张书维, 李纾. 行为公共管理学探新: 内容、方法与趋势[J]. 公共行政评论, 2018, 11(1): 7-36+219. [29] 张成福, 王祥州. 人工智能嵌入公共服务治理的风险挑战[J]. 电子政务, 2023(241): 37-51. [30] 秦小建, 周瑞文. 人工智能嵌入政府治理的探索及启示[J]. 国外社会科学, 2022(350): 30-45+196. [31] 福建省龙岩市人民政府. 龙岩: 推出审批服务“数字机器人”[EB/OL]. (2023-2-7)[2024-5-29]. https://www.longyan.gov.cn/zt/rdzt/shfgf/gzbs/202305/t20230530_2006295.htm. [32] 许乐, 孔雯. 数字政府建设背景下政府透明度对企业创新的影响[J]. 贵州财经大学学报, 2023(4): 23-30. doi: 10.3969/j.issn.1003-6636.2023.04.003 [33] 容志, 任晨宇. 人工智能的社会安全风险及其治理路径[J]. 广州大学学报(社会科学版), 2023, 22(6): 93-104. [34] 张来明, 刘理晖. 新中国社会治理的理论与实践[J]. 管理世界, 2022, 38(1): 20-35 [35] 汤志伟, 龚泽鹏, 韩啸. 政府智慧治理的构成要素、目标与实施战略[J]. 电子科技大学学报(社科版), 2022, 24(6): 1-10. [36] 邓崧, 巴松竹玛, 李晓昀. 府际关系视域下我国数字政府建设创新扩散路径——基于“试验-认可-推广”模型的多案例研究[J]. 电子政务, 2021(11): 23-33. [37] 吴建南, 马亮, 苏婷, 等. 政府创新的类型与特征——基于“中国地方政府创新奖”获奖项目的多案例研究[J]. 公共管理学报, 2011, 8(1): 94-103+127. [38] 何哲. 人工智能时代的政府适应与转型[J]. 行政管理改革, 2016(84): 53-59. doi: 10.3969/j.issn.1674-7453.2016.08.011 [39] 代佳欣. 公共治理中的人工智能应用: 一个文献综述[J]. 吉首大学学报(社会科学版), 2021, 42(2): 97-108. [40] 后向东. “互联网+政务”: 内涵、形势与任务[J]. 中国行政管理, 2016(6): 6-10. [41] 覃耀萱, 张锐昕. 政务服务数据治理生态系统概念框架研究[J]. 中国行政管理, 2024(04): 84-92. [42] 张定安. 深化“放管服”改革 优化营商环境[J]. 中国行政管理, 2020(2): 155-156. [43] 马亮. 政务服务治理: 一个理论框架[J]. 西北师大学报(社会科学版), 2021, 58(3): 94-101. [44] ABDULAZIZ Al-BESHER, KAILASH KUMAR, Use of artificial intelligence to enhance e-government services[J]. Measurement: Sensors, 2022.
[45] 宋林霖, 李广文. 政务服务“基本问题”论析[J]. 江苏行政学院学报, 2024(2): 103-112. doi: 10.3969/j.issn.1009-8860.2024.02.015 [46] 王增杰. 我国科技领域重大风险的表现、特点、原因及防范对策[J]. 云南行政学院学报, 2023, 25(4): 24-36. doi: 10.3969/j.issn.1671-0681.2023.04.004 [47] 毛子骏, 朱钰谦. 人工智能的国外社会科学研究热点综述[J]. 电子科技大学学报(社科版), 2023, 25(2): 55-67. [48] 徐贲. 在工具与玩具之间: 关于ChatGPT的几点人文思考[J]. 广州大学学报(社会科学版), 2023, 22(4): 25-37. [49] TOM B B, BENJAMIN MANN, NICK RYDER. Language models are few-shot learners[C]. In Proceedings of the 34th International Conference on Neural Information Processing Systems (NIPS'20),2020, 1877–1901.
[50] 李晓方. 人工智能概念的再界定与政府的治理回应: 基于技术、市场和政治视角的分析[J]. 电子政务, 2019(195): 2-8.