广西师范大学学报（哲学社会科学版） ›› 2021, Vol. 57 ›› Issue (3): 52-63.doi: 10.16088/j.issn.1001-6597.2021.03.006

• 治理现代化研究 • 上一篇    下一篇

算法嵌入政府科层制的路径、影响与风险应对

张会平   

  1. 电子科技大学 公共管理学院,四川 成都 611731
  • 收稿日期:2021-02-01 发布日期:2021-08-06
  • 作者简介:张会平（1982–）,男,电子科技大学公共管理学院教授,主要从事数字治理、公共政策研究。
  • 基金资助:
    国家社会科学基金项目“大数据驱动的公共服务跨层级联动创新研究”（17BGL263）

Path, Influence and Risk Response of Algorithm Embedded in Government Bureaucracy

ZHANG Hui-ping   

  1. School of Public Affairs and Administration, University of Electronic Science and Technology of China, Chengdu 611731, China
  • Received:2021-02-01 Published:2021-08-06

PDF (PC)

371

摘要： 以深度学习为代表的人工智能算法尽管具有突破性特征,但其在政府部门中的应用依然是嵌入式的。算法嵌入政府科层制始于算法决策,并渗透于行政规则、行政权力和科层结构当中。政府科层结构可以选择算法决策,政府科层制并不会消失。算法嵌入政府科层制的影响包括工具性、内嵌性、自主性、破坏性等四个层面,可控制的算法在制度缺失或失灵时摆脱控制。我国公共领域算法运用在高层推动下形成全面嵌入态势,面临数据泄露与算法失控叠加引致的系统性风险,应融入网络安全框架,持续提升管控能力。

关键词: 政府科层制, 算法嵌入, 算法权力, 风险应对

Abstract: Artificial intelligence algorithm represented by deep learning, though bearing breakthrough characteristics, is applied in government departments in an embedded mode. Such an application starts from algorithm decision-making, and step by step is found available among administrative rules, administrative power and bureaucratic structure. The bureaucratic structure of government can choose algorithmic decision-making, and the bureaucratic system will not disappear. The influence of algorithm embedded includes instrumentality, embeddedness, autonomy and destructiveness and the controllable algorithm runs out of control when the system is missing or fails. A comprehensive embedding, as for the application of public domain algorithms in China, formed by extensive participation under the high-level promotion, brings forth systematic risk resulted from data leakage and algorithm out of control, a situation which renders an integration of the network security framework a necessity for continuously facilitating the management and control.

Key words: government bureaucracy, algorithmic embedding, algorithmic power, risk response

中图分类号: 

  • D035
[1] 周慎, 朱旭峰, 薛澜. 人工智能在突发公共卫生事件管理中的赋能效用研究——以全球新冠肺炎疫情防控为例[J].中国行政管理, 2020(10): 35-43.
[2] 陈姿含. 公共领域算法决策的几个问题探讨[J]. 理论探索, 2020(3):113-120.
[3] Criado J I, Valero J, Villodre J.Algorithmic transparency and bureaucratic discretion: the case of SALER early warning
system[J]. Information Polity, 2020(4): 433-448.
[4] 张欣. 从算法危机到算法信任:算法治理的多元方案和本土化路径[J]. 华东政法大学学报, 2019(6):17-30.
[5] 张爱军,李圆. 人工智能时代的算法权力:逻辑、风险及规制[J]. 河海大学学报(哲学社会科学版),2019(6):18-24.
[6] Andrews L.Public administration, public leadership and the construction of public value in the age of the algorithm and Big Data[J]. Public Administration, 2019(2):296-310.
[7] Busuioc M . Accountable artificial intelligence holding algorithms to account [J/OL].(2020-08-15)[2021-02-10].Public Administration Review. https://doi.org/10.1111/puar.13293.
[8] 陆凯. 美国算法治理政策与实施进路[J]. 环球法律评论, 2020(3):5-26.
[9] 简• E. 芳汀. 构建虚拟政府:信息技术与制度创新[M]. 北京: 中国人民大学出版社,2010:79-86.
[10] 吴晓林. 技术赋能与科层规制——技术治理中的政治逻辑[J]. 广西师范大学学报(哲学社会科学版),2020(2):73-81.
[11] 王浦劬,汤彬. 当代中国治理的党政结构与功能机制分析[J]. 中国社会科学, 2019(9): 4-24.
[12] Ang Y Y.Beyond weber: conceptualizing an alternative ideal type of bureaucracy in developing contexts[J]. Regulation & Governance, 2017(3): 282-298.
[13] 张云昊. 规则、权力与行动:韦伯经典科层制模型的三大假设及其内在张力[J]. 上海行政学院学报,2011(2): 49-59.
[14] High-level expert group on artificial intelligence of European Commission. A definition of artificial intelligence: main capabilities and disciplines [EB/OL].(2019-04-08)[2021-01-20].https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341.
[15] Yeung K.Algorithmic regulation: a critical interrogation[J]. Regulation & Governance, 2018(4): 505-523.
[16] Rebecca C.“Cyborg Justice”and the risk of technological-legal lock-in[J]. Columbia Law Review Forum,2019(1):233-251.
[17] 甄航. 人工智能介入量刑机制:困境、定位与解构[J/OL]. 重庆大学学报(社会科学版). (2020-12-18)[2021-02-10]. https://kns.cnki.net/kcms/detail/50.1023.c.20201218.0905.002.html.
[18] 付卓然. 国内司法人工智能的应用和反思[J]. 山东青年政治学院学报, 2021(1): 66-73.
[19] Young M M, Bullock J B, Lecy J D.Artificial discretion as a tool of governance: a framework for understanding the impact of artificial intelligence on public administration[J]. Perspectives on Public Management and Governance, 2019(4):301-313.
[20] Burrell J.How the machine thinks:understanding opacity in machine learning algorithms[J]. Big Data & Society, 2016 (1):1-12.
[21] 张恩典. 人工智能算法决策对行政法治的挑战及制度因应[J]. 行政法学研究, 2020(4): 34-45.
[22] 陈禹衡, 陈洪兵. 反思与完善:算法行政背景下健康码的适用风险探析[J]. 电子政务, 2020(8): 93-101.
[23] 张毅,马冉,赵阳,等. 科层制嵌入视角下的跨部门合作与服务下沉:基于案例的比较研究[J]. 中国行政管理,2018(12): 47-52.
[24] 张凌寒. 算法权力的兴起、异化及法律规制[J]. 法商研究, 2029(4): 63-75.
[25] 陈鹏. 算法的权力和权力的算法[J]. 探索, 2019(4): 182-192.
[26] 何哲. 面向未来的公共管理体系:基于智能网络时代的探析[J]. 中国行政管理, 2017(11): 100-106.
[27] 郭哲. 反思算法权力[J]. 法学评论, 2020(6): 33-41.
[28] Crawford K, Schultz J.AI systems as state actors[J]. Columbia Law Review Forum, 2019(7): 1941-1972.
[29] 段鹏. 平台经济时代算法权力问题的治理路径探索[J]. 东岳论丛, 2020(5): 110-117+192.
[30] 麦肯锡公司. 中国人工智能的未来之路[EB/OL]. (2017-03-31) [2021-01-20]. https://www.mckinsey.com.cn/wp-content/
uploads/2017/03/CDF_McKinsey_AI_CN_final.pdf.
[31] Wirtz B W, Weyerer J C, Geyer C.Artificial intelligence and the public sector-applications and challenges[J].International
Journal of Public Administration,2018(7):1-20.
[32] 张乾友. 人工智能与公共服务的规范前景[J]. 行政论坛, 2019(6): 115-120.
[33] Valle-Cruz D,Criado J I,Sandoval-Almazán R,et al.Assessing the public policy-cycle framework in the age of artificial intelligence: from agenda-setting to policy evaluation[J]. Government Information Quarterly, 2020(4): 1-12.
[34] Dwivedi Y K, Hughes L, Ismagilova E, et al.Artificial intelligence (AI): multidisciplinary perspectives on emerging challenges,opportunities,and agenda for research,practice and policy [J/OL]. International Journal of Information Management (2019-08-27)[2021-01-20].https://doi.org/10.1016/j.ijinfomgt.2019.08.002.
[35] 迪莉娅. 大数据算法决策的问责与对策研究[J]. 现代情报, 2020(6): 122-128.
[36] Fatima S, Desouza K C, Dawson G S.National strategic artificial intelligence plans: a multi-dimensional analysis[J].Economic Analysis and Policy,2020, 67:178-194.
[37] 颜昌武,杨郑媛. 什么是技术治理?[J]. 广西师范大学学报(哲学社会科学版),2020(2):11-22.
[38] 赵友华. 人工智能时代优化民生政治参与的算法逻辑[J]. 宁夏社会科学, 2019(5): 49-57.
[39] 刘建华,刘欣怡. 大数据技术的风险问题及其防范机制[J]. 广西师范大学学报(哲学社会科学版),2020(1): 113-120.
[40] 马亮. 公务员的信息技术能力与数字政府建设:中国城市的调查研究[J]. 广西师范大学学报( 哲学社会科学版),2020(2):34-44.
[41] 袁方成,李思航. 技术治理的风险及其演化逻辑——以农村精准扶贫为分析对象[J]. 广西师范大学学报(哲学社会科学版),2020(2):45-61.
[42] 本·格林. 足够智慧的城市:恰当技术与城市未来[M]. 上海:上海交通大学出版社,2020.
[1] 杨雪锋, 谢凌. 论环境邻避风险韧性治理[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(6): 33-44.
[2] 陈科霖. “应急管理碎片化”的成因及其消解——基于常规与应急两种治理机制的比较分析[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(6): 45-58.
[3] 吴进进. 环境冲突与地方政府的协商民主制度化:基于省际听证文件数的实证研究[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(6): 86-102.
[4] 贺东航, 贾秀飞. 作为中国特色学术话语的“政治势能”——贺东航教授访谈录[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(4): 10-18.
[5] 钟时. 政治势能依附与中国社会问责:一个公民行动策略的分析[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(4): 19-28.
[6] 沈明杰. 借势:在华外国商会的择地游说行为[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(4): 29-40.
[7] 袁方成, 李思航. 技术治理的风险及其演化逻辑——以农村精准扶贫为分析对象[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(2): 45-61.
[8] 王芸. 中国传统文化资源的国家治理价值举要[J]. 广西师范大学学报（哲学社会科学版）, 2017, 53(6): 50-55.
[9] 苏曦凌,杜富海. 走向协同:社会管理中政府与社会组织关系形态的理性建构[J]. 广西师范大学学报（哲学社会科学版）, 2015, 51(4): 63-67.
[10] 颜昌武, 杨郑媛. 什么是技术治理？[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(2): 11-22.
[11] 马亮. 公务员的信息技术能力与数字政府建设:中国城市的调查研究[J]. 广西师范大学学报（哲学社会科学版）, 2020, 56(2): 34-44.
[12] 王印红, 李莉. 流动性社会背景下社区治理中的“单位”嵌入与融合——以Q高校防控新冠肺炎疫情为例[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 64-73.
Viewed
Full text


Abstract

Cited
  Shared   
  Discussed   
[1] 陈金龙. 中国共产党百年历史的主题主线[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 1 -6 .
[2] 詹承豫, 高叶, 田佳鑫. 食品安全抽检监测风险治理流程及功能优化研究[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 7 -17 .
[3] 韩广华, 张子霖, 李力. 数字化背景下政务创新扩散的路径研究——以食药监管为例[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 18 -27 .
[4] 刘志鹏. 跨区域政府间合作何以可能?——基于绩效目标差异背景下食品安全监管的分析[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 28 -39 .
[5] 李辉. 城乡划分与政府规模：自体腐败形成的双重逻辑[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 40 -51 .
[6] 王印红, 李莉. 流动性社会背景下社区治理中的“单位”嵌入与融合——以Q高校防控新冠肺炎疫情为例[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 64 -73 .
[7] 朱红灿, 段港平. 基于Kano模型的在线课堂学习体验关键要素研究[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 74 -85 .
[8] 李倩雯. 课程史的元话语：基于《美国课程斗争（1893—1958）》的历史哲学反思[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 86 -96 .
[9] 沈国兵, 孟彩霞. 优化城市营商环境与国际国内双循环相互促进——基于上海与多个国际大都市的比较分析[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 97 -112 .
[10] 汪建新, 陈依楠, 郭莞歆. 全球经济不确定性下拓展外贸多元化的影响因素与突破路径[J]. 广西师范大学学报（哲学社会科学版）, 2021, 57(3): 113 -129 .
版权所有 © 广西师范大学学报（哲学社会科学版）编辑部
地址：广西桂林市三里店育才路15号　邮编：541004
电话：0773-5857325　E-mail: xbgj@mailbox.gxnu.edu.cn
本系统由北京玛格泰克科技发展有限公司设计开发