广西师范大学学报(哲学社会科学版) ›› 2024, Vol. 60 ›› Issue (4): 29-41.doi: 10.16088/j.issn.1001-6597.2024.04.004

• 治理现代化研究 • 上一篇    下一篇

“人工智能+医疗”的风险研判及治理路径

钟晓雯1, 高洁2   

  1. 1.华南农业大学 人文与法学学院,广东 广州 510642;
    2.中国中医科学院 中医药发展研究中心,北京 100700
  • 收稿日期:2024-04-28 出版日期:2024-07-25 发布日期:2024-07-19
  • 作者简介:钟晓雯(1994—),女,广东茂名人,华南农业大学人文与法学学院讲师,研究方向:数字法治;高洁(1983—),女,广东广州人,中国中医科学院中医药发展研究中心助理研究员,研究方向:医药政策与法制。
  • 基金资助:
    教育部哲学社会科学重大攻关项目“人工智能发展中的重大风险防范体系研究”(20JZD026)

Risks Assessment and the Governance Paths of “AI + Healthcare”

ZHONG Xiao-wen, GAO Jie   

  1. 1. College of Humanities and Law, South China Agricultural University, Guangzhou 510642;
    2. Research Center for the Development of Traditional Chinese Medicine, Chinese Academy of Chinese Medical Sciences, Beijing 100700, China
  • Received:2024-04-28 Online:2024-07-25 Published:2024-07-19

摘要: “人工智能+”行动已经成为政府工作任务之一。“人工智能+医疗”在快速发展的同时也面临着诸多风险,包括内生和衍生的技术安全风险,人机双向价值对齐困难、不同伦理诉求难以平衡、医疗数字鸿沟以及医疗不公平的伦理风险,患者隐私和个人信息权益难以保障、医疗AI的侵权责任难以界定的法律风险等。探索基于患者赋权的“人工智能+医疗”的治理路径,需要形成前端赋权、中端监管与后端追责的治理机制,即前端赋予个体权利,建立健康医疗数据权利体系和医疗AI算法权利体系;中端强化医疗AI的运行监管体系,形成自我监管、专门监管、风险监管等多种监管模式;后端从医疗AI的法律客体地位、侵权责任规则和赔偿分担机制三个方面完善医疗AI的侵权追责体系。

关键词: “人工智能+”, 新质生产力, 医疗AI, 个体赋权, 监管体系, 医疗侵权, 算法相对人

Abstract: The “AI+” initiative has become one task that the government takes on. “AI+Healthcare”, while it has been experiencing a robust growth, is facing a lot of risks including endogenous and derivative risks in technological security, difficulties in aligning human-machine values, troubles in balancing different ethical demands, dilemmas in medical digital gap, and problems in addressing medical unfairness. Moreover, there have arisen risks such as how to protect the privacy and personal information rights of patients, and how to define infringement liability of AI medical service. To explore the governance paths of “AI+Healthcare” based on patient empowerment, it is necessary to form a systematic mechanism of front-end empowerment, middle-end regulation and back-end responsibility, i.e., at the front-end are empowered the individual rights so as to establish a data rights system and an AI algorithm rights system; at the mid-end is strengthened the operation supervision system of AI medical service, thus witnessing self-supervision, specialized supervision, and risk supervision; at the back-end is improved the infringement recovery system of AI medical service in three aspects: the legal object status, tort liability rules and compensation sharing mechanism.

Key words: “AI+” initiative, new quality productive forces, AI medical service, individual empowerment, supervision system, medical infringement, algorithmic counterpart

中图分类号:  D63-31

[1] 习近平在中共中央政治局第十一次集体学习时强调:加快发展新质生产力扎实推进高质量发展[EB/OL].(2024-02-01)[2024-04-09].https://www.gov.cn/yaowen/liebiao/ 202402/content_6929446.htm.
[2] Qiu S,Joshi P S,Miller M I,et al. Development and validation of an interpretable deep learning framework for Alzheimer’s disease classification[J].Brain,2020,143(6):1920-1933.
[3] 互联网医疗健康产业联盟.2018年医疗人工智能技术与应用白皮书[R/OL].(2018-04-26)[2024-04-02].http://www.caict.ac.cn/xwdt/ynxw/201804/t20180426_157829.htm.
[4] 程泱溥.揭开AI+时代新篇章:新质生产力如何引领医疗健康行业飞跃?[EB/OL].[2024-04-02].https://mp.weixin.qq.com/s/eiithtu6cM4CF57yo-zJzg.
[5] [德]乌尔里希·贝克.风险社会[M].何博闻,译.南京:译林出版社,2004.
[6] 徐娟.智慧医疗运行风险防控的法治化策略[J].甘肃政法大学学报,2024(1):88-99.
[7] 王超.警惕人工智能技术发展带来的网络安全威胁[N].中国计算机报,2019-03-19(15).
[8] 孙伟平.关于人工智能的价值反思[J].哲学研究,2017(10):120-126.
[9] 汪琛,孙启贵,徐飞.基于价值嵌入的医疗人工智能伦理规制研究[J].中国科技论坛,2022(8):172-180.
[10] 贾珍珍,刘杨钺.总体国家安全观视域下的算法安全与治理[J].理论与改革,2021(2):135-148,156.
[11] 刘培,池忠军.算法歧视的伦理反思[J].自然辩证法通讯,2019(10):16-23.
[12] Schönberger D.Artificial intelligence in healthcare: a critical analysis of the legal and ethical implications[J].International Journal of Law and Information Technology,2019(2):171-203.
[13] Aragona B.Algorithm audit: why, what, and how?[M].London:Routledge,2021.
[14] World Health Organization. Ethics and governance of artificial intelligence for health[R/OL].[2024-04-29].https://www.who.int/publications/i/item/9789240029200.
[15] Kroll J A, Huey J, Barocas S,et al. Accountable algorithms[J]. University of Penmsylvania Law Review, 2017, 165:633-705.
[16] 钟晓雯.从算法“黑箱”走向算法透明:基于“硬法—软法”的二元法治理模式[J].中国海商法研究,2023(4):53-62.
[17] 石佳友,徐靖仪.医疗人工智能应用的法律挑战及其治理[J].西北大学学报(哲学社会科学版),2024(2):91-103.
[18] 李润生.论医疗人工智能的法律规制——从近期方案到远期设想[J].行政法学研究,2020(4):46-57.
[19] 黄芬.告知后同意规则的法律构造[J].时代法学,2012(6):59-64,74.
[20] Gary E M, Lucille M T. AI health care liability: from research trials to court trial[J]. Journal of Health & Life Sciences Law, 2019, 12(2):23-41.
[21] Dyer Clare,王辰.心脏病患者死亡引发对辅助手术机器人的批评[J].英国医学杂志中文版,2019(2):76-76.
[22] 葛伟,肖涵.人工智能时代的劳动价值与中国治理方案[J].广西师范大学学报(哲学社会科学版),2023(5):1-11.
[1] 郑志峰, 罗力铖. 推进“人工智能+”行动的数据分层治理[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 18-28.
[2] 朱腾伟. “人工智能+”背景下算法正义的解构、检视与实现——以权利衡平为视角[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 42-52.
[3] 佟家栋, 张千. 数字经济时代加快发展新质生产力[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 88-96.
[4] 戴枫, 吕笠瞻. 全国统一大市场能否促进绿色技术创新的量质齐升?[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(3): 86-105.
Viewed
Full text


Abstract

Cited

  Shared   
  Discussed   
[1] 吴宏政. 马克思世界历史理论与新文化生命体建构[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(3): 1 -9 .
[2] 付文军. “资本创造文化”论题的学理阐释[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(3): 10 -19 .
[3] 王佃利, 王文婷. 面向治理现代化的公共服务理论思考:内涵、要求与路径[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(3): 20 -31 .
[4] 陈水生, 祝辰浪. 稳健驾驭:巨型工程的国家治理逻辑及其实现——以“西气东输”项目为例[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(3): 32 -45 .
[5] 胡业飞, 张怡梦. 智慧城市建设中的智慧治理:赋能机制与达成路径[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(3): 46 -58 .
[6] 韩喜平, 杨羽川. 中国式现代化道路与人类文明新形态[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 1 -8 .
[7] 王敏光, 金雨. 习近平文化思想中的中华优秀传统文化元素探赜[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 9 -17 .
[8] 郑志峰, 罗力铖. 推进“人工智能+”行动的数据分层治理[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 18 -28 .
[9] 朱腾伟. “人工智能+”背景下算法正义的解构、检视与实现——以权利衡平为视角[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 42 -52 .
[10] 徐艳茹, 郑润廷, 刘继安. 复杂适应系统观下大学组织的系统性变革:历史经验与新兴模式[J]. 广西师范大学学报(哲学社会科学版), 2024, 60(4): 53 -63 .
版权所有 © 广西师范大学学报(哲学社会科学版)编辑部
地址:广西桂林市三里店育才路15号 邮编:541004
电话:0773-5857325 E-mail: xbgj@mailbox.gxnu.edu.cn
本系统由北京玛格泰克科技发展有限公司设计开发