我国医疗AI治理体系的发展与展望.docx

《我国医疗AI治理体系的发展与展望.docx》由会员分享，可在线阅读，更多相关《我国医疗AI治理体系的发展与展望.docx（5页珍藏版）》请在三一文库上搜索。

1、我国医疗AI治理体系的发展与展望忽如一夜春风来，人工智能(AI)正以惊人的速度改变着世界。“智变”必将引发“质变”。我们应以何种姿态进入AI纪元，让Al成为撬动行业变革的杠杆？当技术一路飞奔，我们又该如何守住数据安全的底线、筑起伦理的护栏？近日，我们邀请相关研究机构和高校专家，请他们分享观察与思考。生成式人工智能(AI)技术的出现，正促使各行各业进行升级和重构。在医疗健康这一关乎人类生命安全的特殊领域，AI的治理工作凸显出其复杂性和独特性。当前，相关部门正在按照Al发展规律构建、完善其使用规则和监管框架，以规范Al技术的合理应用，并推动医疗健康事业的有序发展。我国医疗Al治理体系的发展方向当前

2、我国对医疗Al有着严格的管控机制，在审评要点、指导原则、质量管理体系等方面出台了多项政策，严格约束Al在医疗中的使用规范，为AI医疗领域建立风险可控的发展路径。相关的法律法规建设呈现出以下三个显著的发展方向。从分散管理到系统规范早期政策中华人民共和国网络安全法(2017)从数据安全角度单方面切入，其中第21条明确要求网络运营者采取数据分类、重要数据备份和加密等措施；第37条则首次提出“关键信息基础设施运营者在中华人民共和国境内运营中收集和产生的个人信息和重要数据应当在境内存储”的要求，这对医疗Al企业处理CT、MRl等影像数据产生了直接影响。2021年出台的中华人民共和国数据安全法中华人民共

3、和国个人信息保护法形成了“数据采集一一处理应用”的全链条监管。中华人民共和国个人信息保护法第28条将医疗健康信息列为“敏感个人信息”，要求处理此类信息需取得个人单独同意，并告知处理的必要性及对个人权益的影响。该法第24条还对自动化决策做出专门规定，要求保证决策的透明度和结果公平公正，这对Al辅助诊断系统的算法设计提出了明确要求。国家Al产业综合标准化体系建设指南（2024版）的出台，标志着Al监管向标准化、体系化方向发展。该指南详细列出了基础共性标准、关键技术标准、产品服务标准、行业应用标准等，这些都为Al在医疗行业的应用提供了依据和标准。从安全底线到创新促进政策导向已从单纯防范风险转向安全与

4、发展并重，2019年科技部发布国家新一代AI创新发展试验区建设工作指引，支持北京、上海、深圳等城市建设Al试验区，推动场景创新和产业集聚，同时对企业给予税收优惠。2021年修订的中华人民共和国科学技术进步法第103条中，要求建立科技伦理委员会，为Al医疗创新划定伦理边界；在第38条新增“引导建立社会化、专业化、网络化、信息化和智能化的技术交易服务体系和创新创业服务体系，推动科技成果的应用和推广。”的表述，说明国家在保障安全的同时，更注重发展和应用。从国内治理到国际协同2017年国务院印发新一代Al发展规划，这是我国首个系统性Al战略文件，提出了“三步走”目标，即：2020年Al总体技术与世界先

5、进水平同步；2025年Al基础理论实现重大突破；2030年成为世界主要Al创新中心。止匕外，2023年我国提出的全球Al治理倡议指出，Al治理攸关全人类命运，是世界各国面临的共同课题。在世界和平与发展面临多元挑战的背景下，各国应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促使Al技术造福于人类，推动构建人类命运共同体。协议一经提出，就获得了世界各国的响应，到目前为止，多个国家和组织公开支持该倡议并签署了协议，这也表明我国的Al治理已走到了国际舞台的前沿。我国医疗Al治理体系的最新进展当前，我国医疗Al领域问题最为突出的

6、是Al立法缺失、数据安全问题和伦理问题。近年来，治理体系围绕三个方面开展了一系列的工作。在产品准入方面，2023年4月，国家互联网信息办公室就生成式Al服务管理办法（征求意见稿）公开征求意见，率先就生成式Al监管这一议题给出中国方案。在Al法未立法之前，为了适应社会需求，各部门出台了很多相应的管理制度和政策。国家药品监督管理局2021年发布AI医用软件产品分类界定指导原则，将Al软件分为三类管理，细化了Al医疗产品审批标准。2022年，国家药监局器审中心发布了AI医疗器械注册审查指导原则，规范了Al医疗器械的注册申报资料和技术审评要求，以确保产品的安全性和有效性。在数据治理方面，医疗AI的发展

7、高度依赖海量的患者医疗数据，这些数据包含敏感个人信息（如基因、病史），因此，匿名化处理不足或数据泄露可能导致法律纠纷和伦理危机。为解决相应的问题，除了提高技术能力、开放共享程度，更需要一个统一的标准，在此方面中国电子商会发布了一项数据分类团体标准，根据医疗健康数据的影响对象和影响程度，并参考数据重要程度、敏感程度、数据规模、数据精度等因素，确定医疗健康数据的安全等级。国家卫生健康委发布的卫生健康行业数据分类分级指南明确了责任“谁管业务，谁管数据，谁管数据安全”，并将数据分为三级：核心数据一一基因序列、罕见病病例等（禁止出境）；重要数据一一住院病历、体检报告等（安全评估后可出境）；一般数据一一挂

8、号信息、健康科普等（可自由流动），并针对各类数据制定了相应的管理办法。在伦理规范方面，现有的医学伦理审查规范在Al医疗领域存在很多空白，无法全面涵盖Al技术应用所带来的伦理问题。例如，在Al算法的设计和应用过程中，可能存在算法偏见，导致对某些特定人群的不公平对待；在AI误诊或技术故障发生时，如何界定开发者、医疗机构和医生的责任,缺乏明确的法律规范等。我国新一代Al发展规划提出了建立Al伦理框架，强调医疗领域需保障数据安全。2023年由中国电子技术标准化研究院发布的AI伦理治理标准化指南要求医疗Al系统需通过伦理审查，确保透明可追溯。同年5月科技部发布了人类遗传资源管理条例实施细则，对AI医疗研

9、究做出特别规定：使用500例以上基因数据需伦理审查，跨国合作研究需科技部备案，数据出境需通过安全评估。在责任划分方面，中华人民共和国民法典中规定，若Al产品缺陷致损，生产者承担无过错责任，但医生“合理使用”可免责。某些地区的政策中要求医院保留Al决策日志，作为责任判定依据。我国医疗Al治理体系的运用前景综上，我国的Al治理体系还需要进一步完善。在法律法规与标准建设方面，一要完善中华人民共和国数据安全法中华人民共和国个人信息保护法在医疗领域的实施细则，制定医疗Al专用法规。二是要推动医疗AI算法、数据标注、系统测试等全流程标准化，建立统一的伦理审查框架。在数据安全与隐私保护方面，要建立医疗数据分级分类管理制度，明确医疗机构、企业和患者的数据权限。在伦理与公平性保障方面，要防范对特定人群误诊风险的算法偏见，确保医疗资源的公平可及。在动态监管与多方协同方面，要求政府、医疗机构、科技企业、伦理委员会和公众共同参与，共同制定治理规则。医疗AI将逐步从“替代人力”转向“增强人力”，提升医疗质量、降低医疗成本和促进公平，成为“健康中国”战略的重要支柱。医疗AI治理体系的建设则需在技术创新与风险管控之间找到平衡，才能朝着更加规范化、透明化的方向发展。