AI赋能医学 从“可用”到“可靠”

“我们正处于一个由人工智能驱动的深刻变革时代。与过去的信息技术革命不同，AI不仅改变了工具，更重构了生产力与生产关系的底层逻辑。”南京大学副校长郑海荣表示，在医疗领域，数据成为新的生产资料；AI大模型推动了数据处理从知识到方法的突破，进一步可能产生智慧涌现，成为新的生产力载体；人机协同的新型生产关系正逐步构建，并重塑整个医疗生态。

传统医疗模式依赖医生的经验判断，而未来，个性化AI模型将利用个体全生命周期数据预测疾病风险，实现从“治疗”到“预防”的转变。AI为影像学等领域带来变革，不仅提升诊疗效率，更将推动诊疗模式从“以医生为中心”转向“以患者-AI协同为核心”的新生态。

人工智能给教育领域带来巨大机遇与挑战，推动人类文明迈向人机协同新阶段，促使教学从知识传授向能力塑造转变，推动教育时空拓展，但也带来知识迭代快、开源社区缺乏等问题。教育部科学技术与信息化司司长周大旺介绍，为此教育部通过组建优势大学联盟，打造顶尖学科交叉教学团队，构建质量监控体系、探索学分制度，推出“AI﹢”课程，升级国家智慧教育平台等，提升师生人工智能素养。

随着人工智能发展与大量数据涌现，从数学角度系统研究生物和医学的条件已成熟。清华大学讲席教授、数学家丘成桐介绍，数学建立了AI的底层架构，在疾病研究等多领域有重要应用。但医学数据具有小样本、高维度、类别不平衡等特点，还存在“噪声”和缺失值等问题，应用传统方法处理时，往往需要增加复杂的预处理步骤，增加了数据处理的复杂性和不确定性，影响模型的准确性。另外，传统AI模型基于线性假设，难以捕捉医学数据中复杂的非线性关系，而利用线性方法研究非线性问题，需要大量计算及统一的非线性方程研究。“面对医学数据难题等重重挑战，期待数学与医学、AI等领域专家加强合作，推动相关研究工作。”丘成桐说。

“当前，AI的发展主要依赖数据驱动的大模型，但其存在高算力消耗、灾难性遗忘、推理能力弱、‘黑箱’不可解释等固有缺陷。”同济大学党委书记郑庆华介绍了基于脑科学启发的解决思路，通过模拟人脑的记忆和推理机制，开发小样本、低算力、强推理的人工智能模型，推动人工智能向认知智能跨越。

随着AI的广泛应用，其伦理与安全治理问题日益引发关注。工业和信息化部原副部长王江平表示，医疗健康领域是AI应用的“高压地带”，人机对齐原则应在该领域实现体系化的全面渗透。

人机对齐是指通过技术手段确保AI的目标、行为与人类价值观和社会规范保持一致。如今，它已成为AI发展的重要原则。

王江平介绍，医疗AI应用具有数据敏感、结果不可逆、责任复杂等特性，需在技术架构、数据集建设、医院管理、患者知情、行业监督五大环节协同发力，切实提高医疗AI人机对齐水平，确保其始终服务于人类福祉。

AI正在成为推动医疗健康行业高质量发展的核心动力。国家大力支持“人工智能﹢”行动，通过标准化建设、跨机构数据共享和垂直领域大模型应用开发，提升诊疗效率和精准度。国家卫生健康委规划发展与信息化司一级调研员沈剑峰表示，当前需要建设医疗卫生领域临床专病高质量数据集和AI语料库，突破专业语料不足、多模态处理等技术瓶颈，同时，多学科、多专业、多部门联动，推动政策标准创新，加强复合人才培养和医学伦理安全，共同推动医疗卫生领域AI的应用创新。

针对医学AI带来的种种挑战，与会专家表示，如医疗数据涉及基因、患者病史等隐私敏感信息，一旦泄露，可能导致一系列社会问题。同时，如何在合规前提下获取高质量数据也是亟待破解的难题之一。

医疗领域容错率低，大模型由于固有的“幻觉”问题而给出错误建议，可能直接影响患者生命安全，另外，AI“黑箱”决策机制也使医生和患者对其的信任度打了折扣。从数据采集、算法开发到临床验证，AI应用链条长，参与方众多。一旦出现医疗事故，责任归属模糊，需明确法律框架。

与会专家表示，医学AI应用要以安全为前提，坚持以人为本、以患者为中心、以医生为医疗决策主体，才能使AI实现从“可用”到“可靠”的跨越，最终使其成为提升医疗质量和效率的核心助力。