医疗 AI 模型训练数据存在差异化隐私风险 Nature 论文揭示

医疗人工智能（AI）模型在提高全球高质量诊断的可及性方面展现了巨大潜力。然而，这些模型的训练数据通常包含敏感的患者信息，这些信息可能通过隐私攻击被泄露。现有研究主要关注数据集整体的攻击成功率，而个体患者面临的隐私风险却鲜为人知。我们首次对医疗诊断应用的 AI 模型进行了患者级隐私审计，重点关注成员推断攻击（MIA），即试图确定特定个体的数据是否被用于训练模型。研究表明，即使在数据集整体性能接近随机猜测的情况下，MIA 对个体患者的攻击成功率仍可接近完美。

医疗 AI 模型的训练数据涉及种族、性别、年龄等敏感属性，研究发现这些属性会让特定群体的隐私泄露风险显著升高。例如训练数据中包含的少数族裔患者影像，其特征在模型参数中留下可被反推的痕迹，使这些群体更容易被精准识别和攻击。

这一研究对全球医疗 AI 行业敲响警钟。随着医疗 AI 模型在临床诊断、药物研发等领域的广泛应用，训练数据隐私保护已成为不可回避的核心议题。各国监管机构正加快制定相关法规，欧盟 AI Act 已将医疗 AI 列为高风险类别，要求更严格的数据治理和透明度。研究者建议，未来医疗 AI 系统应采用差异隐私、联邦学习等技术，在保护患者隐私的前提下实现模型训练与共享，让 AI 真正成为惠及所有人群的普惠技术。

医疗 AI 监管应当从数据采集源头开始，对敏感属性字段进行严格的去标识化处理，并在模型训练流程中加入差分隐私机制，确保攻击者无法通过模型输出反推个体信息，让 AI 红利真正惠及所有人群。