临床研究用AI，法规允许你走多远？| CQAF AI for Auditing Vol. 3

CQAF · AI for Auditing 兴趣小组

A系列 · 第三篇 · 边界划定

SECTION 01A2留下的那个问题

上一篇，我们聊完了责任——人类责任及职责归属始终明确且不发生转移，人工智能作为支持工具，不替代各责任主体在GxP要求下的决策职责及其责任履行。法规给出了框架：COU（Context of Use，即"使用情境"——你让AI在什么场景下、做什么事、输出影响什么决策）决定风险，风险决定你需要证明什么。

但框架画好了，边界在哪？

你负责的临床试验上线了一套AI系统——参与者招募环节，AI根据入排标准筛选电子病历，标记潜在试验参与者；中心阅片环节，AI辅助影像评估，标记可疑病灶；稽查准备环节，AI扫描TMF文件，识别缺失和异常。

这些场景，法规允许吗？

再往深想一步——AI筛选出的潜在试验参与者，你不再逐一核验入排标准，直接确认入组；AI标记的病灶评分，你没有独立阅片复核，直接采信为评估依据；AI识别的TMF缺失项，你没有追溯源文件验证，直接写进稽查发现。这些，法规还允许吗？

直觉告诉你：越往后越悬。但"越悬"是多悬？直觉部分对，但"部分对"恰恰最危险——有些你以为"当然可以用"的，法规放行的条件比你想的严；有些你以为"大概不行"的，法规并没有完全关上门，而是说"可以，但你要证明"。法规画的是精确的线，不是大概的线。

AI改变的是你获取信息的方式和效率，不是你做判断的逻辑。法规限制的不是你的判断，而是AI在多大程度上可以参与形成那个判断的过程。

SECTION 02绿灯区：法规明确允许的

有一类AI用途，四家监管机构态度高度一致：可以用。共同特征——AI提供信息，人做判断。 AI的角色是"帮你看到"，不是"帮你决定"。

在FDA的COU风险矩阵里，这些场景模型影响低（AI只是标记或参考，不决定）+ 决策后果低（错了可以人工纠正，不危及试验参与者安全）——低风险，可信度证据要求最低。NMPA用"辅助"二字，意思同样清楚：AI筛一遍，人定最终。

绿灯区的共性：AI完成信息抓取、异常标记、参考输出，最终判断由岗位责任人作出。 四家监管划的线几乎重合——AI可以在信息层面帮你，但不能在判断层面替你。

到了黄灯区，AI开始参与判断——假阳性和假阴性的后果，就从"浪费效率"和"漏掉风险"，升级为"做出错误判断"和"错过关键决策"。

SECTION 03黄灯区：能用，但有限制

绿灯区的特征是"AI提供信息，人做判断"。但AI的角色往往不止于此——它开始参与"形成判断"的过程。这时候，法规态度不再一致。

黄灯区不是"不能用"，而是"你能用多少取决于你能证明多少"。

我们用分歧最大的场景完整展开，看四家监管怎么各自画线——理解了这个，其他场景你就知道怎么看。

场景一：AI做中心风险评估与风险预测

这是监管态度分歧最明显的场景，我们完整展开四家对比，作为理解黄灯区的"教学示范"。

AI给研究中心打风险评分——如果仅作排定稽查优先级的参考之一，四家都放行。但如果评分直接影响稽查计划制定呢？如果AI还给出了"高风险原因"和"建议稽查重点"呢？

FDA最成体系。COU风险矩阵：模型影响（AI输出在决策中占多大权重）× 决策后果（判断错了最坏会怎样）。评分仅作多条证据线之一（模型影响低），但错误判断可能导致系统性合规问题被遗漏（决策后果高）——中风险。中风险意味着你要提供中等强度的可信度证据：模型验证了吗？训练数据覆盖了什么类型的中心？偏倚控制了吗？FDA不拒绝你用，但要求你证明你用的AI在你的COU下可信。

EMA更严。AI用于支持监管决策，必须满足可稽查、可解释、全程可追溯三要素。高影响场景需提前与监管沟通。EMA 2025年AI观测站报告显示，机器学习预测中心入组率、识别高风险中心已被监管接受，但前提是模型验证、过程留痕、人类掌握最终决策权。

EU AI Act视角不同但指向类似。AI系统若作为医疗器械安全组件或用于医疗基本服务，落入高风险——完整合规义务：技术文档、风险管理、数据治理、透明度、人工监督、准确性与鲁棒性。Article 14要求部署者指定具备资质的专业人员完成最终研判——不是"建议"，是"必须"。

NMPA最务实也最模糊。2024年应用场景清单列入"辅助稽查办案"，2026年实施意见推进"现场检查员智能匹配、高风险环节远程监控"——方向明确，但截至本文撰写时，尚未出台AI模型验证的专门指南，操作细则还没跟上。

场景二：AI辅助中心阅片与影像评估

中心阅片直接影响疗效评估——与场景一的关键差异：决策后果更高，可能影响药物审批。 COU风险矩阵推到中高风险，你需要最硬的可信度证据。同样的四家，态度各有不同——FDA要求可解释性，AI输出不能成为"黑箱证据"；EMA强调过程留痕（GAIP原则6：数据来源、处理步骤、分析决策，每一步可追溯、可验证）；EU AI Act将AI辅助影像评估归为高风险AI，须通过合格评定；NMPA已有AI影像评估的分类和注册要求（2021年分类界定、2022年注册审查指导原则），但临床试验场景中的使用规范尚无专门指南。

场景三：生成式AI辅助撰写稽查报告与监管文档

最前沿，也最敏感。四家的差异不在于"严不严"，而在于"有没有说"——生成式AI技术发展迅速，针对其在GxP领域的专项法规尚未形成完整体系。

但这不意味着没有红线——已有的法规原则已经够画一条线了。

你让AI起草了一段稽查发现，写得不错，你审了一下签字提交。但如果检查员问"这个结论怎么得出的"，你不能说"AI写的，我审了一下觉得没问题"。岗位责任人负责意味着：你对报告中每一句话都承担专业责任，不管它最初是人写的还是AI生成的。

EU AI Act透明度义务（Article 50）：AI生成内容须告知并标记。FDA未明确表态，但Purolea警告信的信号清楚——AI生成内容须由质量部门授权人员审查和批准。NMPA 2026年实施意见的方向是"报告自动生成"+"人工复核、全程留痕"，审核标准尚待细化。

黄灯区三个场景走完，一条规律浮现：你能用多少AI，取决于你能证明多少。 FDA的COU风险矩阵把这句话变成了可操作的标准——模型影响越高、决策后果越重，你需要提供的可信度证据就越硬。

SECTION 04红灯区：法规明确不允许的

红灯区的判断标准，和黄灯区一脉相承——不是"AI能不能做"，而是"AI做了之后，岗位责任人还能不能负得起责"。当AI的参与深度到了"无法独立验证、无法解释、无法追溯"的程度，法规的红灯就亮了。

AI独立做出影响试验参与者安全的判断

最清晰的红线。FDA的COU风险矩阵里有一个假设案例：AI是决定患者住院还是门诊监测的唯一决定因素（模型影响高），错误判断可能危及生命（决策后果高）——高风险。如果AI的判断逻辑不可解释——黑箱——连复核都无从谈起，法规不会放行。EMA更直接：AI辅助研判，人类掌握最终决策权。涉及试验参与者安全的场景中，AI不能是决策者——哪怕它"比人更准"，因为"准"不等于"可负责"。

AI输出未经人工审核直接进入监管提交

比安全判断更常见的，是流程上的偷懒——

Purolea警告信已是前车之鉴。企业用AI创建质量标准和程序文件，质量部门未审查——FDA直接归入质量部门职责失效。四家监管机构，同一条底线：AI的输出必须经过岗位责任人的审核和确认，才能进入决策流程。这不是对AI的不信任，而是对责任体系的维护——人类责任及职责归属始终明确且不发生转移。

持续学习模型在关键试验中自动更新

还有一种更隐蔽的——你以为验证过就安全了，但模型自己在变。

EMA最明确：持续学习模型需要特别的变更管理，模型在试验期间发生更新或增量学习，必须经过验证和变更控制流程。参考EU GMP Annex 22（草案，2025年），模型被视为"可验证的组件"——变更需要评估影响、批准后再实施，自动更新不被允许。因为自动更新意味着你昨天验证过的模型，今天已经不是同一个了。NMPA 2026年实施意见强调"全程留痕"——如果模型自动更新，"全程留痕"的前提就不存在了：你留的是哪个版本的痕？

走到这里，回过头来看第一章说的那句话——AI改变的是你获取信息的方式和效率，不是你做判断的逻辑。现在这句话的分量不一样了。

绿灯区、黄灯区、红灯区，法规画线的逻辑始终没变：稽查员在稽查中进行判断的底层逻辑并没有变。 不管有没有AI，你依然要基于证据、依据GCP、在具体情境中做出专业判断。法规限制的不是你的判断，而是AI在多大程度上可以参与形成那个判断的过程——当AI的参与深度到了你无法独立验证、无法解释、无法追溯的程度，你的判断就不再是"你的判断"了，法规的红灯就亮了。

这不是对AI的不信任，而是对你作为岗位责任人的保护——确保你做出的每一个判断，都是你真正能负责的判断。

但知道边界在哪，只是第一步。真正卡住你的，往往不是法规说不让做——而是你想做的时候发现：

数据不够干净，过程留不下来，稽查查不过去。

这个问题，我们下一篇聊。