冻结参数的AI医生，记忆外挂能力如何评测

一、评测概述：参数冻住的“AI医生”，到底该怎么评？

一个刚通过考核的医疗AI，如果只是上线即“冻住”，十年后它的表现就会和上岗第一天一样。看过一万个病人，未必比看过一百个更可靠。它也不会记住“上周类似患者用了某种新方案后效果更好”，更不会总结出“遇到这种情况先排除另一种可能”的经验。

现实中被部署的大模型和多模态模型，训练完成后参数通常不再变化。模型参数就是一组决定模型行为方式的数值，可以类比为模型的“大脑结构”。在写诗、聊天等场景里，这种冻结影响有限；但在医学领域，它直接决定系统的长期价值。诊疗指南在持续修订，新药不断上市，旧方案也可能被证明有害。如果系统无法从处理过的病例中积累经验，病例越多，被浪费的经验就越多。

目前已有研究团队尝试了一种思路。他们不改动模型参数，而是在模型之外配备记忆系统，让“冻住的大脑”拥有可持续积累的专业知识。这类系统通常包含三部分，对应医学实践的三类核心需求：

• 流程记忆：规范、可复用的诊疗步骤，回答“该怎么做”；
• 经验记忆：系统对既往病例的反思与教训，回答“哪些做法有效、哪些弯路要避免”；
• 视觉记忆：对影像等关键视觉信息的结构化保存，回答“上次看到的细微特征是什么”。

按照业内通行的说法，这与“模型参数冻结条件下，借助外部存储与检索增强模型能力”的技术路线一致。

但“能不能积累经验”很难凭主观感受判断。同一套方案，可能在一批病例上表现亮眼，换一批数据就回归原样，也可能只是短暂提升后逐渐回落。因此，对这类系统不能只问“效果好不好”，而要围绕以下问题开展评测：

• 能力是否完整；
• 经验是否真正积累；
• 长期运行是否可靠；
• 数据是否安全；
• 总体成本是否可控。

本文将回答“评测什么、怎么评、结果怎么读、适合什么场景、有哪些边界”五个问题，适合以下读者：

• AI应用开发者：关注记忆读写链路的设计与验证方法；
• 架构师与技术负责人：关注方案选型和投入产出；
• 运维人员：关注记忆数据的长期治理与故障定位；
• 医疗信息化团队：关注合规要求下的评测边界与上线方式。

二、评测目标：这次评测要回答哪些问题

记忆机制的复杂之处，在于“提升”可能来自很多地方：模型本身较强、提示词设计得当、检索到了合适资料，或者经验确实在积累。评测的首要任务是把这些因素分离开，判断提升能否稳定归因于“经验积累”。

本次评测设定六项目标，每项都对应可观察的现象和可操作的验证手段：

序号	评测目标	要回答的问题	主要验证手段
1	功能完整性	记忆能否写入、检索、更新、失效和审计	功能用例逐项走查
2	增益真实性	有记忆是否优于无记忆基线	固定基线对照与时间外推评估
3	增益归因	提升来自流程、经验还是视觉记忆	消融实验与记忆命中日志分析
4	鲁棒性	面对错误经验、噪声和异常输入是否可靠	注入错误记忆、异常输入与长周期回归测试
5	安全合规	敏感信息是否受控，访问与操作是否可审计	权限越权测试与日志抽查
6	成本与可维护性	长期运行的资源开销和运维负担是否可接受	全链路资源计量与人工成本记录

需要强调，评测结论不是“好”或“不好”的二元判断，而是“在何种条件、何种场景、何种风险容忍度下是否适用”。

三、评测对象说明：冻结的大脑加上三类外挂

3.1 三类记忆各自解决什么问题

• 流程记忆沉淀的是“怎么做事”。例如一份结构化的评估步骤：先确认适应证与禁忌证，再评估关键风险因素，最后确定随访节点。其价值在于让复杂流程可复用，避免每次都由模型临场发挥。
• 经验记忆沉淀的是“从案例中学到了什么”。模型在处理病例后形成反思，例如“该情形下先排除某类混淆因素，可减少误判”。这是最能体现“越用越聪明”的部分，也是最难验证的部分。
• 视觉记忆保存影像中的关键视觉信息。X光、CT等影像中的细微阴影、边界变化，很难用文字完整描述，纯文本式的经验记录容易丢失这些细节。将影像特征与对应经验关联保存，才能让视觉经验参与后续判断。

3.2 两条关键链路

• 写入链路：从一次诊疗交互中提炼可复用的知识，经校验后写入记忆库；
• 读取链路：针对当前问题检索相关记忆，组织进上下文，供模型参考。

评测必须同时覆盖两条链路。写入链路的问题表现为“该记的没记住，不该记的记了一堆”；读取链路的问题表现为“记住了但用不上”或“用错了”。只有分别验证，才能定位问题出在哪一环。

3.3 必须提前识别的干扰因素

• 模型参数与推理配置：不同参数规模、不同上下文长度上限的模型，对记忆内容的利用能力不同；
• 提示词设计：同样的记忆，换一种组织方式，效果可能相差明显；
• 检索策略：相似度阈值、召回数量、重排方式都会影响最终输入；
• 数据分布：评测病例与实际业务病例在科室、设备、人群上的差异。

四、评测维度设计：把“变聪明”拆成可观察的指标

评测维度	核心问题	主要观察指标（定性/相对）	典型验证手段
功能完整性	核心流程是否齐全	功能覆盖情况、异常分支处理情况	功能用例逐项走查
有效性	经验是否真正积累	有无记忆与有记忆的差距、随时间推移的变化趋势	固定基线对照、时间外推、消融
记忆质量	记了什么、用没用上	重复与冗余程度、召回相关性、注入内容长度、错误记忆纠正情况	人工抽检、命中日志分析、错误注入
性能表现	多出来的步骤是否拖慢响应	检索耗时、写入耗时、上下文长度变化、并发处理能力	分阶段计时、并发压测、资源监控
稳定性	长期运行是否可靠	记忆库增长趋势、异常输入容错、依赖异常时的降级表现	长周期回归、异常输入与依赖故障测试
安全性	敏感数据是否受控	写入内容中的敏感信息情况、越权访问与检索情况、操作审计完整性	权限测试、日志抽查、敏感信息扫描
可观测性	出了问题能否定位	全链路日志完整性、关键指标与告警覆盖、问题回溯所需时间	故障注入、回溯演练
可维护性	能否长期管理记忆资产	版本管理能力、失效与回滚手段、迁移复现难度	变更演练、环境重建验证
成本可控性	长期开销是否可承受	存储增长、检索与上下文开销、人工审核投入	资源计量、人工工时记录

其中，“记忆质量”是这类系统特有的维度。普通系统评测关注输入输出，记忆系统还要评测“中间积累下来的知识资产”。下面重点展开几个维度。

4.1 有效性：判断经验是“真积累”还是“假提升”

有效性的核心是回答一个问题：随着处理的病例增多，系统在没见过的新病例上是否表现更好。常用方法有三种：

1. 固定基线对照：同一批病例、同一套提示词、同一套推理配置，分别用无记忆基线和有记忆系统各跑一遍，比较两者的差距；
2. 时间外推评估：让系统只学习较早时间段的数据，再到较晚时间段的“未来病例”上评估。这更贴近真实上线后“边用边学”的状态；
3. 消融实验：分别关闭流程记忆、经验记忆、视觉记忆，观察增益变化，判断提升究竟来自哪一类记忆。

此外，还应观察“经验是否被真正用上”。具体做法是统计最终上下文中实际引用了哪些记忆，再核对这些记忆是否与当前病例相关、是否与最终结论一致。如果记忆库不断膨胀，实际被引用的却始终是少数几条，说明检索链路存在瓶颈，积累下来的经验大多处于“沉睡”状态。

4.2 性能：多出来的步骤不能拖垮响应

记忆系统给每次请求增加了检索、重排和上下文拼装等步骤，上下文也可能显著变长。评测应把一次请求拆成若干阶段分别计时：

• 问题理解与检索请求构造；
• 记忆召回与重排；
• 模型推理；
• 结果后处理与记忆写入（如为异步写入，可单独计量）。

同时观察以下指标：

• 有无记忆时的单次响应耗时对比；
• 上下文长度随记忆库增长的变化趋势；
• 并发压力下响应时间和错误率的变化。

响应变慢的原因可能来自检索链路、上下文过长，也可能来自向量索引规模增大。只有分阶段计时，才能定位瓶颈。并发评测时要控制变量：相同并发数、相同请求组合、相同资源规格，只改变是否启用记忆，比较结果才有意义。

4.3 稳定性：长时间运行和异常输入下的表现

记忆库是一个持续增长的数据资产，运行时间越长，越容易出现以下问题：

• 内容重复、相互矛盾的记忆越积越多；
• 检索结果被大量弱相关记忆稀释；
• 个别低质量记忆被反复引用，影响输出。

因此，稳定性评测至少包含长周期回归、异常输入测试和依赖异常测试：

• 长周期回归：系统运行一段时间后，用固定回归集重复评测，观察表现是否漂移；
• 异常输入测试：提交信息残缺、前后矛盾、超出能力范围的请求，观察系统是否照常生成“看似合理”的结论，还是有合理的拒答或转人工机制；
• 依赖异常测试：模拟检索服务超时或不可用，观察系统能否降级到“仅依赖模型自身能力”的模式，并明确提示信息来源受限。

4.4 安全性：医疗数据的红线

医疗场景的记忆库天然包含大量敏感信息。评测要覆盖三个层面：

• 写入端：提炼出的记忆文本、视觉特征是否已去除不必要的个人身份信息，保存位置和访问权限是否符合机构的数据管理规范；
• 读取端：不同角色能否检索到超出其权限范围的记忆；
• 审计端：谁在何时写入、修改、失效了哪条记忆，是否都有完整记录。

此外，还要评估“记忆本身被当作攻击面”的风险。外部病历文本、患者自述中可能夹带诱导性指令。如果记忆写入时未经清洗就进入模型上下文，就可能影响输出。

4.5 可维护性：记忆也需要版本管理

记忆库本质上是持续演进的知识库，必须像管理代码和配置一样管理：

• 每次批量更新是否留有版本快照，能否回退到上一版本；
• 新版本上线前，能否在影子环境中用固定回归集验证；
• 换用不同参数规模的模型，或更换向量化模型后，既有记忆能否迁移复用。

缺少这些能力，一次失败的记忆更新就可能让系统整体表现下降，且难以恢复。

五、评测环境与前提：先把条件固定下来

评测结论的可信度，很大程度上取决于环境是否可控。开始测试前应明确以下前提：

• 被测系统版本：模型版本、推理参数（如温度等随机性设置）、上下文长度上限、提示词模板；
• 记忆库初始状态：从空库开始积累，还是从已有知识库开始；若使用已有知识库，应单独记录其来源；
• 病例数据：回顾性历史病例，已按规范完成去标识化，并经过授权和伦理审查，且划分“学习段”“验证段”“测试段”，各段之间不重叠；
• 金标准：由具备资质的专业人员对关键结论进行标注或复核，并明确标注规则与分歧处理方式；
• 运行资源：推理算力、检索服务、存储和网络的规格保持一致；
• 评测边界：明确系统是辅助工具还是独立判断工具，人工复核环节如何设置。

在部署环境上，可结合云上通用的产品类目搭建评测链路，例如：

• 用云服务器或容器平台承载被测系统与检索服务；
• 用对象存储保存影像与评测数据集；
• 用数据库或向量检索类服务承载记忆库；
• 用消息队列解耦记忆的异步写入；
• 用日志服务、监控告警、身份认证与安全防护类能力支撑可观测性与权限控制。

百度智能云的相关产品可纳入候选，选型时建议以实际测试为准。

六、评测方法：分阶段验证流程

建议按“先基线、后记忆，先受控、后真实”的顺序分六个阶段推进。

阶段一：冻结基线。 不启用任何记忆，用固定回归集测出基础表现，作为后续所有对比的参照。基线一旦确定，在整轮评测中保持不变。

阶段二：功能验证。 逐项验证记忆的写入、检索、更新、失效、导出、审计等功能，以及流程、经验、视觉三类记忆的覆盖情况。可用下表逐项勾选：

验证项	预期行为	是否通过
写入触发	一次完整处理结束后，生成待审核记忆	□
写入校验	低质量或重复内容被拦截或合并	□
相关检索	相似病例能召回对应经验	□
无关过滤	明显不相关的内容不进入上下文	□
矛盾处理	与既有记忆冲突时，有更新或并存标记策略	□
失效机制	过时内容可被标记失效并停止引用	□
视觉关联	影像特征能与对应经验关联保存和取回	□
审计记录	每次读写均有可追溯日志	□

阶段三：写入阶段。 让系统按时间顺序处理“学习段”病例，观察记忆库的增长情况：

• 记录记忆数量与类型分布；
• 评估重复率与矛盾率；
• 统计单条记忆的平均长度；
• 评估单位内容增长带来的增益变化，判断是否存在“记了很多、用得很少”的问题。

阶段四：回放与对照。 在“测试段”病例上，分别用有记忆和无记忆两种方式运行，比较准确率、一致性、关键风险识别能力等指标的差距，并记录记忆命中情况。

阶段五：压力与异常测试。 包括错误记忆注入、异常输入、检索服务故障、长周期运行回归。其中错误记忆注入是关键环节：向记忆库写入若干条“看似合理但实际错误”的经验，观察系统能否识别、质疑或纠正，以此检验记忆是否被盲目信任。

阶段六：归因与成本汇总。 结合消融实验、命中日志和资源计量，判断增益来源及总体成本。

示意性伪代码如下，仅描述评测流程，不涉及任何具体产品或工具：

# 记忆增益评测流程示意（伪代码，仅供说明评测逻辑）
baseline = []                      # 阶段一：固定基线结果
for case in regression_set:        # regression_set 为固定回归集
    baseline.append(run_without_memory(case))
store = MemoryStore.empty()        # 阶段三：从空记忆库开始积累
for case in sorted_learning_cases_by_time():
    trace = run_with_memory(case, store)   # 处理病例并产生交互轨迹
    candidates = extract_reflections(trace)  # 提炼候选经验
    store.add_after_review(candidates)       # 经人工或规则校验后写入
report = {}
for name, splitter in [
    ("baseline_vs_memory", fixed_split),     # 阶段四：固定集对照
    ("time_forward", time_forward_split),    # 时间外推：学习段之前的记忆用于之后病例
    ("ablation_no_visual", disable_visual),  # 阶段六：消融实验
    ("poisoned_memory", inject_wrong),       # 阶段五：错误记忆注入
]:
    results = evaluate(splitter, memory_mode=name)
    report[name] = compare(baseline, results)  # 记录差距、趋势与命中日志

评测过程中要同步记录：每个阶段的时间点、版本号、配置变更、异常现象和人工复核意见。缺少过程的结论，后续很难复现。

七、结果解读：什么结果说明“真的变聪明了”

7.1 可支撑“经验在积累”的证据

• 在严格对照下，有记忆系统在未见过的病例上稳定优于无记忆基线，且差距在不同批次病例上方向一致；
• 随时间推移，提升趋势持续存在，或至少没有出现明显回落；
• 消融实验显示，去掉经验记忆后增益明显收窄，说明提升主要来自经验积累，而非其他记忆；
• 记忆命中日志显示，被引用的记忆与当前问题相关，且大多经过质量校验；
• 系统能够识别并纠正注入的错误经验。

7.2 需要警惕的“虚假提升”

• 只对固定验证集有效：这恰恰是原文指出的核心风险。如果记忆筛选和更新总是围绕同一批验证样本进行，系统会逐渐“讨好”这批样本。就像学生反复刷同一套模拟题，分数越来越高，换一套真题就会露馅。应对办法是采用时间外推评估，并定期更换评测集；
• 记忆泄漏：回放病例时，如果输入与当初写入记忆时高度雷同，模型可能只是“认出原题”，而非真正应用经验。回放时应对病例做改写或扰动，并统计与历史记忆高度雷同的输入占比；
• 文本匹配带来的提升：如果提升只出现在与历史病例措辞相近的输入上，更可能来自检索层面的文本相似度，而不是经验推理。可对比改写前后、不同表述方式下的表现差异；
• 提升幅度小于运行波动：若差距与不同随机种子、不同批次之间的差异相当，就不能归因于记忆机制，应增加重复运行次数后再判断；
• 提升集中、退化分散：平均指标上升，但个别科室或病种明显变差，说明记忆引入了偏差，需要按子群体拆分分析。

7.3 不同结果对应的技术原因

观察到的结果	可能的技术原因	建议动作
有记忆时上下文明显变长，耗时增加	召回数量过多、缺少重排、索引规模膨胀	收紧召回阈值，引入重排，限制注入长度
记忆库增长快但实际引用少	写入门槛过低，或检索相关度不足	提高写入校验标准，优化检索策略
时间外推下提升消失	过拟合固定验证集，或旧经验不适用于新数据	更换评测集，建立经验失效机制
注入错误经验后输出随之出错	缺少经验可信度评估与来源标注	增加来源标注、可信度分级和人工审核
换模型后表现变化明显	模型对长上下文或结构化内容的利用能力不同	固定模型版本对比，或按模型调整记忆格式

八、适用场景分析：不同场景下重点看什么

应用场景	核心诉求	重点关注的评测指标
影像辅助阅片	视觉细节不能丢	视觉记忆的关联与取回能力、阅片一致性的变化趋势
门诊与住院辅助决策	流程规范、经验可复用	流程记忆覆盖率、经验命中率、关键风险项的漏识别情况
病历质控与随访	规则稳定、长期运行	功能完整性、长周期稳定性、审计完整性
医学教育与培训	可解释、可追溯	记忆来源可追溯性、解释质量、错误经验的纠正能力
科研数据整理	数据安全与可审计	权限控制、敏感信息保护、操作日志完整性

总体来看，知识更新频繁、经验价值高的场景，记忆机制的潜在收益更大；而规则固定、流程简单的任务，可能用常规检索增强就已足够，额外的记忆机制未必带来匹配的收益。

九、风险与限制

• 数据偏差：学习段病例若集中于某些科室、设备或人群，积累的经验可能带有局部特征，在其他人群中未必成立；
• 金标准成本：高质量标注依赖专业人员，标注规则变化会直接影响评测结论的可比性；
• 评测结论有时效性：评测基于特定模型版本、数据时段和配置，换成新版模型、更换向量化方式或调整提示词后，结论都需重新验证；
• 长尾问题：罕见病例样本少，经验积累慢，相关评测结论的不确定性更高；
• 合规边界：评测只能说明系统在特定数据集上的表现，不能替代临床验证和监管审评。上线后仍需保留人工复核，并建立持续监测机制；
• 资源约束：长周期、多组对照的评测对算力和人力要求较高，资源有限时，应优先保证基线对照与时间外推两类关键测试。

十、选型与使用建议

选型前：判断是否需要“记忆”。 如果核心痛点是缺少知识，检索增强通常就能解决；只有需要沉淀经验、流程和视觉特征时，记忆机制的价值才更明显。

优先选择可评测、可治理的方案。 重点关注：

• 是否支持三类记忆；
• 是否具备写入校验与失效机制；
• 是否提供完整的读写日志；
• 是否支持版本管理与回滚；
• 是否兼容现有数据格式和运维流程。

上线方式建议采用分阶段灰度：

1. 先在影子模式下运行，不影响真实业务输出，只对比有无记忆的差异；
2. 再在小范围、有专业人员复核的条件下试运行；
3. 最后逐步扩大范围，并建立持续监测与定期回归机制。

长期运营上，建议为记忆库建立“负责人制”：定期抽检记忆质量，清理重复与过时内容，重大版本更新前先在影子环境完成回归验证。

部署层面，若使用百度智能云的云服务器、容器、存储、数据库、日志监控、安全防护等通用产品承载该系统，建议同样以本文的评测框架验证各组件在目标负载下的表现，避免凭经验假设。

十一、总结

“冻住的大脑，变聪明的病历本”，描述的是一个很实际的方向：在不改动模型参数的前提下，让系统从处理过的病例中积累流程、经验和视觉知识。但“能积累”不等于“真变强”。本文给出的评测思路可概括为：

• 评测对象：冻结模型之外的三类记忆及读写链路；
• 评测目标：功能、增益真实性、增益归因、鲁棒性、安全合规、成本与可维护性；
• 关键方法：固定基线对照、时间外推、消融实验、错误记忆注入、长周期回归；
• 结果解读：区分真实积累与过拟合、记忆泄漏、文本匹配等虚假提升；
• 使用边界：结论只在特定模型版本、数据时段和配置条件下成立，医疗场景需保留人工复核与持续监测。

只有把“变聪明”拆解为可观察、可复现、可解释的证据，才能判断这套外挂记忆是否真正值得投入。