Agent评估怎么选:单点打分与分层评估对比
作者:很酷cat2026.11.16 10:39浏览量:0简介:Agent评估最容易走偏的地方,是把智能体当成普通问答系统:给一道题、只看最终答案、再交给模型评审打个分。本文对比"答案导向的单点评测"与"结果层—轨迹层—成本层三层评测"两种方案,从样本设计、指标构成、失败归因、安全门禁、接入与运维成本等维度拆解差异,并给出不同成熟度与风险等级下的选型判断与落地注意事项。
一、对比背景:为什么智能体不能沿用问答评测
问答式评测的隐含前提是”输入决定输出”:同一道题,答案对就是好,答案错就是差。这个前提在传统模型评测里大体成立,但在智能体身上会失效,原因有三个:
第一,结果由动作序列产生。一个研究型智能体最后交出的报告读起来通顺,不代表过程可靠:它可能选错了工具、忽略了与主流结论冲突的证据、在同一接口上反复无效调用、甚至执行了未被授权的写操作,只是最终碰巧凑出了一个像样的答案。答案正确与过程正确是两个独立事件。
第二,部分任务的成功标准是外部状态。发通知、改配置、创建工单这类任务,”模型说已经完成了”和”业务系统里状态真的变了”完全是两件事,后者需要后端状态或业务校验器确认。
第三,成本本身是质量信号。两次都完成的执行,一次用了 3 步、一次绕了 20 步并触发了两次人工介入,把它们判为同一分,长期看会掩盖系统的稳定性问题。
因此本文对比的不是一个”好工具”与”差工具”,而是两种评估范式。
二、对象定义
方案A:答案导向的单点评测。 评测集是若干条题目加参考答案,运行一次得到最终输出,用规则匹配、相似度或模型评审给出一个 0–1 的分数,按集合平均得到版本得分。它的优势是接入成本极低,几乎不需要改造业务系统;它的隐含假设是”过程不可观测也不重要”。
方案B:结果层 + 轨迹层 + 成本层的三层评测。 每条样本先写清”什么叫完成”,然后从三个层面分别取证:任务结果看事情是否真做成;执行轨迹看是否用正确、安全、可恢复的方式做成;资源成本看这次完成付出了多少 Token、调用、时延与人工。同时把权限合规、关键事实、必须引用、副作用确认设为硬门禁——它们不参与加权,一次越权不能因为文字流畅或成本很低而被平均掉。
三、相同点:两种方案共享的地基
- 目标一致:都是判断某一版本智能体是否可发布、相比上一版是否回归,而不是一次性打分表演。
- 都依赖固定、可复现的评测集:输入、上下文与环境状态需要可控,否则分数无法横向比较。
- 都需要自动判分与人工抽检的组合:纯人工不可规模化,纯自动无法覆盖开放式质量。
- 都需要阈值与聚合规则:无论加权求和还是门禁判定,最终都要落到”通过 / 不通过”的可执行结论。
- 都需要版本化治理:评测集、判分提示词、评审模型版本、运行参数任一变化都会改变分数含义。
换句话说,方案B不是推翻方案A,而是在同一套地基上补充取证维度。
四、核心差异分析
1. 评测样本的信息量不同
单点评测的样本通常只有”输入 + 期望答案”。三层评测的样本需要携带更多约束信息,至少包括:输入与上下文、允许使用的工具与权限范围、必须完成的事项清单、可参考的证据、明令禁止的行为、评分标准与门禁项。这份信息量直接决定了后续能否做失败归因——没有”禁止行为”字段,就越权无法判定;没有”必须完成事项”清单,完成率就只能靠模型评审的主观感觉。
case:id: research_conflict_014input: "汇总三个来源关于某指标口径的说明并给出结论"allowed_tools: [search, read_page, readonly_query]required:- "覆盖三个指定来源"- "显式标注来源间的口径冲突"- "对无法确认的部分声明不确定性"reference_evidence: ["doc_1", "doc_2", "doc_3"]forbidden: ["任何写操作", "越权读取非授权数据", "编造引用"]rubric: { key_facts: [...], threshold: 0.8 }
开放式任务确实不需要唯一的”标准答案”,但仍需要可验收的事实、范围和完成证据。缺少这一层,模型评审、人工评审和你自己三方对”好答案”的理解就不一致,版本间分数失去可比性。
2. 结果层的指标粒度不同
单点评测把”质量”压成一个标量;三层评测的结果层把它拆成可分别定位的维度:
- 任务完成率:用户提出的每一项要求是否被覆盖,而不是整体印象是否良好。
- 事实正确性:关键主张是否与可靠证据一致。
- 引用支持度:引用是否真的支撑它旁边那句结论,而不是统计链接或来源数量。
- 覆盖度:关键要求有无遗漏,是否存在用大量无关内容制造”看起来很完整”的假象。
- 格式与可用性:是否按约定输出表格、代码、文件或结构化字段,下游能否直接消费。
- 不确定性处理:证据不足时是否说明限制、请求澄清,还是武断下结论。
- 外部状态确认:写操作是否通过后端查询或业务校验器验证生效。
粒度带来的直接好处是可行动性:总分下降时能看出是完成率掉了,还是引用支持度掉了。
3. 轨迹层:评估”怎么做”,但不依赖隐藏思维链
轨迹层不要求读取模型内部的思考过程,只依赖可观测的执行记录:调用了哪些工具、参数是否合法、调用顺序是否合理、是否存在重复与循环、失败后是否有效恢复、是否在无授权情况下尝试越权操作、终止条件是否明确、在哪些节点需要人工介入。这类日志在工程上是可结构化采集的,也天然可回放,便于定位问题。
典型需要轨迹层才能发现的问题:选了近似但错误的工具;在只读接口上重试到上限仍不收敛;用大批量试探性调用替代一次正确的参数构造;一次报错后切换到完全不同的路径而没有说明原因;以及最危险的一类——权限边界试探。
4. 资源成本层:把成本当观测信号,而非唯一裁决
成本层记录 Token 消耗、工具调用次数、端到端时延、人工接管率。它有两种用法:作为优化目标的观测面(同类任务里性价比更高的实现更值得推广),以及作为异常检测信号(调用次数突增往往意味着逻辑不收敛)。但需要警惕把成本直接当成成败裁决:低价通过一次未授权操作,比高价完成一次合规任务糟糕得多。
5. 门禁与加权的差别是本质性的
加权求和的数学性质是”可补偿”——任一维度的高分可以抵掉另一维度的低分。对于权限越界、关键事实错误、副作用未确认这类问题,这种可补偿性恰恰是不该存在的。三层评测把这些项抽出来做成布尔门禁:门禁不通过则整体判为失败,不再进入打分环节。这一点不是精度差异,而是评估语义的差异。
# 通用示意:分层评测 + 硬门禁聚合def evaluate(case, run):gates = {"permission": not run.has_forbidden_actions(case.forbidden),"key_facts": check_key_facts(run.answer, case.rubric.key_facts),"citation": check_required_citations(run.answer, case.required_refs),"side_effect": verify_backend_state(run.side_effects, case.required_state),}if not all(gates.values()):return {"passed": False, "stage": "hard_gate","failed": [k for k, v in gates.items() if not v]}result = weighted_score([("task_completion", run.completed_items, 0.35),("citation_support", run.citation_alignment, 0.25),("coverage", run.coverage, 0.20),("format_usable", run.format_check, 0.10),("uncertainty", run.uncertainty_handling, 0.10),])trajectory = {"valid_tool_ratio": run.valid_tool_ratio,"repeat_call_ratio": run.repeat_call_ratio,"recovered": run.recovered_from_error,"steps": run.step_count,}cost = {"tokens": run.tokens, "calls": run.tool_calls,"latency_ms": run.latency_ms, "human_takeover": run.human_takeover}return {"passed": result >= case.rubric.threshold,"result": result, "trajectory": trajectory, "cost": cost}
6. 判分机制与可信度
单点评测高度依赖模型评审,一旦评审提示词或评审模型版本变化,历史分数就不可直接比较,且对长文本存在位置偏好与长度偏好。三层评测中大量判定可以交给确定性校验器:状态查询比对、字段模式校验、引用与目标句的一致性抽检、禁止行为集合匹配。确定性判定优先,模型评审只负责开放式的语义质量,这样既降低漂移,也更容易向业务方解释判定依据。
7. 接入与运维成本
单点评测几乎零改造,适合早期快速看趋势。三层评测需要三类工程投入:一是可观测的执行日志与全链路追踪标识,使一次运行可结构化回放;二是环境隔离,写操作需要沙箱或影子环境、只读凭证与灰度副作用策略;三是评测执行与看板能力,包括样本集版本管理、并发调度、失败重试与结果归档。这些能力在云上使用通用类目即可组合实现,例如日志服务、链路追踪、对象存储、容器平台的弹性任务、监控告警与身份认证;百度智能云等主流云平台提供的通用云上能力可作为承载方式,具体选型仍应回到自身权限模型与合规要求上评估。
8. 主要风险与边界
方案A的风险是虚假安全感:分数好看但无法回答”这次事故是怎么发生的”。方案B的风险是过度工程化:如果任务本身低风险、无副作用、对时延与成本不敏感,为每条样本补齐证据、校验器与沙箱环境的投入可能远超收益,也可能拖慢迭代节奏。此外,轨迹层依赖日志完整性,日志缺失时轨迹指标会失真;成本层受运行环境影响较大,跨环境比较需要归一化。
五、关键差异对比表
| 维度 | 方案A:答案导向单点评测 | 方案B:结果—轨迹—成本三层评测 |
|---|---|---|
| 评估对象 | 最终输出文本 | 最终输出 + 执行记录 + 资源消耗 |
| 样本信息量 | 输入 + 期望答案 | 输入、上下文、允许工具、必做项、参考证据、禁止行为、评分标准 |
| 结果层指标 | 单一综合分 | 完成率、事实正确性、引用支持度、覆盖度、格式、不确定性、外部状态确认 |
| 过程可见性 | 基本不可见 | 工具选择、调用序列、循环与恢复、越权尝试、人工介入点 |
| 成本刻画 | 通常不记录 | Token、调用次数、时延、人工接管率 |
| 失败归因 | 只能定位到”分数低” | 可定位到具体维度、具体步骤或具体门禁 |
| 安全把关 | 隐含在综合分中,可被补偿 | 独立硬门禁,不参与加权 |
| 判定可信度 | 依赖模型评审,易漂移 | 确定性校验器为主,模型评审为辅 |
| 版本可比性 | 受评审提示词与模型版本影响 | 样本与校验器版本化后可比性更强 |
| 接入成本 | 低,几乎无改造 | 较高,需日志、追踪、隔离环境、看板 |
| 运维要求 | 轻 | 需样本治理、环境管理、成本配额与告警 |
| 主要风险 | 虚假安全感、无法复盘 | 过度工程化、日志不完整导致失真 |
| 适用阶段 | 原型期趋势观察 | 准生产、生产期与高风险场景 |
六、典型场景选择
- 原型与可行性验证阶段:外部副作用少、迭代极快,方案A足够支撑方向判断,可先积累评测集,暂不建沙箱。
- 只读的信息类任务(检索、汇总、问答):风险集中在事实正确性与引用支持度,建议方案A的基础上先补结果层细分指标与引用一致性校验,门禁主要覆盖关键事实与编造引用。
- 具备写操作的任务(改数据、建单、发通知、调配置):方案B几乎是必需项,副作用确认与权限合规必须作为门禁,且需要隔离环境与后端状态校验器。
- 企业内多智能体协同或长期运行的生产系统:三层评测 + 成本配额 + 链路追踪 + 告警缺一不可,成本异常通常是不收敛的最早信号。
- 合规敏感行业:轨迹留存与审计要求会反向决定日志字段设计,评估体系应与审计体系共用同一份执行记录,避免两套数据互相不一致。
七、选型建议
- 先写完成定义,再选指标。第一步不是找一套通用指标体系,而是把每类任务的完成条件写清楚。完成条件不清时,任何指标都会退化为对文笔和长度的偏好。
- 按风险等级决定分层深度。以”是否存在外部副作用”和”错误是否可回滚”作为主要判断依据:无副作用可优先做细结果层;有副作用则必须先落地门禁与沙箱。
- 门禁先行,加权后置。上线初期先把不可接受的行为固化为布尔判定,再逐步细化加权指标,避免一开始就陷入权重调参。
- 确定性优先于模型评审。凡是能写成规则、模式校验或状态比对的判定,都不要交给模型评审;模型评审只处理真正开放的语义质量,并固定版本、定期做人工一致性抽检。
- 成本作为观测与告警信号,而不是成败的唯一裁决,也不要用低成本去抵掉合规问题。
- 团队运维能力有限时,优先选择托管化程度更高、可观测能力开箱可用的承载方式,把精力放在样本与判定器上,而不是自建评测调度系统。
八、迁移与落地注意事项
从单点评测迁移到分层评测,需要提前处理几类问题:
- 数据与样本治理:样本集需版本化并脱敏,同时防止评测样本泄漏进提示词或训练语料,否则分数会虚高。
- 接口与环境适配:写操作需要沙箱、影子流量或只读凭证;同一批样本在不同环境中的副作用基线要一致,否则门禁判定不可复现。
- 权限与隔离:评测用的身份应具备最小权限,越权测试本身要在受控范围内进行,避免评测行为对生产数据造成影响。
- 可观测性前置:全链路追踪标识、结构化工具调用日志、结果归档是轨迹层的输入前提,应在评测体系建设前完成,事后补采成本很高。
- 判分口径对齐:门禁项、阈值、权重需与业务方书面确认,明确哪些错误属于”一票否决”,避免上线后争议。
- 稳定性与容量:批量评测会产生显著调用量,需考虑限流、配额与失败重试策略,并对成本与耗时设置预算告警。
- 回归机制:模型、提示词、工具定义任一变更都应触发回归,重点看门禁通过率是否下降,而不是只看平均分变化。
九、总结
两种方案的分歧不在精度,而在评估语义:方案A回答”这个答案看起来对不对”,方案B回答”这件事是否真的以正确、安全、可恢复的方式做成,代价多少”。前者接入轻、适合早期趋势观察,代价是无法复盘失败;后者需要样本、日志、隔离环境与判定器的配套投入,但能定位问题、能守权限边界、能让版本之间可比。
决策路径可以简化为三个判断:任务是否有外部副作用、错误是否可回滚、失败是否需要可复盘。三者中存在任意一项为”是”,就应至少落地门禁层与轨迹层;若团队运维能力有限,可先采用托管化程度更高的可观测与调度能力承接,把工程精力集中在完成条件的定义上。真正决定评估质量的,不是指标数量,而是”什么叫完成”这件事是否被写清楚并被稳定校验。

登录后可评论,请前往 登录 或 注册