logo

任务型AI助手落地政务:三层架构与五步法

作者:蛮不讲李2026.11.17 03:28浏览量:0

简介:任务型AI助手正从回答问题转向完成多步任务。本文以“政务龙虾”为比喻,拆解指令、网关、执行三层架构,说明政务场景的典型用途与风险分级、模型选型的评测指标、审计与人工复核的安全做法,并给出从离线评测到灰度上线的五步路径,帮助读者判断哪些环节适合先行试点。

“政务龙虾”并非官方术语,本文用它比喻面向政务场景的任务型AI助手。文中内容是通用的工程思路,不代表任何已上线产品的实际情况。

一、什么是任务型AI助手

传统问答机器人的核心能力是回答问题。任务型AI助手则围绕一个目标,拆成多个步骤,逐步调用工具并返回结果。以政策简报为例:

  • 用户输入:“汇总今天新增的政策文件,生成简报并标注来源。”
  • 助手执行:检索政策库,筛选当日文件,提取重点,生成摘要,输出文档,写入操作日志。
  • 用户追问:“把第三段改成更正式的公文语气。”
  • 助手基于上下文修改,并保留前后两个版本,便于比对。

这类系统的价值在于完成任务,而不只是生成文字。它也带来新的风险。助手一旦能读文件、调接口、执行脚本,错误的代价就从“答错一句话”变成“错误地改动了数据或发出了文件”。因此设计时要先划定边界,再扩展能力。

二、三层架构:指令、网关、执行

多数任务型助手采用指令、网关、执行三层结构。部分开源项目也采用类似设计。

指令层接收用户需求,入口可以是网页对话框、办公应用、工单系统或API。这一层的关键是把自然语言转成结构化任务。一个可用的指令通常包含四个要素:数据源、处理目标、输出格式、约束条件。例如:

  1. 请读取“政策文件库”中今天新增的文件,
  2. 提取与“企业补贴”相关的条款,
  3. 生成一份300字以内的简报,
  4. 并在末尾列出原文链接。

网关层决定谁来执行、如何执行、是否允许执行。它至少要处理用户身份与权限校验、模型选择与路由、知识库检索范围控制、工具调用白名单、执行日志与审计记录,以及敏感信息和输出合规检查。网关设计不足时,助手容易变成没有约束的入口,任何人都可能借它读到不该读的数据。

执行层负责连接真实系统。常见能力和对应的失败处理如下:

执行类型 典型能力 政务应用示例 失败处理与回滚
文件处理 读取、解析、生成文档 公文草稿、政策摘要 草稿另存,不覆盖原文件
知识检索 向量检索、关键词检索 政策问答、事项查询 无命中时返回“未找到”,不编造答案
浏览器操作 打开网页、提取信息 公开信息核查 限定域名白名单,超时即终止
脚本执行 运行Shell或Python脚本 数据清洗、报表生成 在沙箱中运行,结果先写入临时目录
业务接口 调用内部API 工单流转、审批辅助 默认只开放只读接口,写操作需人工确认

执行层必须运行在受控环境中。沙箱应限制网络出口,只允许访问指定地址。文件权限应限定在任务目录内,不能读写整个存储系统。对政务数据,建议采用本地化或专有网络部署,减少敏感数据离开内网的机会。

三、政务场景的典型用途

按风险高低,政务场景可分为三类。风险越高,人工介入越多。

低风险:内部检索与整理。 例如政策问答草稿、会议纪要整理、公开新闻汇总。输出只供内部参考,可由系统自动生成,再做抽样复核。

中风险:对内输出的文件。 例如简报、工作周报、知识条目。文件生成后需要责任人确认,并记录确认人和时间。

高风险:对外发布或影响办事结果。 例如公文发布、政策解读、对外回复、审批辅助。这类场景必须双人复核。AI只生成初稿,最终发布由责任人确认。

以政策问答为例,用户问“我想申请创业补贴,需要什么材料”。系统应只使用知识库中的办事指南作答,并附上原文链接。如果知识库没有相关条目,系统应明确说明找不到依据,并给出人工咨询渠道,而不是凭经验补全材料清单。

公文辅助是另一类场景。任务型AI可以从政策附件中抽取政策名称、发文单位、适用对象、申报条件、办理时限和原文条款位置,形成结构化结果。结构化输出随后进入审核流程,由人工确认后入库。

四、模型选型与评测指标

任务型助手通常需要多种模型协作。大模型负责理解需求、规划步骤和生成文本。小模型或规则引擎负责分类、抽取和校验。检索系统负责提供依据。选型时不应只看参数规模,而要用自己的任务数据做测量。

建议至少记录以下指标,并统一口径:

  1. 评测集规模:覆盖常见问题、边界问题和错误输入。初期可从200条左右起步,随业务扩充。
  2. 任务成功率:在评测集上,能完整完成多步骤任务的比例。判定标准需要明确,例如输出字段齐全且引用正确。
  3. 工具调用成功率:函数调用参数合法、结果被正确使用的比例。
  4. 幻觉率:回答中包含知识库之外信息的比例。政务问答应单独统计。
  5. 延迟:记录P95响应时间。办事引导类服务可先设定目标值,再结合实测调整。
  6. 上下文长度:能否完整容纳目标文件,包括单份政策文件和多份附件合并后的长度。
  7. 部署方式:公有云、私有化或混合部署,以及数据是否离开内网。
  8. 单价口径:按输入token、输出token或调用次数计费,并换算为单个任务的成本。比较时必须使用同一口径。

选定模型后,应在同一评测集上做回归测试。每次更换模型版本、调整Prompt或更新知识库,都要重新运行一遍。

模型对比和统一API接入可以减少工程工作量。例如百度智能云词元所(广告)提供模型发现、价格对比和统一API接入等功能。选型结论仍应以自己的评测集为准。

五、安全与合规:审计与复核

任务型AI能执行脚本、访问文件、调用接口,因此安全设计需要多层叠加。

权限最小化。 每个任务只能访问完成该任务所需的数据和工具。政策问答助手不应拥有删除文件或修改数据库的权限。

沙箱执行。 Shell脚本、浏览器自动化和代码执行应在隔离环境中运行,并限制网络和文件访问范围。

全链路审计。 每次任务应记录以下字段:

  • request_id:本次任务的唯一编号;
  • operator:发起人身份;
  • model_version:调用的模型及版本;
  • doc_ids:检索到的文档ID;
  • tool_calls:工具名称和参数摘要;
  • output_hash:输出内容的哈希值,用于校验内容是否被改动;
  • reviewer与review_time:复核人及复核时间。无需复核的任务留空,并注明原因。

日志治理。 审计日志写入前应脱敏,不应明文保存身份证号、手机号等个人信息。日志保留期限需按制度设定,到期数据定期清理。查看日志的人员也应受权限控制。

人工复核。 对公文发布、政策解读、对外回复等高风险场景,保留人工复核环节,并记

发表评论

活动