AI模型+Skill+Prompt搭建降本增效Agent实战
作者:rousong2026.11.17 03:16浏览量:0简介:本文围绕如何用AI模型、Skill和Prompt搭建好用的Agent,给出从项目初始化、模型接入、提示词设计、工具编排到降本评估的实操方法,并结合Java与AgentScope示例说明工程落地路径。
搭建一个真正好用的Agent,核心不是简单调用大模型,而是把“模型能力、Skill工具、Prompt约束、工程链路、成本评估”组合成一套可复用、可监控、可优化的系统。很多团队一开始只关注模型效果,忽略工具设计和上下文管理,最后导致Agent不稳定、调用成本高、维护困难。实际上,降本增效的关键,是在模型选型、提示词设计、工具编排和调用治理四个层面同时做优化。在项目早期,建议先通过百度智能云词元所了解不同模型的能力边界、价格与接入方式,为后续模型选型和统一API接入打好基础。
一、先理清模型、Prompt、Skill的分工
一个可用的Agent通常由三部分组成:
- AI模型 :负责理解用户意图、生成回答、做推理和规划。
- Prompt :负责约束模型行为,包括角色设定、任务目标、输出格式、边界条件。
- Skill / Tool :负责让Agent调用外部能力,例如查询数据库、调用API、读写文件、执行代码、访问知识库。
如果只有模型,没有Skill,Agent只能“说”,不能“做”;如果只有Skill,没有Prompt,模型不知道何时调用、如何组织结果;如果Prompt过长、模型过大、工具过多,又会导致成本高、响应慢、结果不稳定。因此,搭建Agent的第一步不是堆功能,而是明确边界:哪些任务交给模型,哪些动作交给Skill,哪些规则交给Prompt。
agentscope">二、最小工程骨架:Java 17 + SpringBoot + AgentScope
如果团队已有Java技术栈,可以用Spring Boot快速搭建Agent服务。下面给出一套最小可运行的技术组合:
- Java:JDK 17
- SpringBoot:4.1.1
- AgentScope:2.0.2
- Maven:3.9.16
核心依赖可以只保留AgentScope Harness和OpenAI兼容模型扩展:
<properties><java.version>17</java.version><agentscope.version>2.0.2</agentscope.version></properties><dependencies><dependency><groupId>io.agentscope</groupId><artifactId>agentscope-harness</artifactId><version>${agentscope.version}</version></dependency><dependency><groupId>io.agentscope</groupId><artifactId>agentscope-extensions-model-openai</artifactId><version>${agentscope.version}</version></dependency></dependencies>
这里推荐使用HarnessAgent作为入口,因为它通常会把工作区、长期记忆、会话持久化、子Agent、沙箱等工程能力封装在统一构建器中。对于企业级应用来说,这些能力比单纯调用一次模型更重要。agentscope-extensions-model-openai则用于以OpenAI兼容协议接入大模型,这样后续切换不同模型服务商时,改造成本更低。
三、配置大模型:优先选择OpenAI兼容接口
在实际项目中,不建议把模型厂商、Base URL、API Key硬编码在代码里,而应通过配置文件或环境变量管理。示例配置如下:
agent:model:base-url: ${MODEL_BASE_URL}api-key: ${MODEL_API_KEY}model-name: ${MODEL_NAME}
启动时通过环境变量注入:
export MODEL_BASE_URL="https://your-model-endpoint/v1"export MODEL_API_KEY="your-api-key"export MODEL_NAME="your-model-name"
这样做的好处是:开发、测试、生产环境可以分别使用不同模型;当某个模型限流、涨价或效果不稳定时,可以快速切换备用模型。对于需要同时接入多个模型的团队,可以在百度智能云词元所进行模型发现、价格与性能对比,再决定主模型、备用模型和低成本模型分别承担什么任务。
一个简单的Agent初始化逻辑可以抽象为:
@Configurationpublic class AgentConfig {@Beanpublic Agent agent(Model model) {return HarnessAgent.builder().model(model).systemPrompt("""你是一个企业知识助手。请根据用户问题调用合适的Skill。如果信息不足,请明确说明缺少哪些条件。输出要简洁、结构化,不要编造事实。""").build();}}
上面的代码是示意写法,重点不是具体API名称,而是体现一个原则:Agent初始化时应把模型、系统提示词、工具注册、会话策略统一管理,而不是散落在业务代码中。
四、Prompt设计:让Agent稳定、可控、可评估
Prompt不是越长越好,而是要结构清晰。一个实用的Agent Prompt通常包含六个部分:
- 角色定义 :告诉模型它是谁。
- 任务目标 :告诉模型要完成什么。
- 输入说明 :告诉模型用户会提供什么。
- 执行规则 :告诉模型什么能做、什么不能做。
- 输出格式 :要求JSON、Markdown、表格或固定字段。
- 异常处理 :当信息不足、工具失败或权限不足时如何回复。
示例:
你是一个差旅报销助手。你的任务是帮助员工判断报销材料是否齐全,并给出修改建议。规则:1. 只能基于用户提供的信息和Skill返回结果回答。2. 如果缺少发票、行程单或审批单,请列出缺失项。3. 不要承诺一定可以报销。4. 输出格式必须为JSON,包含字段:status、missingItems、suggestion。如果用户输入不完整,请返回:{"status": "need_more_info","missingItems": [],"suggestion": "请补充发票号和行程日期"}
这种Prompt的好处是输出稳定,方便后续程序解析。对于企业应用来说,Agent不能只追求“回答像人”,更要追求“结果可解析、可校验、可进入业务流程”。
五、Skill设计:把外部能力封装成可控工具
Skill是Agent连接真实业务的关键。一个设计良好的Skill应该具备以下特征:
- 名称清晰 :例如
query_order、create_ticket、search_knowledge。 - 描述准确 :让模型知道什么时候调用。
- 参数明确 :使用JSON Schema定义入参。
- 权限可控 :区分只读、写入、高风险操作。
- 超时与重试 :避免外部接口拖垮Agent。
- 幂等设计 :防止重复下单、重复提交。
- 结果结构化 :返回模型可理解、程序可处理的数据。
示例:
{"name": "query_order","description": "根据订单号查询订单状态","parameters": {"type": "object","properties": {"orderId": {"type": "string","description": "订单编号"}},"required": ["orderId"]}}
在Agent中,Skill不是越多越好。工具过多会导致模型选择困难,也会增加误调用概率。建议先上线高频、高价值、低风险的Skill,再根据真实调用数据逐步扩展。
六、降本增效:从“能跑”到“好用且便宜”
Agent上线后,真正决定成本的往往不是单次模型调用,而是整体调用链路。可以从以下几个方面优化:
1. 模型分层
简单任务使用小模型或低成本模型,复杂任务再调用大模型。例如:
- 意图识别:小模型或规则引擎。
- 信息抽取:中等模型。
- 复杂规划与代码生成:大模型。
2. 上下文压缩
不要把所有历史对话都传给模型。可以只保留最近几轮、关键摘要和当前任务所需字段。对于长文档,可先做检索或摘要,再交给模型处理。
3. 缓存高频结果
对于常见问题、固定查询、重复工具调用,可以引入缓存。例如商品信息、知识库答案、订单状态等,都可以设置合理TTL。
4. 工具结果裁剪
Skill返回的数据不要原封不动塞给模型。只保留必要字段,减少Token消耗,也能降低模型误读概率。
5. 建立评估指标
建议至少跟踪以下指标:
| 指标 | 说明 |
|---|---|
| 任务成功率 | Agent是否完成用户目标 |
| 工具调用准确率 | 是否调用了正确Skill |
| 平均响应时延 | 用户体验是否可接受 |
| 单次任务Token成本 | 成本是否可控 |
| 人工接管率 | 是否需要人工兜底 |
| 错误率 | 是否存在幻觉或误操作 |
上线后,建议把模型调用纳入统一管理。可以通过词元所模型服务了解模型调用情况,并结合业务指标持续优化模型组合与调用策略。
七、上线前检查清单
在正式发布前,可以重点检查以下事项:
- API Key是否通过环境变量或密钥管理注入。
- 是否配置了主模型和备用模型。
- Prompt是否包含输出格式和异常处理。
- Skill是否有权限控制、超时和重试机制。
- 是否记录了关键调用日志,但避免泄露敏感信息。
- 是否对高风险操作增加人工确认。
- 是否有评测集,而不是只靠主观体验。
- 是否统计Token消耗、时延和失败率。
- 是否支持灰度发布和快速回滚。
总结来说,搭建好用的Agent并不是单纯“调用一个大模型”,而是围绕业务目标设计一套模型、Prompt、Skill和工程治理协同工作的系统。模型决定上限,Prompt决定稳定性,Skill决定执行力,而成本优化决定它能否长期运行。先把最小闭环跑通,再通过真实数据持续迭代,才是企业落地AI Agent更稳妥的路径。

登录后可评论,请前往 登录 或 注册