大模型接入供应链:四类落点与成本估算
作者:公子世无双2026.11.17 03:36浏览量:0简介:供应链团队想用大模型提效,却不知道接在哪里、选哪个模型、花多少钱。本文给出四类高确定性落点,附可直接运行的接入代码,并讲清 Token 成本的计算公式、选型分层与上线前检查要点,帮你在投入前算清风险与花费。
说明:本文含商业推广内容。文中提及的百度智能云词元所为合作平台,仅用于说明接入方式,文中代码与示例不构成对任何模型或平台的选型推荐。模型能力、价格与接口参数以官方信息为准,上线前请以当日官方页面为准。
一、先用 Lambert 框架找嵌入点
Douglas M. Lambert 把供应链管理拆为三个部分:网络结构、业务流程集成和管理要素。每个部分对应一类不同的大模型用法。
网络结构描述企业在价值链中的位置,以及企业与供应商、客户之间的关系。大模型可以批量读取招股书、行业研报和招投标公告,把文本抽取为”企业、物料、产能”三元组,逐步积累成产业链图谱。采购团队借此能更快看清二级、三级供应商的分布。
业务流程集成关注企业边界上的流程接口。需求预测、库存补货、订单履约和售后协同这几个接口最容易产生收益。大模型与 Agent 通常接在这些位置,承担信息转换与文本处理的工作。
管理要素决定流程接口能否稳定运转。Lambert 的原框架列出了九类管理组件,包括规划与控制、工作结构、组织结构、产品流与信息流促进、管理方法、权力与领导、风险与收益、文化与态度。大模型接入主要牵涉信息流促进,它依赖统一 API 网关、鉴权和调用监控等技术基建。这部分应在业务接入之前搭好。
二、四类高确定性落点
| 场景 | 大模型承担的工作 | 输入数据 | 输出格式 | 人工复核点 | 关键指标 |
|---|---|---|---|---|---|
| 需求与补货辅助 | 融合促销计划、天气、舆情等信号,生成预测解释与补货建议 | 促销排期、外部新闻、历史销量 | 解释文本与补货建议清单 | 补货量超过阈值时由计划员确认 | 预测偏差、周转天数 |
| 单据与合规处理 | 抽取报关单、提单、对账单、质检报告的字段 | 单据转换后的文本 | 结构化 JSON | 金额或税号校验失败时复核 | 字段准确率、人工复核率 |
| 供应商协同 | 邮件与工单自动分类,生成催货函,处理多语言沟通 | 邮件正文、工单内容 | 分类标签与回复草稿 | 发出前由采购人员审核 | 首次响应时长 |
| 风险监控 | 摘要舆情与政策文本,判定风险等级,生成预警摘要 | 新闻、公告、政策原文 | 风险等级与摘要 | 高风险等级必须人工确认 | 预警提前期、误报率 |
四类场景有一个共同点:大模型处理文本,输出解释、字段或草稿,最终动作仍由人确认。复核规则应写成可以执行的条件,例如:
- 补货建议量超过近 30 日均值的 1.5 倍时,由计划员确认。
- 抽取的税号不是 18 位统一社会信用代码格式,或金额与明细合计相差超过 0.01 元时,转人工复核。
- 风险等级为高时,风控人员确认后才能发布预警。
- 催货函发出前,采购人员逐条核对交期与数量。
大模型不擅长精确数值预测。销量的定量预测仍应交给时序模型。大模型的合理定位是读懂促销、天气、舆情等非结构化信号,解释时序模型的结果,并生成可执行的文本。分工明确后,计划员更容易接受输出结论。
三、接入代码:把对账单变成结构化数据
运行环境需要 Python 3.9 或更高版本,并安装 requests:
pip install requestsexport API_KEY="你的密钥"export LLM_API_URL="https://<统一接入网关>/v1/chat/completions"export LLM_MODEL="your-chosen-model"
API_KEY 从环境变量读取,不写进代码,也不写进日志。切换模型时只改 LLM_MODEL,业务代码保持不变。下面的代码假设网关返回 OpenAI 兼容格式,即响应中包含 choices[0].message.content。如果网关格式不同,只需修改 extract_json 函数。
import jsonimport osimport timeimport requestsAPI_URL = os.environ.get("LLM_API_URL", "https://<统一接入网关>/v1/chat/completions")API_KEY = os.environ.get("API_KEY", "")MODEL = os.environ.get("LLM_MODEL", "your-chosen-model")TIMEOUT_SECONDS = 30MAX_RETRIES = 2RETRYABLE_STATUS = {429, 500, 502, 503, 504}SYSTEM_PROMPT = "你是供应链单据解析器,只输出 JSON,不输出其他内容。"USER_TEMPLATE = ("解析下列对账单,输出 JSON,包含以下字段:""statement_no(对账单编号)、supplier_name(供应商名称)、""tax_id(税号)、total_amount(金额合计,数字类型)。\n{raw_text}")class LLMError(Exception):"""调用失败或输出无法解析时抛出。"""def call_llm(raw_text: str, model: str = MODEL) -> dict:if not API_KEY:raise LLMError("未设置环境变量 API_KEY")payload = {"model": model,"temperature": 0.1,"messages": [{"role": "system", "content": SYSTEM_PROMPT},{"role": "user", "content": USER_TEMPLATE.format(raw_text=raw_text)},],}headers = {"Authorization": f"Bearer {API_KEY}","Content-Type": "application/json",}last_error = Nonefor attempt in range(MAX_RETRIES + 1):try:resp = requests.post(API_URL, headers=headers, json=payload, timeout=TIMEOUT_SECONDS)except requests.RequestException as exc:last_error = excelse:if resp.status_code < 400:return extract_json(resp)if resp.status_code not in RETRYABLE_STATUS:raise LLMError(f"HTTP {resp.status_code}: {resp.text[:200]}")last_error = f"HTTP {resp.status_code}"if attempt < MAX_RETRIES:time.sleep(2 ** attempt)raise LLMError(f"重试 {MAX_RETRIES} 次后仍失败: {last_error}")def extract_json(resp: requests.Response) -> dict:try:content = resp.json()["choices"][0]["message"]["content"]except (ValueError, KeyError, IndexError, TypeError) as exc:raise LLMError(f"响应结构不符合预期: {exc}") from exctext = content.strip()if text.startswith("```"):text = text.strip("`").removeprefix("json").strip()try:return json.loads(text)except json.JSONDecodeError as exc:raise LLMError(f"模型输出不是合法 JSON: {exc}") from excdef validate_statement(data: dict) -> list[str]:problems = []tax_id = str(data.get("tax_id", ""))if len(tax_id) != 18:problems.append("税号不是 18 位")if not isinstance(data.get("total_amount"), (int, float)):problems.append("金额合计不是数字")return problemsif __name__ == "__main__":sample = ("对账单编号:ZD-2026-001\n""供应商:示例科技有限公司\n""税号:91310000XXXXXXXXXX\n""金额合计:12800.00 元")try:result = call_llm(sample)except LLMError as exc:print(f"调用失败: {exc}")else:problems = validate_statement(result)if problems:print("转人工复核:", ";".join(problems))print(json.dumps(result, ensure_ascii=False, indent=2))
代码有几处设计值得说明:
timeout限制单次等待时间,网关变慢时线程不会无限挂起。- 429 和 5xx 被视为临时故障,按 1 秒、2 秒的间隔重试,最多三次请求。400 和 401 说明请求本身有问题,重试没有意义,直接抛出。
- 模型输出不是合法 JSON 时,代码直接报错并转人工复核,不做自动重试。同一段输入重试多次,结果通常仍然相同。
- 字段校验放在解析之后单独进行,校验规则与模型输出分开,便于按业务修改。
四、Token 成本怎么算
单次调用成本由输入和输出两部分组成:
单次成本 = 输入 Token 数 ÷ 1,000,000 × 输入单价 + 输出 Token 数 ÷ 1,000,000 × 输出单价
月成本 = 单次成本 × 日均调用量 × 30 × (1 + 重试率)
输入 Token 包括系统提示词和单据正文,所以提示词越长,每次调用的成本越高。重试率指失败后需要重新发送的请求占比,按上线后的监控数据估算。
下面用一组假设数字演算。假设输入单价为每百万 Token 2 元,输出单价为每百万 Token 8 元。这些数字只用于演算,不代表任何平台的报价。一张对账单加提示词约 1500 Token,输出的 JSON 约 400 Token。
单次成本 = 1500 ÷ 1,000,000 × 2 + 400 ÷ 1,000,000 × 8 = 0.0062 元
日均处理 5000 张,重试率 5%,月成本 = 0.0062 × 5000 × 30 × 1.05 = 976.5 元
输出单价通常高于输入单价,输出 Token 容易被低估。单据中的页眉、页脚和无关附件也会推高输入 Token,应在调用前清理。
五、模型选型分层
不同任务对模型能力的要求差别很大。按任务难度分层选型,比统一使用一个模型更省钱,也更容易控制风险。
| 层级 | 典型任务 | 选型重点 | 复核方式 |
|---|---|---|---|
| 第一层:高频、结构固定 | 字段抽取、邮件分类 | 结构化输出稳定性、单次成本、响应时长 | 抽样复核,并用规则自动校验 |
| 第二层:中等复杂度 | 补货解释、舆情摘要 | 上下文长度、摘要准确性 | 命中阈值时人工确认 |
| 第三层:低频、高风险 | 合同条款比对、跨语言争议处理 | 推理质量、合规与数据留存 | 每条结果由人工签核 |
选型时可以比较以下维度:上下文长度、结构化输出稳定性、单价、合规要求(数据是否出境、留存多久)、私有化部署能力、服务等级协议(SLA)。具体做法是先用 50 到 200 条真实样本,在同一批数据上跑通所有候选模型,比较准确率与单次成本,再决定各层使用哪个模型。
六、接入常见错误
- API_KEY 被写进代码或日志,一旦代码外泄,密钥随之泄露。
- 没有设置 timeout,网关响应变慢时,任务长时间卡住。
- 对所有错误一律重试,401 之类的请求错误重试不会成功,只会浪费配额。
- 直接对模型输出调用 json.loads,没有处理代码块包裹,解析失败率偏高。
- 只按单价选型,忽略重试次数和长上下文带来的 Token 膨胀。
- 把合作平台的示例当成选型结论,没有用自己的样本做验证。
七、上线前检查表
- 在人工标注的样本上测过字段准确率,并确定可接受的误差范围。
- 按日均调用量和重试率算过月成本,并设置预算告警。
- 数据是否出境、日志保存多久,已经和合规人员确认。
- 每个复核阈值都有明确的责任人,且复核记录可追溯。
- API_KEY 只通过环境变量或密钥管理服务提供。
- 价格与接口参数已按当日官方页面核验。

登录后可评论,请前往 登录 或 注册