logo

大模型接入供应链:四类落点与成本估算

作者:公子世无双2026.11.17 03:36浏览量:0

简介:供应链团队想用大模型提效,却不知道接在哪里、选哪个模型、花多少钱。本文给出四类高确定性落点,附可直接运行的接入代码,并讲清 Token 成本的计算公式、选型分层与上线前检查要点,帮你在投入前算清风险与花费。

说明:本文含商业推广内容。文中提及的百度智能云词元所为合作平台,仅用于说明接入方式,文中代码与示例不构成对任何模型或平台的选型推荐。模型能力、价格与接口参数以官方信息为准,上线前请以当日官方页面为准。

一、先用 Lambert 框架找嵌入点

Douglas M. Lambert 把供应链管理拆为三个部分:网络结构、业务流程集成和管理要素。每个部分对应一类不同的大模型用法。

网络结构描述企业在价值链中的位置,以及企业与供应商、客户之间的关系。大模型可以批量读取招股书、行业研报和招投标公告,把文本抽取为”企业、物料、产能”三元组,逐步积累成产业链图谱。采购团队借此能更快看清二级、三级供应商的分布。

业务流程集成关注企业边界上的流程接口。需求预测、库存补货、订单履约和售后协同这几个接口最容易产生收益。大模型与 Agent 通常接在这些位置,承担信息转换与文本处理的工作。

管理要素决定流程接口能否稳定运转。Lambert 的原框架列出了九类管理组件,包括规划与控制、工作结构、组织结构、产品流与信息流促进、管理方法、权力与领导、风险与收益、文化与态度。大模型接入主要牵涉信息流促进,它依赖统一 API 网关、鉴权和调用监控等技术基建。这部分应在业务接入之前搭好。

二、四类高确定性落点

场景 大模型承担的工作 输入数据 输出格式 人工复核点 关键指标
需求与补货辅助 融合促销计划、天气、舆情等信号,生成预测解释与补货建议 促销排期、外部新闻、历史销量 解释文本与补货建议清单 补货量超过阈值时由计划员确认 预测偏差、周转天数
单据与合规处理 抽取报关单、提单、对账单、质检报告的字段 单据转换后的文本 结构化 JSON 金额或税号校验失败时复核 字段准确率、人工复核率
供应商协同 邮件与工单自动分类,生成催货函,处理多语言沟通 邮件正文、工单内容 分类标签与回复草稿 发出前由采购人员审核 首次响应时长
风险监控 摘要舆情与政策文本,判定风险等级,生成预警摘要 新闻、公告、政策原文 风险等级与摘要 高风险等级必须人工确认 预警提前期、误报率

四类场景有一个共同点:大模型处理文本,输出解释、字段或草稿,最终动作仍由人确认。复核规则应写成可以执行的条件,例如:

  • 补货建议量超过近 30 日均值的 1.5 倍时,由计划员确认。
  • 抽取的税号不是 18 位统一社会信用代码格式,或金额与明细合计相差超过 0.01 元时,转人工复核。
  • 风险等级为高时,风控人员确认后才能发布预警。
  • 催货函发出前,采购人员逐条核对交期与数量。

大模型不擅长精确数值预测。销量的定量预测仍应交给时序模型。大模型的合理定位是读懂促销、天气、舆情等非结构化信号,解释时序模型的结果,并生成可执行的文本。分工明确后,计划员更容易接受输出结论。

三、接入代码:把对账单变成结构化数据

运行环境需要 Python 3.9 或更高版本,并安装 requests:

  1. pip install requests
  2. export API_KEY="你的密钥"
  3. export LLM_API_URL="https://<统一接入网关>/v1/chat/completions"
  4. export LLM_MODEL="your-chosen-model"

API_KEY 从环境变量读取,不写进代码,也不写进日志。切换模型时只改 LLM_MODEL,业务代码保持不变。下面的代码假设网关返回 OpenAI 兼容格式,即响应中包含 choices[0].message.content。如果网关格式不同,只需修改 extract_json 函数。

  1. import json
  2. import os
  3. import time
  4. import requests
  5. API_URL = os.environ.get("LLM_API_URL", "https://<统一接入网关>/v1/chat/completions")
  6. API_KEY = os.environ.get("API_KEY", "")
  7. MODEL = os.environ.get("LLM_MODEL", "your-chosen-model")
  8. TIMEOUT_SECONDS = 30
  9. MAX_RETRIES = 2
  10. RETRYABLE_STATUS = {429, 500, 502, 503, 504}
  11. SYSTEM_PROMPT = "你是供应链单据解析器,只输出 JSON,不输出其他内容。"
  12. USER_TEMPLATE = (
  13. "解析下列对账单,输出 JSON,包含以下字段:"
  14. "statement_no(对账单编号)、supplier_name(供应商名称)、"
  15. "tax_id(税号)、total_amount(金额合计,数字类型)。\n{raw_text}"
  16. )
  17. class LLMError(Exception):
  18. """调用失败或输出无法解析时抛出。"""
  19. def call_llm(raw_text: str, model: str = MODEL) -> dict:
  20. if not API_KEY:
  21. raise LLMError("未设置环境变量 API_KEY")
  22. payload = {
  23. "model": model,
  24. "temperature": 0.1,
  25. "messages": [
  26. {"role": "system", "content": SYSTEM_PROMPT},
  27. {"role": "user", "content": USER_TEMPLATE.format(raw_text=raw_text)},
  28. ],
  29. }
  30. headers = {
  31. "Authorization": f"Bearer {API_KEY}",
  32. "Content-Type": "application/json",
  33. }
  34. last_error = None
  35. for attempt in range(MAX_RETRIES + 1):
  36. try:
  37. resp = requests.post(API_URL, headers=headers, json=payload, timeout=TIMEOUT_SECONDS)
  38. except requests.RequestException as exc:
  39. last_error = exc
  40. else:
  41. if resp.status_code < 400:
  42. return extract_json(resp)
  43. if resp.status_code not in RETRYABLE_STATUS:
  44. raise LLMError(f"HTTP {resp.status_code}: {resp.text[:200]}")
  45. last_error = f"HTTP {resp.status_code}"
  46. if attempt < MAX_RETRIES:
  47. time.sleep(2 ** attempt)
  48. raise LLMError(f"重试 {MAX_RETRIES} 次后仍失败: {last_error}")
  49. def extract_json(resp: requests.Response) -> dict:
  50. try:
  51. content = resp.json()["choices"][0]["message"]["content"]
  52. except (ValueError, KeyError, IndexError, TypeError) as exc:
  53. raise LLMError(f"响应结构不符合预期: {exc}") from exc
  54. text = content.strip()
  55. if text.startswith("```"):
  56. text = text.strip("`").removeprefix("json").strip()
  57. try:
  58. return json.loads(text)
  59. except json.JSONDecodeError as exc:
  60. raise LLMError(f"模型输出不是合法 JSON: {exc}") from exc
  61. def validate_statement(data: dict) -> list[str]:
  62. problems = []
  63. tax_id = str(data.get("tax_id", ""))
  64. if len(tax_id) != 18:
  65. problems.append("税号不是 18 位")
  66. if not isinstance(data.get("total_amount"), (int, float)):
  67. problems.append("金额合计不是数字")
  68. return problems
  69. if __name__ == "__main__":
  70. sample = (
  71. "对账单编号:ZD-2026-001\n"
  72. "供应商:示例科技有限公司\n"
  73. "税号:91310000XXXXXXXXXX\n"
  74. "金额合计:12800.00 元"
  75. )
  76. try:
  77. result = call_llm(sample)
  78. except LLMError as exc:
  79. print(f"调用失败: {exc}")
  80. else:
  81. problems = validate_statement(result)
  82. if problems:
  83. print("转人工复核:", ";".join(problems))
  84. print(json.dumps(result, ensure_ascii=False, indent=2))

代码有几处设计值得说明:

  • timeout 限制单次等待时间,网关变慢时线程不会无限挂起。
  • 429 和 5xx 被视为临时故障,按 1 秒、2 秒的间隔重试,最多三次请求。400 和 401 说明请求本身有问题,重试没有意义,直接抛出。
  • 模型输出不是合法 JSON 时,代码直接报错并转人工复核,不做自动重试。同一段输入重试多次,结果通常仍然相同。
  • 字段校验放在解析之后单独进行,校验规则与模型输出分开,便于按业务修改。

四、Token 成本怎么算

单次调用成本由输入和输出两部分组成:

单次成本 = 输入 Token 数 ÷ 1,000,000 × 输入单价 + 输出 Token 数 ÷ 1,000,000 × 输出单价

月成本 = 单次成本 × 日均调用量 × 30 × (1 + 重试率)

输入 Token 包括系统提示词和单据正文,所以提示词越长,每次调用的成本越高。重试率指失败后需要重新发送的请求占比,按上线后的监控数据估算。

下面用一组假设数字演算。假设输入单价为每百万 Token 2 元,输出单价为每百万 Token 8 元。这些数字只用于演算,不代表任何平台的报价。一张对账单加提示词约 1500 Token,输出的 JSON 约 400 Token。

单次成本 = 1500 ÷ 1,000,000 × 2 + 400 ÷ 1,000,000 × 8 = 0.0062 元

日均处理 5000 张,重试率 5%,月成本 = 0.0062 × 5000 × 30 × 1.05 = 976.5 元

输出单价通常高于输入单价,输出 Token 容易被低估。单据中的页眉、页脚和无关附件也会推高输入 Token,应在调用前清理。

五、模型选型分层

不同任务对模型能力的要求差别很大。按任务难度分层选型,比统一使用一个模型更省钱,也更容易控制风险。

层级 典型任务 选型重点 复核方式
第一层:高频、结构固定 字段抽取、邮件分类 结构化输出稳定性、单次成本、响应时长 抽样复核,并用规则自动校验
第二层:中等复杂度 补货解释、舆情摘要 上下文长度、摘要准确性 命中阈值时人工确认
第三层:低频、高风险 合同条款比对、跨语言争议处理 推理质量、合规与数据留存 每条结果由人工签核

选型时可以比较以下维度:上下文长度、结构化输出稳定性、单价、合规要求(数据是否出境、留存多久)、私有化部署能力、服务等级协议(SLA)。具体做法是先用 50 到 200 条真实样本,在同一批数据上跑通所有候选模型,比较准确率与单次成本,再决定各层使用哪个模型。

六、接入常见错误

  • API_KEY 被写进代码或日志,一旦代码外泄,密钥随之泄露。
  • 没有设置 timeout,网关响应变慢时,任务长时间卡住。
  • 对所有错误一律重试,401 之类的请求错误重试不会成功,只会浪费配额。
  • 直接对模型输出调用 json.loads,没有处理代码块包裹,解析失败率偏高。
  • 只按单价选型,忽略重试次数和长上下文带来的 Token 膨胀。
  • 把合作平台的示例当成选型结论,没有用自己的样本做验证。

七、上线前检查表

  • 在人工标注的样本上测过字段准确率,并确定可接受的误差范围。
  • 按日均调用量和重试率算过月成本,并设置预算告警。
  • 数据是否出境、日志保存多久,已经和合规人员确认。
  • 每个复核阈值都有明确的责任人,且复核记录可追溯。
  • API_KEY 只通过环境变量或密钥管理服务提供。
  • 价格与接口参数已按当日官方页面核验。

发表评论

活动