logo

大模型入门速查:100个知识点与选型实操指南

作者:渣渣辉2026.11.17 03:46浏览量:0

简介:本文把大模型入门的100个知识点归并为五个主题,逐项说明原理边界、选型依据、RAG与Agent的最小流程、API接入与Token成本测算,并附企业落地检查表。读者可按任务直接查阅,避免只记概念却无法落地。

大模型入门的难点是把概念和实际决策对应起来。例如,知道“上下文窗口”的定义,还要能判断一次调用是否超长;知道“RAG”的含义,还要能说明切分方式和检索指标。下面按五个主题整理原文100个知识点,每节给出步骤、对比和注意事项。模型价格、平台功能和开源工具都会更新,使用前以官方文档为准。

一、原理与术语边界(对应知识点1–10、31–40)

核心概念

  • 大模型:参数量大、使用海量数据训练的模型。参数规模不直接等于效果,需要在固定测试集上比较。
  • Token:模型处理文本的基本单位。中文字数与Token数没有固定换算比例,应使用模型对应的分词工具或接口返回的用量字段核算。
  • 上下文窗口:单次调用中输入与输出的总长度上限。超出时会被截断或报错。
  • 提示词:系统提示词定义全局规则,如角色、输出格式和安全边界;用户提示词表达具体请求。

提示工程要点

  1. 写清任务、输入和输出格式。要求输出时给出字段名和示例。
  2. 复杂任务可加入少量示例(Few-shot)。示例应接近真实输入。
  3. 思维链提示可引导模型分步推理,但会增加输出Token和延迟。简单分类或抽取任务通常不需要。
  4. 需要程序解析时,要求结构化输出(如JSON),并在程序端校验字段。
参数 作用 常见设置思路
温度 控制生成的随机性 抽取和事实问答偏低,创意写作可偏高
Top-p 限定候选词的累计概率范围 与温度通常只调一个,便于判断效果变化的原因
最大输出长度 限制单次输出的Token数 设置过小会导致答案被截断

常见误区:提示词不是安全边界。模型可能生成看似合理但不准确的内容,事实性任务需要检索材料或人工核验。

二、模型分级与选型(对应知识点11–20、71–80)

L0、L1、L2是非官方但业界常用的分级说法,不同机构的定义并不统一,选型时应以实际测试结果为准。

  • 基础模型(L0):泛化能力较强,适合作为起点,通常需要提示工程、RAG或微调后才能用于具体业务。
  • 垂域模型(L1):使用医学、法律、金融等领域数据训练,专业问答中可能更准确。需核对训练数据的覆盖范围和更新时间。
  • 场景模型(L2):针对具体任务流程和交互方式优化,效果在该场景内较好,迁移到其他场景时需要重新评估。

选型对比表

维度 需要核查的问题 记录方式
效果 在自有测试集上的准确率 测试集覆盖常见问题和边界问题
延迟 首字响应时间与完整响应时间 统计P50和P95
成本 单次调用的输入与输出费用 用真实样本估算
稳定性 错误率、限流频率、可用性 至少观察一周
合规 数据是否出境、是否用于训练 与法务或合规人员确认

选型时,先用同一批样本测试两到三个候选模型,再决定。简单任务选轻量模型,复杂任务选强模型。若业务有多类任务,可按任务类型做模型路由。

rag-agent-21-30-41-60-">三、训练微调、RAG与Agent(对应知识点21–30、41–60)

训练与微调

优先顺序通常是:先做提示工程,再做RAG,最后考虑微调。微调成本高,对数据质量要求也高。

监督微调(SFT)的基本步骤如下:

  1. 定义任务和评估指标。
  2. 准备数据,覆盖真实业务问题,完成清洗、去重和标注规范统一。
  3. 划分训练集、验证集和测试集,测试集不参与训练。
  4. 训练时监控验证集指标,留意过拟合。
  5. 与未微调的基线模型在测试集上对比。
  6. 记录数据版本、参数和结果,方便回溯。

人类反馈强化学习(RLHF)需要训练奖励模型和强化学习流程,工程复杂度高。直接偏好优化(DPO)使用同一问题的优劣回答对训练,流程较简单,但对偏好数据的质量很敏感

发表评论

活动