大模型入门速查:100个知识点与选型实操指南
作者:渣渣辉2026.11.17 03:46浏览量:0简介:本文把大模型入门的100个知识点归并为五个主题,逐项说明原理边界、选型依据、RAG与Agent的最小流程、API接入与Token成本测算,并附企业落地检查表。读者可按任务直接查阅,避免只记概念却无法落地。
大模型入门的难点是把概念和实际决策对应起来。例如,知道“上下文窗口”的定义,还要能判断一次调用是否超长;知道“RAG”的含义,还要能说明切分方式和检索指标。下面按五个主题整理原文100个知识点,每节给出步骤、对比和注意事项。模型价格、平台功能和开源工具都会更新,使用前以官方文档为准。
一、原理与术语边界(对应知识点1–10、31–40)
核心概念
- 大模型:参数量大、使用海量数据训练的模型。参数规模不直接等于效果,需要在固定测试集上比较。
- Token:模型处理文本的基本单位。中文字数与Token数没有固定换算比例,应使用模型对应的分词工具或接口返回的用量字段核算。
- 上下文窗口:单次调用中输入与输出的总长度上限。超出时会被截断或报错。
- 提示词:系统提示词定义全局规则,如角色、输出格式和安全边界;用户提示词表达具体请求。
提示工程要点
- 写清任务、输入和输出格式。要求输出时给出字段名和示例。
- 复杂任务可加入少量示例(Few-shot)。示例应接近真实输入。
- 思维链提示可引导模型分步推理,但会增加输出Token和延迟。简单分类或抽取任务通常不需要。
- 需要程序解析时,要求结构化输出(如JSON),并在程序端校验字段。
| 参数 | 作用 | 常见设置思路 |
|---|---|---|
| 温度 | 控制生成的随机性 | 抽取和事实问答偏低,创意写作可偏高 |
| Top-p | 限定候选词的累计概率范围 | 与温度通常只调一个,便于判断效果变化的原因 |
| 最大输出长度 | 限制单次输出的Token数 | 设置过小会导致答案被截断 |
常见误区:提示词不是安全边界。模型可能生成看似合理但不准确的内容,事实性任务需要检索材料或人工核验。
二、模型分级与选型(对应知识点11–20、71–80)
L0、L1、L2是非官方但业界常用的分级说法,不同机构的定义并不统一,选型时应以实际测试结果为准。
- 基础模型(L0):泛化能力较强,适合作为起点,通常需要提示工程、RAG或微调后才能用于具体业务。
- 垂域模型(L1):使用医学、法律、金融等领域数据训练,专业问答中可能更准确。需核对训练数据的覆盖范围和更新时间。
- 场景模型(L2):针对具体任务流程和交互方式优化,效果在该场景内较好,迁移到其他场景时需要重新评估。
选型对比表
| 维度 | 需要核查的问题 | 记录方式 |
|---|---|---|
| 效果 | 在自有测试集上的准确率 | 测试集覆盖常见问题和边界问题 |
| 延迟 | 首字响应时间与完整响应时间 | 统计P50和P95 |
| 成本 | 单次调用的输入与输出费用 | 用真实样本估算 |
| 稳定性 | 错误率、限流频率、可用性 | 至少观察一周 |
| 合规 | 数据是否出境、是否用于训练 | 与法务或合规人员确认 |
选型时,先用同一批样本测试两到三个候选模型,再决定。简单任务选轻量模型,复杂任务选强模型。若业务有多类任务,可按任务类型做模型路由。
rag-agent-21-30-41-60-">三、训练微调、RAG与Agent(对应知识点21–30、41–60)
训练与微调
优先顺序通常是:先做提示工程,再做RAG,最后考虑微调。微调成本高,对数据质量要求也高。
监督微调(SFT)的基本步骤如下:
- 定义任务和评估指标。
- 准备数据,覆盖真实业务问题,完成清洗、去重和标注规范统一。
- 划分训练集、验证集和测试集,测试集不参与训练。
- 训练时监控验证集指标,留意过拟合。
- 与未微调的基线模型在测试集上对比。
- 记录数据版本、参数和结果,方便回溯。
人类反馈强化学习(RLHF)需要训练奖励模型和强化学习流程,工程复杂度高。直接偏好优化(DPO)使用同一问题的优劣回答对训练,流程较简单,但对偏好数据的质量很敏感
相关文章推荐
发表评论
活动

登录后可评论,请前往 登录 或 注册