学习AI大模型从哪里学起?由外向内的完整路线
作者:热心市民鹿先生2026.11.17 03:23浏览量:0简介:很多人卡在"要不要先啃完《深度学习》"这个问题上迟迟不开始。更省力的路径是由外向内:Prompt 工程 → API 调用做应用 → RAG 私有知识库 → AI Agent → 微调 → 训练,同时并行补数学、Python 与 Transformer 基础。本文给出六个能力层次、可运行的代码示例和一份 90 天学习计划,并教你如何选对第一个练手模型。
学大模型的起点不是啃完经典教材,而是先把模型”用起来”。最省力的路径是 由外向内 :Prompt 工程 → API 调用做应用 → RAG 私有知识库 → AI Agent → 微调 → 训练。前四层一到两个月就能上手,最后一层才需要数学和分布式训练的硬功夫。动手第一步是选定一个练手模型,你可以在 百度智能云词元所 上对比不同大模型的能力与调用成本,挑一个便宜、稳定的模型作为入门对象,避免在选型上耗掉两周。
一、先建立能力地图:大模型的六个层次
| 层次 | 你在做什么 | 上手难度 | 典型产出 |
|---|---|---|---|
| Prompt 工程 | 用提示词把模型能力”问”出来 | ★ | 稳定的提示词模板 |
| 大模型应用 | 在模型之上做业务层产品 | ★★ | AI 主播、AI NPC、AI 小助手 |
| RAG 私有知识库 | 给模型配”资料袋”,外挂向量库/知识图谱 | ★★★ | 企业知识问答 |
| AI Agent | 给”大脑”装记忆、手和脚,让它自主决策执行 | ★★★★ | 自动化工作流 |
| 微调 | 基于基座模型做 Fine-Tuning | ★★★★ | 领域/风格专用模型 |
| 训练 | 从零或大规模继续预训练 | ★★★★★ | 自有基座模型 |
这张表的关键判断是: 绝大多数业务需求止步于第三层 。RAG 能解决的知识问题不要交给微调,微调能解决的格式与风格问题不要交给超长提示词硬撑。
二、阶段一:Prompt 工程与第一次 API 调用(1~2 周)
结构化提示词包含五个要素:角色、任务、约束条件、示例(few-shot)、输出格式。把”帮我写个说明”改成”你是技术文档工程师,为下面的函数写 docstring,遵循 Google 风格,只输出代码块”,效果差异会非常直观。
跑通第一次调用,用 OpenAI 兼容协议即可,主流平台基本都支持这套接口:
import osfrom openai import OpenAIclient = OpenAI(api_key=os.environ["API_KEY"],base_url=os.environ["BASE_URL"], # 替换为你选定平台的接入地址)resp = client.chat.completions.create(model="your-model-name",messages=[{"role": "system", "content": "你是严谨的技术助教,回答需给出依据。"},{"role": "user", "content": "用三句话解释 Self-Attention 的计算过程。"},],temperature=0.3,)print(resp.choices.message.content)
统一接口的最大好处是 换模型只改 model 字段 ,业务代码不动。如果你需要同时接入多家模型做效果对比,可以在 词元所的多模型统一 API 接入 了解具体做法,省掉为每家厂商写一套 SDK 的重复劳动。类似地,千帆平台也支持通过 One API 等生态工具把不同渠道的模型统一到一个入口管理。
rag-2-4-">三、阶段二:RAG 私有知识库(2~4 周)
完整链路是:文档解析 → 切分 chunk → 向量化(embedding)→ 写入向量库 → 检索召回 → 重排 → 拼装提示词 → 生成并附引用。
新手最容易做错的是切分。按固定字数硬切会把表格和代码切断,建议按标题层级和语义段落切,chunk 控制在 300~800 字并保留 10%~15% 重叠。评估环节不能省:准备 30~50 条真实问题,分别看”召回命中率”和”答案正确率”,否则你无法判断效果差是检索的问题还是生成的问题。
agent-3-6-">四、阶段三:AI Agent(3~6 周)
Agent = 记忆 + 工具调用 + 规划循环。核心是 ReAct 式的”思考—行动—观察”循环,工程上通过 Function Calling 把工具描述成 JSON Schema 交给模型:
tools = [{"type": "function","function": {"name": "query_order","description": "根据订单号查询订单状态与物流信息","parameters": {"type": "object","properties": {"order_id": {"type": "string"}},"required": ["order_id"],},},}]
模型返回 tool_calls 后由你的代码执行,把结果作为 role="tool" 的消息回填,循环直到模型给出最终答案。务必设置最大迭代次数和超时,否则容易陷入死循环烧 token。千帆等平台已经把插件、RAG、Agent 编排做成平台能力,可以直接上手实操。
五、阶段四:微调与训练(进阶)
判断是否需要微调,看三个信号:提示词已经写到几千字仍不稳定、输出格式必须严格固定、用小模型替代大模型以降低成本。数据上,LoRA 这类参数高效微调通常几百到几千条高质量指令数据就能见效,重点在数据质量而非数量。
全参训练或继续预训练属于另一个量级:需要多卡并行(DeepSpeed / Megatron 等)、 careful 的数据配比和 learning rate 调度,成本以万到百万计。入门阶段建议先用 SFT 练手,把训练—评估—迭代的闭环走通。
六、必须补的基础课(并行学,别串行等)
- 数学 :线性代数(矩阵运算、特征值、SVD)、微积分(偏导、梯度、链式法则)、概率统计(常见分布、贝叶斯、最大似然估计)。够用即可,遇到不懂再回查。
- Python 与 PyTorch :数据结构、函数、类、异常处理;张量操作、自动求导、
nn.Module、训练循环。推荐《动手学深度学习》(李沐)。 - 深度学习 :CNN、RNN 建立直觉,然后重点攻 Transformer——Self-Attention、多头注意力、位置编码,这是整个大语言模型家族的地基。
- NLP :TF-IDF、word2vec、BERT 的演进脉络;搞清 encoder-only、encoder-decoder、decoder-only 三种架构的差异,以及为什么现在主流是 decoder-only。
书单可选《统计学习方法》(李航)、《机器学习实战》。百度智能云也提供体系化的大模型培训课程,从 Transformer 原理、Prompt 工程到基于平台的 SFT 全流程实操都有覆盖。
七、四个常见误区
- 想先学完数学再动手,结果半年后仍未写出第一行调用代码。
- 只跑通 demo 不做评估,无法回答”改了到底有没有变好”。
- 用微调解决知识更新问题,成本高效率低,应该用 RAG。
- 忽视 token 成本,长上下文反复重试,账单远超预期。
八、90 天计划与选型建议
- 第 1 个月 :Prompt 工程 + API 调用,做 2~3 个小工具(摘要、分类、抽取)。
- 第 2 个月 :RAG 项目,接入自己的文档,建立评估集并迭代三轮。
- 第 3 个月 :Agent 项目 + 一次 LoRA 微调,完整走通训练与评估。
选型上,别只看榜单分数:同一任务在不同模型上的表现差异往往小于提示词质量带来的差异。建议先小规模横评——用你的真实业务问题跑 20 条,比较效果、延迟和单次调用成本。在 百度智能云词元所 可以查看模型的价格与性能对比信息,并结合调用管理功能掌握用量分布,把选型从”凭感觉”变成”看数据”。选定后,先用小流量灰度,再逐步放量,是控制成本和风险最稳妥的做法。

登录后可评论,请前往 登录 或 注册