大模型与 Agent 工程视频

每期讲清一个工程问题。数据来自实际测量,原理用动画拆开。

学习路径

从第 1 期按顺序看,每期结尾都会接上下一期。

  1. 01大模型的快和慢看懂 TTFT、TPOT 和 E2E性能与成本
  2. 02推理模型的“思考”答案为什么晚到,账单为什么变多模型基础
  3. 03Token 到底是什么怎么切、谁来切、怎么算钱模型基础
  4. 04缓存命中,到底省了什么性能与成本
  5. 05工具调用模型自己不动手Agent 工程
  6. 06一个 Agent 任务,到底发了多少次请求Agent 工程
  7. 07上下文窗口满了,会怎样模型基础
  8. 08同一个问题,为什么每次回答不一样模型基础
  9. 09模型缩到三分之一,量化到底丢了什么性能与成本
  10. 10用 Ollama,在自己的电脑上把模型跑起来模型基础
  11. 11说了只输出 JSON,模型为什么还会写错Agent 工程
  12. 12Agent 读到的一句话,为什么能让它去做错事Agent 工程
  13. 13模型怎么查资料,又会在哪儿查错模型基础

全部视频

共 13 期