做 agent 前,先懂模型怎麼讀前文、怎麼吐字|Stanford CS329Z 第 2 堂
Lecture 02 從解碼策略、注意力與線性注意力,走到訓練流程、KV cache、test-time scaling、結構化輸出與 context engineering。指定讀物 Anthropic 的 context engineering 指南回答每一輪該讓模型看見什麼。
Lecture 02 從解碼策略、注意力與線性注意力,走到訓練流程、KV cache、test-time scaling、結構化輸出與 context engineering。指定讀物 Anthropic 的 context engineering 指南回答每一輪該讓模型看見什麼。
Lecture 03 從 project 問題出發,依序拆解 RAG 的動機、chunk 邊界、近似向量搜尋、BM25/dense/hybrid/reranker,以及讓 agent 決定何時查。指定讀物 Lewis 等人的 RAG 論文與 ColBERT 補上原始配方與 late interaction。
Lecture 04 從 Toolformer 的工具學習、Gorilla 與 ToolLLM 的 API 檢索,走到 function calling、MCP 與 BFCL、τ-bench 等可靠度評估。指定讀物 MCP 規範的重點是:協議統一介面,信任責任仍留在 host。
Lecture 05 以資料、系統、評估三根支柱看 agent 工程,現場示範 DSPy 與 LangGraph,再比較開源 harness、Temporal 的 durable orchestration 與觀測工具。指定讀物 DSPy 把 prompt 模板變成可依 metric 優化的程式。
Lecture 06 比較 workflow 與 agent:五種可組合的 workflow 模式、ReAct/Reflexion/CodeAct/ReWOO 等推理與行動模式,以及事件紀錄、壓縮、觀察遮蔽、context 隔離等管理手法,並以 Pi harness 為案例。指定讀物 ReAct 與 Anthropic 的 Building Effective Agents 各補一半。
Lecture 07 把 agent 記憶分成 working、episodic、semantic、procedural 四類,比較技能庫、MemGPT 式分層、反思整併與記憶維護四種架構,並談記憶評測與遺忘、隱私、過度個人化。讀物從 MemGPT 的虛擬記憶體,延伸到 Letta、Mem0 與 Generative Agents。
Lecture 08 先問單一 agent 夠不夠,再比較 orchestrator、swarm、hybrid 三種編排,以及 handoff、留言板、A2A 協議與 task ledger、共享記憶、worktree 隔離等協調設施,最後追查多智慧體為什麼失敗。讀物從 AutoGen 讀到 MAST、單一 agent 反論與 DyLAN。
Lecture 09 先問優化何時划算,再比較 context 優化(few-shot bootstrapping、MIPROv2、OPRO、TextGrad、GEPA)、權重優化(SFT、PPO、GRPO、on-policy distillation)與讓 agent 當優化器。讀物涵蓋 test-time compute、GEPA、BetterTogether 與 MIPRO,最後收斂成 HW1 交卷前的三件事。
Lecture 10 由 Terminal-Bench 共同作者 Ryan Marten、Alex Shaw 客座,談如何在終端機環境評估 agent:任務怎麼寫、驗證器怎麼檢查終態、任務版本與 Harbor 執行框架怎麼管。指定讀物 Terminal-Bench 論文補上基準的設計與結果。
Lecture 11 整理 agent 資料的形式與來源:軌跡、示範與回饋,優化用與評估用資料的區分,資料飛輪、合成資料,以及從人機互動收集資料,也提醒資料會意外教會模型捷徑。讀物是 Shankar 的資料飛輪與 LLM 資料標註合成綜述。
第 12 堂依課表談找出最有資訊量的資料、篩選策略、小而精準的 benchmark、標註實務、品質評估,以及從 agent 軌跡建資料集。讀物 SWE-smith 示範怎麼把軟體工程任務資料做大,Who Validates the Validators 談 LLM 評分怎麼對齊人類,LIMA 則說明少量高品質資料的效果。
第 13 堂依課表談評估為什麼難、request/environment/stopping criteria/scorer 四元組、好 benchmark 的性質、貼近實際的 scaffold 與可靠度。讀物有 agentic benchmark 最佳實踐檢查表、Press 的 benchmark 指南與 tinyBenchmarks。
第 14 堂依課表談三種 grader、judge prompt 設計、已知偏誤、pairwise 與 pointwise、pass@k 與 pass^k 等非確定性指標、harness 設計與 Anthropic 的八步路線圖。讀物從 Demystifying Evals、MT-Bench 讀到 AutoMetrics 與 AutoLibra。
第 15 堂依課表談工具存取的隱私風險、提示注入(含間接注入)、紅隊、沙箱與許可模型、輸出護欄、責任歸屬、負責任部署與人類把關。讀物從 PrivacyLens 的行動洩漏,讀到模擬搜尋隱私風險、去匿名化、情境化隱私防禦、提示注入與 Responsible Scaling Policy。
第 17 堂依課表談 coding agent 的端到端運作:SWE-agent、Claude Code 與 OpenHands 的架構,scaffold 作為設計決策,SWE-bench 與 4-tuple 框架的實際應用,以及軟體開發的未來。讀物涵蓋 SWE-agent 的 ACI、OpenHands 的事件流沙箱、Claude Code 實務、長任務 harness 與 SWE-bench。
第 18 堂依課表談 agent 從被動回應轉為主動協助:General User Models、Next Action Prediction、開源的主動式個人助理、隱私與信任,以及何時該主動、何時該等待。讀物是 GUM、Next Action Predictors 與 OpenClaw。
第 19 堂依課表收尾:multimodal agent、web 與 computer-use agent、science agent、長時間執行的架構、上線與觀測(tracing、monitoring、成本控管),以及可靠度、擴展性與可解釋性的開放問題。延伸閱讀是 OSWorld 與 WebShop,期末 Demo Day 在 12/7–11 考試週。
先從第一堂投影片理解 agent 迴圈、元件與工程問題,再分別深讀 BAIR 的複合系統觀點、Ng 的工作模式,以及 Si 的執行回饋實驗;清楚區分課堂主線、指定閱讀與延伸閱讀。
CS329Z 是 Stanford 的 AI agent 工程課:先不靠框架手刻 RAG、工具呼叫與 agent 迴圈,再看 DSPy 這類框架抽掉了什麼,兩份作業分別是做 agent harness 與設計 agent 評估。課綱、指定閱讀、前十一堂投影片與第一份作業的起始碼、資料和公開測試都拿得到;錄影要以選課身分登入 Canvas。