先分清 workflow 和 agent，再學會邊想邊做｜Stanford CS329Z 第 6 堂
Lecture 06 比較 workflow 與 agent：五種可組合的 workflow 模式、ReAct／Reflexion／CodeAct／ReWOO 等推理與行動模式，以及事件紀錄、壓縮、觀察遮蔽、context 隔離等管理手法，並以 Pi harness 為案例。指定讀物 ReAct 與 Anthropic 的 Building Effective Agents 各補一半。
ai
1264 篇文章讓 agent 記住該記的事：MemGPT、Letta、Mem0 與 Generative Agents｜Stanford CS329Z 第 7 堂
Lecture 07 把 agent 記憶分成 working、episodic、semantic、procedural 四類，比較技能庫、MemGPT 式分層、反思整併與記憶維護四種架構，並談記憶評測與遺忘、隱私、過度個人化。讀物從 MemGPT 的虛擬記憶體，延伸到 Letta、Mem0 與 Generative Agents。
該單幹還是開會：多智慧體的分工、溝通與失敗｜Stanford CS329Z 第 8 堂
Lecture 08 先問單一 agent 夠不夠，再比較 orchestrator、swarm、hybrid 三種編排，以及 handoff、留言板、A2A 協議與 task ledger、共享記憶、worktree 隔離等協調設施，最後追查多智慧體為什麼失敗。讀物從 AutoGen 讀到 MAST、單一 agent 反論與 DyLAN。
改 prompt、改權重，還是想久一點：agent 優化三軸｜Stanford CS329Z 第 9 堂
Lecture 09 先問優化何時划算，再比較 context 優化（few-shot bootstrapping、MIPROv2、OPRO、TextGrad、GEPA）、權重優化（SFT、PPO、GRPO、on-policy distillation）與讓 agent 當優化器。讀物涵蓋 test-time compute、GEPA、BetterTogether 與 MIPRO，最後收斂成 HW1 交卷前的三件事。
agent 說完成之後，怎麼驗證它真的完成：Terminal-Bench 客座｜Stanford CS329Z 第 10 堂
Lecture 10 由 Terminal-Bench 共同作者 Ryan Marten、Alex Shaw 客座，談如何在終端機環境評估 agent：任務怎麼寫、驗證器怎麼檢查終態、任務版本與 Harbor 執行框架怎麼管。指定讀物 Terminal-Bench 論文補上基準的設計與結果。
agent 需要什麼資料：軌跡、示範、回饋與資料飛輪｜Stanford CS329Z 第 11 堂
Lecture 11 整理 agent 資料的形式與來源：軌跡、示範與回饋，優化用與評估用資料的區分，資料飛輪、合成資料，以及從人機互動收集資料，也提醒資料會意外教會模型捷徑。讀物是 Shankar 的資料飛輪與 LLM 資料標註合成綜述。
資料不是越多越好：挑選、驗證與品質｜Stanford CS329Z 第 12 堂
第 12 堂依課表談找出最有資訊量的資料、篩選策略、小而精準的 benchmark、標註實務、品質評估，以及從 agent 軌跡建資料集。讀物 SWE-smith 示範怎麼把軟體工程任務資料做大，Who Validates the Validators 談 LLM 評分怎麼對齊人類，LIMA 則說明少量高品質資料的效果。
分數別騙自己：用四元組把評估寫完整｜Stanford CS329Z 第 13 堂
第 13 堂依課表談評估為什麼難、request／environment／stopping criteria／scorer 四元組、好 benchmark 的性質、貼近實際的 scaffold 與可靠度。讀物有 agentic benchmark 最佳實踐檢查表、Press 的 benchmark 指南與 tinyBenchmarks。
請模型當裁判：grader 選擇、裁判偏誤與校準｜Stanford CS329Z 第 14 堂
第 14 堂依課表談三種 grader、judge prompt 設計、已知偏誤、pairwise 與 pointwise、pass@k 與 pass^k 等非確定性指標、harness 設計與 Anthropic 的八步路線圖。讀物從 Demystifying Evals、MT-Bench 讀到 AutoMetrics 與 AutoLibra。
幫 agent 上護欄：隱私、提示注入、沙箱與許可｜Stanford CS329Z 第 15 堂
第 15 堂依課表談工具存取的隱私風險、提示注入（含間接注入）、紅隊、沙箱與許可模型、輸出護欄、責任歸屬、負責任部署與人類把關。讀物從 PrivacyLens 的行動洩漏，讀到模擬搜尋隱私風險、去匿名化、情境化隱私防禦、提示注入與 Responsible Scaling Policy。
寫程式的智慧體，先替它造一把順手的 IDE｜Stanford CS329Z 第 17 堂
第 17 堂依課表談 coding agent 的端到端運作：SWE-agent、Claude Code 與 OpenHands 的架構，scaffold 作為設計決策，SWE-bench 與 4-tuple 框架的實際應用，以及軟體開發的未來。讀物涵蓋 SWE-agent 的 ACI、OpenHands 的事件流沙箱、Claude Code 實務、長任務 harness 與 SWE-bench。
從等指令到先出手：proactive agent 與 General User Models｜Stanford CS329Z 第 18 堂
第 18 堂依課表談 agent 從被動回應轉為主動協助：General User Models、Next Action Prediction、開源的主動式個人助理、隱私與信任，以及何時該主動、何時該等待。讀物是 GUM、Next Action Predictors 與 OpenClaw。
（最終回）開放問題與 Demo Day：computer-use、web agent 與上線前檢查｜Stanford CS329Z 第 19 堂
第 19 堂依課表收尾：multimodal agent、web 與 computer-use agent、science agent、長時間執行的架構、上線與觀測（tracing、monitoring、成本控管），以及可靠度、擴展性與可解釋性的開放問題。延伸閱讀是 OSWorld 與 WebShop，期末 Demo Day 在 12/7–11 考試週。
複合式 AI 系統：模型、資料與工具如何配合｜Stanford CS329Z 第 1 堂
先從第一堂投影片理解 agent 迴圈、元件與工程問題，再分別深讀 BAIR 的複合系統觀點、Ng 的工作模式，以及 Si 的執行回饋實驗；清楚區分課堂主線、指定閱讀與延伸閱讀。
中文社群怎麼從零訓練 LLM：語料、tokenizer 與三個開源專案的取捨
拆解三個中文圈從零訓練 LLM 的開源專案——baby-llama2-chinese（218M、634 億 tokens）、ChatLM-mini-Chinese（0.2B T5、1,023 萬條對話）、Steel-LLM（1.12B、1 兆 tokens、8 個月）——比較語料策略、tokenizer 決策與社群生態；誠實呈現評測：baby-llama2 在 MiniMind 的橫評中 21 分墊底，ChatLM 知識紮實（62 分）但程式能力弱。
跟成熟 coding agent 學設計（39）：TUI 工具結果不閃爍的兩條共同規則
四個 coding agent 的 TUI 都遵守同樣兩條規則：工具高度恆定（1 行摘要，不從 0 跳到 N 行）、不自動收合（只有使用者手動展開才會展開）。looplane 兩條都違反了。
小模型怎麼省參數：OpenELM 的 layer-wise scaling 與 MiniCPM 的三階段解凍
OpenELM 用 layer-wise scaling 把參數偏向靠近輸出的層，1.08B 參數、1.5T tokens 在 LLM360 平均分數上超越吃了 3T tokens 的 OLMo 1.2B（+2.36%）；MiniCPM 用三階段解凍（先 Resampler、再視覺編碼器、最後全開）從零訓練多模態小模型，MiniCPM-V 4.5 以 8B 達到 VideoMME 30B 以下 SOTA，再靠 4-bit 量化把 fp16 的 16–17GB 記憶體壓到約 5GB。
Karpathy 的 nano 諧系：nanoGPT、llm.c 到 nanochat
Karpathy 三代教學專案縱覽：nanoGPT（2022，各約 300 行重現 GPT-2 124M）、llm.c（純 C/CUDA 訓練）、nanochat（2025-10，一個 speedrun.sh 從 tokenizer 訓到 WebUI）。100 美元、4 小時在 8×H100 上訓出能對話的模型；GPT-2 級能力到 2026 年初已壓到約 2 小時、48 美元。
從零訓練的框架：LitGPT 的無抽象重寫、pretrain 流程與 TinyLlama 實績
LitGPT（Lightning AI，約 13,600 stars，Apache 2.0）把 Llama 3、Qwen2.5、Phi 4 等 20+ 個 LLM 逐一從零重寫成無抽象層的單檔實作，附 pretrain / finetune / evaluate / serve 完整命令列；1.1B 參數、3T tokens 的 TinyLlama 就是用它的程式碼訓出來的。這篇拆解它與 MiniMind 的差異、實際用法與限制。
MiniMind：用 3 塊錢從零訓練一個 LLM
MiniMind 是一個從零開始訓練 LLM 的開源專案：64M 的 Dense 模型與 198M-A64M 的 MoE 模型，單張 3090 約 2 小時、約 3 元人民幣就能跑完 Pretrain → SFT → LoRA → DPO → PPO/GRPO/CISPO → Agentic RL 的完整流程。所有核心演算法用 PyTorch 原生實作，不依賴高階封裝。