CS2680 第 8 堂（2026-10-07）分兩半。前半拆 agent 的帳單：成本是一條乘式，使用者數 × 每人 session 數 × 每個 session 的 turn 數 × 每個 turn 的 step 數 × 每個 step 的 token 數 × 每個 token 的價格，後四項是你能砍的。學生自己的 Claude Code 紀錄顯示，97.6% 的 token 是命中快取的重讀，所以「prefix 要穩定」比「prompt 要短」更重要。速度看的是關鍵路徑，不是每一步加總。後半比較三種 harness 架構（單體、模組化、微核心）與八個開源或商用 harness 的設計取向。本文用一張手算帳單示範：把時間戳放進 system prompt 開頭，同一個任務的帳單會從 23.6 單位變回 65 單位以上。
1M 模型的 auto-compact 預設要到約 967K tokens 才觸發，後段每則訊息都帶著近一百萬 tokens 的歷史。我照 Lydia Hallie 的建議設 /autocompact 400k 用了 11 天，額度省下約 16–22%，也沒看到模型因摘要掉細節而返工或被糾正的次數明顯增加。這是單人、單一任務類型的觀察，不是普遍結論。
REA 是一個 MIT 授權的 MCP server，讓 Claude Code、Codex、Cursor 等 agent 透過 Ghidra、Hopper 或 IDA 讀原生執行檔，也能直接拆 Electron、.NET、APK 與網頁。它跟 GhidraMCP 這類單一引擎橋接的差別，在於每筆結果都附證據 ID、涵蓋範圍與限制。一行 npx rea-agents setup 裝好，分析 JavaScript 不用任何反組譯器。
Mac 沒有 NVIDIA 卡跑不了 vLLM，Colab 免費 T4（compute capability 7.5，剛好達 vLLM 最低門檻）可以。用 vllm serve 把 0.6B 的 Qwen3 開成 OpenAI 相容 API，再同時打 8 個請求、看 /metrics，就能親眼看到 continuous batching。
為了減少每輪重送歷史的輸入 token，agent 平台常截斷、清除或摘要舊的工具結果，技能（skill）指令、寫入回執與錯誤訊息也會一起被砍。The Complexity Trap 顯示觀察遮罩能把成本砍半，但 Gemini 2.5 Flash thinking 的完成率仍從 40.4% 掉到 36.4%。省多少要跟完整歷史比，修多少要跟現況比，看的是每個成功任務的總費用，不是單輪輸入變短。
Claude 文件指出工具超過 30–50 支後選擇準確度會下降，Claude 與 OpenAI 都改用按需載入的 tool search。但搜得到不等於做得完：ToolRet 的 43k 工具基準上，沒有一個檢索器能在前 10 名湊齊完整工具組超過 35%。本文把問題拆成五個失敗點，對照七種做法與一套驗收指標。
Anthropic 工程主管 Felix Rieseberg 把「更有野心」拆成 Speed、Altitude、Depth、Range 四種，用同一份季度經營匯報（QBR）示範後三種各自該怎麼問、怎麼驗。
Matt Pocock 在 X 貼出 18 條「你可能正在犯的錯」，只有標題沒有說明。照他公開的 skills 與演講分成五組：驗證、放手、context、對齊、思考。其中六條直接對應 /retro 的檢查類別，今晚就能拿一次 session 試。
pstack 是 Cursor 工程師 Lauren Tan 以 MIT 授權公開的 agent skill 組合：一個入口 /poteto-mode 會依任務挑 23 個 playbook 之一，再呼叫其他 skill 與 24 條原則。安裝一行指令、設定一次模型就能用，代價是 subagent 與審查小組多花的 token。
聊天模型的獎勵看單則回覆像不像人喜歡的答案；Agent 的獎勵要看多步操作後任務有沒有真的完成，兩者需要的資料與環境不同。
推理是輸入與輸出之間的中間 token；RL 微調勝過模仿人類解答的關鍵是可靠的驗證器，多次取樣再選最常見的答案能再往上推。
AlphaGeometry2 靠符號引擎、AlphaProof 靠 Lean 驗證，2024 年合計 28 分；2025 年 Gemini Deep Think 用自然語言拿 35 分，驗證改由人類閱卷。
Laskin 的判斷是工程師八成時間在理解系統而不是寫程式；而 RL 能走多遠取決於有沒有乾淨的獎勵，這個問題他認為和超級智慧一樣難。
VLA 在視覺語言模型上加一個動作模組；讓動作模組的梯度回傳會損害語言理解，knowledge insulation 的作法是擋住梯度；π0.5 則用網路資料與多種機器人資料一起訓練來換取泛化。
Alexandr Wang 說 Meta 把個人 Agent 需要的 100 多項行為各建一個 eval，每項設「阻擋上線」與「算好」兩條門檻，等到第一個全綠的檢查點出現，並確認實際用起來明顯更好才上線；另外也做了新手使用者測試。這套做法可以照抄，但上線後的安全爭議也說明：全綠不等於安全。
這堂課給第 1 堂的流程圖填上第一組具體內容：假說集合 H 是所有的線（感知器），演算法 A 是 PLA，看到分錯的點就把 w 加上 yₙxₙ。資料線性可分時，從 w₀ = 0 出發最多修正 R²/ρ² 次就會停；資料分不開時改用 pocket，把看過錯最少的那條線留在口袋裡。
這堂課把第 1 堂的學習流程圖沿四個方向各換一次：輸出空間 Y（二元分類、多類別分類、迴歸、結構化學習）、標籤 yₙ（監督式、非監督式、半監督式、強化學習）、資料交給演算法的方式（batch、online、active）、輸入空間 X（具體、原始、抽象特徵）。四個方向各有一個核心選項，合起來是基石之後的主場：批次、監督式、具體特徵的二元分類與迴歸。
假說集合只要有 break point k，N 個點上最多能產生的 dichotomy 數 B(N, k) 就滿足 B(N, k) ≤ B(N−1, k) + B(N−1, k−1)，由此推出 B(N, k) ≤ C(N, 0) + … + C(N, k−1)，最高次是 N 的 k−1 次方。再用三個步驟把成長函數放進 Hoeffding，得到 VC bound：壞事機率 ≤ 4·m_H(2N)·exp(−ε²N/8)。二維感知器的 break point 是 4，所以學得起來。
這堂課把固定的目標函數換成目標分布 P(y|x)：只要 (x, y) 是從同一個聯合分布獨立抽出來的，VC bound 在有雜訊時照樣成立。誤差衡量 err 和 P(y|x) 一起決定每個 x 上最理想的預測，0/1 誤差選機率最大的 y，平方誤差選加權平均。CIA 指紋辨識把誤放罰 1000 倍，這種加權分類等於把 −1 的資料複製 1000 次再做一般分類。
邏輯迴歸用 θ(wᵀx) 估計 P(+1|x)，資料卻只有圈與叉。這堂課用最大概似推出 cross-entropy 誤差 ln(1 + exp(−y wᵀx))，用連鎖律算出梯度是 −yₙxₙ 的 θ 加權平均；令梯度為零是 w 的非線性方程式，沒有閉式解，所以改用固定學習率的梯度下降 w ← w − η∇E_in(w) 一步一步走到谷底。