先分清 workflow 和 agent,再手刻第一個 RAG|Stanford CS329Z 第 2 週
Week 2 把模型內部接到檢索工程:Lecture 02 拆解解碼、注意力、訓練、推論與 context 預算;Lecture 03 從 chunk、索引、稀疏/稠密檢索講到 reranking 與 agentic RAG。另以指定讀物補足 workflow 選型、RAG 與 ColBERT 實驗。
第 55 頁,共 129 頁
Week 2 把模型內部接到檢索工程:Lecture 02 拆解解碼、注意力、訓練、推論與 context 預算;Lecture 03 從 chunk、索引、稀疏/稠密檢索講到 reranking 與 agentic RAG。另以指定讀物補足 workflow 選型、RAG 與 ColBERT 實驗。
Lecture 04 從工具學習、API 檢索走到 function calling、MCP 與可靠度評估;Lecture 05 比較 DSPy、LangGraph、harness、Temporal 與觀測。指定讀物再拆 MCP 協議及 DSPy 優化機制,HW1 則維持手刻 harness 的要求。
Week 4 從 ReAct 迴圈與 MemGPT 分層記憶出發,接上 Lecture 06/07 的設計模式、context 管理與記憶評測。透過一個 email 助理例子,學會區分原始紀錄與模型輸入,並檢查摘要後是否仍遵守使用者限制。
Lecture 08 拆開編排、通訊與協調,教你用 task ledger 和 worktree 管理分工;Lecture 09 從資料與評估出發,比較 context 優化、SFT、RL 與蒸餾。透過可追溯的 email 例子,判斷多加 agent 或優化哪一層才對準瓶頸。
第 6 週把 Terminal-Bench 的成果驗收接上 Shankar 資料飛輪:先查 agent 實際改了什麼,再把人工複核的失敗變成開發示範,另外保留測試題。HW1 於 10/30 截止。
Week 7 是期中驗收週:週一談資料選擇,週三談評分與 benchmark 設計;Zhu 等人教你別被自己的分數騙,SWE-smith 把軟體工程任務資料做到 5 萬題,讀完為 HW2 寫下第一版 4-tuple。
Week 8 週一用 MT-Bench 與 Anthropic 評測指南建立模型裁判,週三用 PrivacyLens 與四件護欄面對實戰洩漏;週五 paper video 到期,本週交付就是一份會動的裁判分數加一條許可檢查。
第九週週三談寫程式智慧體:SWE-agent 證明介面即效能,OpenHands 把沙箱與評測做成通用底座;第二份作業週五到期,本週交付是一道會動的修 bug 考題。
四張 AI 安全證照各有定位:SecAI+($298)是 CompTIA 品牌的中階擴充、CAISP($1,099 全包)實作最強且 OWASP LLM Top 10 覆蓋最完整、GAIPS($999/$9K)是 SANS 金字招牌的防禦側 CyberLive 考試、AAISM($459+)偏治理但需先持有 CISM 或 CISSP。預算 $400 以下選 SecAI+,想動手做選 CAISP,公司出錢選 GAIPS。想走攻擊側(AI 紅隊),2026 年新上線的 OSAI+、HTB COAE、COASP 另成一組,見文末補充。
2025–2026 年 18 個月內有 10+ 張 AI 安全證照密集上市,傳統三強 Security+($439)、AWS Security Specialty($300)、CISSP($749)仍是基礎。非資安專職的 AI 平台開發者,建議三階段:Security+ → AWS Security → SecAI+ 或 CAISP → CISSP,總預算 $1,780–$2,700。
Security+($439)2–3 個月自學、官方不公布通過率、薪資溢價 +$10K–$20K;AWS Security Specialty($300)2–3 個月、通過率 45–55%、ROI 最高(40–67x);CISSP($749)3–6 個月、通過率 50–60%、薪資溢價 +$25K–$35K 但需 5 年經驗。五年取得加維護總成本(含教材估算):Security+ 約 $619、AWS Security $200–$350(無年費)、CISSP 約 $1,524。
台灣資安法 2.0 已三讀、金管會三級制度到位,但都不強制指定證照——真正的需求來自徵才市場。台灣有 7+ 家培訓機構可選:恆逸課程最齊全(SecAI+、COASP、OSAI+ 三種 AI 安全實體班都有)、WUSON 吳文智是 CISSP 圈的傳奇(月月額滿)、DEVCORE 是首家引進 OffSec 原廠講師的機構。ISC2 考場在台北信義區和高雄,多數證照也支援在家線上監考。
先從第一堂投影片理解 agent 迴圈、元件與工程問題,再分別深讀 BAIR 的複合系統觀點、Ng 的工作模式,以及 Si 的執行回饋實驗;清楚區分課堂主線、指定閱讀與延伸閱讀。
先從第一堂投影片理解 agent 迴圈、元件與工程問題,再分別深讀 BAIR 的複合系統觀點、Ng 的工作模式,以及 Si 的執行回饋實驗;清楚區分課堂主線、指定閱讀與延伸閱讀。
GPUtw.ai 適合個人把短租 GPU 當成學習工具:先跑 Jupyter、Ollama、ComfyUI,再用 LoRA/QLoRA 做小模型微調。它不是大型基礎模型訓練平台,第一次使用應該小額測部署、計費與資料保存。
Marker(Datalab 開源,Apache 2.0 授權,v2.0.0 於 2026-07-20 發布,39.5k stars)是一個以 Markdown 與 JSON 為輸出的 pipeline 式文件解析標準庫,支援 PDF、圖像、PPTX、DOCX、XLSX、HTML、EPUB,並提供可選的 LLM 增強(`--use_llm`,預設 `gemini-3.5-flash`)、可自訂格式邏輯與表格/公式/內嵌數學/連結/參考/程式碼區塊的完整處理、圖像提取與保存、標頭/頁尾移除,並可在純 CPU、GPU 或 MPS(Apple Silicon)環境運作。與 [Docling](/posts/tech/2026-09-06-docling-document-parsing) 同屬解析層,但授權路徑(`Apache 2.0` 代碼 + `AI Pubs Open Rail-M` 模型權重,有商業門檻 `$5M`)、輸出核心(`Markdown` 為主而非結構化 `JSON`)、解析引擎特點(`Pipeline` 式可替換階段,但 `VlmPipeline` 為可選的 `LLM` 增強而非固定 `VLM` 選項)、與 [MinerU](/posts/tech/2026-09-05-mineru-ocr-doc-parsing)(自訂協議、`Markdown` 為核心、`Hybrid` `effort` 參數)的差異形成解析層內三種不同取捨路徑。
拆解三個中文圈從零訓練 LLM 的開源專案——baby-llama2-chinese(218M、634 億 tokens)、ChatLM-mini-Chinese(0.2B T5、1,023 萬條對話)、Steel-LLM(1.12B、1 兆 tokens、8 個月)——比較語料策略、tokenizer 決策與社群生態;誠實呈現評測:baby-llama2 在 MiniMind 的橫評中 21 分墊底,ChatLM 知識紮實(62 分)但程式能力弱。
四個 coding agent 的 TUI 都遵守同樣兩條規則:工具高度恆定(1 行摘要,不從 0 跳到 N 行)、不自動收合(只有使用者手動展開才會展開)。looplane 兩條都違反了。
OpenELM 用 layer-wise scaling 把參數偏向靠近輸出的層,1.08B 參數、1.5T tokens 在 LLM360 平均分數上超越吃了 3T tokens 的 OLMo 1.2B(+2.36%);MiniCPM 用三階段解凍(先 Resampler、再視覺編碼器、最後全開)從零訓練多模態小模型,MiniCPM-V 4.5 以 8B 達到 VideoMME 30B 以下 SOTA,再靠 4-bit 量化把 fp16 的 16–17GB 記憶體壓到約 5GB。
Karpathy 三代教學專案縱覽:nanoGPT(2022,各約 300 行重現 GPT-2 124M)、llm.c(純 C/CUDA 訓練)、nanochat(2025-10,一個 speedrun.sh 從 tokenizer 訓到 WebUI)。100 美元、4 小時在 8×H100 上訓出能對話的模型;GPT-2 級能力到 2026 年初已壓到約 2 小時、48 美元。