用計算思維把會幻覺的 LLM 變成可靠助理｜Stanford CS224V 第 1 堂
Fall 2025 第一講把 CS224V 的主線定成計算思維：不要期待一次提示解決可靠性，而要把檢索、形式表示、查核與生成拆成可測試的演算法。
ai
1274 篇文章STORM 與 Co-STORM 怎麼把搜尋變成知識策展｜Stanford CS224V 第 2 堂
STORM 用觀點引導的提問、模擬訪談與大綱建立改善研究廣度；Co-STORM 再把人放進迴圈，讓探索未知問題與共同編修成為系統的一部分。
SLIDERS 如何用自動 schema 分析一整組長文件｜Stanford CS224V 第 8 堂
SLIDERS 不讓模型直接吞完所有長文件，而是從問題誘導 schema、做語意切塊與情境化擷取、協調重複列，再用 SUQL 查詢產生答案。
ReactGenie 如何讓語音命令與原生 GUI 共用同一個狀態｜Stanford CS224V 第 13 堂
ReactGenie 以 React 元件加 annotations 暴露資料、動作與視圖，將複合語音命令解析成 DSL，並在同一份 UI context 中產生原生圖形輸出。
把臨床試驗條件翻成 SMT，而不是讓 LLM 直接判資格｜Stanford CS224V 第 11 堂
這堂把病人紀錄與試驗條件各自轉成 SMT，先以較弱的命題邏輯投影做大規模候選檢索，再用 solver 檢查候選；推理可解釋，但 NL-to-SMT 仍是主要錯誤入口。
自動質性編碼為什麼需要 codebook、型別與人工覆核｜Stanford CS224V 第 9 堂
自動質性編碼先以 codebook 定義事件型別與 arguments，再把長文分類、結構化抽取和 entity linking 分開；受約束 JSON 能保格式，仍不能取代領域專家的覆核。
資料庫 Agent 為什麼要先做語意剖析｜Stanford CS224V 第 6 堂
結構化資料 agent 的可靠路線是把自然語言轉成可執行查詢、處理 schema 與列舉值，再把 query execution 和回答生成分開評估；混合資料則要先判斷該走資料庫還是文字檢索。
SUQL 把 SQL 與自由文字檢索放進同一個查詢語言｜Stanford CS224V 第 7 堂
SUQL 在 SQL 裡加入 answer 與 summary 兩種自由文字函式，semantic parser 產生一個混合查詢，再由 compiler 做 predicate pushdown、top-k 與 lazy evaluation。
任務型 Agent 評估不能只看回答像不像人｜Stanford CS224V 第 4 堂
CS224V 把任務型 agent 評估拆成狀態更新與完整互動：先測 semantic parser，再讓真人檢查任務完成、知識查詢與動作是否可靠。
用 Genie Worksheets 建立不亂編動作的任務型 Agent｜Stanford CS224V 第 3 堂
Genie Worksheets 把任務能力宣告成表單式規格，讓 contextual semantic parser 只更新形式對話狀態；查詢、動作與回應由 runtime 依規格執行。
Transformer 架構很多，真正穩定的預設值其實很少｜Stanford CS336 第 3 堂
第三講比較大量現代 LLM 後得到的不是一張最佳架構配方，而是一組保守共識：pre-norm、RMSNorm、無 bias、SwiGLU、RoPE，以及少數值得偏離預設的推論與穩定性設計。
Attention 不只一種，MoE 也不是免費擴大模型｜Stanford CS336 第 4 堂
第四講沿著兩種稀疏化拆解現代 LLM：linear/recurrent attention 減少序列維度成本，MoE 讓每個 token 只啟用部分參數；兩者都把理論省下的 FLOPs 換成 routing、平衡與通訊問題。
Filtering、Dedup 與資料混合才把 raw web 變成訓練語料｜Stanford CS336 第 14 堂
第十四講把 raw documents 經語言辨識、品質與安全 filtering、exact/near dedup、source mixing 送進訓練；每一步都會改變模型分布，而 synthetic instruction 與 agent trajectories 又把資料管線延伸到可執行環境。
語料不會從天上掉下來，每個來源都有存取與授權成本｜Stanford CS336 第 13 堂
第十三講沿著 Common Crawl、Wikipedia、GitHub、arXiv、書籍與歷代開放資料集追溯語料來源；抓得到不等於可合法使用，raw data 也不等於 training data，來源 provenance 必須先於清理與混合。
沒有一個真正的 LLM 評分，只有規則不同的遊戲｜Stanford CS336 第 12 堂
第十二講從 perplexity 走到考試、聊天偏好、agent、推理與安全評測；每次換 benchmark 都同時換了能力定義、scaffold、judge 與污染風險，因此評分前必須先說清楚到底在比較 method、model 還是完整 system。
GPU 快不是因為每個 thread 快，而是資料少搬幾次｜Stanford CS336 第 5 堂
第五講從 SM、warp 與記憶體階層解釋 GPU，再用低精度、fusion、recomputation、coalescing 與 tiling 統一常見優化；FlashAttention 正是這些原則在 attention 上的組合。
LLM 推論的核心不是少算，而是少讀權重與 KV cache｜Stanford CS336 第 10 堂
第十講把 prefill 與 decode 分開：前者能平行、常受算力限制，後者逐 token 且常受記憶體頻寬限制；GQA/MLA、量化、speculative decoding、continuous batching 與 PagedAttention 都在改寫這條成本。
寫 Triton kernel 前，先學會 benchmark 與 profile｜Stanford CS336 第 6 堂
第六講把 GPU 原理落到 kernel：benchmark 看不同尺寸如何縮放，profiler 看實際呼叫與時間，再以 Triton 實作 GeLU、softmax、reduction 與 tiled matmul；快的前提是先量對。
多模態模型先把影像變成 token，再處理語意與細節的衝突｜Stanford CS336 第 17 堂
第十七講把 CLIP/SigLIP、LLaVA、Qwen-VL 與 Chameleon 排成三條路：對比式 encoder 學語意、vision encoder+projector+LM 做理解、離散 image tokens 做生成；解析度、token budget 與 modality balance 是共同瓶頸。
從位元組到 tokenizer，先決定什麼值得隨規模成長｜Stanford CS336 第 1 堂
CS336 第一講不把「從零打造語言模型」理解成重做所有舊技術，而是先區分 mechanics、mindset 與 intuitions，再用 BPE 示範如何把原始位元組轉成可訓練的 token。