Embeddings and Social NLP：用周圍的詞表示一個詞的意思｜Stanford CS124 第 5 週
第 5 週教詞嵌入：一個詞的意思可以用它周圍常出現的詞來表示。先用共現次數做向量、用 cosine 比相似度，再用 word2vec 把向量訓練成幾百維的稠密表示，最後區分靜態向量與隨上下文改變的向量。同週的計算社會科學現場課沒有公開材料。
ai
1264 篇文章Neural Networks and LLMs：從神經元、反向傳播到 decoder-only 模型｜Stanford CS124 第 6 週
第 6 週分兩半。預錄內容教神經網路：一個神經元怎麼算、為什麼需要隱藏層、softmax、用詞向量做分類與語言模型、反向傳播。現場課介紹大型語言模型：它是什麼、三種架構、為什麼各種任務都能改寫成接話、怎麼取樣、怎麼預訓練、怎麼變成助理。
Transformers and Speech Processing：attention 怎麼讓每個 token 參考前文｜Stanford CS124 第 7 週
第 7 週打開 Transformer：attention 怎麼讓每個 token 參考前面的 token、一個 block 由哪些零件組成、輸入和輸出兩端怎麼接。PA6a 要自己寫 causal self-attention、訓練一個小模型並計算 perplexity。同週的語音現場課介紹語音辨識的任務與詞錯誤率。
Speech and PA7/Git Lab：聲音怎麼變成 Whisper 讀得懂的輸入｜Stanford CS124 第 8 週
第 8 週接著講語音：聲音怎麼產生、怎麼從波形變成模型吃的 log mel 頻譜、Whisper 怎麼用 encoder-decoder 和 cross-attention 把聲音轉成文字。PA6b 把文字轉成語音再轉回來，分析哪些資訊不見了。實作課四介紹 PA7 的 agent 流程並教小組用 GitHub 協作。
Collaborative Filtering and LLM Agents：從電影相似度到搜尋與記憶工具｜Stanford CS124 第 9 週
第 9 週教推薦系統：內容式推薦看物品的特徵，協同過濾只看評分矩陣，用「相似的人」或「相似的物品」來推估沒評過的分數。PA7 把物品對物品的協同過濾寫成一個函式，交給會呼叫工具的 LLM agent，再加上訂票、網頁搜尋與記憶。
矩陣微積分與反向傳播｜Stanford CS224N 第 3 堂
第 3 講把神經網路訓練拆成計算圖、局部導數與鏈鎖律：forward pass 算結果，backprop 由輸出往回累積梯度，讓每個參數知道自己該往哪裡移。
Benchmark 與 LLM 評估為什麼會過期｜Stanford CS224N 第 11 堂
第 11 講把評估拆成測什麼、怎麼量與何時不再可信：benchmark 會飽和、遭污染或被提示格式左右，LLM judge 也只是帶著自身偏差的模型。
Prompting、LoRA 與參數高效微調｜Stanford CS224N 第 9 堂
第 9 講比較 prompting、pruning、LoRA、prompt tuning 與 adapters：它們都在回答同一題——要讓一個大型預訓練模型適應新任務，究竟需要改多少參數與儲存多少任務狀態？
NLP 的四次典範轉移｜Stanford CS224N 第 1 堂
Winter 2026 第 1 講用四個時代整理 NLP：早期探索、符號系統、統計機器學習、深度與自監督學習；重點不是背年表，而是看每個時代如何重新定義語言問題。
沒有公開投影片時，如何讀 Agentic Interpretability｜Stanford CS224N 第 15 堂
第 15 講由 Been Kim 客座談 interpretability，但 Winter 2026 官網沒有公開投影片或 agenda；本文不虛構講授內容，只用官方五篇閱讀建立概念發現、agentic investigation 與新詞彙三條閱讀路線。
Multimodality 的官方閱讀地圖｜Stanford CS224N 第 17 堂
第 17 講由 Luke Zettlemoyer 客座談 multimodality，但官網沒有公開投影片或 agenda；官方閱讀清單可確認三條主線：視覺推理介面、early-fusion token 模型、文字自回歸加影像 diffusion。
小模型如何跨過 Scaling Law 的門檻｜Stanford CS224N 第 19 堂
最後一講把 Open Questions in NLP 2026 收斂成 smart scaling：以 prolonged RL、Prismatic synthetic data、RL as pretraining 與開放協作，讓小模型不只靠增加參數追求推理能力。
從 instruction tuning、RLHF 到 DPO｜Stanford CS224N 第 8 堂
第 8 講解釋預訓練模型如何經 instruction tuning、偏好資料與 RLHF 變成助理，再以 DPO 直接從勝負配對學習；每一步都把人的判斷轉成訓練訊號，也把偏差帶進模型。
預訓練、subword 與 in-context learning｜Stanford CS224N 第 7 堂
第 7 講把預訓練拆成可擴張資料、subword tokenization、三種模型目標與 in-context learning；核心取捨是用通用的自監督目標換取可重用表示，再用下游訊號指定用途。
RAG 與 Language Agents 的六個元件｜Stanford CS224N 第 10 堂
第 10 講從問答與 RAG 進入 language agents，再拆成推理規劃、記憶、工具、資料與評估；agent 不是單一模型，而是模型與外部狀態之間可被逐步檢查的迴圈。
Decoding、DeepSeek-R1 與推理訓練｜Stanford CS224N 第 12 堂
第 12 講先證明輸出策略不是小細節：greedy、beam 與 sampling 會產生不同文字；再由 R1-Zero/R1 走進 PPO、GRPO、DAPO，最後追問長推理何時真的有用。
Speculative Decoding 與 Test-Time Scaling｜Stanford CS224N 第 13 堂
第 13 講從推論效率走到推論能力：speculative decoding 用小模型草擬、大模型驗證；on-policy distillation 處理資料漂移；長上下文與 test-time scaling 則用更多推論資源換取表現。
語言模型、RNN 與消失梯度｜Stanford CS224N 第 4 堂
第 4 講把語言模型定義成下一詞機率分布，再用 RNN 壓縮任意長前文；它同時揭露 recurrence 的核心代價：資訊與梯度都必須沿時間步逐步傳遞。
Hallucination、創造力、工作與價值對齊｜Stanford CS224N 第 16 堂
第 16 講把 NLP 的社會影響拆成四題：模型為何 hallucinate、AI 輔助創作的同質化悖論、工作如何重組，以及價值對齊為何不能化約成單一 reward。
LoRA 低秩更新：Tinker 客座課前預習｜Stanford CS224N 第 18 堂
手算低秩更新、分清更新與完整權重的秩，並計算可訓練參數。這是依 LoRA 論文的課前預習，不重建尚未取得公開材料的 Tinker 客座內容。