Pre-training、Transfer Learning 與 Fine-tuning 的分工｜CMU 07-280 第 15 堂
Lecture 15 將 pretrained model 拆成 representation g 與 task head h：可以凍結 g 只訓練 head，也能用較小 learning rate fine-tune 部分或全部參數；選擇取決於資料量與 source-target 差距。
ai
1264 篇文章Maximum Likelihood 如何統一 Logistic 與 Linear Regression｜CMU 07-280 第 16 堂
Lecture 16 從 likelihood p(D|θ) 出發，以 i.i.d. 將聯合機率寫成乘積，再用 log 變成和；Bernoulli MLE 得到樣本比例，conditional Bernoulli 得到 logistic cross-entropy，Gaussian noise 則得到 squared error。
從 Tokenization 到 N-gram Language Model｜CMU 07-280 第 17 堂
第 17 講先決定文字如何切成 token，再用 N-gram 把序列機率改寫成可從 corpus 計數的條件機率；tokenization 不是前處理小事，而是模型能看見什麼的第一個設計決定。
N-gram 如何訓練、取樣與失敗｜CMU 07-280 第 18 堂
第 18 講把 chain rule 截成 N-gram Markov assumption，以 corpus counts 做 MLE，再比較 greedy、categorical sampling 與 temperature；真正的瓶頸是未見 context 的零機率與固定視窗。
Word Embedding 如何把下一詞預測變成幾何｜CMU 07-280 第 19 堂
第 19 講以兩個 embedding matrices、dot-product similarity、softmax 與 cross-entropy 建立最小 next-token model，讓相似 context 透過共享向量參數取代 N-gram 的獨立計數格。
從 Position Encoding 推到 Causal Self-Attention｜CMU 07-280 第 20 堂
第 20 講先把單 token embedding 擴成 sequence，以 positional encoding 補順序，再推導 Q/K/V scaled dot-product attention、causal mask 與 multi-head blocks，最後接到 GPT-2。
Bellman Equation 如何解 Markov Decision Process｜CMU 07-280 第 21 堂
第 21 講把隨機序列決策寫成已知 dynamics 的 MDP，以 Bellman backup 定義 value 與 Q-value，再用 value iteration 或 policy iteration 求最佳 policy。
不知道 Dynamics 時如何做 Q-learning｜CMU 07-280 第 22 堂
第 22 講保留 MDP 骨架，拿掉已知 transition 與 reward 的假設；TD learning 用一步 sample 更新 value，Q-learning 再以 off-policy target 直接學最佳 action values。
從 Approximate Q-learning 到 DQN｜CMU 07-280 第 23 堂
第 23 講以 Qθ(s,a) 取代巨大 Q-table：先用 features 線性近似並由 squared TD error 推導 gradient update，再以 replay data 與固定 target network 形成 DQN。
Monte Carlo Tree Search 如何接上 AlphaZero｜CMU 07-280 第 24 堂
Spring 2026 Lecture 24 是 MCTS，不是 Fall 2026 的 LLM post-training；本講以 selection、expansion、rollout、backup 與 UCB 分配模擬，再由 policy/value heads 與 self-play 接到 AlphaZero。
從搜尋問題走到監督式學習｜CMU 07-280 主題單元
第一階段把 Lectures 1–12 串成同一條決策鏈：先定義狀態、動作與目標，再用 heuristic、loss、regularization 與 backpropagation 控制龐大搜尋空間。
用 AlexNet 與 GPT-2 把模型真正組起來｜CMU 07-280 主題單元
第二階段不把 CNN 與 Transformer 當兩份架構圖背誦，而是透過 HW8 與 HW11 檢查表示、計算圖、訓練、遷移與生成是否真的接得起來。
從 MDP、Q-learning 到 AlphaZero｜CMU 07-280 主題單元
第三階段把 value、policy、bootstrapping、function approximation 與 MCTS 接成 AlphaZero：network 提供先驗與估值，search 改善決策，self-play 再產生下一輪資料。
Python coding agent 實戰 M11：為什麼 exec 迴圈做不出 Claude Code 的對話體驗
要做出 Claude Code 或 Codex 的 TUI，關鍵不是滿版配色，而是長生命期 session、typed transcript 與 tool-boundary approval。
Cognee 完整介紹：把文件變成 Agent 可查詢的知識圖記憶
Cognee 是資料到 AI memory 的 pipeline：用 relational store 保存來源與 provenance、vector store 找語意相近內容、graph store 表達 entity 關係，再以 remember、recall、improve、forget 管理生命週期。
Introduction and Setup：先把語言問題拆成可計算的元件｜Stanford CS124 第 1 週
第 1 週沒有演算法。現場的導論課說明這門課教什麼：LLM 的每個元件各在哪一週學、哪些不是 LLM 的語言演算法也要學、語言為什麼難。PA0 把之後幾份作業要用的 Python 與 Jupyter 環境裝好。
PageRank and Social Networks：從 anchor text、圖中心性到課程收束｜Stanford CS124 第 10 週
第 10 週把網頁和人際關係看成圖。連結分析教 anchor text 與 PageRank：一個隨機亂點連結的人長期停在每一頁的機率，就是那一頁的分數。社群網路教中心性、群聚係數、小世界與弱連結。最後一堂現場課回到 LLM，講偏好對齊、可解釋性與機器翻譯。
Words, Tokens, Edit Distance, and N-grams：LLM 之前先決定模型看見什麼｜Stanford CS124 第 2 週
第 2 週教三件事：用 BPE 把文字切成 token、用動態規劃算兩個字串的編輯距離、用 n-gram 估下一個詞的機率並用 perplexity 評估。每一項都可以用紙筆算，本文各走一個例子。
Logistic Regression and Text Classification：從特徵到機率與 loss｜Stanford CS124 第 3 週
第 3 週教邏輯迴歸：把文件變成特徵向量，加權總和後通過 sigmoid 得到機率，用 cross-entropy 量錯多少，再用梯度下降修權重。本文照投影片的影評例子把預測、loss 與一次權重更新各算一遍，並說明為什麼評估要看 precision 與 recall。
Information Retrieval：從倒排索引、tf-idf 到 RAG 的檢索底座｜Stanford CS124 第 4 週
第 4 週教搜尋：把查詢和文件都變成向量，用 tf-idf 加權、cosine 相似度排名，用倒排索引加速，用 precision、recall 與 MAP 評估，最後接到向量檢索與 RAG。本文把投影片的四篇迷你文件例子完整算一遍。