生成式 AI 學習路線：35 篇核心怎麼讀｜CMU 10-423 課程總覽
這個系列依 CMU 10-423/623/723 Generative AI 的 Spring 2026 公開材料整理。
47 篇文章
CMU 10-423 Generative AI 導讀
依 Spring 2026 公開教材重建的 40 篇核心教學，從語言模型、擴散與調適到多模態、規模化、世界模型及評量；另保留 12 篇主題導覽，每篇分清原課範圍與本站學習順序。
系列導讀
RNN 語言模型：序列機率與梯度怎麼接起來｜CMU 10-423 第 1 堂
一句「我喜歡貓」不是三個互不相干的字。
自動微分實作：把手算梯度接上訓練迴圈｜CMU 10-423 作業 0
知道反向傳播用鏈式法則，還不等於能寫出正確的訓練迴圈。
因果注意力：從 Q、K、V 算到下一個 token｜CMU 10-423 第 2 堂
RNN 把歷史壓進一個狀態，attention 則讓目前位置直接讀取一組歷史表示。
訓練與解碼：同一組 logits 為何生成不同句子｜CMU 10-423 第 3 堂
模型學會的下一 token 分佈，跟我們怎麼從分佈挑 token，是兩件接續發生的事。
現代 Transformer：位置旋轉與 KV 共享改了甚麼｜CMU 10-423 第 4 堂
第 2 堂的 attention 知道如何比對內容，但實際語言模型還需要順序資訊，也要承受生成時的記憶體成本。
minGPT 實作驗收：用形狀、遮罩與位置找錯｜CMU 10-423 作業 1
作業 1 把 RNN、Transformer 與現代 attention 的觀念拉到程式層。
CNN 與 ViT：一張圖怎麼變成模型的輸入｜CMU 10-423 第 5 堂
語言模型先把文字變成 token，影像模型也需要把畫素整理成可運算的表示。
GAN：生成器與判別器各自在學甚麼｜CMU 10-423 第 6 堂
分類器學「這張圖是哪一類」，GAN 的生成器學「怎麼從隨機輸入產生像資料的新樣本」。
擴散模型入門：加噪為何能成為生成的訓練題｜CMU 10-423 第 7 堂
GAN 用判別器取得生成訊號，擴散模型則先定義一個會逐漸破壞資料的過程，再學習反方向的條件分佈。
擴散模型進階：訓練抽時間，生成走逆向鏈｜CMU 10-423 第 8 堂
前一堂知道怎麼造出 noisy input 與噪聲標籤，這堂要回答下一個缺口：網路預測 ε 之後，怎麼得到下一個較乾淨的樣本？
VAE：重建誤差、KL 與重參數化如何合作｜CMU 10-423 第 9 堂
普通 autoencoder 把輸入壓成一個向量再還原；VAE 則為每筆資料產生一個潛在分佈，讓重建與生成能在同一個機率模型中討論。
DDPM 實作驗收：時間係數怎麼對上 batch｜CMU 10-423 作業 2
會抄加噪公式，還不代表 diffusion 實作正確。
LoRA：少改參數，改的是哪個矩陣｜CMU 10-423 第 10 堂
以完整數值例子與變式答案理解LoRA：少改參數，改的是哪個矩陣。
ICL、SFT 與 RLHF：從改輸入到改參數｜CMU 10-423 第 11 堂
分清 ICL、SFT、reward model 與 RLHF 各自改變什麼，並用算例驗收
DPO 與 latent diffusion：偏好如何更新模型，文字如何控制去噪｜CMU 10-423 第 12 堂
推導 DPO loss 並重算數值例子，再追 latent diffusion 的形狀與條件路徑
LoRA 微調驗收：梯度、資料與評估｜CMU 10-423 作業 3
以自擬數值例子驗收梯度、資料與評估，並保留原作業規格。
Vision-language model：圖片如何成為語言模型的輸入｜CMU 10-423 第 13 堂
以完整數值例子與變式答案理解Vision-language model：圖片如何成為語言模型的輸入。
Cross-attention 與 DiT：條件如何進入去噪器｜CMU 10-423 第 14 堂
以完整數值例子與變式答案理解Cross-attention 與 DiT：條件如何進入去噪器。
Q-Former 與 scaling laws：橋接凍結模型，分配固定算力｜CMU 10-423 第 15 堂
追 Q-Former 的 query 讀取與兩階段訓練，再用固定預算計算模型與資料的分配
Q-Former 文生圖驗收：凍結底座仍要傳梯度｜CMU 10-423 作業 4
以自擬數值例子驗收梯度、資料與評估，並保留原作業規格。
Mixture of Experts：總容量與啟用計算如何分開｜CMU 10-423 第 16 堂
以完整數值例子與變式答案理解Mixture of Experts：總容量與啟用計算如何分開。
分散式訓練：梯度、模型與狀態各如何切分｜CMU 10-423 第 17 堂
以完整數值例子與變式答案理解分散式訓練：梯度、模型與狀態各如何切分。
高效推論：FlashAttention、KV cache 與推測解碼｜CMU 10-423 第 18 堂
以完整數值例子與變式答案理解高效推論：FlashAttention、KV cache 與推測解碼。
長上下文：放得進去為什麼仍找不到答案｜CMU 10-423 第 19 堂
區分位置/記憶體/資訊取用並設計受控驗收
推理模型：多花算力如何選到可驗證的答案｜CMU 10-423 第 20 堂
能比較候選選擇與GRPO優勢且區分機制因果證據
State Space Models：狀態更新如何展成卷積｜CMU 10-423 第 21 堂
從recurrence展開固定卷積並識別selection邊界
生成式 AI 風險：把失敗變成可測試的情境｜CMU 10-423 第 22 堂
把不同危害對應不同資料流與指標
程式生成與 Agent：測試回饋如何形成可靠迴圈｜CMU 10-423 第 23 堂
能執行測試修復迴圈並計算pass@k與區分交付成功
聲音的理解與生成：sample 怎麼變成文字，token 怎麼變回聲音｜CMU 10-423 第 24 堂
計算 frame、mel 與 WER，再算 codec token 帳並區分擴散採樣
影片生成：時間軸如何進入模型｜CMU 10-423 第 25 堂
能追時空attention shape並區分影片時間與去噪時間
世界模型與對齊理論：動作介入與可修正性需要哪些前提｜CMU 10-423 第 26 堂
區分三種世界表示與動作介入證據，再看共識成本與 corrigibility 定理的條件
練習考卷：用錯誤定位觀念缺口｜CMU 10-423 主題單元
用公開練習卷區分機率、資料流與評估錯誤，走完序列機率例子，再以變式題驗收。
論文報告：把模型介紹寫成可檢驗的論證｜CMU 10-423 作業 623
以角色扮演報告分清論文主張、實驗證據與自己的推論，走完受控比較例子。
期末專案：把生成模型做成可重現的實驗｜CMU 10-423 主題單元
以固定比較條件、配對結果與重現紀錄，把生成模型專案寫成可檢查的研究證據。
Transformer、訓練與解碼：三個不同問題｜CMU 10-423 主題單元
同樣一份歷史文字，模型怎麼讀、怎麼學、怎麼抽下一個token，是三個問題。注意力決定資訊如何混合；訓練目標用正確答案改參數；解碼策略在固定模型下選輸出。原本把第2–3堂合在一起，容易讓讀者以為換解碼策略就是換模型。這篇保留主題關係，完整機制與練習分開讀。
擴散與VAE：機率目標相連，生成流程不同｜CMU 10-423 主題單元
擴散與VAE都能用機率模型的觀點理解，但「都有潛在變量」不代表它們是同一套生成流程。擴散把噪聲步驟串成鏈；VAE用encoder近似latent的後驗，decoder從latent重建資料。這篇是關係導覽，原第8–9堂的教學已拆成各自可檢核的內容。
PEFT與ICL：改參數，還是改輸入｜CMU 10-423 主題單元
你可以讓模型適應新任務而不重訓所有參數，但這句話包含兩種不同做法。LoRA等PEFT方法仍有訓練，少量參數會改變；ICL把示例放進上下文，推論時不因這些示例做參數更新。來源也不只兩堂：第9堂末段已有zero/few-shot，第10堂講PEFT，第11堂接ICL與後續調適。
SFT、RLHF與DPO：三種訓練訊號的分界｜CMU 10-423 主題單元
一個prompt加一個示範答案，與一個prompt加兩個偏好回應，不是相同資料。SFT學示範token；典型RLHF管線先學reward再做受約束的policy更新；DPO由偏好對與reference-relative比率直接建立loss。這篇整理它們的分界，完整推導與驗收各有單獨教學篇。
文生圖與VLM：生成影像和讀懂影像的兩條路｜CMU 10-423 主題單元
「文字加圖片」不能描述清楚模型的工作。文生圖要產生影像，文字是條件；VLM可能接受影像，產生文字回答。資料流方向、輸出目標與驗收不同。原第12–13堂的內容在這裡保留關係地圖，兩條路各有完整例子與檢查。
條件注入：attention、DiT與Q-Former怎麼分工｜CMU 10-423 主題單元
Cross-attention是讀取另一組表示的運算；DiT是擴散模型的骨幹選擇；Q-Former是用可學query抽取或橋接資訊的模組。它們可以組合，但不是三個互斥的產品。這篇只比較角色，Prompt-to-Prompt與classifier-free guidance的操作細節放回第14堂教學。
Scaling與MoE：算力預算與條件計算｜CMU 10-423 主題單元
Scaling laws問固定預算下模型與資料怎麼配置；MoE問如何有更多expert容量、卻只啟用少數expert。前者是配置與經驗模型，後者是架構與路由，不能合稱「把模型變大」就跳過其中一方的機制。
分散式訓練與高效推論：先找成本在哪裡｜CMU 10-423 主題單元
模型放不下一張GPU，和模型已放得下卻生成太慢，是不同故障。分散式策略重新分配資料、參數與狀態；FlashAttention主要改善attention的記憶體IO；KV cache避免decode時重算歷史K/V。先找成本的位置，再選方法。
長上下文與SSM：保留歷史的兩種取捨｜CMU 10-423 主題單元
長上下文問模型能否處理、找到並使用很久以前的資訊；SSM問如何用狀態更新處理序列。SSM的效率不能直接證明長文件檢索可靠，attention的長窗口也不能直接證明重要資訊一定被使用。第19與21堂因此各自有獨立教學。
實務風險與對齊理論：失敗測試和命題前提｜CMU 10-423 主題單元
模型胡說、洩漏資料或被prompt injection誘導，是可觀察的產品風險；對齊理論問特定形式化假設下，哪些保證可以成立。兩者需要不同證據。這篇保留關係與界線，第22堂與第26堂的對齊教材分開教，不把一個定理擴成所有產品都不可能安全。
音訊、影片與世界模型：三份教材的閱讀入口｜CMU 10-423 主題單元
聲音表示、影片的時間關聯、動作條件的世界轉移，是三種不同學習任務。原篇把第24–26堂放一起，最後卻只有音訊練習，無法驗收另外兩堂。這個網址保留為閱讀入口；完整教學在下列第 24–26 堂各一篇，第 26 堂那篇也包含另一份對齊教材。
考卷、論文與專案：三種學習證據｜CMU 10-423 主題單元
考卷檢查你能否在固定問題下推理；論文報告檢查你能否判斷別人的證據；專案檢查你能否自己產生可重現證據。三者不是「課程行政事項」的清單，而是逐步加深的學習任務。這個舊網址保留為評量導覽，完整做法各有教學篇。