ML／LLM 系統設計與 Coding 面試：四題架構、三題 Python 與 STAR 骨架
面試常被問到的四題系統設計（企業 RAG、推論服務、客服 Agent、線上 A/B 與資料飛輪）、三題 Python（動態批次、取樣、退避重試加 token bucket）與 STAR 行為骨架，每題附可講出口的回答與核對清單，程式碼都實際執行通過。
ai
1264 篇文章LLM 工程面試準備：微調、對齊、推論優化、評估與安全
LLM 工程面試常見七個主題：LoRA／QLoRA 與微調 vs RAG、RLHF／DPO／GRPO 對齊、PagedAttention 讓 vLLM 吞吐量提高 2 到 4 倍的推論優化、取樣解碼、LLM 評估、OWASP LLM Top 10（2026 版）與幻覺。每節都拆成概念、機制、回答方式。
ML 基礎與 Transformer 底層概念：從偏差變異、AdamW 到 attention、RoPE 與 MoE
面試追問通常落在機制：為什麼要除以 √d_k、AdamW 和 Adam＋L2 差在哪、AUC 很高為什麼還不能上線。本文逐題講概念、機制與答法，最後附 3 題可執行的 numpy 手寫題。
Prompt、Context、Harness 三層工程：定義、分界與評估閘門
Prompt 管單次措辭、Context 管模型此刻看到什麼、Harness 管包住非確定性模型的整套系統；Bsharat 的 26 條原則、Breunig 的四種 context 失敗、OpenAI 約一百萬行零手寫的 harness 實驗，各對應一層。評估則是 harness 裡最常被省略的一塊，要在 CI 設閘門擋下沉默回歸。
RAG 面試整理：從三階段流程到 Agentic RAG，九種變體怎麼分、怎麼答
RAG 面試題用「三階段流程 → 各階段的失敗點 → 九種變體各補哪個洞 → 6 類 RAG 解不了的問題」四步回答：Self-RAG、CRAG、Adaptive-RAG 補判斷，Graph RAG、KG-RAG 補索引，CAG 乾脆不檢索，Agentic RAG 與 Reasoning RAG 把決策交給模型。
AI Engineer 面試資源怎麼挑：官方說法、12 個 GitHub 題庫與付費平台比較
先讀公司官方說明：Meta 已要求候選人在面試中使用內建 AI，Anthropic 預設禁用。題庫挑有附來源、今年還在更新的，例如 alexeygrigorev field guide、ombharatiya 與 alirezadir。12 個熱門 repo 只有 2 個替題目附上可點的來源，有些答案放在付費牆後面。
音訊、影片與世界模型：三份教材的閱讀入口｜CMU 10-423 主題單元
聲音表示、影片的時間關聯、動作條件的世界轉移，是三種不同學習任務。原篇把第24–26堂放一起，最後卻只有音訊練習，無法驗收另外兩堂。這個網址保留為閱讀入口；完整教學在下列第 24–26 堂各一篇，第 26 堂那篇也包含另一份對齊教材。
CNN 與 ViT：一張圖怎麼變成模型的輸入｜CMU 10-423 第 5 堂
語言模型先把文字變成 token，影像模型也需要把畫素整理成可運算的表示。
程式生成與 Agent：測試回饋如何形成可靠迴圈｜CMU 10-423 第 23 堂
能執行測試修復迴圈並計算pass@k與區分交付成功
條件注入：attention、DiT與Q-Former怎麼分工｜CMU 10-423 主題單元
Cross-attention是讀取另一組表示的運算；DiT是擴散模型的骨幹選擇；Q-Former是用可學query抽取或橋接資訊的模組。它們可以組合，但不是三個互斥的產品。這篇只比較角色，Prompt-to-Prompt與classifier-free guidance的操作細節放回第14堂教學。
擴散模型入門：加噪為何能成為生成的訓練題｜CMU 10-423 第 7 堂
GAN 用判別器取得生成訊號，擴散模型則先定義一個會逐漸破壞資料的過程，再學習反方向的條件分佈。
分散式訓練與高效推論：先找成本在哪裡｜CMU 10-423 主題單元
模型放不下一張GPU，和模型已放得下卻生成太慢，是不同故障。分散式策略重新分配資料、參數與狀態；FlashAttention主要改善attention的記憶體IO；KV cache避免decode時重算歷史K/V。先找成本的位置，再選方法。
考卷、論文與專案：三種學習證據｜CMU 10-423 主題單元
考卷檢查你能否在固定問題下推理；論文報告檢查你能否判斷別人的證據；專案檢查你能否自己產生可重現證據。三者不是「課程行政事項」的清單，而是逐步加深的學習任務。這個舊網址保留為評量導覽，完整做法各有教學篇。
GAN：生成器與判別器各自在學甚麼｜CMU 10-423 第 6 堂
分類器學「這張圖是哪一類」，GAN 的生成器學「怎麼從隨機輸入產生像資料的新樣本」。
生成式 AI 學習路線：35 篇核心怎麼讀｜CMU 10-423 課程總覽
這個系列依 CMU 10-423/623/723 Generative AI 的 Spring 2026 公開材料整理。
minGPT 實作驗收：用形狀、遮罩與位置找錯｜CMU 10-423 作業 1
作業 1 把 RNN、Transformer 與現代 attention 的觀念拉到程式層。
DDPM 實作驗收：時間係數怎麼對上 batch｜CMU 10-423 作業 2
會抄加噪公式，還不代表 diffusion 實作正確。
LoRA 微調驗收：梯度、資料與評估｜CMU 10-423 作業 3
以自擬數值例子驗收梯度、資料與評估，並保留原作業規格。
Q-Former 文生圖驗收：凍結底座仍要傳梯度｜CMU 10-423 作業 4
以自擬數值例子驗收梯度、資料與評估，並保留原作業規格。
SFT、RLHF與DPO：三種訓練訊號的分界｜CMU 10-423 主題單元
一個prompt加一個示範答案，與一個prompt加兩個偏好回應，不是相同資料。SFT學示範token；典型RLHF管線先學reward再做受約束的policy更新；DPO由偏好對與reference-relative比率直接建立loss。這篇整理它們的分界，完整推導與驗收各有單獨教學篇。