影片狀態：錄影需登入或課程授權。 影片來源與說明
你可以讓模型適應新任務而不重訓所有參數，但這句話包含兩種不同做法。LoRA等PEFT方法仍有訓練，少量參數會改變；ICL把示例放進上下文，推論時不因這些示例做參數更新。來源也不只兩堂：第9堂末段已有zero/few-shot，第10堂講PEFT，第11堂接ICL與後續調適。
先讀哪一篇
- 參數高效微調：依該篇的完整例子與答案自我檢查。
- ICL、提示、SFT與RLHF：依該篇的完整例子與答案自我檢查。
總覽的 課程地圖列出完整核心主線；本篇是主題導覽，不是額外課堂。先選你要回答的問題，再去對應的教學篇。
用一個例子看出分界
本站自擬例子：任務是把「好吃」標成正面。ICL輸入先放「難吃→負面，好吃→正面」，再問新句子的標籤；示例用掉上下文，但模型權重保持不變。LoRA則把訓練例的誤差反傳到adapter，之後新請求不一定要重貼示例。假設底座有一個4×4矩陣，rank=1的A為1×4、B為4×1，需要8個adapter參數而非16個完整更新參數；這個節省是此玩具矩陣的結果，不是整個模型的固定比例。
自我檢查
不重貼示例後效果仍存在，是否足以證明模型做過LoRA？
答案與判準
不足。可能是原有能力、system prompt、記憶或其他微調。要判定機制需看參數更新與實際請求路徑，不能只靠輸出猜。
怎麼使用這張地圖
先不看答案，用自己的話指出輸入、被改動的部分與輸出，再到上面的教學篇完成變式。如果把兩種機制混在一起，回到資料流，找出哪一步的條件不同。這篇只驗關係與分界；不能用它代替各堂的推導、實作或評估。
本文沿用Spring 2026公開教材；自擬例子不是官方考題或課堂口述。原課程錄影仍須依授權存取。
課程影片來源
Spring 2026 官方課站將錄影導向 SCS Panopto。2026-10-12 匿名讀取回傳資料夾未載入與登入提示，未取得可播放的課堂內容；這是存取限制，不能推論沒有錄影。本文依公開文字教材整理，沒有重建未取得的課堂口述或提供原音逐字稿。
更新紀錄
-
2026-10-11：重整教學範圍、完整例子與理解檢查，保留原網址及發文日期。
-
2026-10-10：標註影片狀態，核對錄影來源與取得方式。
-
2026-10-10：重查影片狀態。確認登入牆屬實（匿名開啟 Panopto 資料夾無影片並提示登入），官方頁面也沒有公開 YouTube 版本，狀態維持不變。
參考資料
- CMU 10-423/623/723 Generative AI（Spring 2026）課程首頁
- 課程講次表——L9–L11 日期、Quiz 2／Quiz 3
- Lecture 9 投影片：VAEs / In-context learning——zero-shot、few-shot、prompting
- Lecture 10 投影片：Parameter Efficient Fine-Tuning
- Lecture 11 投影片：In-Context Learning / Instruction Fine-tuning / RLHF
- Lecture 12 投影片——Reminders 頁的 Quiz 3 範圍
- HW3 handout（hw3.zip）——配分表與題目結構
- Practice Exam（Spring 2026）
- Hu et al. 2021：LoRA: Low-Rank Adaptation of Large Language Models
- Houlsby et al. 2019：Parameter-Efficient Transfer Learning for NLP
- Li & Liang 2021：Prefix-Tuning
- Li et al. 2018：Measuring the Intrinsic Dimension of Objective Landscapes
- Aghajanyan et al. 2020：Intrinsic Dimensionality Explains the Effectiveness of Language Model Fine-Tuning
- Mosbach et al. 2023（ACL Findings）：Few-shot Fine-tuning vs. In-context Learning
- Anyscale 部落格：在 Llama-2 上比較 LoRA 與全參數微調
- Brown et al. 2020：Language Models are Few-Shot Learners（GPT-3）
- Lu et al. 2021：Fantastically Ordered Prompts and Where to Find Them
- Min et al. 2022：Rethinking the Role of Demonstrations
- Wei et al. 2022：Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
- Kojima et al. 2022：Large Language Models are Zero-Shot Reasoners