#fine-tuning

15 篇文章

tech guide MIT 6.7960 導讀 (Fall 2024 OCW) 2026年8月30日

MIT 6.7960 L18：遷移學習（Transfer Learning）—— 預訓練、特徵抽取、與微調策略

遷移學習的核心是『在大資料上學到的特徵是好的通用表示』：下游任務資料少時，把 backbone 凍住只訓練線性 head；資料夠就全模型微調；想省算力就上 LoRA / adapter。SimCLR、MAE 這類自督導預訓練讓『上游不需要標籤』，下游表現又上一層樓。

#mit-67960 #deep-learning #transfer-learning #pretraining #fine-tuning #simclr #mae #self-supervised #fall-2024

ai guide 2026年8月29日

個人學模型訓練要租 GPU 嗎：GPUtw.ai、LoRA、Jupyter 與第一輪實驗

GPUtw.ai 適合個人把短租 GPU 當成學習工具：先跑 Jupyter、Ollama、ComfyUI，再用 LoRA/QLoRA 做小模型微調。它不是大型基礎模型訓練平台，第一次使用應該小額測部署、計費與資料保存。

#gpu #model-training #fine-tuning #lora #llm #self-study #gputw-ai

ai deep-dive 認識 AI 模型 2026年8月26日

後訓練 RL 三條路線：Ornith、Nous Research、MiniMax 怎麼用強化學習做出黑馬模型

2026 年三個非大廠團隊用不同的 RL 後訓練路線做出 benchmark 黑馬：Ornith 讓模型自己出題自己改進（GRPO self-improvement loop），Nous Research 用 DataForge 合成資料 + Atropos 執行獎勵 RL，MiniMax 在 20 萬個真實環境裡大規模 RL。三條路各有強項，但共同證明了一件事：後訓練 RL 比預訓練規模更重要。

#reinforcement-learning #grpo #post-training #self-improvement #open-source #agentic-coding #fine-tuning

ai deep-dive 認識 AI 模型 2026年8月26日

Fine-tuning vs RAG：什麼時候該教模型、什麼時候該幫模型查資料

資料常更新、需要引用來源 → RAG。需要統一風格、要跑在小裝置上 → fine-tuning。實務上很多系統兩者都用：fine-tune 一個懂你領域語言的小模型，再用 RAG 補上最新資料。

#fine-tuning #rag #retrieval-augmented-generation #llm #ai-model #vector-database

ai guide 認識 AI 模型 2026年8月26日

認識 AI 模型：從 token 到自架，18 篇讀懂模型的通用知識

不需要變成研究員也能系統理解 AI 模型。這個系列從你看得見的東西（token、context window）開始，一路走到自架開源模型，18 篇覆蓋選模型、讀 benchmark、算成本需要的所有基礎。

#llm #transformer #ai-model #learning-path #tokenization #embedding #scaling-laws #fine-tuning #rlhf

ai deep-dive 認識 AI 模型 2026年8月26日

預訓練、SFT、RLHF：模型從「補完文字」變成「有用助理」的三個階段

所有 LLM 都經過三階段訓練：預訓練讀完網路學會語言、SFT 用示範對話學會格式、RLHF 用人類偏好學會什麼回答比較好。Base model 到 chat model 的差距，就是後兩個階段做的事。

#pre-training #sft #rlhf #dpo #fine-tuning #ai-model #training #alignment

tech deep-dive AI 模型家族 2026年8月26日

Nous Research：從研究社群到開源 AI 生態系的反叛者

Nous Research 不預訓練，只做 fine-tuning 和 RL——Hermes 4 在 MATH-500 拿 96.3%，NousCoder-14B 只用 24K 樣本就把 Qwen3-14B 的 coding 能力拉高 7%。但真正的護城河是 Hermes Agent 框架：236K GitHub stars，全球第 19 名，3,000 位貢獻者。

#nous-research #open-source #reinforcement-learning #fine-tuning #hermes-agent #llama #code-model

ai guide 2026年8月25日