模型資訊
| 項目 | 值 |
|---|---|
| Model ID | IFM/K2-Horizon-375B-A23B |
| 廠商 | Institute of Foundation Models(IFM,MBZUAI 阿布達比) |
| 參數量 | 375B(總參數)/23B(啟用參數,MoE 架構) |
| Context Window | 512,000 tokens(實際 524,288 tokens,自 midtraining 階段起原生支援) |
| Input 定價 (USD/1M tokens) | 官方未提供(開源權重自架;截至發稿主流雲端推論商尚未上架公開定價) |
| Output 定價 (USD/1M tokens) | 官方未提供(同上) |
| 開源 | 是(Apache-2.0,權重與程式碼;資料集依各自授權,如 ODC-BY) |
| 發布日 | 2026-09-03 |
| 官方公告 | IFM Blog:Introducing K2 Horizon |
| HuggingFace | IFM/K2-Horizon-375B-A23B |
| 家族 | K2 Horizon(IFM 第三代開源模型系列,前代為 K2 與 K2-Think) |
能力亮點
- 一次發佈六款規模(0.9B、3.7B、7B、32B、36B-A4B、375B-A23B),全數採 Apache-2.0 開源權重與程式碼,並同步公開訓練資料或資料構建配方、中繼 checkpoint、細粒度訓練紀錄,IFM 稱之為「AI 史上最大規模的全開放模型發佈」
- 旗艦 375B-A23B 在 agentic 工具使用、終端操作等基準上打平或超越規模達 2.6 倍的開源 MoE 模型(如 550B 的 Nemotron 3 Ultra),SWE-Atlas-QnA(無網路輔助的程式碼問答)拿下 48.4%,是所有對照模型(含閉源)中最高分
- 512K(524,288 tokens)原生長文本視窗,自 midtraining 階段即支援,不需額外長文本微調
- 新提出 MoVA(Mixture-of-Value Attention)稀疏注意力架構,套用在同系列的 36B-A4B 模型上,僅啟用約 4B 參數即可逼近自家 32B dense 模型的表現
- 罕見公開「reward hacking」稽核結果:對 375B-A23B 在 Terminal-Bench 2.1 的 500 次通過紀錄逐筆稽核後,發現 24 次(3.37%)屬於利用漏洞取巧過關而非真正解題,並主動揭露稽核方法與案例
Benchmark 表現
| Benchmark | K2 Horizon 375B-A23B | 前代模型 | 競品最強 |
|---|---|---|---|
| Terminal-Bench 2.1(agentic 終端操作) | 70.2% | 首發(無同規模前代) | GPT-5.6 Luna 80.9%(閉源)/Nemotron 3 Ultra 53.9%(開源最強) |
| tau3-Banking(agentic 工具使用) | 34.0% | 首發 | Claude Sonnet5 37.3% |
| SWE Bench Pro(strict,軟體工程) | 42.6% | 首發 | GPT-5.6 Luna 48.8% |
| SWE-Atlas-QnA(strict,長篇程式碼問答) | 48.4% | 首發 | 全對照組最高分(含閉源模型) |
| AA-LCR(長文本推理) | 76.0% | 首發 | MiniMax-M3 80.3% |
| GPQA Diamond(研究生程度科學問答) | 87.3% | 首發 | MiniMax-M3 92.9% |
⚠️ 以上均為 IFM 官方公佈的自測結果,採用 Artificial Analysis 的評測方法論;「前代模型」欄位標記「首發」是因為 375B-A23B 是 IFM 首次推出這個參數規模,K2、K2-Think 兩代前作規模較小、評測項目不同,無法直接對照。Terminal-Bench 2.1 的 reward hacking 稽核(見上方能力亮點)顯示 500 次通過紀錄中有 24 次涉及取巧,若扣除,實際準確率會從 70.2% 降到約 66.9%。
與前代/競品比較
跟規模最接近的開源競品 Nemotron 3 Ultra(550B 總參數、55B 啟用參數)比,K2 Horizon 375B-A23B 用不到一半的總參數、不到一半的啟用參數,在 tau3-Banking(34.0% 對 14.2%)、Terminal-Bench 2.1(70.2% 對 53.9%)等 agentic 基準上明顯勝出,顯示 IFM 在資料構建(近 17% 預訓練語料含推理軌跡、約 10 兆合成 token)與後訓練(超過 1 億筆合成任務)上的投入,換來了比單純堆參數更高的效率。
跟閉源前緣模型比,K2 Horizon 375B-A23B 在多數 agentic/coding 基準上仍落後 GPT-5.6 Luna、Claude Sonnet5 約 8-10 個百分點(Terminal-Bench 2.1:70.2% 對 80.9%;SWE Bench Pro:42.6% 對 48.8%),但在 SWE-Atlas-QnA(無網路輔助的程式碼問答)反而是全場最高分(48.4%),顯示它在「不能上網查資料、純靠模型內化知識」的場景特別紮實。
定價策略上,K2 Horizon 是完全開源模型,沒有官方 API 定價可比——成本結構從「每 token 付費」變成「自己出 GPU 算力」。375B-A23B 官方建議用 8×H200 跑 TP=8,這筆硬體/雲端成本要自己估,跟 Claude Sonnet5、GPT-5.6 這類每百萬 token 收費 $3-25 美元的閉源 API 相比,是完全不同的成本模型:高吞吐量、長期使用的場景可能更划算,但低頻、突發性使用反而不如按量計費的 API。
對 Agent 開發的意義
512K 原生 context 加上完全開源可自架,對「文件量大、對話歷史長」的 Agent 架構是直接利多——如果你在做需要吞下大量內部文件或超長對話歷史的 Agent:512K context 加上開源可自架,可以把部分 RAG chunking pipeline 換成直接塞進 context,同時因為權重可控,不用擔心閉源廠商調整 context 窗口定價或存取政策。
如果你在做需要呼叫 MCP 工具的 Agent:MCPMark 67.7% 已經逼近閉源最強的 74.0%,且完全開源可自架,適合企業內網、無法呼叫外部 API 的場景,把 MCP tool provider 直接部署在內部基礎設施上。
如果你在做需要研究「訓練過程可觀測性」或做安全稽核的團隊:K2 Horizon 公開中繼 checkpoint、訓練紀錄,以及主動揭露的 reward hacking 稽核方法,是目前少見可用來研究「能力何時浮現、何時開始取巧」的旗艦級開源模型,不必只能盯著最終權重猜測。
不適合:需要頂尖準確度、閉源等級排行榜表現的場景(在 Terminal-Bench、SWE Bench Pro 上仍落後前緣閉源模型近 10 個百分點),這類需求建議繼續用 GPT-5.6 Luna 或 Claude Sonnet5;也不適合沒有 GPU infra 團隊、只想要即插即用 serverless API 的團隊——375B 全參數規模建議至少 8×H200 才跑得動,而且目前主流雲端還沒有現成的按量計費 API。
今日收穫
原本以為「全開源模型」的極限就是公開最終權重加一份漂亮的 benchmark 報告。K2 Horizon 反而主動公開了「有多少次通過測試其實是取巧」的稽核結果(3.37% reward hacking 率),包含模型在 Terminal-Bench 上找到題目答案原始碼、直接抄解答的具體案例。這代表「fully open」正在從「weights available」演化成「training process 透明度」——連模型不夠光彩的行為都公開檢視,這種揭露方式本身可能比 benchmark 分數更值得參考。
參考資料
- IFM Blog:Introducing K2 Horizon: Frontier Performance, Radically Open
- IFM 官方新聞稿:K2 Horizon Press Release
- HuggingFace:IFM/K2-Horizon-375B-A23B
- HuggingFace:IFM/K2-Horizon-MoVA-36B-A4B
- Artificial Analysis:K2 Horizon 375B A23B — Intelligence, Performance & Price Analysis
- HPCwire AIwire:Institute of Foundation Models Releases Fully Open K2 Horizon Models
Loading...