Looplane 的 model roles、fallback、cache hints 與 estimated cost
Looplane 用靜態 model role catalog 提供候選順序，只對 retryable provider error 重試與 fallback；cache 是 provider hint 加 trace，cost 是靜態價表估算。三者都留下訊號，但都不是即時營運路由或帳單。
#llm-routing
5 篇文章LiteLLM：從 Python SDK 到自架 AI Gateway 的多模型控制層
LiteLLM 不是模型供應商，而是一套可當 Python SDK 或自架 Proxy 使用的統一介面：把 100+ 家 LLM API 轉成一致格式，並在 Gateway 層集中處理路由、fallback、虛擬金鑰、預算與觀測。
OpenRouter：一把 API Key 串起多模型與多供應商的 LLM 路由層
OpenRouter 用 OpenAI 相容 API 統一多家模型與推論端點，並把供應商排序、故障切換、BYOK 與零資料保留政策放進同一套路由規則。
Portkey：把 LLM 路由、觀測與治理收進同一個 AI Gateway
Portkey 是放在應用程式與模型供應商之間的 AI Gateway：用一個 OpenAI 相容端點統一路由、fallback、用量紀錄、預算與 guardrails，也能自行架設開放原始碼 gateway。
9Router：把 Claude Code / Cursor / Cline 路由到 40+ 家供應商的本地三層 fallback 路由器
本地起一支 OpenAI 相容端點 localhost:20128，把 Claude Code / Cursor / Cline / Codex / Copilot 等 CLI 的請求，自動依 訂閱 → 便宜 → 免費 三層 fallback 路由到 40+ 家供應商。內建 RTK 壓縮 tool_result（省 20–40% input token）、Caveman mode 壓 output、OAuth 自動 refresh、多帳號輪詢，npm install -g 9router 兩條指令裝完。