Skip to content
所有分類

ai

1264 篇文章

Agent 安全——四種威脅模型,加上沙盒、憑證代管與監控三道限制|CMU 11-768 第 13 堂

第 13 講的主軸是「限制 agent 能存取什麼、能做什麼」。投影片先用五個真實事件說明出事的方式,再歸成四種威脅模型(惡意使用者、prompt injection、agent 失誤、不當手段);對策分四層:訓練端的 red teaming 與安全訓練、執行端的沙盒與憑證代管、事後與即時的監控,以及安全評測。最容易被忽略的一點是:把 API key 藏起來,不等於 agent 不能濫用它背後的權限。

OpenHands——一個 coding agent 框架從研究原型走到每天跑上千次自動化|CMU 11-768 第 14 堂

Graham Neubig 用自己開發的 OpenHands 講框架設計:先走一遍 coding agent 從 HumanEval、SWE-bench、Devin 到 2026 年長時間、可中斷、平行執行的演進,再拆 Software Agent SDK 的零件(LLM、tools、conversation、condenser、workspace、確認政策),接著談單一 agent 與多 agent 的取捨、本機與雲端、IDE/GUI/CLI/整合四種介面,最後是把 agent 接到 issue 與 PR 的自動化,以及從過去軌跡自動修訂 skill。

pplx-embed-v2-late:免 OCR 搜 PDF 頁面的開源 late-interaction 模型

Perplexity 10 月 7 日以 MIT 授權開源 0.6B 與 9B 兩個 ColBERT 式多模態嵌入模型,每個 token 一個 128 維向量、用 MaxSim 評分,可直接檢索 PDF 頁面圖片。9B 在 MADQA 拿到 92.4%(自家測試,搭配 Gemini 3.5 Flash agent),代價是索引大小隨文件長度線性成長。

aideep-dive

讀完 11 個 coding agent 的原始碼:沒人用 LangChain,也沒人用向量檢索

Wavestone AI Lab 的 83 頁論文拆開 Claude Code、Codex CLI、Gemini CLI、OpenClaw 等 11 個 coding harness,約 400 萬行程式碼裡沒有任何一個引入通用 agent framework,也沒有任何一個用向量嵌入檢索程式碼。要自己做 agent 或選工具,可以照論文 18 條建議從一個 bash 工具和一個 while 迴圈開始。

aideep-dive

Poteto 的信任階梯:先讓 agent 能自己驗證,再談放手

Cursor 工程師 Lauren Tan(poteto)自述月合併約 2,000–2,500 個 PR,數字未經外部稽核。她的做法是三件事:先做驗證 skill、把重複的錯誤變成 lint 與型別限制、合併後抽樣檢查。方法可以搬,前提是你的領域能被程式驗證。

aideep-dive

Uber MCP Gateway 導讀:800 個 MCP server 怎麼管

Uber 用一個 MCP Gateway 統一管理 800 多個 MCP server、5,000 多個 tool:控制平面自動把內部 API 爬成 disabled 的 tool,資料平面負責協定翻譯、授權與去識別化;規模大了再靠 Omni MCP、Response Projection、Code Mode 壓 context。

aideep-dive

Pi Durable:長時間 Agent 掛掉之後,要從哪裡接著做

Pi 1.0 與實驗性套件 Pi Durable 在 2026 年 10 月初同步發佈。Pi Durable 把每次模型請求、工具呼叫、compaction 都當成會寫 checkpoint 的 task,process 死掉後可從上一個 checkpoint 接續;Cloudflare 隨即用 PiHarness 把它接上 Durable Objects。重點是工具要分「可重跑」與「不可重跑」。

AI Agent 面試準備:從工具呼叫、記憶到 MCP 與 Prompt Caching

Agent 面試常被問到八題:Agent 迴圈、Structured Output、Function Calling、大量工具、記憶、設計考量、MCP 與 A2A、Prompt Caching。本篇用「概念 → 機制 → 面試怎麼答」串成一條線,並對照一手來源更正 2026-07 MCP 規格改版的時間點。

LLM 工程面試準備:微調、對齊、推論優化、評估與安全

LLM 工程面試常見七個主題:LoRA/QLoRA 與微調 vs RAG、RLHF/DPO/GRPO 對齊、PagedAttention 讓 vLLM 吞吐量提高 2 到 4 倍的推論優化、取樣解碼、LLM 評估、OWASP LLM Top 10(2026 版)與幻覺。每節都拆成概念、機制、回答方式。

ML 基礎與 Transformer 底層概念:從偏差變異、AdamW 到 attention、RoPE 與 MoE

面試追問通常落在機制:為什麼要除以 √d_k、AdamW 和 Adam+L2 差在哪、AUC 很高為什麼還不能上線。本文逐題講概念、機制與答法,最後附 3 題可執行的 numpy 手寫題。

Prompt、Context、Harness 三層工程:定義、分界與評估閘門

Prompt 管單次措辭、Context 管模型此刻看到什麼、Harness 管包住非確定性模型的整套系統;Bsharat 的 26 條原則、Breunig 的四種 context 失敗、OpenAI 約一百萬行零手寫的 harness 實驗,各對應一層。評估則是 harness 裡最常被省略的一塊,要在 CI 設閘門擋下沉默回歸。

RAG 面試整理:從三階段流程到 Agentic RAG,九種變體怎麼分、怎麼答

RAG 面試題用「三階段流程 → 各階段的失敗點 → 九種變體各補哪個洞 → 6 類 RAG 解不了的問題」四步回答:Self-RAG、CRAG、Adaptive-RAG 補判斷,Graph RAG、KG-RAG 補索引,CAG 乾脆不檢索,Agentic RAG 與 Reasoning RAG 把決策交給模型。

AI Engineer 面試資源怎麼挑:官方說法、12 個 GitHub 題庫與付費平台比較

先讀公司官方說明:Meta 已要求候選人在面試中使用內建 AI,Anthropic 預設禁用。題庫挑有附來源、今年還在更新的,例如 alexeygrigorev field guide、ombharatiya 與 alirezadir。12 個熱門 repo 只有 2 個替題目附上可點的來源,有些答案放在付費牆後面。

OpenAI Plugin Extensions:Plugin 從外掛變成跑在 ChatGPT 裡的 App

DevDay 2026(9/29)發表的 Plugin Extensions 讓 plugin 可以在 ChatGPT 放一個側邊欄入口、一個對話旁的面板、一個檔案檢視器,每個 MCP App 最多三個入口。Plugin 的組成因此變成 Skill + MCP + 外部服務 + UI,產品設計多了一題:哪些能力該做成能被 agent 安裝的 plugin。

Agentic LLM,讓模型查資料、叫函式、自己跑完一輪|Stanford CME295 第 7 堂

CME295 2025 版第 7 講用三塊補 LLM 的洞:RAG 補「知識停在訓練那天」,分成候選檢索與重新排序兩階段;tool calling 補「不能動手」,由後端執行模型寫出的函式呼叫;agent 用 ReAct 的觀察、規劃、行動迴圈把呼叫串起來。2026 版把這講改成 AI Agents,新增 context compaction、harness、coding agent、skills,是整個系列改最多的一講。

AI Agents:從叫工具走到管 context、調 harness|Stanford CME295 2026 版 第 6 堂

CME295 2026 版第 6 講(2026 年 11 月 6 日)課表列了七個主題,tool calling、MCP、retrieval 在 2025 版第 7 講已經講過;真正新增的是 context compaction、harness optimization、coding agents、skills/plugins。本篇是課前預寫版,用 Anthropic、OpenAI 的工程文章、MCP 2026-07-28 規格與 Meta-Harness 論文,先把這四個新主題講清楚。

Transformer 與大型語言模型:九堂課從 Transformer 走到 AI agent|Stanford CME295 課程總覽

CME295 是 Stanford 的兩學分課,沒有作業,成績只看期中和期末各 50%。2025 版九堂的影片、投影片和兩份考卷解答全部公開;2026 版把 agent 那一講改成 context 壓縮、harness、coding agent 和 skills,還新增 LLM 系統、強化學習、Diffusion LLM 三整講。

Transformer 走出文字,LLM 不再從左寫到右|Stanford CME295 第 9 堂

CME295 最後一講 128 頁投影片分三段:用八張圖複習前八講、Transformer 怎麼用在影像上(ViT 與兩種 VLM 接法)、以及一次吐出多個 token 的 masked diffusion LLM,最後談研究與應用的下一步。這堂不在考試範圍;2026 版把 diffusion LLM 拉成獨立一講,第 9 講改以多模態為主。

Diffusion LLM 的三種雜訊、一條訓練目標與平行解碼的代價|Stanford CME295 2026 版 第 8 堂

CME295 2026 版第 8 講(11 月 20 日)把 diffusion LLM 拉成整講,課表列了 continuous、discrete、masked diffusion、訓練與推論五個子題。課前預寫版依 DDPM、D3PM、SEDD、MDLM、LLaDA 等原始論文整理:連續雜訊在文字上要付約 64 倍算力,[MASK] 吸收態勝出;訓練目標是乘上 1/t 的 masked cross-entropy;推論的速度來自每步多填幾格,但 LLaDA 主要結果其實每步只解一個 token,Fast-dLLM 靠信心門檻與近似 KV cache 才拿到最多 27.6 倍加速。

LLM 生成時的控制旋鈕,從 temperature、top-p 到 chain of thought|Stanford CME295 第 3 堂

CME295 第 3 講先把 LLM 定義成 decoder-only 的下一個 token 預測器,接著用 MoE 說明大模型為什麼每個 token 只用到一部分權重,主體則是生成時能調的旋鈕:greedy、beam search、top-k、top-p、temperature、guided decoding,以及 few-shot、chain of thought、self-consistency 三種 prompting 手法。2026 版把這講併進第 2 講,prompting 沒有獨立列在課表,但錄影仍有簡短帶到。