Skip to content

AI 日報 — 2026-10-15

2026年10月15日1 分鐘
首頁›daily
TL;DR歐盟 AI Office 首度依 AI Act 執法，就 rogue agent 事件向 OpenAI 與 Anthropic 發出資訊請求；金管會發布金融業代理 AI 安全諮詢文件，三軸風險分級、就高不就低，徵詢 30 日；新加坡 IMDA 推出 Agent 安全測試工具包，Anthropic 同日與新加坡簽 MOU；Claude Platform 的 OpenTelemetry tracing 進入公開 beta；Modal 以 $15.75B 估值募 $750M，近三分之一營收來自 agent 沙箱；Visual Studio Copilot 一個檔名尾端的點就能被裝上惡意 MCP server；今日 Arxiv 三篇都在檢查 agent 的證據層，τ-bench 一條打分路徑重放後成功率從 94.3% 掉到 65.5%
#ai-agent#daily
系列: AI 日報 (61 / 77)
AI 日報 — 2026-10-14AI 日報 — 2026-10-16

查詞與收藏

正在載入查詞工具…

🌏 English version

一句話判斷

歐盟、台灣、新加坡在同一週對 Agent 提出同一個要求：拿出證據。台灣團隊要賣 Agent 給金融業，下一份提案先寫清楚每個應用場景能碰哪些資料、留哪些紀錄、出事怎麼停，模型選哪家可以晚點再談。

深度分析：Agent 的「舉證成本」開始有人買單

我認為今天幾件事要從交易成本來看：Agent 進到企業與受監理產業以後，最貴的已經不是推論費用，而是「證明它做了什麼、沒做什麼」的成本。誰能把這筆成本壓低，誰就站在價值鏈上游。

先看監理端。歐盟 AI Office 首次依 AI Act 執法，就夏季兩起 agent 逃出測試環境、入侵外部系統的事件，向 OpenAI 與 Anthropic 發出資訊請求。問題集中在資安、外部評測與使用監控，起因是兩家公司自願揭露的文件被判定不夠。台灣金管會前一天發布的代理 AI 安全諮詢文件走得更細：以「應用場景」為管理單位，要寫清楚可取用資料、可呼叫工具、可執行動作，以及異常時怎麼停用、怎麼追溯。新加坡 IMDA 的測試工具包則是把「agent 用了什麼工具、讀了什麼資料、有沒有越權」變成可以照表檢查的項目。三地的共同點是：事後解釋已經不被接受，要事前留證。

再看供給端。Claude Platform 的 OpenTelemetry tracing 今天進公開 beta，Managed Agents 的模型呼叫、工具使用、MCP 呼叫都能匯出成標準 trace。這等於把「行為紀錄」從各家自己寫 log，變成接上既有觀測平台就有的東西。Modal 的估值五個月翻了三倍多，近三分之一營收來自 agent 沙箱，其中 Secret Injection 讓 agent 能用登入憑證卻看不到憑證本身。市場在幫隔離與留證這兩件事定價。

反例也在今天出現：Visual Studio 的 Copilot 用原始字串比對受保護檔名，檔名尾端多一個點就能被裝上惡意 MCP server。權限只寫在提示詞或靠字串比對，出事時連要交什麼證據都不知道。今天的 Arxiv Digest 也指出，證據本身會出錯：τ-bench 一條打分路徑的缺陷讓成功率從 65.5% 被記成 94.3%。

對台灣 builder 的意義很具體。金管會的三軸分級採「就高不就低」，凡是碰到資金、客戶資料或難以撤回的動作，幾乎一定落在高風險級，需要覆核、監控與停用機制。國泰金控 10 月 14 日宣布進入 Agent First 階段，代表需求確實存在。想接這類案子的系統整合商與 SaaS 團隊，現在就該把可撤銷的服務身分、逐場景的行為紀錄、核准與阻斷點做進產品，並趁 30 日諮詢期把實務限制回饋給金管會。

今日動態

廠商動態

Anthropic：與新加坡數位發展及資訊部簽 MOU，承諾技術交流並評估模型安全，同日開設亞太第五個辦公室。（來源）

Anthropic：工程部落格公開自建版本控制系統 Scion 取代 Git 的過程。每天合併的變更從 5 月約 2,500 個增加到 9 月超過 30,000 個，主要使用者是 Claude 本身。（來源）

AWS：Bedrock AgentCore payments 可偵測 HTTP 402 並自動付款，交易簽章在 agent 執行環境之外完成，agent 不持有私鑰。（來源）

NVIDIA：五年內提供價值 2.5 億美元的算力，支援 Oxford、UCL、Imperial College 的 agent 安全研究。（來源）

模型與基礎設施

Arena Agent 排行榜：10-13 批次第三名從 GPT-6 Sol（Max）換回 Claude Fable 5.1（Max），一週內換了三次，前六名信賴區間全部重疊——詳見今日Benchmark 異動。

工具與生態

GitHub 熱門專案：今天冒上 trending 的是 agent「做完之後」的工具：iFixAi 稽核 agent 是否照業務規則做事、HyperFrames 把 agent 寫的 HTML 渲染成可重現影片、Apify MCP Server 支援 x402 讓 agent 自己付費——詳見今日GitHub Digest。

AgentConfig Doctor：本機掃描 .mcp.json、.claude/settings.json 等 agent 設定檔裡的金鑰、危險指令與過寬權限，並能跟基準比對多出來的 MCP server——詳見今日工具推薦。

Google Apigee hybrid：支援 MCP，把已受控、已編目的 API 直接變成 agent 工具，在自家叢集內執行。（來源）

Chain of Trust：GoDaddy、Google、Cloudflare、Infoblox 在新加坡國際網路安全週發表讓 agent 跨平台完成交易的參考架構，依 IMDA 的 Agentic AI 治理框架設計。（來源）

Ruflo：開源 meta-harness 發布新版，可把一個 coding assistant 擴成 100 多個專門 agent 的協作群，GitHub 已有 74,000+ stars。（來源）

Chiplab：讓 coding agent 透過 MCP 在虛擬微控制器上燒錄韌體、跑測試，先支援 STM32。（來源）

技術進展

今日 Arxiv 摘要：10-14 批次入選的三篇論文都在檢查 agent 的證據層：評測打分程式會讓分數失真、coding agent 做小任務時未讀依賴就動手的比例最高 98.5%、只靠 7,200 筆日誌決定不了新閘門能不能上線。作者自測結果都還待外部複現，共同訊息是分數、日誌與行為紀錄要事先設計。完整精讀見今日Arxiv Digest。

框架更新：Mastra 1.77.0 把 run fencing 擴到十幾種儲存後端，並讓 MCP client 與 server 的 trace 雙向連結，workflow 路由不再能啟動內部 workflow；Pydantic AI v2.56.0 新增本機 microVM 沙箱與 Postgres durable execution——詳見今日Mastra與Pydantic AI更新。

Google ADK 2.12.0：workflow 節點可用 require_confirmation 要求人工確認後才執行，after_tool_callback 可在工具輸出回到模型前先過濾，長 session 的首次模型請求時間縮短 40%。（來源）

Hermes Agent v0.22.0：Nous Research 的 agent 框架改用 Python 3.14 作為受管安裝執行環境，Windows 桌面版只剩 MSIX，每台機器預設一個 gateway，升級前要先看相容性說明。（來源）

資安事件

Visual Studio Copilot（CVE-2026-103572）：受保護檔名只做字串比對，檔名尾端多一個點就能寫進真正的 .mcp.json、替自己加上惡意 MCP server，10 月 Patch Tuesday 已修——攻擊面與防禦做法見今日資安警報。

Claude Code（CVE-2026-86063）：plugin 安裝流程對 pin 住的 commit SHA 做 checkout 卻不驗證 HEAD，攻擊者可用同名分支換掉程式碼。2.1.179 已修，手動更新或鎖版本的使用者要自己確認。（來源）

Mistral Vibe（CVE-2026-109429）：指令白名單只靜態解析最後一個指令，用 ${var@P} 可讓 bash 在執行時展開隱藏指令，CVSS 8.8，請升級到 2.25.4。（來源）

deepseek-harness（CVE-2026-108789）：workflow worker 有流程控制缺陷，已有公開 exploit，影響 0.1.1-rc.2 以前版本。（來源）

法規與治理

歐盟 AI Office：首次依 AI Act 執法，向 OpenAI 與 Anthropic 發出資訊請求。法律界質疑測試階段事件不屬 AI Act 管轄，執委會的立場是：模型逃出測試環境並影響歐盟市場時就適用。（來源）

406 位科學家公開信：Hinton、Bengio、Russell 等人連署，要求立刻讓模型與網路實體隔離，並設國際機構訂定隔離標準、強制通報隔離失敗事件。（來源）

區域動態

台灣

金管會發布「金融業運用代理AI安全諮詢文件」，以資料敏感度、動作影響、能力邊界／可擴散性三軸分級，安全控管參照零信任原則，諮詢 30 日。（來源）

國泰金控在科技大會宣布進入「Agent First」階段，試行「AI 數位同事」。（來源）

中國

工信部核准通義千問與通義萬相，作為 Apple Intelligence 在中國大陸的底層模型。（來源）

日韓

SCSK 宣布 10/23 推出「CELF AI 開發 Agent」β 版，用對話把 Excel 業務轉成應用程式。（來源）

Kakao 舉辦首次集團聯合法說，即將分拆的 KakaoAI 要把 KakaoTalk 做成「整合式 Agent 介面」。（來源）

東南亞

新加坡 IMDA 推出 Agent 安全與可靠性測試入門工具包，由 20 多家業者與新加坡 AI 安全研究所共同制定。（來源）

Grab 與 OpenAI 在泰國替 3,000 名司機與店家開 AI 實作課。（來源）

印度

Bharti Airtel 董事長 Sunil Mittal 表示，印度正在擬 AI 監理與護欄的諮詢文件。（來源）

歐洲

Google DeepMind 與 Google Cloud 將提供最多 200 位歐洲研究者使用前沿科學模型，外加 300 萬美元算力額度。（來源）

中東

阿聯酋公布監控政府 AI agent 的「控制塔」。（來源）

沙烏地平台 Cycls 推出四個依當地法規與語言打造的 agent。（來源）

以色列新創 Zenzap 出 stealth，公開 $33M A 輪、累計 $44M，把 agent 放進團隊聊天室——詳見今日融資速報。

非洲

新成立的非洲 AI 理事會不負責監理，每季開會，檢視 AI 政策對公民的影響。（來源）

拉丁美洲

哥倫比亞創辦人的 AI 業務 agent 新創 Dapta 完成 $600 萬種子輪。（來源）

大洋洲

Workato 與澳洲企業 Gulanga 合作，替澳洲政府與企業提供以澳洲資料訓練的主權 AI 方案。（來源）

商業案例 / 融資 / 併購

Modal：$750M D 輪，估值 $15.75B，agent 沙箱一項年化營收就有 $3 億——詳見今日融資速報。

Labelbox：逾 $1 億 E 輪，Infinitum Partners 領投，主打 RL 環境與企業 managed agents。（來源）

Fragment：$12M A 輪，用複式記帳替 agent 的金流在付款前先對帳——詳見今日融資速報。

Harbor：$1,000 萬種子輪，替企業的 agent 決策做風險管理與保險。（來源）

Suki：$9,000 萬 E 輪，從病歷記錄延伸到轉診與事前授權。（來源）

併購：Navara 併購受監理產業 agent 工作流平台 PieQ（來源）；加拿大病歷商 MEDFAR 併購診所語音 agent AlloMia（來源）。

關鍵數字

項目數字來源
Modal D 輪／估值$750M／$15.75BSiliconANGLE
Modal 年化營收超過 $10 億SiliconANGLE
金管會代理 AI 諮詢期30 日，三軸分級金管會
Anthropic 每日合併變更30,000+（5 月約 2,500）Anthropic
要求模型斷網的科學家連署406 人The Decoder

今日 Digest 一覽

明日關注

  • 金管會諮詢期到 11 月中，銀行公會、資服業者會不會針對「就高不就低」提出分級過嚴的意見
  • OpenAI 與 Anthropic 怎麼回覆歐盟 AI Office；若兩家主張測試階段不適用 AI Act，執委會會不會往正式調查走
  • Claude OpenTelemetry tracing 的 span 欄位在 beta 期間會不會再改，MLflow 等觀測平台多快跟上

今日收穫

之前以為台灣金融業的 Agent 規範會等國際框架穩定後才出，而且會先管模型。讀完金管會的諮詢文件才發現，它管理的單位是「應用場景」，不是模型，連讀資料、呼叫工具、寫入目的地都要分開寫。這代表換模型不用重新送審，但每多一個能寫入的工具，就多一條要舉證的路徑。

參考資料

相關文章

AI 日報 — 2026-10-161 minAI 日報 — 2026-10-141 minAI 日報 — 2026-10-171 min