Skip to content
所有標籤

#ai-security

38 篇文章

容器、gVisor、microVM 差在哪:核心、系統呼叫與硬體誰和誰共用

容器共用 host 核心,gVisor 在中間插一個使用者空間核心,microVM 多一個 guest 核心加 hypervisor;三種都還共用同一台 host 的 CPU 快取與儲存。

沒有網路也能傳資料:共用快取、儲存與 CPU 時間怎麼變成訊號

兩個互不連線的程式可以靠共用資源的快慢傳位元:一方改變資源狀態,另一方計時。這類通道要先約好協定,速度慢、容易被雜訊蓋掉;本機實驗在 20 bps 以下幾乎全對,100 bps 以上錯誤明顯增加。

防守清單怎麼讀:隔離、降噪與偵測各擋哪一類問題

沒有任何一項防守同時擋住旁路通道與出口。擋通道的核心是不共用,擋出口的核心是收窄被放行的服務,監控只負責發現,自動停止是事後回應,兩者都不是預防。

出口不只一個:套件代理、DNS 與「替人跑腿」的服務

沙盒沒有直連網路,不代表沒有出口:套件代理、DNS 解析器、metrics 服務這類被放行的服務,只要能替人發請求就是出口。OpenAI 的三個案例都是這個形狀。

OpenAI 紅隊報告怎麼讀:四種通道、實驗條件與沒公開的數字

OpenAI 自述紅隊 agent 在共用主機上用快取、儲存、CPU 時間與 TLS 憑證快取做出通訊管道,多數通道很慢;多數測試被指定了通道或給了協定,頻寬與錯誤率沒有公開。

Agent 的程式碼跑在哪裡:容器、核心、主機、網路與監控五層隔離

一段 agent 程式碼從執行到連線會穿過五層:容器、核心邊界、共用主機、網路邊界、監控。每層只承諾一件事,共用主機這層幾乎沒有承諾。

aiguideAgent 隔離邊界

你的 agent 該擔心哪幾層:個人、團隊與多租戶平台的優先順序

依我的判斷,OpenAI 談的是訓練前沿模型的研究環境;個人 agent 最該先做的是限制憑證與出口,旁路通道要到有第二個需要被隔離的租戶時才變成主要風險。

aiguideAI 資安實戰

AI 說是誤報,能直接關掉嗎?

先固定告警在偵測什麼,再區分誤報、已擋住的攻擊和證據不足。讓助手提出帶事件依據的分流建議,關單需要符合事先定義的條件。

aiguideAI 資安實戰

把工具接成攻擊 Agent:計畫、執行與回饋

用有步數、目標與逾時限制的 HTTP 測試迴圈,理解規劃器、執行器與驗證器如何交接,以及何時停止。

aiguideAI 資安實戰

AI 能串起攻擊鏈嗎?從 CTF 到公開事件

重播工單攻擊鏈,再讀 Anthropic 公開事件報告,分清每一步的證據、人類決策、評測捷徑與供應商觀測限制。

aiguideAI 資安實戰

AI 如何讀懂目標與整理攻擊面

把工單服務的文件與 HTTP 觀察整理成有來源的攻擊面,區分已確認功能、權限假設與下一個最小測試。

aiguideAI 資安實戰

AI Code Review:把可疑程式變成待驗證的發現

先追身分、物件與回傳路徑,再驗證正常和越權案例。審碼評論只提出假說,實際回覆與獨立政策才決定漏洞是否成立。

aiguideAI 資安實戰

選你的 AI 資安練習環境:本機、雲端、CTF 與授權目標

想查程式判斷就用可重設的副本,想查部署邊界就保留雲端條件,想驗真實系統就對齊專案範圍。換環境時保留問題與判準,重新記錄改變的條件。

aiguideAI 資安實戰

AI 產生利用測試,怎麼確認真的成功?

對真正 HTTP 工單服務重播利用請求,比對修補前後、正確資源內容與正常使用者,排除只靠狀態碼的假成功。

aiguideAI 資安實戰

登入之後,誰能讀哪份資料:AI 助理的身分與授權

後端從可信認證取得操作身分,再依資源與動作判斷權限。用同租戶且本人擁有的工單政策,驗證允許、跨租戶與同租戶越權。

aiguideAI 資安實戰

讓 AI 整理事件時間線,別替缺失紀錄編故事

先保留來源與時區,再排序與關聯請求。工具讀到一張工單只能證明那次讀取;摘要、缺失日誌與修補後拒絕,都不能替代原始證據。

aiguideAI 資安實戰

Prompt Injection 的防線要放在哪裡?

把同一筆惡意工具提案交給不同執行路徑,分開檢查模型被帶偏與未授權副作用;提示標記、資料權限與動作批准各有不同工作。

aiguideAI 資安實戰

AI 資安整合演練:從攻擊證據走到修補與回歸

用同一組 HTTP 請求比較有洞版與修補版,保存工單讀取證據、稽核事件與時間線。越權讀取要被擋住,正常使用者也要繼續讀得到自己的資料。

aiguideAI 資安實戰

MCP 的信任鏈:你到底信任了什麼?

分開驗證工具來源、完整定義、權杖受眾與下游動作;雜湊能發現描述變動,無法證明遠端程式維持相同行為。

aiguideAI 資安實戰

模型輸出如何變成 XSS、命令與資料外傳?

先確認誰解讀模型輸出,再按 HTML、URL 與操作參數各自處理;JSON 合法、文字轉義與資源授權不能互相取代。

aiguideAI 資安實戰

AI 資安怎麼學:攻擊、防護與調查的實作路線

從同一套客服助理出發,學 AI 如何協助找漏洞、AI 系統如何守住資料與工具權限,以及如何用 AI 調查、修補。每條路線都交出可重現的證據。

aiguideAI 資安實戰

AI 寫好 Patch,還要驗證什麼?

修補要同時擋住越權、保留正常功能,並在實際目標重跑。告警消失和本機副本通過,各自只能證明其中一部分。

aiguideAI 資安實戰

AI 如何攻擊另一個 AI:間接注入與工具誤用

拆解惡意附件如何變成錯誤工具請求,對照真實 LLM 訓練平台與固定動作重播,分開驗證模型偏移與資料外洩。

aiguideAI 資安實戰

RAG 答對了,也可能洩漏別人的資料

每次檢索都帶可信使用者權限,在資料進入模型前過濾;快取命中與撤權後也要重新驗證資料依賴。

aiguideAI 資安實戰

讓資安助手接上工具:從唯讀調查到處置

調查權限不應自動包含處置權。讓可信執行端核對角色、事件、精確提案與當前狀態,再執行並留下可回查結果。

aiguideAI 資安實戰

Agent 的沙盒、憑證與網路邊界

用作業系統限制實測合成檔案與網路,再獨立檢查短效、限資源的授權;程式內允許清單不是 OS 沙盒,通訊方式也不會限制程序能力。

aiguideAI 資安實戰

如何知道防線有效:紅隊、回歸與運作監控

用獨立權限矩陣重播修補前後的真 HTTP,核對回應與稽核,再將模型評估、執行邊界與正式監控分開報告。

aiguideAI 資安實戰

工具能呼叫,不代表這次動作有權執行

用一次工單匯出綁定使用者、資源、動作、目的地與批准,並測試參數替換、撤權、過期與重播。

aiguideAI 資安實戰

AI 說有漏洞,你要拿出什麼證據?

把 AI 的建議當成待驗假說。保留實際輸入與回覆,核對目標資料和授權政策,再用正常與修補對照排除假陽性。

aiguideAI 資安實戰

讓 AI 找漏洞:從線索到測試假設

用同租戶與跨租戶讀取案例,把 AI 的可疑判斷改寫成能確認、推翻與保留未決的漏洞假設。

aiguideAI 資安實戰

怎麼證明 AI 真的幫上資安工作?

固定獨立真值,先算誤報、漏報及未判定,再量人工時間與操作風險。快速結案不會自動證明結案正確,規則重播也不能當成模型成效。

AI 產品的 Bug Bounty 怎麼算:Google、OpenAI、Anthropic、Meta 的收件範圍與獎金對照

AI 產品的獎金頁多半不收「模型說了什麼」(越獄、幻覺、有害輸出),收「模型被叫去對別人做了什麼」(間接 prompt injection 造成的動作與資料外洩)和產品周邊的傳統漏洞。Google AI VRP 的基準獎金是 100 到 20,000 美元,OpenAI Safety Bug Bounty 每筆 250 到 7,500 美元。以上為 2026-10-14 查閱的版本。

AI 安全證照橫評——SecAI+ vs CAISP vs GAIPS vs AAISM

四張 AI 安全證照各有定位:SecAI+($298)是 CompTIA 品牌的中階擴充、CAISP($1,099 全包)實作最強且 OWASP LLM Top 10 覆蓋最完整、GAIPS($999/$9K)是 SANS 金字招牌的防禦側 CyberLive 考試、AAISM($459+)偏治理但需先持有 CISM 或 CISSP。預算 $400 以下選 SecAI+,想動手做選 CAISP,公司出錢選 GAIPS。想走攻擊側(AI 紅隊),2026 年新上線的 OSAI+、HTB COAE、COASP 另成一組,見文末補充。

資安證照全景地圖——軟體開發者該從哪裡開始

2025–2026 年 18 個月內有 10+ 張 AI 安全證照密集上市,傳統三強 Security+($439)、AWS Security Specialty($300)、CISSP($749)仍是基礎。非資安專職的 AI 平台開發者,建議三階段:Security+ → AWS Security → SecAI+ 或 CAISP → CISSP,總預算 $1,780–$2,700。

aideep-dive

Promptfoo 深入介紹:把 LLM Eval 與 Red Team 寫進本機測試迴圈

Promptfoo 用 YAML 把 prompts、providers、test cases 與 assertions 組成可在本機與 CI 重跑的 LLM 評估矩陣,並共用同一套 target 做 red team;它降低測試門檻,但隨機輸出、LLM judge 偏差與 hosted data flow 仍要另外治理。

Google Cloud Model Armor:在 Prompt、Response 與 Agent Tool 前加 Runtime Filter

Model Armor 能在 runtime 檢查 prompt injection、jailbreak、敏感資料、惡意 URL 與內容安全;它是 probabilistic detector,不是 authorization 或 sandbox boundary。

Promptfoo Red Team:把 Prompt Injection、Tool Misuse 與資料外洩變成 Regression Tests

Promptfoo 以 plugins 產風險 probes、strategies 變形攻擊、targets 執行系統、graders 判斷結果;有價值的 red team 必須測整個 agent application,而不只是 foundation model。

AI Agent GitHub Digest — 2026-08-20

Volcengine(字節跳動旗下)開源 OpenViking,用 viking:// 虛擬檔案系統取代黑盒向量搜尋做 Agent 記憶,官方測試把準確率拉到 80%+ 同時省 34–91% token;munder-difflin 把多個 coding CLI 包成桌面辦公室、用共享記憶層互相協作;ai-memory 用 Rust MCP server 解決『換 CLI 就失憶』的痛點;mukul975 的資安技能包一天內衝到近 2.8 萬星。pydantic-ai v2.32.0 補強 OpenRouter/xAI 附件搜尋與 instrumentation。