Skip to content
所有分類

ai

1264 篇文章
aiguide

如何免費使用 LLM:OpenCode 2 內建模型與 OpenRouter 入門教學

安裝 OpenCode 2 後,先直接選用內建免費模型,完成第一個生活小任務;想換更多模型或在自己的程式呼叫免費 API,再接 OpenRouter。

aiguideAI 通病

AI 通病總覽:否定式對比、意義抬高、指示型摘要、過度概括

LLM 寫作有四個常見通病:否定式對比(先駁倒沒人說過的 X)、意義抬高(把普通事實包成轉折)、指示型摘要(只說談什麼、不給結論)、過度概括(摘要丟掉條件與範圍);前三個刪空話、直接寫答案,第四個拿原文逐句對。否定式對比已追到訓練用的偏好資料,模型修訂稿時還會把它換成另一種對比句型,所以只在 prompt 禁字未必擋得住。

aiguideAgent 隔離邊界

你的 agent 該擔心哪幾層:個人、團隊與多租戶平台的優先順序

依我的判斷,OpenAI 談的是訓練前沿模型的研究環境;個人 agent 最該先做的是限制憑證與出口,旁路通道要到有第二個需要被隔離的租戶時才變成主要風險。

怎麼判斷資安工具的宣稱:OWASP 清單、benchmark 與「已併入某大廠」的檢查表

看到『涵蓋 OWASP 10/10』『已併入 Microsoft 與 Cisco』『偵測率 9X%』時,問五題:誰說的、這個詞指什麼、誰出的題、量的是什麼、一手來源在哪。前面幾篇與這篇補的幾個案例,剛好各示範一題:微軟 toolkit 自己寫 7 項完整、3 項部分;ATR(一套開源的 agent 威脅偵測規則)併入 Microsoft 與 Cisco 的 PR,查過的三處都是作者本人提的;Cisco 自己量的偵測率和獨立研究量的差好幾倍;常見的 benchmark 評的是模型或 agent,不是掃描工具。

aiguideAI 資安實戰

AI 說是誤報,能直接關掉嗎?

先固定告警在偵測什麼,再區分誤報、已擋住的攻擊和證據不足。讓助手提出帶事件依據的分流建議,關單需要符合事先定義的條件。

aiguideAI 資安實戰

把工具接成攻擊 Agent:計畫、執行與回饋

用有步數、目標與逾時限制的 HTTP 測試迴圈,理解規劃器、執行器與驗證器如何交接,以及何時停止。

aiguideAI 資安實戰

AI 能串起攻擊鏈嗎?從 CTF 到公開事件

重播工單攻擊鏈,再讀 Anthropic 公開事件報告,分清每一步的證據、人類決策、評測捷徑與供應商觀測限制。

aiguideAI 資安實戰

AI 如何讀懂目標與整理攻擊面

把工單服務的文件與 HTTP 觀察整理成有來源的攻擊面,區分已確認功能、權限假設與下一個最小測試。

aiguideAI 資安實戰

AI Code Review:把可疑程式變成待驗證的發現

先追身分、物件與回傳路徑,再驗證正常和越權案例。審碼評論只提出假說,實際回覆與獨立政策才決定漏洞是否成立。

aiguideAI 資安實戰

選你的 AI 資安練習環境:本機、雲端、CTF 與授權目標

想查程式判斷就用可重設的副本,想查部署邊界就保留雲端條件,想驗真實系統就對齊專案範圍。換環境時保留問題與判準,重新記錄改變的條件。

aiguideAI 資安實戰

AI 產生利用測試,怎麼確認真的成功?

對真正 HTTP 工單服務重播利用請求,比對修補前後、正確資源內容與正常使用者,排除只靠狀態碼的假成功。

aiguideAI 資安實戰

登入之後,誰能讀哪份資料:AI 助理的身分與授權

後端從可信認證取得操作身分,再依資源與動作判斷權限。用同租戶且本人擁有的工單政策,驗證允許、跨租戶與同租戶越權。

aiguideAI 資安實戰

讓 AI 整理事件時間線,別替缺失紀錄編故事

先保留來源與時區,再排序與關聯請求。工具讀到一張工單只能證明那次讀取;摘要、缺失日誌與修補後拒絕,都不能替代原始證據。

aiguideAI 資安實戰

Prompt Injection 的防線要放在哪裡?

把同一筆惡意工具提案交給不同執行路徑,分開檢查模型被帶偏與未授權副作用;提示標記、資料權限與動作批准各有不同工作。

aiguideAI 資安實戰

AI 資安整合演練:從攻擊證據走到修補與回歸

用同一組 HTTP 請求比較有洞版與修補版,保存工單讀取證據、稽核事件與時間線。越權讀取要被擋住,正常使用者也要繼續讀得到自己的資料。

aiguideAI 資安實戰

MCP 的信任鏈:你到底信任了什麼?

分開驗證工具來源、完整定義、權杖受眾與下游動作;雜湊能發現描述變動,無法證明遠端程式維持相同行為。

aiguideAI 資安實戰

模型輸出如何變成 XSS、命令與資料外傳?

先確認誰解讀模型輸出,再按 HTML、URL 與操作參數各自處理;JSON 合法、文字轉義與資源授權不能互相取代。

aiguideAI 資安實戰

AI 資安怎麼學:攻擊、防護與調查的實作路線

從同一套客服助理出發,學 AI 如何協助找漏洞、AI 系統如何守住資料與工具權限,以及如何用 AI 調查、修補。每條路線都交出可重現的證據。

aiguideAI 資安實戰

AI 寫好 Patch,還要驗證什麼?

修補要同時擋住越權、保留正常功能,並在實際目標重跑。告警消失和本機副本通過,各自只能證明其中一部分。

aiguideAI 資安實戰

AI 如何攻擊另一個 AI:間接注入與工具誤用

拆解惡意附件如何變成錯誤工具請求,對照真實 LLM 訓練平台與固定動作重播,分開驗證模型偏移與資料外洩。