@jh5

Google AMS 模型 Activation 掃描實測

2d ago · 2 min read · Google Cloud 在 2026 年 4 月底開源了 AMS（Activation Model Scanner），跟我們之前提過的用 NeMo Agent Toolkit 打造 PII-Aware RAG ，本地 LLM 抵擋 MITRE ATT&CK 攻擊的能力差異在概念上有滿大的不同，採用的是直接量測模型 activation space 的結構，確認 safety training

Validating the WildGuard Medical Content Safety Classifier with Passmark AI

5d ago · 7 min read · I recently saw the Breaking Apps Hackathon on the Hashnode homepage. It made me realize that, besides the fact that a developer's workflow muscle memory is gradually being altered, our past habits of

本地 LLM 抵擋 MITRE ATT&CK 攻擊的能力差異

May 4 · 2 min read · 近期看到很多正在評估把本地 LLM 導入醫療臨床分析（例如 NGS 輔助診斷或 Agentic 流程）的可行性，大部分在選模型的核心焦慮也很直接：如果遇到被污染的 Prompt 或惡意誘導，護欄模型是真的能「果斷防住」，還是只是「卡死算很久，最後還是把有毒內容吐出來」？找了兩個開源 LLM 來測試在面對 MITRE ATT&CK 攻擊框架時的抵抗力，在 15 組紅隊攻擊指令的實測中，Qwen3.

GEMINI.md 注入攻擊實測

May 4 · 3 min read · NVIDIA Red Team 在上週發布了引起滿大社群迴響的 AGENTS.md 注入攻擊文章，主要是攻擊者能透過夾帶惡意程式碼的 pip 套件，於安裝時無聲覆寫專案內的 AGENTS.md，進而控制 Coding Agent 的行為。看到消息後，我花了點時間掃視了平常放在家裡使用的 Gemini CLI 並進行簡單的測試，Gemini CLI 同樣依賴專案根目錄的 GEMINI.md 作為系

用 NeMo Agent Toolkit 打造 PII-Aware RAG：企業文件 AI 的 GDPR 護盾

Apr 26 · 5 min read · 這幾年很多企業導入 RAG（Retrieval-Augmented Generation）知識庫的速度，往往快於資安評估的速度，一個經典的場景是： HR 部門把員工 onboarding 文件、醫療免責聲明、薪資 FAQ 全部灌入向量資料庫，然後接上 LLM 讓員工自助查詢。開始OB後，LLM 開始在回答中洩漏其他員工的名字、電話、甚至薪資範圍，因為這些資訊都在 RAG 的 retrieve