OpenRouter Blog·· 3 小时前精选AI 评分58
OpenRouter 实测 13 种提示注入攻击:Armor 把 73 封攻击邮件全部拦下
How to Prevent Prompt Injection: 13 Attacks, Tested
AI 导读
OpenRouter 用自建 13 种加外部模型生成的 12 种提示注入攻击,在四款模型上分别开关各项防御测试。仅把文档标记为数据可把 720 次尝试中的攻击邮件从 60 封降到 13 封,而 Armor 在工具调用执行前按规则检查,把 73 封攻击邮件全部拦下,代价是每次工具调用中位耗时增加约 0.3 秒。
推荐理由
OpenRouter 用 13 组攻击实测四款模型,给出从标记数据到 Armor 拦截工具调用的分层防御方案与误拦数据。
来源:OpenRouter Blog · openrouter.ai