Reddit r/SaaS· /u/Southern_Kitchen3426·· 15 天前AI 评分38
给 App 内 AI agent 设防:被攻击前先做这 4 件事
If you have an AI agent inside your app, someone will try to break it. 4 things to set up before they do.
AI 导读
一位开发者在 Reddit r/SaaS 分享,其落地页 AI agent 遭人尝试套取 .env 文件、用同一问题刷屏、要求写代码,均未得手,靠的是 4 项设置:在 system prompt 中写明 agent 用途并声明任何语言下的越界请求都一行拒绝并引导回正题;拒绝跑题部分但仍回答真实需求;对包括匿名访客在内的所有人做速率限制;让 agent 根本接触不到密钥。
来源:Reddit r/SaaS · reddit.com