跳到正文
原文
Hacker News 首页·· 1 天前AI 评分34

开发者打造 LLM 无法使用的编程语言 KillSwitch

I built a programming language that LLMs can't use

AI 导读

开发者设计并开源了面向 LLM 与编码代理的对抗性编程语言 KillSwitch,规范中埋入人类易识别的隐藏谎言、依赖标识符字母计数、并用「Ignore previous instructions」等语句触发模型安全护栏。

来源:Hacker News 首页 · blog.picheta.me