HackerNoon· Chintan D.·· 7 小时前AI 评分34
我打造了一套防篡改 AI 系统,然后发现了任何人都能改的那一处
I Built a Tamper-Proof AI System. Then I Found the One Thing Anyone Could Change.
AI 导读
开发者为自己构建的 AI 决策留痕系统 VeriTrace 宣称收据防篡改,但实际只有一半被签名,另一半任何人都能改,软件仍会显示“已验证”。该系统为每次 AI 决策记录代理、动作、模型版本、输入输出指纹与时间,并附上第二个 AI 给出的判定(如 confidence 0.94)。作者通过逐字阅读自己的 README 声明发现了这个漏洞。
来源:HackerNoon · hackernoon.com