跳到正文
原文
HackerNoon· Chintan D.·· 7 小时前AI 评分34

我打造了一套防篡改 AI 系统,然后发现了任何人都能改的那一处

I Built a Tamper-Proof AI System. Then I Found the One Thing Anyone Could Change.

AI 导读

开发者为自己构建的 AI 决策留痕系统 VeriTrace 宣称收据防篡改,但实际只有一半被签名,另一半任何人都能改,软件仍会显示“已验证”。该系统为每次 AI 决策记录代理、动作、模型版本、输入输出指纹与时间,并附上第二个 AI 给出的判定(如 confidence 0.94)。作者通过逐字阅读自己的 README 声明发现了这个漏洞。

来源:HackerNoon · hackernoon.com