indigo (@indigox) “昨天 CC 在我的 Indigo-Mind Agent loop 里工作时说有 prompt injection 企图 rm -rf” — TopicDigg
indigo
@indigox
加入 March 2007
0 正在关注 0 粉丝
昨天 CC 在我的 Indigo-Mind Agent loop 里工作时说有 prompt injection 企图 rm -rf 我的 Mac 个人文件夹，它成功阻止了，但还是不小心删了三个文件，吓死了！核查后应该是 Opus 4.8 的幻觉，估计 Context 太长还是什么其他原因，大家遇到过么？AI 的危险就是给它最高权限然后一次幻觉就 Game Over🤪
显示更多
