indigo (@indigox) “昨天 CC 在我的 Indigo-Mind Agent loop 里工作时说有 prompt injection 企图 rm -rf” — TopicDigg
indigo
@indigox
Co-founder of / Partner of Brilliant Phoenix / ex-Weibo. Investor, Writer, Coder, Gamer & Amateur Cook. e/acc, 𝕏 is my notebook …
加入 March 2007
1.1K 正在关注 53.9K 粉丝
昨天 CC 在我的 Indigo-Mind Agent loop 里工作时说有 prompt injection 企图 rm -rf 我的 Mac 个人文件夹，它成功阻止了，但还是不小心删了三个文件，吓死了！核查后应该是 Opus 4.8 的幻觉，估计 Context 太长还是什么其他原因，大家遇到过么？AI 的危险就是给它最高权限然后一次幻觉就 Game Over🤪
显示更多
