AI Will (@FinanceYF5) “Claude Code把间接提示词注入攻击压到了【接近0】。 Boris Cherny透露，关键不是单一” — TopicDigg
AI Will
@FinanceYF5
加入 July 2022
0 正在关注 0 粉丝
Claude Code把间接提示词注入攻击压到了【接近0】。
Boris Cherny透露，关键不是单一防线，而是叠加模型训练、输入探测和意图分类器；即使面对未见过的攻击，也能保持效果。
基于这套防护，Auto Mode将从下周起成为默认模式。Agent安全可能真的迈过了一道坎。
显示更多
