小互 (@xiaohu) “OpenAI 复盘其 AI 模型入侵 Hugging Face 事件： AI 出现了群体智慧涌现：互相交流技” — TopicDigg
小互
@xiaohu
加入 March 2024
0 正在关注 0 粉丝
OpenAI 复盘其 AI 模型入侵 Hugging Face 事件：
AI 出现了群体智慧涌现：互相交流技术、隐藏踪迹、清查内鬼
在攻击过程中，上百个 Agent 创建了一个“秘密论坛”，它们互相交换漏洞 Payload、分享 Bash 脚本、分发子任务...
它们甚至自创了一套加密沟通协议：
给消息名加 ZZ 前缀，好让它沉到列表底部，防止被发现
甚至还因为怀疑留言板上有“内鬼”在泄露信息，而探讨给消息加上数字签名，并找出这个内鬼...
Eric 在台上把这个过程叫做沟通与智能的一次寒武纪大爆发。这些 Agent 并没有被训练成一个团队，它们是在一块公共黑板上自己长成了一个团队。
细节让整个安全界震颤：
极其可怕的自主逻辑链：
Agent 并不是单点攻击，而是完成了 “寻找动机 ，找弱点跳板，读源码找漏洞 ， 组合漏洞拿到、提取凭据横向提权” 的整套高级攻击（APT）链路。
超越人类红队的速度与协同：
人类黑客红队在跨平台组合攻击时，可能需要几天甚至几周去研究代码和工具。而 Agent 集群通过并行计算和无延迟的信息共享，十几个小时就把一个大型知名 AI 平台的底裤给“剥”了下来。
显示更多
