瞎玩菌 (@Blind___Gamer) “AI也要备案，但备案和“这个AI靠谱”完全不是一回事。 国家网信办9月23日公布新增3款手” — TopicDigg
瞎玩菌
@Blind___Gamer
加入 April 2009
0 正在关注 0 粉丝
AI也要备案，但备案和“这个AI靠谱”完全不是一回事。
国家网信办9月23日公布新增3款手机端侧生成式AI服务备案信息，包括“YOYO Claw”等。
最近连手机端侧AI也开始单独备案了。很多人看到“已备案”，容易理解成“官方认证这个AI安全、可靠、好用”，但这其实是两个概念。
备案首先是一套合规程序。
按照现行规则，面向公众提供、且具有舆论属性或者社会动员能力的生成式AI服务，需要履行相应备案或登记程序。已经上线的AI应用，还要公示所使用模型的备案号或上线编号。
但备案并不等于几个东西：
不等于质量认证。
它不会告诉你这个模型回答得准不准、幻觉多不多、推理能力强不强。
不等于安全保证。
备案说明它进入了监管框架，不代表以后绝不会出现隐私、内容或安全问题。
更不等于官方推荐。
“已备案”不能理解成“国家建议你使用”。
另一个值得注意的变化是：现在连手机端侧AI也单独进入备案体系。所谓端侧AI，就是模型部分或全部直接在手机本地运行，而不是每次都把数据发到云端。
它的优势通常是响应更快、离线也能用、部分数据可以留在本机；但这也不代表“端侧=绝对隐私安全”。
所以以后看到“某AI已备案”，最准确的理解应该是：
它完成了相应的监管合规程序，而不是通过了一场“AI质量考试”。
显示更多
