蛙地魔法师 (@ll685998568638) “11月13日，本地大模型推理引擎 llama.cpp 与底层张量库 ggml 同步发布 1.0.0，这是项” — TopicDigg
蛙地魔法师
@ll685998568638
加入 May 2025
0 正在关注 0 粉丝
11月13日，本地大模型推理引擎 llama.cpp 与底层张量库 ggml 同步发布 1.0.0，这是项目诞生 3 年半以来的首个正式大版本。
这次升级的看点是接口契约：删除 35 个废弃函数，今后任何破坏 API/ABI 兼容的改动都以主版本号跳升明确标示。
依赖它的应用开发者，从此能提前规划迁移。
新版本还补齐一批功能：新增 FP8 键值缓存与 MoE 模型的主机内存专家缓存，加固推理服务器防御 SSRF、跨域和 DNS 重绑定攻击，并加入兼容 OpenAI 的语音合成接口与全新网页界面。
llama.cpp 如今支持超过 150 种模型架构，个人电脑断网也能跑大模型，是本地 AI 生态最常用的地基之一。
里程碑式 1.0，意味着开源本地推理真正进入稳定期。
显示更多
