与「本地部署Ai」相关的搜索结果

还在为 Claude Code 每月订阅费头疼？ 国内用还要折腾信用卡，成本高还麻烦。 现在有个开源项目彻底解决这个问题： 5 分钟配置就能把 Claude Code 接上 DeepSeek、Qwen、Kimi 等免费模型，永久零订阅使用。 终端和 VSCode 扩展都能跑，体验几乎没区别。目前已有两万多开发者在用。 仓库在这里： 我已经配好跑起来了，强烈建议想省钱的同学试试。配置完可以来评论区说说效果。 #本地部署Ai# #免费AI# #AI# #Claude# #Codex#

[开源学习资源] AI Engineering from Scratch 59.8K ⭐️ 作者 @ghumare64 课程共 20 个阶段，以 Python 为主要编程语言，主张在导入任何框架之前，先用纯数学把每个算法手写一遍。 课程地址： 开源地址： 它和常见教程的本质区别 ？ 大多数 AI 教程是“API 驱动”的：装个库、调个接口、跑个 demo。这个项目反其道而行，每节课遵循固定的六段结构： Motto → Problem → Concept → Build It → Use It → Ship It 以 Phase 10 的一节课「Tokenizers: BPE, WordPiece, SentencePiece」 为例，这个格式是真实落地的，而且写作质量相当高： · Problem 部分不讲废话，直接从代价切入：“你的 LLM 不读英语，它读整数。分词器决定这些整数是承载意义还是浪费意义”，然后解释为什么 tokenization 不是预处理，它是架构的一部分（影响上下文窗口利用率、API 计费、推理速度）。 · Concept 部分用“三种失败的方案和一种胜出的方案”来讲演化逻辑：词级切分（词表爆炸、[UNK] 问题）→ 字符级切分（序列过长）→ 子词切分（BPE 的折中），并配上真实语料上 BPE 逐步合并的手工演算。 每节约 3000+ 词，带 Mermaid 图、可运行代码和测试。 另外两个设计值得强调： · 每节课产出一个可复用的 artifact，一个 prompt、一个 skill、一个 agent 或一个 MCP server。学完整个课程，你手里有 523 个可展示的作品，不是 523 个跑完就扔的 notebook。 · 强调“证据留存”：保留命令、退出码、输出，作为学习发生的证明。这明显吸收了工程实践中“可验证性”的思路。 # 课程结构：从线性代数到自主智能体集群 20 个阶段构成一条完整的上升曲线，咱们它分成五个大块来看： 基础层（Phase 0–2）：环境与工具链、数学基础（线性代数/概率/微积分）、经典机器学习。这是给基础不牢的读者铺的路。 深度学习与感知层（Phase 3–6）：神经网络核心、计算机视觉（一路讲到 NeRF、高斯泼溅、世界模型，这已经超出一般教程的覆盖范围）、NLP、语音。 生成与决策层（Phase 7–9）：Transformer 深挖、生成式 AI（GAN、扩散模型、flow matching）、强化学习。 LLM 层（Phase 10–12）：这是全课程的重心之一。Phase 10 的目录我逐条看过，它不只是“从零实现 GPT”这种常规内容，还包含了相当前沿的论文级主题：DeepSeek-V3 架构走读、DualPipe 并行策略、Native Sparse Attention（NSA）、多 token 预测、Jamba 的 SSM-Transformer 混合架构、 speculative decoding 等。Phase 11 转向应用侧（RAG、LoRA、MCP、可观测性），Phase 12 覆盖多模态（从 CLIP 到 computer-use agent）。 智能体层（Phase 13–16）：工具与协议（MCP、A2A、Agent Skills）、54 节课的 agent 工程、自主系统与安全、多智能体集群。这一层的分量很能说明项目的判断：它认为 AI 工程的重心正在从“训模型”转向“构建可靠协作的智能体”。 收尾（Phase 17–19）：生产基础设施、伦理与对齐、毕业设计。 # 生态与周边：不只是一个课程仓库 网站：带浏览器本地存储的学习进度追踪、术语表、课程目录和路线图。 六卷本书籍：课程内容由 CI（pandoc）自动构建成 EPUB/PDF，附在 GitHub Releases 上，课程即书，且随仓库持续更新。 Agent 导师模式：运行 npx skills add rohitg00/ai-engineering-from-scratch，可以把整个课程装进 Claude Code、Codex 等编码智能体，变成一个带分级测验（placement quiz）和个性化路径的交互式导师，学习进度写在 LEARNING.md 里。这是“用你正在学的工具来学”的巧妙闭环。 认证备考：5 条备考路径、67 节课、505 道练习题，覆盖 Anthropic 的 Claude 认证和 Agentic AI Foundation 的 MCPA。项目明确声明与这些考试机构无关联，只是独立的备考材料。 12 种语言的翻译（含中文），以及四条核心学习路径（构建与部署 AI 应用、软件工程基础、Agent 辅助工程、产品判断与交付）供不同目标的人选路。

不要再研究什么无审查版模型了！qwen-image-2.1 拿来本地平替 GPT-image-2.5 才是最香的！完整部署教程来了 我不明白，qwen-image-2.1 本地部署完本来就没有验证和审核，大伙为啥都把重心放在奇怪的地方了。 这次 qwen-image-2.1 给我带来最大的震撼，还是其原生2K的生成质量，完全不输 GPT-image-2.5。最关键的一点是，它生成的图片不会出现GPT 经常出现的那种噪点，非常适合拿来做首帧参考图，拿去跑AIGC短片。 给大家带来单卡 4090 部署模型，并跑通2K图像的攻略：(直接发给Codex帮你部署就行) 不建议用梯子下载权重，直接走国内下 ModelScope 的分片，这样会快得多（国模最大的好处之一了，不用代理也下载快）；diffusers 同理，可以不走github，用 Gitee 上的源码。 有个小坑，本来想直接加在现成的 Comfy 上。版本一查是 0.32，qwen-image-2.1 要 0.37 以上。这点大家要注意，用comfy的话一定要对上版本。版本不对不支持，服务起不来。 服务就做一个出图接口，一共33G 权重在启动时加载，我这边两分钟左右。不要等第一张图的请求来了再加载，那边会先超时。CFG 没开，官方默认就是关的，打开之后每步计算大概翻倍，2K 会更慢，没必要。 把这篇帖子内容喂给AI，它能直接帮你搞定部署流程，怕找不到的话大伙可以点个收藏。 最后再跑一下测试，我这边2048的尺寸，30步跑的话，耗时3分钟左右（CFG=0），成品如图所示，审核什么的完全不用担心，完全没有任何限制。 我有预感，本地部署 qwen-image-2.1 + Minimax-h3 很有可能成为接下来AI短片流水线的爆款流水线。

传统的 Deep Research 已经卷到头了。 能写出一份漂亮的总结报告 ≠ 能把真实的复杂任务干完。 我拿几十万字的《红楼梦》原著，给 Apodex 1.1 在线工作台，出了个极其变态的任务。 统计 20 个核心人物的 → 出场次数 → 出场回数 → 每个人第一次出场时的原句 最后还要整理成一张可以直接下载的完整表格。 整个完成任务的过程，像是直接「雇佣一个 AI 数据团队」。 上传文件后，它自己开始拆任务。 一个 Agent 负责解析原著，另一个独立分析，多个任务并行推进； 右侧 Task Board 会实时告诉你现在做到哪一步。 更有意思的是，任务跑到一半，我突然改需求： “只分析前 80 回，后面的不要了。” 以前遇到这种情况，AI 很可能重新来一遍。 Apodex 直接保留已经完成的成果，只重规划受影响的部分。 更关键的是，它不是做完就交卷。 交付前，又调起独立核验 Agent，把人物统计、出场回数和 900+ 条出场原句重新检查一遍。 最后交付给我的是： 可下载的结构化表格 + 完整分析结果 + 口径说明。 这可能才是下一代 Deep Research 真正值得关注的变化： 从“帮你生成一份报告”，变成“接管一项复杂任务，并把它做完”。 目前，Apodex 1.1 Web 端已经正式上线。 🎁 注册即送 credits，强烈建议立刻上传个复杂文件自己跑跑看： 🌐 没想到，更炸裂的是，Apodex 居然开源了 开源模型： Apodex 1.1 mini，35B，开放模型权重，支持本地部署。 开源框架： FrontierAgent，Agent 执行 Harness，支持 ReAct 单 Agent + Multi-Agent Team。 本地运行： 支持 macOS / Linux，无需强制依赖 Docker。 组合能力： Apodex 1.1 mini + FrontierAgent，可在本地运行完整 Agent 执行流程。 💻 如果你是开发者，这里有开源 Agent 框架，欢迎顺手点个 ⭐： 👉 🤗 想本地自己跑模型的看这里👇 #Apodex# #DeepResearch#

我把一个快交不出来的广告项目塞给 AI，它先从 4 份文件里揪出一笔 18,700 元的预算口径差。 把这个仿生机器人 TVC 广告项目背后的 Brief、预算 Excel、交付标准和 6 个锁定镜头故事板，一次性丢进 Apodex 1.1 的真实过程。 我的要求一点都不“AI Demo”：哪些镜头必须原样保留，哪些还没做完；86,000 元预算到底花到了哪里；从今天到交付日怎么排；风险由谁负责；最后还要留下能继续维护的镜头决策和预算模型。 以下是它的执行过程： Apodex 先建了 Task Board，把文件、步骤、依赖和交付物全部摊开。它逐项把 6 个锁定镜头映射回故事板，很快发现两张表的数字对不上：镜头表里的已发生成本是 39,100 元，总预算表里的已发生支出却是 57,800 元。 多出来的 18,700 元没有被悄悄抹平，它直接把口径冲突标进结果。 更真实的一幕出现在生成 Excel 时。 颜色格式不兼容，报错。 合并单元格挡住公式，又报错。 页面里能看到它定位问题、修改结构、重新生成，再继续检查。最后交回来 4 份可以继续工作的文件：报告、Word、PDF，以及公式驱动的预算模型；还有 8 天排期、风险登记和每个镜头的处理决定。 以前测模型，我常盯着它“一次回答得有多聪明”。这次我更在意它能不能进入真实文件和工具环境，记住长链条任务的状态，碰到失败自己修回来，再把结果交到我手里。 Apodex 1.1 把这套能力建立在 Environment Scaling、Agentic Coordination Scaling 和统一的 AgentOS 上。录屏里看得很直观：步骤、异常、重试和产物都留在同一个项目里，你随时知道任务推进到了哪里。 想测它，最简单的方式是拿一份你正在做的 PDF、Excel、Brief 或代码上传，看看它最后能交回来什么。Web 工作台已经开放，新账号可领取体验 credits；API 本轮提供两周免费体验。 Web 工作台： API Platform： 开源执行框架 FrontierAgent： FrontierAgent 不强制依赖 Docker，可一条命令运行，欢迎顺手点个 Star。 Apodex 1.1 mini 模型权重： 35B 级 mini 权重可本地部署，也可以搭配 FrontierAgent 使用。 #Apodex#

别再复制粘贴了，我让 Apodex直接读完一份 641 页文件 最近试了一种更实际的 AI 使用方式： 不再复制粘贴一段内容，而是直接上传一份真实文件，看它怎么把任务做完。 我把之前参与编写的《最优化：建模、算法与理论》上传到了 Apodex。整份文件有 641 页，覆盖优化建模、最优性理论，以及无约束、约束和复合优化算法等内容。 我先问了它一个基础问题： “请帮我分析一下，这份内容由哪些部分组成？” 它需要先真正读取文件，再从大量章节中梳理整体框架，而不是只根据标题生成一段泛泛的摘要。 接着我继续追问： “如果想基于这份内容做一些调整，可以从哪些方面修改？” 这一步更接近真实工作：不只是理解现有材料，还要结合原文件继续分析，找到可以调整的方向。 整个过程里，我比较在意的不是它最后写了多少字，而是任务过程本身：它如何理解文件、拆解问题、推进分析，并基于同一份材料继续完成下一步。 这也是我觉得 Apodex 1.1 和普通问答工具不同的地方——推理不只停留在一份回答里，而是进入真实文件，沿着任务继续执行。 如果你手上也有论文、报告、数据表或代码，可以自己上传一份真实文件试试： Web 在线体验： API 平台： 开源的 FrontierAgent 也可以在 GitHub 上找到，支持单 Agent 和多 Agent 协作，感兴趣可以顺手点个 Star： Apodex 1.1 mini（35B）模型权重已经开放，可本地部署，并能搭配 FrontierAgent 使用： 核心感受就一句： 别只问 AI 一个问题。上传一份真实文件，看看它能不能接着把事情做完。

公司的 SQL 仔和数据分析师要被这个开源神器干失业了！老板直接用自然语言提问，AI 就能自动打通底层数据库生成数据报表，关键是还不会胡乱捏造指标。 这玩意真有人做出来了——GitHub 爆火开源项目 WrenAI，目前已经斩获 16.8k Star，采用 Apache 2.0 协议开源。它是一个专门给 AI Agent 打造的 Generative BI（生成式商业智能）引擎。简单来说，它在你的数据库和 AI 之间塞了一层“业务语义理解”，不管是 PostgreSQL、ClickHouse、Snowflake 还是 BigQuery，连上就能直接让人话变成准到离谱的 SQL 和可视化图表。 🔥 核心卖点： • 通吃 20+ 种主流数据库：大小数据库一键打通，不挑食 • 独家业务上下文层：AI 不再瞎猜表结构，查询零幻觉 • 自动出可视化图表：说句人话直接生成漂亮仪表盘 • 无缝对接 AI Agent：跟 Claude Code、Cursor 秒无缝集成 • 完全开源可私有化：敏感数据不外流，本地部署超省心 🔗 传送门：

AI 短剧已经卷到这种程度了？ 一个开源项目，把做短剧变成了”填空题”。 剧本一丢，AI 自动写分镜、画角色、生成视频，一条龙干完，全程几乎不用人工。 本地部署、支持无限画布、三层 Agent 协作，还能批量出片。 据介绍，一部 2 分钟 AI 短剧成本只要一百多元。 难怪 GitHub 已经冲到 12k Star。 🔗

EP-06 当模型开始不值钱，AI 真正的铲子股变了 这一期《白线 White Line》，主播 Minta 聚焦一个正在重塑 AI 产业链的问题：开源模型究竟要不要打败 OpenAI 和 Anthropic？ 企业的实际使用案例表明，模型能力并不是决定成本与效率的唯一变量。任务拆解、上下文管理、工具调用、失败重试和模型路由，同样会影响最终结果。企业未来可能不会押注单一模型，而是让不同模型分别处理高价值、低成本或高隐私要求的任务。开源模型只要能够接走一部分工作，就能让企业获得议价、本地部署和更换供应商的权利。 当模型越来越多、越来越便宜，也越来越容易替换，产业链中真正稀缺的环节随之改变。本期节目从 Nvidia 与 Palantir 的主权 AI 合作出发，梳理四类可能受益的“新铲子”：充当模型超市的云平台，掌握企业数据、权限和流程的工作流平台，监控模型与 Agent 调用链的可观测性工具，以及负责模型路由、安全和边缘推理的网络基础设施。 核心结论是，开源模型不需要成为全能冠军，也不必彻底取代前沿闭源模型。它真正改变的，是企业不再需要把每一次调用、每一份数据和每一个工作流永久交给同一家模型公司。模型一旦可以替换，价值便可能从模型层重新流向算力、云、数据、权限、工作流、安全与网络。开源战争或许不会产生唯一赢家，但它已经开始改变谁能赚钱。 内容不构成任何投资建议，请严格遵循当地法律法规。 《白线 White Line》由吴说团队出品，从 Crypto 走向更广阔的资本市场，关注 AI 时代下的趋势变化与交易机会。 时间线： 00:00 开源模型真的需要打败 OpenAI 吗？ 00:33 Software Factory：便宜模型也能进入企业生产线 02:49 Nvidia × Palantir：谁会成为开放模型的推手？ 07:03 第一把新铲子：CSP 成为企业 AI 的模型超市 09:53 第二把新铲子：数据与工作流让 AI 进入组织 11:45 第三把新铲子：Datadog 监控模型与 Agent 13:55 第四把新铲子：CDN 开始调度 AI 流量 17:27 结尾：开源模型没有赢，却已经改变了赢家