与「AI应用」相关的搜索结果

很多AI系统设计时只考虑正常情况。 但真正上线后，更重要的问题是：AI失效了怎么办？ 建议提前设计三层保障： ① AI无法判断时，明确停止 ② 关键功能保留规则或人工处理路径 ③ 出现异常时，能够恢复到安全状态 尤其是高风险业务，不能把“重新问一次模型”当成唯一的恢复方案。 【提示词】： 你是“AI系统可靠性设计顾问”。 请根据我提供的AI应用场景，制定异常处理和备用运行方案。 执行要求： 识别关键业务功能。 分析模型可能出现的错误。 区分一般故障和高风险故障。 为关键任务设计人工接管条件。 明确系统停止和恢复标准。 设计独立于模型的安全检查。 不得假设模型始终可用。 给出需要开展的故障演练。 明确责任人与告警方式。 对无法验证的可靠性指标标记待测试。 请输出故障场景、风险影响、备用方案、触发条件、恢复步骤和验收标准。

兄弟们！！！零成本！！！零成本！！！ 国内转行没背景 + 没钱报培训班 + 想进外企 冲谷歌官方技能认证（Google Career Certificates）！！！！ 数据分析、网络安全、AI应用全套官方实战课！！！ 学完直接拿谷歌背书证书对接海外合作名企！！！！ 简历直接镀金！！！！快去白嫖！！

最近一直在思考一个问题：未来十年，美股的下一个超级机会（财富代码）到底是什么？ 过去这几天，我烧掉了非常多的Token，研究了 AI 应用、机器人、商业航天、太空算力、生物医药等多个板块和赛道。 一直想找到一个类似2016年英伟达，闪迪这样的投资机会，一家值得持续定投10年，甚至20年，有机会获得10倍以上回报的公司。 最开始，我非常看好SpaceX和特斯拉，甚至考虑长期定投。但仔细算了一笔账，如果它们再涨10 倍，市值都将达到10万亿美元以上。 未来十年，要支撑这样的市值，需要多么庞大的营收和利润？至少以目前的认知，我觉得难度非常大，所以打消了这个念头。 所以，我开始把研究方向转向一些市值相对较小、成长空间更大的公司，但研究得越多，反而越难找到答案。 AI的下一站究竟是应用层和机器人，还是商业航天、太空算力？又或者是AI与生物医药结合带来的下一场技术革命？ 每个方向似乎都有巨大的想象空间，但也都存在估值、商业化和竞争格局的不确定性。 不过，我们回头看，2016 年买入英伟达似乎很容易。但站在当年的时间节点，又有多少人能真正看清它未来十年的发展？ 目前我依然没有找到那个比较靠谱，能够让我有意愿持续定投十年不放弃的高成长标的。 如果站在2036年回头看今天，你觉得哪家美股公司最有可能成为下一个英伟达或闪迪？

该来的还是来了。苹果突然宣布，将收紧 MacOS 的应用访问授权限制，此举发生在不少用户指控，市面上的 AI 助手，在用户不知情下，借助完全磁盘访问权限，大量读取本地隐私。 过去苹果电脑 Mac 上，如果某个 AI 应用，拿到了完全磁盘访问权限，就可以获取本地多数文件。 而现在苹果觉得，这样风险太大了，万一哪个人不知情，点了一键同意授权，而本地又一大堆账号密码资料等，就很容易出事。 所以苹果准备增加额外管控，今后要授予这项权限，必须经过非常明确的操作，让用户先搞清楚具体风险，再决定给不给。

[开源学习资源] AI Engineering from Scratch 59.8K ⭐️ 作者 @ghumare64 课程共 20 个阶段，以 Python 为主要编程语言，主张在导入任何框架之前，先用纯数学把每个算法手写一遍。 课程地址： 开源地址： 它和常见教程的本质区别 ？ 大多数 AI 教程是“API 驱动”的：装个库、调个接口、跑个 demo。这个项目反其道而行，每节课遵循固定的六段结构： Motto → Problem → Concept → Build It → Use It → Ship It 以 Phase 10 的一节课「Tokenizers: BPE, WordPiece, SentencePiece」 为例，这个格式是真实落地的，而且写作质量相当高： · Problem 部分不讲废话，直接从代价切入：“你的 LLM 不读英语，它读整数。分词器决定这些整数是承载意义还是浪费意义”，然后解释为什么 tokenization 不是预处理，它是架构的一部分（影响上下文窗口利用率、API 计费、推理速度）。 · Concept 部分用“三种失败的方案和一种胜出的方案”来讲演化逻辑：词级切分（词表爆炸、[UNK] 问题）→ 字符级切分（序列过长）→ 子词切分（BPE 的折中），并配上真实语料上 BPE 逐步合并的手工演算。 每节约 3000+ 词，带 Mermaid 图、可运行代码和测试。 另外两个设计值得强调： · 每节课产出一个可复用的 artifact，一个 prompt、一个 skill、一个 agent 或一个 MCP server。学完整个课程，你手里有 523 个可展示的作品，不是 523 个跑完就扔的 notebook。 · 强调“证据留存”：保留命令、退出码、输出，作为学习发生的证明。这明显吸收了工程实践中“可验证性”的思路。 # 课程结构：从线性代数到自主智能体集群 20 个阶段构成一条完整的上升曲线，咱们它分成五个大块来看： 基础层（Phase 0–2）：环境与工具链、数学基础（线性代数/概率/微积分）、经典机器学习。这是给基础不牢的读者铺的路。 深度学习与感知层（Phase 3–6）：神经网络核心、计算机视觉（一路讲到 NeRF、高斯泼溅、世界模型，这已经超出一般教程的覆盖范围）、NLP、语音。 生成与决策层（Phase 7–9）：Transformer 深挖、生成式 AI（GAN、扩散模型、flow matching）、强化学习。 LLM 层（Phase 10–12）：这是全课程的重心之一。Phase 10 的目录我逐条看过，它不只是“从零实现 GPT”这种常规内容，还包含了相当前沿的论文级主题：DeepSeek-V3 架构走读、DualPipe 并行策略、Native Sparse Attention（NSA）、多 token 预测、Jamba 的 SSM-Transformer 混合架构、 speculative decoding 等。Phase 11 转向应用侧（RAG、LoRA、MCP、可观测性），Phase 12 覆盖多模态（从 CLIP 到 computer-use agent）。 智能体层（Phase 13–16）：工具与协议（MCP、A2A、Agent Skills）、54 节课的 agent 工程、自主系统与安全、多智能体集群。这一层的分量很能说明项目的判断：它认为 AI 工程的重心正在从“训模型”转向“构建可靠协作的智能体”。 收尾（Phase 17–19）：生产基础设施、伦理与对齐、毕业设计。 # 生态与周边：不只是一个课程仓库 网站：带浏览器本地存储的学习进度追踪、术语表、课程目录和路线图。 六卷本书籍：课程内容由 CI（pandoc）自动构建成 EPUB/PDF，附在 GitHub Releases 上，课程即书，且随仓库持续更新。 Agent 导师模式：运行 npx skills add rohitg00/ai-engineering-from-scratch，可以把整个课程装进 Claude Code、Codex 等编码智能体，变成一个带分级测验（placement quiz）和个性化路径的交互式导师，学习进度写在 LEARNING.md 里。这是“用你正在学的工具来学”的巧妙闭环。 认证备考：5 条备考路径、67 节课、505 道练习题，覆盖 Anthropic 的 Claude 认证和 Agentic AI Foundation 的 MCPA。项目明确声明与这些考试机构无关联，只是独立的备考材料。 12 种语言的翻译（含中文），以及四条核心学习路径（构建与部署 AI 应用、软件工程基础、Agent 辅助工程、产品判断与交付）供不同目标的人选路。

Muse 是真的火，直接登顶美区 App Store 榜首。官宣接入那天，Shopify 直接涨了 13%。 刚好我朋友做的 Today AI 今天也在国区上线了。 Muse 直接把 Personal Agent 这个概念带火了，其实之前 Grok bot 就有迹象。 可惜 Muse 我们用起来很麻烦、很费劲（毕竟 Meta 几十年的风控积累，比 Anthropic 还严格）。 Today AI 应该也是国内能用的第一个做得这么完整的 Personal AI。 我觉得这种 Agent 终于摸索出了一个完全不需要门槛的 AI 应用雏形。这是我第一次意识到，C 端用户其实不太 care 你的 Agent 底层用的是什么模型，哪怕不能切换模型，大家也是愿意用的。 其实 Personal AI 最核心的需求我觉得有三个： 它能不能理解你 它能不能主动找你 找你的时候，能不能基于上下文，给出真正有用的建议。 以 Today AI 为例，它主要由三个部分组成： 云电脑：以前的虚拟机有个问题是会关机，而我觉得云电脑不关机是 Personal AI 非常重要的一环。你的东西一直在这台电脑上，它是真正的云电脑。Today 思路跟 Muse 一致：潜移默化，用户完全不需要感知到云电脑的存在。 连接器：能不能非常快速、一键拿到你在其他渠道的上下文。上下文最难的是拿到，海外是 Google 这些大公司直接给 MCP，国内可能就困难点。 然后就是上下文，以及基于上下文，能不能产生很多主动的行动和合适的建议，这个也挺重要的。 其实对大多数人来说，重度的生产力场景反而是少数，很多时候只需要 AI 帮忙记一下信息、做个安排。 生活里反而有许多非常需要 AI 的场景：他们能连上 Apple 健康，每天根据你当天的身体状态给建议。有了这些上下文，给出的健康建议就会非常精准和完整。 学习、财务状况、孩子和家庭琐事：这些需要长期跟踪的事项也很需要。 当然说句实话：这类产品，上下文连接器配置够了才会越用越准，所以如果刚开始觉得它不是很懂你的话，也可以养几天，多交流一下试试。 同时，这也说明了怎么样让用户无感地接入，也是一个非常重要的课题。 我觉得这就是 Personal Agent 很重要的两个特质： 第一，你不用关心 AI 底层的这些技术细节，直接用就行； 第二，你可以很快地把自己的信息同步上去。很多时候信息积累足够后，往往你还没开口，它就已经知道你要做什么、并且已经帮你做好了。

AI也要备案，但备案和“这个AI靠谱”完全不是一回事。 国家网信办9月23日公布新增3款手机端侧生成式AI服务备案信息，包括“YOYO Claw”等。 最近连手机端侧AI也开始单独备案了。很多人看到“已备案”，容易理解成“官方认证这个AI安全、可靠、好用”，但这其实是两个概念。 备案首先是一套合规程序。 按照现行规则，面向公众提供、且具有舆论属性或者社会动员能力的生成式AI服务，需要履行相应备案或登记程序。已经上线的AI应用，还要公示所使用模型的备案号或上线编号。 但备案并不等于几个东西： 不等于质量认证。 它不会告诉你这个模型回答得准不准、幻觉多不多、推理能力强不强。 不等于安全保证。 备案说明它进入了监管框架，不代表以后绝不会出现隐私、内容或安全问题。 更不等于官方推荐。 “已备案”不能理解成“国家建议你使用”。 另一个值得注意的变化是：现在连手机端侧AI也单独进入备案体系。所谓端侧AI，就是模型部分或全部直接在手机本地运行，而不是每次都把数据发到云端。 它的优势通常是响应更快、离线也能用、部分数据可以留在本机；但这也不代表“端侧=绝对隐私安全”。 所以以后看到“某AI已备案”，最准确的理解应该是： 它完成了相应的监管合规程序，而不是通过了一场“AI质量考试”。

滴答清单的MCP接入起来还是挺简单的，以后又多了一个实际有用的AI应用场景。 接下来准备试试，用ChatGPT帮我规划一下我的几十个待办任务，哪些比较重要，应该优先处理。待办的事项越堆越多，自己去整理实在是很难理清头绪。 如果你也用滴答清单，想要接入AI，那么只要支持MCP的工具都支持，例如：ChatGPT / Codex、Cursor、Gemini、豆包、WorkBuddy、千问办公等。我把接入方法的官方文档放到评论区，需要的话自取。

AI Engineering Skills Map 系列之「使用 Coding Agent」 吴恩达老师的 AI 工程技能图谱第三篇详细展开： 1. 构建与部署 AI 应用 2. 软件工程基础 3. 使用 Coding Agent（本文主题） 4. 塑造构建方向 吴恩达老师认为：使用 Coding Agent 正在成为 AI 工程师的关键能力，而且它的演进速度比其他顶层技能都快，因为 Agent 本身在 harness 和模型两个层面同时快速迭代。因此，这项技能没有终态，只能靠持续的实验、构建和学习来维持。 # 用 Coding Agent 构建软件的通用工作流 通过访谈数十位顶尖 AI 工程师并复盘自己团队的实践，他归纳出一个一致的高层工作流，分三步： 1. 规划（Planning） 包含两部分：一是头脑风暴，可能涉及研究、实验、理解已有代码库；二是写 spec（规格说明），涵盖需求、技术设计、架构，随后生成执行计划。规划完成后还应审视计划本身：质疑关键假设，检查安全性、过度设计等问题。 2. 执行（Execution） 构建、测试、验证，关键在于把握智能体自主性与人工监督之间的平衡。一是让智能体以"校准过的自主程度"去构建；二是通过自动化和/或人工检查来验证输出。 3. 部署与监控（Deployment and monitoring） 部署可能经由 CI/CD 流水线或额外的人工关卡把关；随后用智能体观察日志、发现问题、提出并执行改进。 这个工作流有两个特别注意： 1. 它与前智能体时代的软件开发流程本质相似。真正变化的是注意力的重心：从写代码转移到决定做什么、设计架构、写 spec、验证输出。 2. 各步骤的时长弹性极大，可以省略。greenfield（从零开始）原型的 spec 可能只是一条快速写下的提示词；而有大量用户的 brownfield（存量）项目的 spec 则需要投入大量精力去撰写和验证。整个流程高度迭代，熟练的开发者知道何时该从后面的步骤退回前面：验证失败就引导智能体重建修复；监控发现问题就让智能体更新系统并重新部署。 # 五项关键技能 1. 指挥工作流（Directing the workflow） 知道如何走完上述每一步，并决定每一步投入多少人力、多少智能体算力，以及何时回退迭代。这背后是对速度、成本、技术风险、人力投入四者权衡的深刻理解，具体体现在：前期研究和规划做到什么程度、哪些关键工作保留人类所有权、如何选择架构、规划产物（如 spec）写多细、如何把工作拆解成可验证的步骤。 2. 赋予智能体自主性（Enabling agent autonomy） 这一节内容最密集，可拆成四个决策点： · 自主程度：盯着它交互式往返，还是委托一大块工作？何时设定明确目标让它循环直到成功？ · 上下文管理：构建过程会经历不同阶段，要判断何时把关键经验、用户反馈、假设（包括中途变化的假设）记录下来供智能体下游使用。 · 并行化：何时把任务拆解后让多个智能体并行，由人或更高层的智能体来编排；以及如何在多个并发会话之间分配人的注意力。 · 安全运行：设置权限、对高风险动作设关卡，在保持开发速度的同时限制泄露、数据丢失等损害。 3. 审查工作成果（Reviewing the work） 出发点是一个基本事实：智能体的输出是不确定的。我们事先不知道它会想出什么好主意，也不知道它会埋下什么 bug。因此审查和验证是拿到想要结果、并在偏离时纠正的关键环节。 具体手段包括： · 设计与任务匹配的测试和验证，按需结合行为验证和功能验证。 · 测试用户流程，可让智能体提供截图作为成功或失败的证据。 · 对定性/行为性评估，可使用评估集（eval sets），可能配合 LLM-as-a-judge。 · 决定测试的自动化程度。某些工作流会把测试完全自动化，让智能体能自行检查、自知何时完成。但必须评估这些测试是否真正对应你的目标，不对应就要演进它们。 · 使用智能体代码审查，运行 AI 驱动的安全和架构审计。 · AI 审查不够时，审慎地插入人工审查——主要审查代码行为，较少审查代码本身——同时探索进一步自动化的可能。 · 验证部署，并用智能体把监控和事故管理运营起来。 这里有一个值得注意的判断：人工审查的对象主要是"代码行为"而非"代码"，这反映了注意力重心的转移。 4. 定制智能体及其环境（Customizing the agent and its environment） 目标是让智能体高效获取所需上下文、访问工具、正确高效地构建。具体包括： · 集成 skills、插件、MCP 服务器，并在不再必要时（如新模型让旧 skill 过时）剪除它们。 · 用 hooks 自动化开发流程中可重复的部分，如触发自动代码审查或 CI/CD。 · 维护常驻上下文（AGENTS.md、CLAUDE.md），记录代码库信息、关键架构假设、代码风格、数据访问模式。 · 跨会话、跨并行智能体保存状态，随时间积累智能体的经验，比如通过运行后复盘记录哪些做法有效、哪些无效。 · 建立一致的约定和结构，让代码库对智能体可导航；定期清理智能体产生的技术债。 · 团队协作时，考虑如何在不同开发者的智能体之间协调上下文。 5. 编码智能体基础原理（Coding agent foundations） 要做好上述所有决策，需要理解智能体的工作机制：如何做代码库搜索/检索、如何管理上下文窗口、不同操作（增加工具调用、MCP 服务器等）如何影响上下文、智能体与子智能体如何交互、智能体是如何通过在 LLM 外包裹 harness 构建出来的。 这种理解让智能体不再是黑箱，帮助你识别典型失败模式： · 把简单方案过度设计 · 因缺乏显式验证流程而丧失严谨性 · 未达目标就停下 · 可能破坏文件或生产数据的动作 同时也帮助你推断智能体的状态、给出正确的指令或上下文来引导它，并在监控运行时更早发现它偏离轨道、需要介入。 # 对行业叙事的批评 结尾处吴恩达老师有一段针对性很强的观点。他认为社交媒体对如何使用编码智能体的描述往往过度简化。让智能体自主运行数小时、消耗数百万甚至数千万 token 有时确实有用，但目前超长时程任务的实际效用——尤其是相对成本而言——被夸大到超出现实。 他的结论是：最有效的编码智能体使用是一个复杂、高度迭代的过程，能够以高水平判断力适时介入，效果远好于放手长跑。