与「机器学习」相关的搜索结果

[开源学习资源] AI Engineering from Scratch 59.8K ⭐️ 作者 @ghumare64 课程共 20 个阶段，以 Python 为主要编程语言，主张在导入任何框架之前，先用纯数学把每个算法手写一遍。 课程地址： 开源地址： 它和常见教程的本质区别 ？ 大多数 AI 教程是“API 驱动”的：装个库、调个接口、跑个 demo。这个项目反其道而行，每节课遵循固定的六段结构： Motto → Problem → Concept → Build It → Use It → Ship It 以 Phase 10 的一节课「Tokenizers: BPE, WordPiece, SentencePiece」 为例，这个格式是真实落地的，而且写作质量相当高： · Problem 部分不讲废话，直接从代价切入：“你的 LLM 不读英语，它读整数。分词器决定这些整数是承载意义还是浪费意义”，然后解释为什么 tokenization 不是预处理，它是架构的一部分（影响上下文窗口利用率、API 计费、推理速度）。 · Concept 部分用“三种失败的方案和一种胜出的方案”来讲演化逻辑：词级切分（词表爆炸、[UNK] 问题）→ 字符级切分（序列过长）→ 子词切分（BPE 的折中），并配上真实语料上 BPE 逐步合并的手工演算。 每节约 3000+ 词，带 Mermaid 图、可运行代码和测试。 另外两个设计值得强调： · 每节课产出一个可复用的 artifact，一个 prompt、一个 skill、一个 agent 或一个 MCP server。学完整个课程，你手里有 523 个可展示的作品，不是 523 个跑完就扔的 notebook。 · 强调“证据留存”：保留命令、退出码、输出，作为学习发生的证明。这明显吸收了工程实践中“可验证性”的思路。 # 课程结构：从线性代数到自主智能体集群 20 个阶段构成一条完整的上升曲线，咱们它分成五个大块来看： 基础层（Phase 0–2）：环境与工具链、数学基础（线性代数/概率/微积分）、经典机器学习。这是给基础不牢的读者铺的路。 深度学习与感知层（Phase 3–6）：神经网络核心、计算机视觉（一路讲到 NeRF、高斯泼溅、世界模型，这已经超出一般教程的覆盖范围）、NLP、语音。 生成与决策层（Phase 7–9）：Transformer 深挖、生成式 AI（GAN、扩散模型、flow matching）、强化学习。 LLM 层（Phase 10–12）：这是全课程的重心之一。Phase 10 的目录我逐条看过，它不只是“从零实现 GPT”这种常规内容，还包含了相当前沿的论文级主题：DeepSeek-V3 架构走读、DualPipe 并行策略、Native Sparse Attention（NSA）、多 token 预测、Jamba 的 SSM-Transformer 混合架构、 speculative decoding 等。Phase 11 转向应用侧（RAG、LoRA、MCP、可观测性），Phase 12 覆盖多模态（从 CLIP 到 computer-use agent）。 智能体层（Phase 13–16）：工具与协议（MCP、A2A、Agent Skills）、54 节课的 agent 工程、自主系统与安全、多智能体集群。这一层的分量很能说明项目的判断：它认为 AI 工程的重心正在从“训模型”转向“构建可靠协作的智能体”。 收尾（Phase 17–19）：生产基础设施、伦理与对齐、毕业设计。 # 生态与周边：不只是一个课程仓库 网站：带浏览器本地存储的学习进度追踪、术语表、课程目录和路线图。 六卷本书籍：课程内容由 CI（pandoc）自动构建成 EPUB/PDF，附在 GitHub Releases 上，课程即书，且随仓库持续更新。 Agent 导师模式：运行 npx skills add rohitg00/ai-engineering-from-scratch，可以把整个课程装进 Claude Code、Codex 等编码智能体，变成一个带分级测验（placement quiz）和个性化路径的交互式导师，学习进度写在 LEARNING.md 里。这是“用你正在学的工具来学”的巧妙闭环。 认证备考：5 条备考路径、67 节课、505 道练习题，覆盖 Anthropic 的 Claude 认证和 Agentic AI Foundation 的 MCPA。项目明确声明与这些考试机构无关联，只是独立的备考材料。 12 种语言的翻译（含中文），以及四条核心学习路径（构建与部署 AI 应用、软件工程基础、Agent 辅助工程、产品判断与交付）供不同目标的人选路。

如果我们可以重新理解 Quant Developer。 这并不只是思想实验。 Jane Street 2026 年公开的研究方向包括机器学习、编程语言、编译器、ASIC、FPGA、分布式 shared log、incremental computation、查询优化、分布式存储和形式化验证，而Citadel GQS 则把实时数据、HFT 执行和低延迟 ML 推理放进了同一个 Quantitative Research Engineer 岗位。 再次强调，市场是一个高维、受驱动、耗散的非平衡系统。 订单持续进入、撤销、成交，信息、资本和风险不断注入，异质的参与者相互作用，系统几乎从未达到平衡。 当看到Jane Street 把 graph-structured、incremental computation 列为长期研究方向，我想这是一个值得认真理解的信号。 如果我们发现研究对象持续变化时，计算本身或许也需要围绕变化来组织。 一条报价更新，并不意味着整个市场都需要被重新计算。 它首先改变某些局部状态，再沿着依赖关系，影响相关资产的估值、组合的风险暴露，以及尚未成交的订单。 如果把这些计算关系展开，我们会看到数据连接特征，特征连接预测，预测连接决策，决策通过成交与持仓，反馈到下一轮计算。 这里必须区分两件事。 计算图中的依赖关系，不自动等于市场中的因果关系。但只要我们能够明确哪些结果依赖哪些输入，就有机会在新事件到来时，只更新受到影响的部分。 这正是 incremental computation 最吸引我的地方，它让计算资源跟随变化分配。困难的问题也随之浮现。哪些状态已经过期，筛选必须更新的传播，可以合并的计算。我们开始寻找，在并发和异步执行中，如何避免把不同时间的市场状态拼成一个从未真实存在过的世界？ 于是，延迟就不再止于程序运行了多少微秒。判断抵达市场时，你应该着眼于支撑判断的那个市场是否仍然存在。 想想吧，一个离线表现出色的模型，如果依赖陈旧的数据、无法承受行情突发时的排队，或者不能及时更新风险状态，那么它在回测中发现的信息优势，可能在执行之前就已经消失。 因此，Quant Developer 的工作可以被理解为，他们需要在有限的时间、算力和通信预算内，维护一个足够及时、足够一致、能够用于行动的市场内部模型。 编译器、分布式系统、硬件加速和形式化验证，开始汇聚到同一个问题上。 编译器决定计算如何被表达和执行； 分布式系统决定不同节点如何组织事件与状态； 硬件决定数据移动和运算的成本；形式化方法则帮助我们检查，某些关键约束是否会在复杂的执行路径中被破坏。 这些工作共同决定一个数学上的预测，试图成为现实中的有效决策。 而非平衡系统的视角，提供了一组进一步追问的方向：外部事件，内部状态，反馈是抑制还是放大扰动，输入速度和处理能力的关系对于系统的影响。 当然，市场是耗散系统本身并不会自动产生 Alpha。我想，我们只有把这种直觉落实为可观测的变量、明确的机制和能够被数据推翻的预测，它才开始具有研究价值。 它确实改变了我们看待这个职业的方式。 Quant Developer 所构建的一直是一个嵌入市场之中的实时决策系统。 这个系统观察市场，也通过自己的行动改变市场：它必须在变化尚未结束时做出判断，在信息尚不完整时承担后果。

这个开源项目系统整理了 35 家 AI 公司的 AI 工程师面试题，全部来自 “公开报告的面试经历” 来自 @outcome_school 团队 @pallavishekhar_ 开源发布，内容几乎涵盖了 OpenAI、Anthropic、DeepMind、xAI、DeepSeek、Kimi、GLM 等 AI Labs，Cursor、Cognition、ElevenLabs 等 AI Native 团队和 Nvidia、Microsoft、Amazon、Apple 等头部大厂。 覆盖的岗位头衔也非常多：AI Engineer、LLM Engineer、Gen AI Engineer、ML Engineer、Research Engineer、Applied Scientist、FDE、MLOps/LLMOps 工程师等。 开源地址： # 内容架构：一个精心设计的双层结构 第一层：跨公司通用题（Common Questions）。 作者把在多家公司反复出现的题目只列一次，标注"Asked at"哪些公司，按十大主题组织： 1. LLM 内部机制与架构 — attention 缩放因子、KV cache 内存公式推导、MQA/GQA/MLA、FlashAttention、BPE、RoPE/YaRN、Chinchilla scaling laws、MoE、解码采样策略、lost-in-the-middle、RMSNorm、SwiGLU 2. 推理、服务与 GPU 性能 — prefill vs decode、continuous batching、PagedAttention、投机解码、量化（FP16→FP4）、五种并行策略、TTFT/TPOT 指标、H100 上的 roofline 计算、vLLM/SGLang/TensorRT-LLM 选型、“如何把服务成本降 10 倍” 3. RAG 与检索 — 分块策略、BM25 vs 稠密检索、重排序器、HyDE、权限感知检索、ANN 索引、索引新鲜度、答案归因 4. Agent 与工具调用 — ReAct、MCP、工具 schema 设计、多智能体编排、Agent 记忆、循环终止条件、人类审批 5. 微调与对齐 — RLHF/DPO/GRPO/RLVR 全谱系、LoRA/QLoRA 数学、灾难性遗忘、“提示 vs RAG vs 微调”决策框架、蒸馏、reward hacking 6. 评估与可观测性 — LLM-as-judge 及其偏差、幻觉检测、基准污染、Agent 评估、回归门禁 7. 安全与负责任 AI — 提示注入（直接/间接）、OWASP LLM Top 10、护栏、Constitutional AI、红队 8. 多模态与语音 — VLM、语音 Agent 延迟预算、barge-in 打断处理、级联 vs 端到端语音、ASR/TTS 评估 9. AI 系统设计 — 十类高频设计题（千万级文档企业 RAG、代码助手、客服 Agent、Text-to-SQL、LLM 网关、数亿用户聊天服务等） 10. 编码题 — 从零实现 attention、KV cache、BPE、采样；LRU 缓存、令牌桶限流器、异步批处理器、SSE 流解析器、最小 Agent 循环 第二层：35 家公司的专属章节，分为五大梯队： 1. 前沿实验室（12 家）：Anthropic、OpenAI、Google DeepMind、Meta、xAI、Mistral、Cohere、DeepSeek、月之暗面（Kimi）、智谱（GLM）、阿里（Qwen）、Sarvam AI（印度） 2. 大厂 AI 组织：Microsoft、Amazon、Apple、NVIDIA、Tesla，以及一组消费级 ML 公司（Uber/Netflix/LinkedIn/Airbnb/Pinterest/Spotify） 3. AI 基础设施公司：Databricks、Groq、Together AI、Hugging Face、Scale AI、Perplexity 4. AI 原生产品公司：Cursor、Cognition（Devin）、Sierra、Harvey（法律）、Glean、 AI（机器人）、Waymo 5. 前向部署/企业 AI：Palantir # 题目分布透露的行业信号同样值得关注 1. 公司的差异化考察方向，和它的商业模式严丝合缝。 这是最能体现整理功力的地方： · DeepSeek、月之暗面、智谱、Qwen 的题目深度绑定自家论文——MLA、auxiliary-loss-free 负载均衡、Multi-Token Prediction、MuonClip、DualPipe、长上下文扩展、GLM 的 thinking 模式。面试这些公司等于面试它们的论文，还要求 PyTorch 从零实现 MoE 路由。 · Groq 的题全是 SRAM-only 架构下的 roofline 重推演：“没有 HBM，decode 的 roofline 论证哪里变了”、“确定性在 p99 层面到底买到什么”。 · Apple 清一色端侧：3B 模型在手机上跑、PTQ vs QAT、不采集用户内容的前提下用设备信号改进模型、30+ 语言区无法记录用户内容的评估方案。 · CharacterAI 是推理经济学：“我们的服务成本被 KV cache 而非权重主导，降一个数量级，代价是什么”。 · Harvey（法律）和 Abridge（医疗） 考的是领域约束下的工程：200 页信贷协议里第 140 页的条款依赖第 8 页的定义术语怎么检索、生成的病历中出现了患者没提过的药怎么当作安全事故处理、PHI 如何约束整个架构。 · Palantir 的招牌是 "decomposition" 轮：把“一家货运铁路公司每年因机车非计划停机损失数千万”分解成工程计划。 2. 编码轮的形态正在发生实质性变化。 文档里反复出现的一类题，与传统 LeetCode 明显不同： · “实现一个内存 KV 存储：先 SET/GET/DELETE，再加事务 BEGIN/COMMIT/ROLLBACK，包括嵌套事务”（OpenAI、xAI 都问） · “给你一个 LLM 推理引擎的调度器类，其中一个方法是空壳，没有规格没有文档。说说你头三十分钟干什么”（xAI） “重构这 120 行能跑但很乱的代码，不许破坏测试”（OpenAI） · “对 5 万个文档跑 LLM 调用，API 限 100 并发、偶发 429 和超时，把 Python 写出来”（Anthropic） 考察重心从算法记忆转向增量需求下的代码演进能力、并发正确性、真实工程约束下的取舍。 3. “AI 协作轮”作为新题型已经进入正式面试流程。 这是文档里最前沿的信号： · Anthropic 部分机器学习岗有 AI-collaboration 轮：现场给你 Claude，考察的是你如何指挥它和验证它的产出，而不是你自己写。 · Meta 2026 年的流程新增三阶段 AI 辅助编码轮（探索修复 → 实现新功能 → 扩展改进）。 · Cursor 的 onsite 是两天在真实 Cursor 代码库上做一个功能（或 8 小时远程版），明确考核你对 AI 工具的使用效率和自主 scoping 能力。 · Sierra 给你两小时和任意 AI 工具，看你选择做什么。 xAI 有四小时限时产品构建。 4. FDE 成为一级岗位类别。 Anthropic、OpenAI、Databricks、Scale、Together、Sierra、Harvey、ElevenLabs、Palantir 的章节里都有 "Applied and Forward-Deployed Scenarios" 专属题库——典型题目如“企业客户说 Claude 幻觉太多，你是驻场工程师，头 48 小时做什么”。这对应了 AI 公司向企业交付方式的转变：模型能力差距收窄后，落地能力成为差异化。 5. 硬核系统题的普及。 "H100 上 70B 模型 batch size 1 的 roofline 计算"、"估算 70B 模型的 GPU 显存（权重 + KV cache + 激活 + 碎片）"、"p99 延迟在部署后翻倍但模型没变，走一遍诊断”——这类题横跨 NVIDIA、Together、OpenAI、Perplexity 等多家，说明推理性能的量化直觉已成为 AI 工程师的通用素养，而非基础设施工程师的专属。

前TikTok机器学习工程师Huimin Xie认为，JEV可能会改变推荐和搜索系统。 它把通用语义推理带入判别式推理：输入任意上下文，快速输出经过校准的结构化决策。 在一个案例中，JEV + Perfectly通过复杂查询分析500名ECCV 2026研究者及其论文，效果与Claude的一款模型相当。

2026年想赚到钱，需要掌握这些： - 用Astra 6 High做规划，Low负责执行 - 用Grok Bot管理日常事务 - Coding Loops - 用好Codex的电脑操作能力 - 用Herd管理大量Agent - /goal - 运行本地模型 - Karpathy的Autoresearch - 在X上建立受众 - 制作视频 - 理解机器学习 - 理解数据库，最近在用Convex - 使用API - 训练自己的LoRA - 停止无休止地刷信息流 - 最重要的是：专注

逛 HN 的时候，看到了这一篇挺有价值的帖子，作者从 5 万多个书签里，整理出了自己心中的 S 级可视化教程。 在 AI 时代来临以前，大家会花费巨大的精力和时间去手敲写博客和教程 于是才有了下面这些非常优质的教程，AI 时代来临以后，还有人会做同样的事吗？ HN 原帖： 🎮 互动游戏 / 动手学习 从逻辑门开始造一颗 CPU 用游戏学习 Git 分支 用游戏学习 CSS Grid SQL 侦探游戏 另一个 SQL 解谜游戏 从零组装一个神经网络 机器人实时 3D 仿真 🧠 AI / 机器学习 交互式理解 Transformer 可视化理解 K-means 聚类 视觉 Transformer 图解 机器学习可视化入门 线性回归、逻辑回归与神经网络 神经网络的前向传播与反向传播 FAISS 向量检索原理 💻 编程 / 计算机基础 算法可视化 从零实现 React 从零“造”一块 NVIDIA GPU 一次请求如何从浏览器到达服务器 网络七层模型 限流算法 椭圆曲线密码学 🎨 图形学 / 游戏开发 颜色、屏幕、图形、渲染、着色器、编译器与解释器 用 Rust 和 Bevy 搭建 3D 编辑器 Vulkan 图形管线 碰撞检测、着色器、渲染与剔除 📐 数学 / 物理 交互式概率论 线性代数与向量 引力如何工作 ⚙️ 工程 / 硬件 内燃机工作原理 芯片制造流程

最近发现一个很适合系统补机器学习基础的网站： Richard Xu 把自己过去十多年积累在 GitHub 上的几十份讲义，重新整理成了一套交互式学习教程。 内容从回归、贝叶斯、决策树和神经网络，一直延伸到 EM、MCMC、变分推断、NTK、PAC-Bayes、Transformer 和扩散模型，基础课程与研究级内容都有覆盖。 相比直接面对一堆公式密集的 PDF，网页形式更适合按主题慢慢学习，也更容易把原本零散的知识串起来。 现在很多教程都在追最新模型，这套资源更愿意把概率、优化、推断和学习理论讲清楚。模型会不断换名字，真正帮助我们理解它们的基础却没有那么容易过时。 交互式网站： 原始讲义：

不少圈内玩家都在讨论当下Polymarket的真实行业现状： 普通参与者还停留在手动刷新盘面、紧盯涨跌行情的阶段，各类自动化交易脚本早已在GitHub完全开源对外开放。 整理8套不同赛道免费自动化程序，每一份开源项目都附带完整英文部署文档与功能详细说明： 1. CloddsBot 出自剑桥黑客松参赛项目，整合118套成熟交易策略，覆盖币安跨盘价差套利、趋势追踪、低价合约收割、智能委托、定期定投、到期价差抓取等多种玩法 2. polymarket_lp_tool 主打平台流动性订单自动化管理，核心作用提升流动性挖矿带来的奖励收益 3. Kalshi Weather Model 气象专项机器学习程序，不直接照搬公开气象播报数据，依托多年气象多维度数据集修正预测误差 4. Polymarket-Kalshi Arbitrage Bot 自动扫描两大预测平台之间存在无风险价差的机会，一键执行跨盘套利 5. Polymarket-bot 内置优质交易者筛选机制，自动筛选高胜率、稳定盈利钱包，生成自动化跟单队列 6. Prediction Markets Trading Bot Toolkits 全能型综合工具集合，支持跟单复制、跨市场套利、大户持仓监控、流动性做市、点差复利、体育赛事合约交易等多种功能 7. PolyWeather 国内开发者开发气象专用脚本，实时同步气象预报、机场观测、航空气象数据，生成指定周期城市气象分析报告 8. Awesome Prediction Market Tools 整合三十余款预测市场配套机器人与辅助工具合集 绝大多数开源工具都搭载Dry Run模拟运行模式，可以依托真实行情数据校验策略逻辑，无需动用自有资金实操。 客观来讲，如今的Polymarket早已不只是简单事件押注场所，而是量化代码、AI智能代理、程序开发者聚集的交易赛道。 Polymarket中文访问入口： 提醒各位，不要刚接触就直接实盘操作，务必通读源码、完整跑完模拟测试、吃透策略底层逻辑再做考量。 需要自动化同步高手交易的工具，我日常在用PolyCop： #Polymarket#

量化交易圈的秘密武器开源了！ 想用机器学习真正跑通从数据采集 → 特征工程 → 模型训练 → 回测 → 实盘部署的全流程 19.7k+ stars 的神作 —— Stefan Jansen《Machine Learning for Trading》第3版配套代码仓库正式开源！ 很实用： 端到端实战 workflow：完整、可复现的交易策略开发闭环（含9个真实案例：股票、ETF、加密货币、期权、期货等）。 最新黑科技全覆盖：Generative AI、自主智能体（Agents）、RAG、知识图谱、强化学习、合成数据（TimeGAN 等）、因果推断。 6个生产级 Python 库：数据获取、特征工程、模型诊断、事件驱动回测、实盘执行全都有，开箱即用。 Docker 一键部署 + 大量 Jupyter Notebook，零基础也能跑起来。 配套官网 ml4trading点io 还有 112 个 Primer 教程 + Agent Skills，学到飞起。 无论你是量化新人、独立交易者，还是想进 hedge fund 的选手，这个仓库都能让你少走几年弯路，直接站在实战前沿。