注册并分享邀请链接,可获得视频播放与邀请奖励。

WeZZard 的个人资料封面
WeZZard 的头像

WeZZard (@realWeZZard)

@realWeZZard
0 正在关注    0 粉丝
Manus 从产品形态看基本就是朝着「终局」去的: 1. 本地无打扰完全运行在云上 2. 2025 年中引入 wide research 增加任务拓扑方向上智能调用密集度 3. 2025 年年底透露在做主动式 agent 拓展时间维度智能调用密集度 4. 很早就建立了 evaluation 团队 只能说季逸超牛逼。老天让这个团队运气再好点吧。
显示更多
0
36
230
13
转发到社区
我觉得以后面试都可以在面试前先邮寄一个这个玩意儿过去要求候选人在面试时戴上。
我不认同,这是典型的唯参数论。忽略了模型厂商的战略眼光、模型训练对用户体验的供给以及模型使用人口变迁。 Kimi K3 标注是 Opus 4.8 级别,我个人体验下来其实是基于它的木桶短板标的,而它的长板完全可及 Fable 5。Kimi K3 在长尾数据的训练上面并没有 Fable 5 训练得那么全,会导致在多轮对话的任务中失败一次,然后次次修补,进入一个很差的体验。这和 Opus 4.8 的体验完全一致。 而 2026 年中的顶规模型可以保证状态一直在线。首先 Fable 5 的长尾数据训练非常全面。然后 Fable 5 的急剧性能衰减需要到达上下文长度的 80% 到 90% 才会出现。而 Kimi K3 基本在 40-50% 时就能感受到性能衰减。 上述 Fable 5 的优势对于整体体验来说提升的不只是一点两点,而是四五倍的提升——因为每一步有 5% 的任务失败概率,那么 10 步都成功的概率仅为 60%;而把每一步的失败概率消除一半,那么 10 步都成功的概率将提升至 78%。这个提升对于长程任务来说只会更夸张,比如放大到 50 步则可以将成功率提升接近 4 倍。 这就是 Fable 5 对于从事从 0 到 1 创新的工作者来说体验非常棒的原因——因为从 0 到 1 不可能 one-shot、也极有可能进入数据训练盲区。 那为什么大家会觉得 Kimi K3 好?是因为它的 one-shot 能力真的很强。而 one shot 成功自然会带来成就感。 而早在移动互联网开始时,很多人争相阅读的 Emotional Design 中就强调过「成就感」对用户体验带来的提升。Frog Design 的创始人 Hartmut Esslinger 也提出过 "Forms follow emotion(形式追随情绪)" 的设计原则。 所谓「形式追随情绪」就是让情绪成为恰到好处的功能装置。而大部分用户想用最快的速度搞点东西出来,那极高的 one shot 成功率带来的极高情绪满足就是最好的功能装置。 但 one shot 很多 AI IDE 在 2025 年就能做到,为什么 2025 年它的传播效应没有这么高,而 2026 年可以? 这是因为用户人群发生了改变。在 2025 年的主要适用人群——专业开发者看来,one-shot 能力是非常鸡肋的,因为我们要对工程细节进行打磨。但是 2026 年更多非程序员群体以办公人群的身份加入,导致评价标准发生了变化。 就像在移动互联网时代我们不能说:对于普通人来说想处理照片 Lightroom 足够了,没有必要购入 Photoshop。因为对于普通人来说真正合适的是美图秀秀、醒图、各种风格化相机。 可以说月之暗面在模型训练方面押注前端 one-shot 能力确实是一手好棋。 当然,这些用户会成长,会想做一些个性化的改动、会有创造新东西的需求。最后还是会碰到长 K3 上下文性能衰减和长尾数据不全面的短板。不过我想国产开源大模型应该已经有了第一批国内原住民——这些人没有用过美国头部两家的模型,在他们眼里,Kimi 就是最好的。
显示更多
其实大多数用户,对他们那点简单的需求而言,给他们一个中等水平的模型已经足够用了,也就是市场上随便哪个几乎都足够用。如果你宣传某个模型有十万亿参数,评测绝对第一,超级无敌。那他们用起来之后,就会真心觉得这模型真的超级超级厉害,用起来心情愉快,还会不停发文狂吹乱夸。 这就是 𝕏 上 AI 相关内容的现状。
显示更多
半年前看 Manus 的首席科学家季逸超在张小珺的采访中,说过田渊栋的 latent space 研究的想象空间。Manus 是真的厉害。这不仅仅是一个可解释性的研究,也是一个 capability 研究的重要基石。
显示更多
“为什么 latent space 和自然语言空间之间没有其他表示层?” Claude 的 J-space,某种程度上回答了这个问题。 我之前说 text CoT 更像当前阶段的工程折中:好监督、好验证、好被 reward model 评估,也好被用户、媒体和投资人理解。 所以它能 scale,但不代表它是终点。 J-space 把问题往前推了一层。 模型不是全程在自然语言里 thinking,也不是完全在不可读的 latent space 里 thinking。更准确地说,它内部存在一个可语言化的 latent workspace。 大量底层计算发生在 latent space;但那些需要被复用、反思、审计、对齐的中间思想,会进入这个 workspace。 所以它在科学上未必神秘。steering vector、logit lens 之后,大家早就知道 residual stream 里能塞下大量未说出口的语义、倾向和中间状态。 但它在工程上非常恐怖。 传统 RL / RLHF / RLAIF,本质上是: prompt → model output → reward model 打分 → 更新模型 但如果 J-space 走通,训练范式可能变成: prompt → model internal J-space + output → critic 打分 → 更新模型 这不是训练模型最后说什么。 这是训练模型在关键时刻“应该意识到什么”。 以前我们训练模型的嘴。 现在可能开始训练模型的内心独白。 这才是 Anthropic 这篇最值钱的地方。 它不只是 interpretability,而是可能影响 RL、对齐、长期记忆、continuous learning、fine-tuning 本身 甚至更多这两三年我们习以为常的操作。 知识库是外挂,微调是重训。 但 J-space 如果成熟,可能会出现第三种东西:直接塑造模型在某类场景下会激活什么概念、记住什么经验、调用什么原则。 而值得注意的是这一篇工作似乎诞生于 Sonnet4.5 时代,Anthropic 比 OpenAI 更让人震撼。 我甚至能想到前段时间大量 Researcher 批量加入 Anthropic 的场景: """ X: "我不喜欢你们,你们是一家非常喜欢封号的公司" Claude: “要不你看看我们半年前研究的这些工作再说,但这些论文都接近 close 了,你进来肯定挂不上这些名了,但你可以自己探索新方向” X: "我什么时候可以入职!" """ 早期 OpenAI 迷人的地方,是 GPT-2、GPT-3、CLIP、Whisper 那种朴素但强大的信念: 用数据、规模和统一范式,打破之前学术界“架构优先”的惯性。 那时候的 OpenAI 很像一个有明确科学直觉的组织。它知道自己相信什么,也知道自己要把世界往哪个方向推。 但现在的 OpenAI 越来越像产品和算力公司,强是强,却越来越难感受到一套属于自己的科学理念。 Anthropic 反而还在追问更底层的问题,J-space 不是证明模型有灵魂,它想证明模型的“内心独白”可能可以做成 API。 一开始我还以为 J-space 只是随手起的名字,后来仔细看才发现这个 J 是 Jacobian。 这就太浪漫了。 Jacobian 把多元复杂函数在局部近似成可操作的线性函数;J-space 则像是在把模型内部高维、复杂、混沌的 latent space,投影成一组可以读取、干预、训练的方向。 这种命名的美感,让我想到 SpaceX。 其实我从高一开始关注到 Musk 的,那会我每周都会买很多杂志,在其中一期看到了他完整的创业记录,只是近几年所有人都认识他了,所以也不怎么提了。 当时令我印象深刻的倒不是今天熟悉的星舰,而是 2008 年 Falcon 1 的第四次发射。前三次全部失败,第四次几乎凑出了最后所有的钱做发射,包括 Tesla 那一次 Falcon 1 入轨,SpaceX 才活了下来。 后来他们把海上火箭回收船命名为 Of Course I Still Love You。这名字出自科幻小说,不是冷冰冰的工程代号,而像一句情书,去接住一枚从天上返回的火箭。 所以迷人的地方是极端硬核的工程、生死边缘的赌局,最后被一种近乎浪漫的命名接住。 科学、工程和浪漫,在这里突然接上了。 Author List 中 Wes Gurnee @wesg52 和 Jack Lindsey @Jack_W_Lindsey 构思了整套方法,以及语言表达与意识访问之间的联系,伟大无需多言。 有两位华人 Rowan Wang 和 Runjin Chen 参与了 Reflection 训练部分
显示更多
Two major additions to Amplify: • External agents (Codex, Kimi) can now act as executors • Claude Code can now perform sensitive actions with approval