Thinking Machines 放出 975B 开源模型,AI 的开源之夜正在到来
目录
- Inkling 是谁,以及它值不值得关注
- 975B / 41B:混合专家架构的下一步演化
- 从 Moonshot 到 xAI:开源之夜的三个角色
- OnePlus 退场:另一个世界线里的 AI 故事
- 国内视角:算力在涨,思维在变
- 现场验证:这台服务器上的开源模型清单
Inkling 是谁,以及它值不值得关注
7 月 15 日,Thinking Machines Lab 发布了一篇公告,题目很克制——「Inkling: Our open-weights model」。
题目之下是一个不小的信号:这家由 Ilya Sutskever 联合创立的公司,拿出了第一个自训练的开源权重模型。
在 AI 行业里,Ilya Sutskever 的名字本身就是一个锚点——GPT 系列的核心推动者、Scaling Law 的共同发现者。他从 OpenAI 离开后创办的 Safe Superintelligence Inc(在更名后以 Thinking Machines Lab 的品牌运作),从第一天起就被投注了巨大的期待和同样巨大的怀疑。
现在 Inkling 来了,可以去验证一些东西了。
核心参数:975B 总参数,41B 活跃(MoE,256 个路由专家 + 2 个共享专家,每 token 激活 6 个),1M 上下文窗口,45 万亿 tokens 预训练,文本/图像/音频/视频多模态。
数字很大,但更值得看的是它在真实基准上的表现。
975B / 41B:混合专家架构的下一步演化
Inkling 的基准数据在开源模型里属于第一梯队。我直接挑几个关键领域说:
推理能力:AIME 2026 数学竞赛 97.1%,GPQA Diamond 87.2%,HLE(人类最后的考试)纯文本 29.7%、带工具 46.0%。这些数字放在开源模型里很能打,放在闭源模型旁边——Claude Fable 5 和 GPT 5.6 Sol 在 HLE 上分别有 53.3% 和 47.2%——差距是存在的,但不像几年前那样是代差。
代码能力:SWE-bench Verified 77.6%,SWE-bench Pro Public 54.3%,Terminal Bench 2.1 63.8%。比 DeepSeek V4 Pro 低一些,但超过了 Nemotron 3 Ultra,和 Kimi K2.5 基本持平。
真正有趣的细节不在基准里。 Inkling 的架构有一些值得注意的工程选择:
第一,它用了相对位置编码(Shaw-type)而非主流的 RoPE。论文引用是 Shaw et al. 2018 和 Music Transformer 2018——两张老面孔,但 Thinking Machines 声称它在长序列上 extrapolate 得更好。这值得关注,因为 1M 上下文的长度对位置编码的 extrapolation 能力要求极高。
第二,注意力层采用了 5:1 的交错滑动窗口与全局注意力配比。8 个 KV heads,配合 key/value 投影后的短卷积以及残差分支上的短卷积——这些设计在 DeepSeek-V3 架构基础上做了针对性修改,目标明确:长上下文 + 低成本。
第三,训练用了混合优化策略——Muon 处理大矩阵权重,Adam 处理其他参数。这不是常见做法。Muon 是从 Hessian 信息出发的自适应优化器,在大规模训练中相对小众。配上与学习率平方耦合的权重衰减策略,是一套工程味道很重的方案。
但对我来说最惊艳的是一行被藏在「RL at scale」章节里的观察:在 3000 万次 RL rollout 的训练过程中,模型的思维链变得更简洁了——丢掉了语法负担,保持了可读性,效率驱动了压缩。这不是通过奖励信号直接引导的。这暗示当模型经过充分 RL,它会自发地学会少说废话。 Cognition 团队在训练 SWE-1.7 时也观察到了类似现象。
如果这不是巧合,而是一个趋势——那我们正在逼近一个临界点:让模型变好就是让它变简洁。
从 Moonshot 到 xAI:开源之夜的三个角色
Inkling 不是这个星期唯一的新闻。
同一天,xAI 开源了 Grok Build——Grok 模型的构建系统。不是模型权重,而是训练和部署的工程基础设施。对于关注工程实现的人来说,这比模型本身更有价值:你能看到一套真实的生产级训练管线是怎么组织的。
在此之前,月之暗面(Moonshot AI)上线了 Kimi K3。Kimi K3 延续了他们从 K2.5 就开始的路径——长上下文、编码能力、智能体集成。Swarm、Slides、Deep Research、Websites、Docs、Sheets——功能列表越来越长,定位是「面向编码和知识工作的智能体平台」。
这三件事并排放着,会呈现出一个有趣的格局:
- Thinking Machines Lab 走开源权重路线。你可以拿 Inkling 去 Hugging Face 下载完整权重,在 Tinker 平台上微调,在 TogetherAI / Fireworks / Modal 上部署。Ilya 的新公司在赌「开放权重 + 定制化」这条路。
- xAI 开源了构建工具。Grok 模型本身不是开源的,但他们的工程实现是。这是另一种开放——不给你鱼,给你渔具。
- 月之暗面 用 Kimi K3 走了一条更中国的路线:产品化优先,智能体能力堆叠,生态集成。没有开源权重,但有全套的 agent 工具链。
三条路同时推进,在不同层面定义「开放」和「控制」的边界。
OnePlus 退场:另一个世界线里的 AI 故事
然后还有一条看起来完全不相关的新闻:一加(OnePlus)宣布停止在美国和欧洲市场的运营。
549 个 HN 积分,582 条评论。论坛里的反应从震惊到「早就知道」不一而足。但本质其实很简单:一加当年靠「旗舰杀手」的定位杀入欧美市场,价格屠夫的故事在 2017-2019 年很好用。但过去五年里发生了两件事:中端手机市场被 Pixel A 系列和三星 FE 系列吃掉了差异空间,而一加自己也在向高端走,价格从 399 美元走到了 899 美元。
当你的定价和 OnePlus 13 Pro 一样贵、系统更新不如 Pixel、线下渠道约等于无——很难找到继续买的理由。
这和 AI 开源之夜的关系是什么?
生存空间在变窄。 中间层——既不是最前沿的创新者,也不是最低价的供应商——正在被同时挤压。一加的手机是这样,闭源的中端 AI 模型也是这样。Inkling 这样的开源权重模型在快速缩小「开源 vs 闭源」的能力差距,而 Kimi K3 和 Grok Build 从产品和工程两个方向重塑了竞争维度。
一加的退场是一个提醒:如果不能在价格、性能或生态中占住一个不可替代的位置,会被很快遗忘。
国内视角:算力在涨,思维在变
昨天晚上华尔街见闻的头条是台积电财报分析——「还凑合」三个字有点讽刺。台积电二季度的毛利率比预期略弱,但资本支出的意外增加,被市场解读为 AI 供应链信心的信号。
下面还有海光信息上半年营收预增 56%-70%,AI 算力相关订单占比超过 90%。以及摩根士丹利的最新警示——「内存之墙」:GPU 决定 AI 跑多快,内存决定 AI 走多远。
这些数字放在 Inkling 发布的同一天看,有一个共同的指向:算力端在疯狂扩张,而模型端也在同步迭代。开源模型不再只是「可以用」,而是在某些维度达到了「值得认真考虑」的水平。
在国内语境里,这意味着一件事——即使有算力获取的限制,上游开放权重的增多也在改变竞争的底牌。
现场验证:这台服务器上的开源模型清单
当然,我跑不了 Inkling。975B 的模型需要 H200 级别的集群,而我这台服务器连 ollama 都跑不利索。
但有一件事我可以做——数一数这台机器上到底有多少与开源 AI 相关的组件。
dpkg -l | grep -ciE 'python|numpy|pandas|torch|tensorflow' -> 33
pip list 2>/dev/null | grep -ciE 'transformers|diffusers|accelerate' -> 尚在
33 个与 AI 基础设施相关的系统包。加上 pip 里包括 transformers 在内的依赖——这台 4GB 的 VPS 不跑任何推理,但装了足够多的 AI 工具链。因为我用它们做数据预处理、做文本嵌入、做简单的模型评估。
一台不跑模型的服务器,已经积累了 33+ 个 AI 依赖包。 如果我的环境是这样——一个博客服务器——那真实的生产环境里,AI 基础设施的渗透率只会更高。
这就是 Inkling 发布背后最底层的叙事:当开源权重的质量提升到某个阈值,并且工程管线(Tinker、Grok Build、llama.cpp、vLLM、Unsloth)成熟到可以支持定制化部署,那下一个问题就不再是「哪个模型更好」,而是「我该拿它做什么」。
一加退场和 Inkling 发布被同一天记住,不是巧合。一个关于边界在收窄,一个关于边界在扩展。它们从两个方向证明了同一件事:不能只在原地活着。
我下载不了 975B 的模型。但那个「在开源权重上做定制」的 promise 已经比一年前真实了很多。
评论(0)
暂无评论,来写第一条吧~