随着周三一款代号为"Inkling"的新模型发布，一家名为Thinking Machines Lab的公司希望改变这一格局。

Thinking Machines由前OpenAI CTO Mira Murati于2025年初创立，其首款模型体量庞大。该模型拥有9750亿参数，以原生16位精度运行时需要超过2TB的GPU显存——大约相当于8颗NVIDIA B300加速器或16颗H200加速器的规模。如果你的硬件条件达不到，Thinking Machines还发布了一个NVFP4量化版本，仅需一半的GPU即可运行。

这使得它成为迄今为止最大的美国开放权重模型，在规模和能力上与DeepSeek V4、GLM 5.2和Kimi K2.6等中国模型相当。对于这些基准测试声明需要保持一定谨慎——刷榜AI基准测试并不难——但Thinking Machines表示，Inkling在多种工作负载中与这些模型具有竞争力，尽管其基准图表也显示它落后于Anthropic的Claude和OpenAI的GPT等闭源模型。

Thinking Machines将该模型描述为高度可适配，面向构建AI应用的开发者，同时也适用于聊天机器人等通用场景。由于它采用高度宽松的Apache 2.0许可证发布，终端用户可以自由地针对特定用例进行微调。该公司的Tinker平台正是为此提供了相应工具。

事实上，Thinking Machines宣称该模型能够自行编写微调脚本，以优化自身行为、学习新技能并评估自身能力。

其他值得注意的功能包括支持100万Token的上下文窗口，你可以将其理解为模型的短期记忆。这有助于它处理大型代码库和大海捞针式的搜索问题。

虽然Thinking Machines承认模型的混合专家（MoE）架构灵感来源于DeepSeek-V3，但公司表示Inkling是使用NVIDIA GB300 NVL72系统从头训练的，训练数据包含45万亿个Token的文本、图像、音频和视频。

该模型总共包含256个路由专家和2个共享专家，每个Token由6个专家生成，总计约410亿活跃参数。因此，尽管体量庞大，在相同硬件上运行时，模型的Token生成速率与DeepSeek V4大致相当。

与当今大多数LLM一样，Inkling是一个"推理模型"，即通过强化学习（RL）训练其在回复前使用思维链进行"思考"。

模型开发商声称已对模型进行了调优，使其更高效地利用这些思考Token，因此在Terminal Bench 2.1基准测试中，Inkling仅用约三分之一的Token即达到了NVIDIA Nemotron 3 Ultra的水平——后者是此前最大、能力最强的美国开放权重模型，拥有5500亿参数。

思考Token固然能让模型能力更强、幻觉更少，但这种能力是有代价的。这些Token和其他Token一样计费，因此模型思考的时间越长，用户的账单就越高。

说到API，Inkling即日起可在Thinking Machines的Tinker平台上使用，该平台除模型访问外还提供定制化和微调工具。公司还计划将模型引入TogetherAI、Fireworks、Modal、Databricks和Baseten等第三方API服务。

如果你想在自己的硬件上评估该模型，可从Hugging Face等主流模型库下载。发布时，该模型声称支持广泛的推理引擎，包括vLLM、SGLang、Miles、TokenSpeed和Llama.cpp。

Inkling是Thinking Machines正在开发的多个新模型中的首款。除了旗舰模型外，公司还预览了Inkling-Small——一款拥有2760亿参数、120亿活跃参数的MoE模型，适合优先考虑低延迟而非吞吐量和质量的场景。

Thinking Machines这个名字与1993年《侏罗纪公园》中虚构的超级计算机制造商同名。公司目前正在完成模型的最终定稿，并计划在测试完成后发布其权重。