2026 年开源模型最佳 AI 推理服务商

简短回答

你选好了一个开源权重模型，比如 gpt-oss-120b、DeepSeek V4.1 Flash、GLM-5.3 或 Kimi K3，又不想自己运维 GPU。该用哪家托管 API？同样的权重被十几家公司销售，价格、速度和准确率差别很大，排行榜每隔几周就会变一次。

截至 2026 年 11 月 11 日的简短结论：首 token 延迟和原始速度决定产品体验时，用 Cerebras 或 Groq；想要 gpt-oss-120b 的最低标价，用 DeepInfra、Novita 或 Baseten；同时需要微调、专用 GPU 和生产控制时，用 Together AI 或 Fireworks AI。在正式承诺之前，用 OpenRouter 或 Hugging Face Inference Providers 通过一个密钥试多个模型。如果你更想租 GPU 自己跑权重，请读我们的最佳 GPU 云指南（英文）。

视频：Artificial Analysis 联合创始人的演讲，讲解智能水平、推理 token、延迟、开源权重、成本和推理速度如何共同决定应用能做什么。Artificial Analysis 正是下文服务商基准的独立数据来源。

快速推荐

下表每一行都是针对一种需求的推荐，依据来自本文后面的表格。没有任何服务商为排名付费。

总对比表

这张表把十二家服务商放在一起。定价单元格来自为本文抓取的各厂商自己的定价或文档页面。页面没有写明的事实，单元格会直说，而不是猜测。最后一列中标注为厂商自报的速度声明来自厂商本身，不是独立测试。

开源在这里不是区分点：十二家都是托管服务。开放的是模型许可证，Artificial Analysis 把它跟踪的这些模型的每个端点都标为「Open」许可。如果你需要自托管，权重是一样的，问题只是你是否愿意自己运维 GPU。

四个开源模型的实时价格

我们选了多数服务商都托管的四个模型：gpt-oss-120b（支持最广）、DeepSeek V4.1 Flash、GLM-5.3 和 Kimi K3。价格为美元每百万 token，格式为输入 / 输出，未缓存，取自各服务商 2026 年 11 月 11 日的页面。「未列出」表示该模型没有出现在我们抓取的页面上，并不证明它不可用。

有三点值得注意。第一，Together AI、Fireworks AI 和 Baseten 对 DeepSeek V4.1 Flash、GLM-5.3 和 Kimi K3 的标价相同（$0.30/$1.20、$1.40/$4.40 和 $3.00/$15.00），所以在这些模型上你要按速度、功能和缓存来选，而不是按 token 价格。第二，价格差距在 gpt-oss-120b 上拉开，输入价从 $0.037 到 $0.35，差近十倍。第三，DeepInfra 的页面对部分模型显示促销折扣（GLM-5.3 标价 $0.90/$4.00，38% 折扣后为 $0.5625/$2.50），随时可能变化，请把促销价当作临时价格。

对 agent 来说，缓存输入价比标称价格更重要。Together 把 DeepSeek V4.1 Flash 的缓存输入标为每百万 token $0.006，未缓存为 $0.30；Fireworks 表示缓存输入按五折或更低计费，且没有写入费用。每轮都重发长系统提示的 agent，在缓存做得好的服务商上主要付缓存价。Artificial Analysis 还发布在多轮 agent 会话中测得的缓存命中率（最后更新于 2026 年 10 月 26 日），可以用来检验服务商的缓存在实践中是否有效。

速度与延迟数据（Artificial Analysis，2026 年 11 月 11 日读取）

Artificial Analysis 每六小时对每个服务商端点运行同一基准负载，并对最近五天取平均。它现在的主要速度指标是单任务耗时：完成一个 Intelligence Index 任务所需的输出 token 数，除以该端点的端到端输出速度，单位为分钟。延迟指标是首个回答 token 时间，单位为秒。它的图表里仍有原始 tokens per second，但我们读到的页面上这些图表背后的数字不是文本形式，所以我们报告单任务耗时和首 token 延迟，而不去猜测 tokens per second。两个指标都是越低越好。

gpt-oss-120b（high 推理），覆盖最全的模型

Artificial Analysis 为该模型列出 16 家服务商。我们只展示本文涉及的那些。「每任务成本」是一个 Intelligence Index 任务的加权成本，已包含各端点使用的 token 数。准确率一列是 Endpoint Accuracy Index，即参考端点的百分比。

规律很清楚。Cerebras、SambaNova 和 Groq 完成一个任务分别用 0.9、3.1 和 3.3 分钟，首个回答 token 为 1.86、5.78 和 4.98 秒。Cerebras 比最慢的 DeepInfra 端点（40.9 分钟）快 45.4 倍。每 token 最便宜的服务商更慢：DeepInfra 较便宜的端点需要 40.9 分钟，在采样窗口内错误率为 11.5%。Cerebras 是这里每任务成本最高的（$0.76），混合 token 价格也最高（据 Artificial Analysis FAQ，每百万 $0.39，对比 CoreWeave 的 $0.044），其准确率指数 92% 低于 SambaNova（99%）、Baseten（100%）和 Nebius（102%）。

由此得到两点。专用芯片服务商的速度要花钱买；当模型耗时更长或端点失败更多时，最便宜的端点并不自动是每个完成任务最便宜的。错误率也有差异：窗口内 SambaNova 为 0.0%、Cerebras 为 0.7%，而 Baseten 为 6.3%、Together AI 为 7.5%、DeepInfra 的一个端点为 11.5%。五天平均会变动，大额承诺前请重新检查。

GLM-5.3（max 推理），更重的模型

同一网站上 GLM-5.3 有 29 家被跟踪的服务商。重推理模型的大部分延迟用于思考，因此即使在快速的服务商上首个回答 token 也要几十秒。本文涉及的服务商如下：

Fireworks 和较快的 Baseten 端点完成一个任务分别用 8.9 和 8.0 分钟，DeepInfra 用 25.7 分钟，但每任务只要 $2.39，而快速 Baseten 端点为 $9.52、Fireworks 为 $10.32。这仍是同样的取舍：速度可以买，完成一个任务的价格也随之上升。对 Kimi K3，Artificial Analysis 的首个回答 token 数据为 Baseten 20.02 秒、Fireworks 40.57 秒、Together AI 50.12 秒、Nebius 70.77 秒；对 DeepSeek V4.1 Flash，Together AI 为 21.79 秒、DeepInfra 为 49.85 秒。我们读取时这两个页面没有填充每任务成本，所以不按成本给它们排名。

厂商自报速度，仅供参考：Cerebras 在定价页为 gpt-oss-120B 标称约 3000 tokens/s、Qwen 3.8 27B 约 1,850 tokens/s；Groq 在模型页为 gpt-oss-120b 标称 500 tokens/s、Qwen3.8-27B 为 450；Nebius 在目录中为 Kimi-K3.1-Pro 显示 195 tokens/s。Fireworks 把 Fast 模式描述为每秒 100+ token。这些是厂商自报，方法各异，所以不要把它们互相比较，也不要与 Artificial Analysis 的端到端数字比较。

Together AI

Together AI 是这份名单中最接近通用开源模型云的一家。它在同一账号下出售 serverless token、微调和专用容量，定价页目录涵盖 gpt-oss-120B、DeepSeek V4 系列、GLM-5.2 与 5.3、Kimi K3 与 K3.1 Pro，以及多个 Qwen 模型。列有一个免费模型（Ternary Bonsai 27B），输入输出均为 $0。

定价（截至 2026 年 11 月 11 日）：gpt-oss-120B $0.15/$0.60，DeepSeek V4.1 Flash $0.30/$1.20（缓存输入 $0.006），GLM-5.3 $1.40/$4.40，Kimi K3 $3.00/$15.00。部分模型有美国地域固定版本，价格高 25%，例如 DeepSeek V4.1 Flash 为 $0.375/$1.50。微调按训练 token 计费：Llama 3.3 70B 每百万 token SFT $2.03、DPO $5.08，最低 $4.00；gpt-oss-120B SFT $2.50、DPO $6.25，最低 $6.00。专用 GPU 标价为 HGX H100 每小时 $5.49、HGX B200 $8.99，H200 和 B300 需联系，另有预留吞吐单元用于保证容量。

优点：同一平台下功能最全，GPU 小时价格公开，支持 LoRA 和全量微调，有地域固定选项。缺点：在 Artificial Analysis 的 gpt-oss-120b 页面上速度居中（每任务 18.9 分钟，首个回答 token 38.43 秒），窗口内错误率 7.5%，并且是本文服务商中准确率指数最低的（81%）。这只是某一天某一个模型的结果，但足以成为用你自己的提示词测试的理由。最适合：想在一个平台上原型、微调和部署的团队。抓取的定价页没有写明免费额度数额。

Fireworks AI

Fireworks 销售同样的开源模型，更强调生产控制。其定价页称 serverless 起价为每百万输入 token $0.05，每个请求可以在同一端点上选择模式：Standard、Priority、Fast（每秒 100+ token，厂商自报）、Ultra-fast（预览）、Batch（输入输出 5 折）或 Spot（比 Standard 低 30%，尽力而为，仅部分模型，吞吐可能降为零）。

定价：gpt-oss-120B $0.15/$0.60，缓存输入 $0.015；GLM 5.3 $1.40/$4.40；Kimi K3 $3.00/$15.00；DeepSeek V4.1 Flash $0.30/$1.20，缓存输入 $0.006。Priority 大约加价 20% 到 25%（gpt-oss-120B Priority 为 $0.18/$0.72）。按需 GPU 按 GPU 秒计费，H100 和 H200 每小时 $8.00，B200 $13.00，B300 $15.00，GB300 $20.00，空闲部署默认一小时后缩容到零。区域限定部署按 1.5 倍计价，部分模型的仅美国 serverless 加价 50%，Fireworks Sovereign（在你自己的云账户或数据中心里推理）面向 Enterprise 客户处于私有预览。

优点：成本杠杆最清晰（Batch、Spot、无写入费的缓存输入），具备 SOC 2 Type II、ISO 27001、27701 与 42001 以及带 BAA 的 HIPAA，并作为第一方服务进入 Microsoft Foundry，用量可计入 Azure 承诺额度。推理延迟也不错：在 Artificial Analysis 上，GLM-5.3 完成一个任务用 8.9 分钟，首个回答 token 24.18 秒，错误率 0.0%。缺点：GLM-5.3 每任务成本是我们表中最高的（$10.32），按需 H100 价格高于 Together 或 Baseten 标价。最适合：混合交互与批量流量的生产负载。

Groq

Groq 在自家 LPU 硬件上运行模型，据其首页，现在通过 LPX 与 NVIDIA GPU 配合。模型页列出每个模型的速度：gpt-oss-120b 500 tokens/s、gpt-oss-20b 1000、Qwen3.8-27B 450、Muse Spark Open 350（均为厂商自报）。公开价格很简短：每百万 token gpt-oss-120b $0.15/$0.60，gpt-oss-20b $0.075/$0.30，Qwen3.8-27B $0.80/$4.00，而 Llama 3.3 70B、Muse Spark Open 和 MiniMax M2.7 标为「Contact Sales」。gpt-oss-120b 的 Developer 计划限额为每分钟 250K token、每分钟 1K 请求。

优点：在 Artificial Analysis 表中 gpt-oss-120b 的首个回答 token 排第二（4.98 秒），每任务 3.3 分钟，并有 https://api.groq.com/openai/v1 这个兼容 OpenAI 的简单 API。缺点：模型列表很短（若干条目是 Preview，仅供评估、不用于生产），gpt-oss-120b 准确率指数 90%，窗口内错误率 3.5%，已查页面没有微调或区域信息。每任务成本 $0.32，并非最便宜。最适合：适合其模型列表的延迟敏感聊天和语音前端；首 token 时间在哪里重要，请见我们的语音 agent 平台指南。

Cerebras

Cerebras 在晶圆级芯片上提供模型服务。其定价页有两档：Developer，自助按量付费，用于探索，绑定支付方式送一次性 $5 额度（30 天后过期）；Enterprise 需报价，提供生产容量、更高限额，并按协议提供自定义权重和微调。Developer 档标注为不适用于生产。它列出 GPT OSS 120B 约 3000 tokens/s，输入 $0.35、输出 $0.75；Qwen 3.8 27B 约 1,850 tokens/s，$0.99 和 $1.49（速度为厂商自报）。

优点：在 Artificial Analysis 上，gpt-oss-120b 的单任务耗时（0.9 分钟）和首个回答 token（1.86 秒）均排第一，错误率 0.7%。缺点：是我们展示的服务商中每任务成本最高的（$0.76），准确率指数 92%，Developer 档只有两个模型，没有记载的区域，也没有自助专用方案。最适合：等待本身就是成本的产品，如实时 agent 和交互式代码工具，以及愿意为速度多付费的团队。

SambaNova

SambaNova 的 SambaCloud 运行在其 RDU 芯片上。文档列出三个生产模型（DeepSeek-V3.1、Meta-Llama-3.3-70B-Instruct 和 gpt-oss-120b）和若干预览模型（MiniMax-M3.1-Flash、DeepSeek-V3.2、gemma-4-31B-it）。其云定价页每百万 token 价格为：gpt-oss-120b $0.22/$0.59，Meta-Llama-3.3-70B-Instruct $0.60/$1.20，GLM-5.3 $2.80/$8.80（缓存输入 $0.14），MiniMax-M3.1-Flash $0.30/$1.20，gemma-4-31B-it $0.38/$1.15。其网站上列出的产品包括 SambaCloud 和 SambaStack。

优点：在 gpt-oss-120b 上速度排第二（每任务 3.1 分钟），延迟排第三（5.78 秒，落后于 Cerebras 和 Groq），窗口内错误率 0.0%、准确率指数 99%，是快速服务商中可靠性与保真度组合最好的。缺点：生产模型列表短，GLM-5.3 的价格是通行价 $1.40/$4.40 的两倍，我们也没能验证微调、免费额度或区域的公开细节。最适合：想要低错误率的快速 gpt-oss-120b 或 Llama 3.3 70B 的团队。

DeepInfra

DeepInfra 靠价格竞争。其模型页标价：gpt-oss-120b 输入 $0.037、输出 $0.17；DeepSeek-V3.2 $0.26/$0.38；DeepSeek-V3.1 $0.25/$0.95；DeepSeek V4.1 Flash $0.20/$0.60（显示 30% 促销价 $0.14/$0.42）；GLM-5.3 $0.90/$4.00（38% 促销价 $0.5625/$2.50）；Kimi K3 $2.85/$14.25。许多条目显示缓存输入价和 1M token（1024k）上下文窗口。

优点：在这些服务商中 gpt-oss-120b 的每 token 标价最低，GLM-5.3 和 DeepSeek V3.2 的价格也有竞争力。在 Artificial Analysis 上，其每个 gpt-oss-120b 任务成本也是第二低（$0.09）。缺点：gpt-oss-120b 上最慢（每任务约 40 分钟，首个回答 token 50.58 到 63.91 秒），窗口内错误率为 9.8% 和 11.5%，两个端点之一的准确率指数只有 85%。我们也没能从读取的页面验证微调或专用 GPU 价格。最适合：成本优先、能容忍较慢响应和少量重试的批量任务。

Baseten

Baseten 既卖 Model APIs 目录，也卖面向自有模型的 Dedicated Inference，另有 Training 和 Sandboxes。token 价格：gpt-oss-120B $0.10/$0.50，GLM-5.3 $1.40/$4.40（Fast 版本 $2.10/$6.60），DeepSeek V4.1 Flash $0.30/$1.20（缓存输入 $0.007），Kimi K3 $3.00/$15.00。专用 GPU 按分钟计费：T4 约每小时 $0.63，L4 $0.85，A10G $1.21，A100 $4.00，H100 MIG $3.75，H100 $6.50，B200 $9.98，CPU 实例约每小时 $0.03 起。面向生产规模，它提供批量折扣、预留与优先算力，以及定制区域和支持。

优点：从 API 到专用 GPU 的按量付费路径清晰，「Fast」版本让你有意识地购买速度。在 Artificial Analysis 上，其较快的 GLM-5.3 端点完成一个任务用 8.0 分钟，首个回答 token 17.67 秒，是我们展示的服务商中该模型延迟最好的，其 gpt-oss-120b 端点准确率指数为 100%。缺点：窗口内 gpt-oss-120b 错误率为 6.3%，快速端点每个 GLM-5.3 任务成本 $9.52。最适合：从 Model APIs 起步、预计迁移到自有或微调模型专用部署的团队。

Replicate

Replicate 是个特例。它的定价页围绕硬件时间而非 token：A100（80GB）每小时 $5.04，H100 $5.49，L40S $3.51，T4 $0.81，H200 $5.49（H200 与多 GPU 容量通过承诺消费合同提供），按秒计费。你用开源工具 Cog 打包模型。私有模型运行在专用硬件上，你要为启动、空闲和活跃时间付费，只有快速启动的微调模型仅在活跃时计费。

优点：任何能容器化的模型都能跑，适合在 LLM 旁边放图像、音频和自定义流水线，而且微调模型不收空闲费。缺点：定价页没有公开 LLM 的按 token 价格，Artificial Analysis 的 gpt-oss-120b 页面没有列出 Replicate，普通私有模型的空闲计费可能让人意外。我们也无法验证区域。最适合：自定义或多模态模型，不太适合纯聊天补全的成本对比。

Hugging Face Inference Providers

Inference Providers 是合作服务商前面的一层路由，用 Hugging Face token 访问 https://router.huggingface.co/v1。其文档宣称有 200+ 模型，并称 Hugging Face 按服务商相同价格收费、不额外加价。PRO 用户每月 $2.00 额度，Team 和 Enterprise 组织每席位 $2.00，免费用户需购买额度。你也可以设置自己的服务商密钥，此时由服务商向你收费，额度不适用。内置的 hf-inference 服务商现在主要聚焦 CPU 推理，如嵌入和小型经典模型。

优点：一个账号和 token 通吃多个服务商，账单合并，团队可用组织计费请求头（X-HF-Bill-To）。缺点：$2.00 额度对真实负载太少，而且你得继承实际处理请求的那家服务商的速度、价格和区域。最适合：评估阶段，以及已围绕 Hub 组织工作的团队。

Novita AI

Novita 标价：gpt-oss-120B 输入 $0.05、输出 $0.25；DeepSeek V4.1 Flash $0.30/$1.20（缓存读取 $0.006）；GLM 5.3 $1.40/$4.40；Kimi K3 $3.00/$15.00（缓存读取 $0.30，另有缓存写入费用）。其定价页称，支持的模型可享批量推理，输入输出 token 有限时 5 折。它还列出偏速度的版本，例如 Kimi K3.1 Pro Highspeed，$4.00/$20.00。

优点：在我们表中 gpt-oss-120b 价格第二低，错误率 2.1%，Artificial Analysis 上每任务成本 $0.12，在该图表中排第三低。缺点：速度居中（每任务 7.3 分钟，首个回答 token 12.67 秒），准确率指数 93%，GLM-5.3 的首个回答 token 为 58.89 秒。我们也没能验证专用端点、微调或区域。最适合：对价格敏感的 gpt-oss-120b 生产流量。

Nebius Token Factory（原 AI Studio）

Nebius AI Studio 的文档现在会重定向到 Nebius Token Factory，后者自称可以「build, fine-tune, and run open models at production scale」。文档首页列出的功能包括：用于推理和微调的兼容 OpenAI 的 API，serverless 后训练（监督微调和自定义 speculator 训练，按 token 计价），用于数据集的 Data Lab，Batch Inference，Sandboxes，以及可定义扩缩容、区域和性能的隔离 GPU 专用端点。多数价格表在登录之后，所以我们只能引用公开目录显示的内容：Moonshot AI Kimi-K3.1-Pro 每百万 token 输入 $2.00、缓存输入 $0.20、输出 $10.00，Base 版本 195 tokens/s（厂商自报），区域 us-north1。该页面还提到部分 serverless 端点已弃用，并于 11 月 9 日移除。

优点：gpt-oss-120b（102%）和 GLM-5.3（99%）的 Artificial Analysis 准确率很高，GLM-5.3 错误率 0.0%，并有从微调到专用部署的完整路径。缺点：窗口内 gpt-oss-120b 错误率 7.5%，Kimi K3 首个回答 token 70.77 秒，价格需要账号才能查看。最适合：希望在一个控制台里完成微调和专用端点的团队。

OpenRouter（聚合器）

OpenRouter 自己不托管模型。它把你的请求路由到 80+ 服务商、600+ 模型中的一个，并按服务商标价计费。手续费在购买额度时收取：Standard 5.5%，Business 8%，Enterprise 按合同可获手续费折扣。Free 档提供来自 4 家免费服务商的 25+ 免费模型。Standard 增加自动路由、偏好服务商选择、预算与支出控制和提示缓存；Business 增加欧盟和美国区域内路由；Private Endpoints 是 Enterprise 附加项。使用自带密钥时，Standard 和 Business 每月包含 $25,000 的标价推理额度、不收 OpenRouter 费用，之后收 5%。返回错误的失败请求不会为其模型 token 收费。

优点：一个密钥、一张账单覆盖多个服务商，服务商故障时可回退，也便于在多个托管方上测试同一模型。缺点：多了一层可能出故障的环节，除非设置偏好，否则你无法控制由哪个服务商端点来响应，而考虑到上文的准确率差异，这一点很重要。最适合：实验、故障转移，以及想要一张账单的团队。网关功能及与其他产品的对比，请见我们的最佳 LLM API 网关与路由器指南。

微调、专用端点与区域

每 token 价格只是决策的一半。如果你需要自己的微调模型、自己的 GPU 或区域保证，名单会迅速缩短。下表展示各厂商页面实际写明的内容。「已查页面未记载」表示我们在抓取的页面上没有找到，并不表示它不存在。

一条简单规则：如果你要微调，先确认平台能否不另签合同就部署结果。Together、Fireworks 和 Nebius 记载了这条路径。如果你需要硬性的数据驻留保证，请让厂商书面确认具体区域，因为「美国地域固定」和「区域限定」与指定国家或数据中心并不是同一种承诺。

如何选择

Agent 带来一个额外因素。编码 agent 或浏览器 agent 每轮都会重发长上下文并循环调用工具，所以缓存输入价、首 token 延迟和错误率对成本和可靠性的影响，比标称每 token 价格更大。关于 agent 一侧，请见我们的AI 编码 agent 指南（英文）和AI agent 浏览器基础设施指南（英文）。如果模型还要为检索服务，请搭配我们的向量数据库指南中合适的存储；如果 agent 作为长期运行的服务，请看agent 托管平台对比。

配置：在代码中切换服务商

这里多数服务商都使用 OpenAI chat-completions 格式，所以切换通常只是换 base URL、密钥和模型 ID。下面三个 base URL 和模型 ID 分别取自 Groq 模型页、Hugging Face 定价文档和 Nebius Token Factory 文档。

# One OpenAI-compatible client, three different providers.
# Base URLs and model IDs below come from each provider's own docs.
import os
from openai import OpenAI

groq = OpenAI(base_url="https://api.groq.com/openai/v1",
              api_key=os.environ["GROQ_API_KEY"])
hf = OpenAI(base_url="https://router.huggingface.co/v1",
            api_key=os.environ["HF_TOKEN"])
nebius = OpenAI(base_url="https://api.tokenfactory.us-north1.nebius.com/v1/",
                api_key=os.environ["NEBIUS_API_KEY"])

r = groq.chat.completions.create(
    model="openai/gpt-oss-120b",
    messages=[{"role": "user", "content": "Summarize RFC 9110 in two lines."}],
)
print(r.choices[0].message.content)

已发布的基准是对标准负载取平均，而你的负载不同。承诺之前，请用十到二十条真实提示词在两三个候选上各跑一遍，记录首 token 时间、完成时间和失败次数。下面的片段完成流式部分。它统计的是流式分块数而不是精确 token 数，所以只用来在服务商之间互相比较，不要用来引用 tokens per second。

# Measure time to first token and rough output speed on YOUR prompts.
import time

def probe(client, model, prompt):
    t0 = time.perf_counter()
    first = None
    chunks = 0
    stream = client.chat.completions.create(
        model=model, stream=True,
        messages=[{"role": "user", "content": prompt}],
    )
    for event in stream:
        if event.choices and event.choices[0].delta.content:
            if first is None:
                first = time.perf_counter() - t0
            chunks += 1
    total = time.perf_counter() - t0
    return {"ttft_s": round(first or 0, 2), "chunks_per_s": round(chunks / total, 1)}

评估方法

我们在 2026 年 11 月 11 日抓取了各厂商的定价和模型页面，价格只取自这些页面。速度和延迟使用 Artificial Analysis 关于 gpt-oss-120b、GLM-5.3、Kimi K3 和 DeepSeek V4.1 Flash 的服务商页面，因为它们对所有服务商使用同一方法；页面称其对最近五天、每六小时一次的运行取平均。厂商的速度声明标为厂商自报。当页面把价格藏在登录后、写「contact sales」或没有提到某项功能时，表格会如实说明。排名是按使用场景的编辑判断，没有服务商为排名付费，本文也没有联盟链接。

方法的局限：我们没有做自己的负载测试；比较的是标价而不是协商价或批量价；没有验证每家服务商的区域、SLA 或数据保留条款；Artificial Analysis 上的一些数字（例如 tokens-per-second 图表值）无法以文本读取。价格和排名变化很快，请把每个数字当作带日期的快照。

注意事项

• 名字相同，端点不同。Artificial Analysis 对某些服务商列出两次，价格、速度或准确率各不相同（例如 DeepInfra 和 Baseten）。要选具体端点，而不只是厂商。
• 量化与准确率。gpt-oss-120b 的端点准确率从 81% 到 102%。更便宜或更快的端点托管模型的方式可能与参考端点不同。
• 推理模式会改变一切。我们使用的 AA 页面测试的是特定推理设置（gpt-oss-120b 为 high，GLM-5.3 和 Kimi K3 为 max）。非推理调用的延迟会更低。
• 促销价。DeepInfra 显示临时折扣，Novita 的批量折扣是限时的。做预算前请重新核对。
• 预览模型。Groq 和 SambaNova 把部分模型标为预览，不适用于生产。
• 目录变动。Nebius 称部分 serverless 端点将于 11 月 9 日移除，这些厂商的模型阵容每月都在变化。

结论

没有单一赢家，数据说明了原因。Cerebras 以最高的每任务成本买到了最好的速度和延迟，DeepInfra 以最慢的速度和最高的错误率换来了最低的标价，SambaNova 和 Baseten 在较快的选项中给出了保真度与可靠性的最佳组合。如果还需要微调、专用容量和合规文件，Together AI 和 Fireworks AI 是最稳妥的平台，并且在我们能比较的模型上价格相同。

我们的默认建议：先用 OpenRouter 或 Hugging Face 评估两三个模型，从上表中为你的模型挑出两家服务商，用你自己的提示词测量，然后再决定。保留第二家服务商作为故障转移。每季度重新审视一次选择，因为价格和速度领先者会变。

常见问题

来源

除非另有说明，所有页面均于 2026 年 11 月 11 日读取。

• Artificial Analysis：gpt-oss-120b 服务商
• Artificial Analysis：GLM-5.3 服务商
• Artificial Analysis：Kimi K3 服务商
• Artificial Analysis：DeepSeek V4.1 Flash 服务商
• Together AI 定价
• Fireworks AI 定价
• GroqDocs：支持的模型
• Cerebras 推理定价
• SambaCloud 定价与 SambaCloud 模型
• DeepInfra 定价与 gpt-oss-120b 模型页
• Baseten 定价
• Replicate 定价
• Hugging Face：Inference Providers 定价与计费
• Novita AI 定价
• Nebius Token Factory 文档与 Token Factory 控制台首页
• OpenRouter 定价
• YouTube：Trends Across the AI Frontier（AI Engineer）