LLM API 词汇表：token、context window、MTok、路由等
一份简明易懂的词汇表，解释了在调用 LLM API 时会遇到的术语——token、上下文窗口、每百万 token 价格 (MTok)、路由、OpenAI 兼容、Anthropic 兼容、x402, 折扣和健康提供商——以及它们在使用 UberLLM 时如何应用。
一份通俗易懂的参考资料，解释定价板、文档和网关路由中出现的词汇。每个条目都说明了该术语的含义，以及当您通过 UberLLM 调用模型时，它如何适用。
Token
LLM 读写的单位。文本在模型处理之前会被拆分成 token —— 大致相当于一个词或词的一部分 —— 您的 prompt (input tokens) 和模型的回复 (output tokens) 都会被计算在内。LLM API 按 token 计费，这就是为什么更精简的 prompt 和更小的 max_tokens 费用更低。在 定价面板 上查看实时的 per-token 价格。
上下文窗口
模型一次可以考虑的最大 token 数量——您的提示词加上回复必须容纳其中。更大的上下文窗口让您能够传递更多文档或更长的对话，但窗口中的每个 token 仍然是您需要付费的输入 token。每个模型的上下文长度都列在 /models。
每 1M tokens 价格 (MTok)
LLM 价格的报价方式：每 一百万 tokens 美元，写作 "/1M" 或 "per MTok"。输入和输出通常分开计费（输出通常更贵）。要估算一次调用的成本，将其 token 数量乘以每 MTok 费率，然后除以一百万。UberLLM 不会向所报的每 MTok 价格收取额外费用，因此这就是您支付的价格。
路由
选择哪个提供商来处理给定请求。像 UberLLM 这样的网关会将每个请求路由到为您指定的模型的最便宜的健康卖家，按请求进行 — 参见 路由工作原理。如果没有网关，“路由”就是您硬编码一个提供商。
OpenAI 兼容
描述了一个 endpoint，它接受与 OpenAI API 相同的请求并返回相同的响应，因此只需更改 base URL 和 key，OpenAI SDK 即可与其配合使用 — 完整解释请参见 什么是 OpenAI 兼容的 API endpoint。UberLLM 兼容 OpenAI。
兼容 Anthropic
对于 Anthropic 的 API，我们的理念也一样：一个支持 /v1/messages 请求和响应格式的 endpoint，这样，Anthropic SDK（以及基于它构建的工具，例如 Claude Code）只需更改 base URL 和 key 即可使用它。UberLLM 提供了一个兼容 Anthropic 的 /v1/messages endpoint — Anthropic SDK 文档。
x402
一种开放的、HTTP原生的请求付费方式，使用标准的 HTTP 402 "Payment Required" 状态码：服务器以 402 和支付详情响应调用，客户端支付并重试，然后请求得到服务 — 无需账户或订阅。它专为机器对机器和按请求付费的计费模式设计。
折扣
在市场上，模型的实时价格**低于其标价（直接价格）**的程度。提供闲置容量的卖家会以低于官方价格的价格列出；折扣就是这个差额，并且它会随着报价的变化而变动。每个模型的实时节省显示在定价板上。
健康的提供商
一个目前正在成功处理请求的提供商——没有报错、没有限流、也没有被检测为不健康。路由只会将您发送到健康的提供商，这正是防止“最便宜”变成“坏掉的”的关键。您可以在正常运行时间页面上查看提供商的可靠性。