新我们如何抓出挂错模型的卖家,并在发生时为你退款。
UberLLM

入门套件

四个你可以复制并运行的小项目。每个项目都通过 https://api.uberllm.dev/v1 使用 UberLLM 作为模型提供商,固定了其依赖版本并附带一个冒烟测试。

入门项目 内容 技术栈
Next.js 聊天应用 一个带有工具和类型化输出的流式聊天应用 Next.js, Vercel AI SDK
LangGraph 代理 一个循环调用工具的代理 Python, LangGraph
CrewAI 团队 两个进行研究和写作的代理 Python, CrewAI
代理 CLI,无框架 一个无依赖、单文件工具调用代理 TypeScript, Node

快速开始

  1. 复制一个启动器。将 tool-agent-cli 替换为 nextjs-ai-sdk-chat、 langgraph-agent 或 crewai-crew 以使用其他模型:

    npx degit PSA-Team-source/uberllm/starters/tool-agent-cli my-agent
    cd my-agent
    
  2. 在 Dashboard → Keys 中创建一个 key,并 将其放入启动器的 env 文件中。账户从 $0, 开始,因此在首次调用前请充值。

    cp .env.example .env   # .env.local for the Next.js starter
    
  3. 运行它。每个启动器的 README 都包含确切的命令:

    启动器 安装 运行
    nextjs-ai-sdk-chat npm install npm run dev,然后打开 http://localhost:3000
    langgraph-agent pip install -r requirements.txt python agent.py "What would 3 million output tokens of openai/gpt-5.5 cost?"
    crewai-crew pip install -r requirements.txt python crew.py openai/gpt-5.5 anthropic/claude-sonnet-5.5
    tool-agent-cli 无需安装 (Node 22.18 或更高版本) node agent.ts "What does this project do?"

默认模型是 deepseek/deepseek-v4-flash。将 UBERLLM_MODEL 设置为 uberllm.dev/models 上任何支持工具的聊天模型。

每个入门项目展示了什么

  • Next.js 聊天应用。 页面上有 useChat,路由中有 streamText,一个查询实时模型价格的工具,以及使用 supportsStructuredOutputs: true 设置的提供商,这是类型化输出 (Output.object) 所需的。更多关于 SDK 的信息:Vercel AI SDK。
  • LangGraph 智能体。 标准的智能体图 (模型 → 工具 → 模型),其中 ChatOpenAI 指向 UberLLM。更多信息:LangChain。
  • CrewAI 团队。 两个智能体使用一个模型。模型 ID 写为 "openai/" + <UberLLM id>,并带有 custom_openai=True,这是 CrewAI 访问 OpenAI 兼容 endpoint 的方式。
  • 智能体 CLI。 整个工具循环大约 200 行纯 fetch 代码:发送工具,运行模型请求的调用,发回结果,重复。它会打印 token 计数和每个答案的成本。

每个 starter 都做了什么

  • API key 仅用于 UberLLM。 base URL 已在代码中设置,因此您 shell 中的 OPENAI_BASE_URL 不会被使用。
  • 精确版本。 依赖项已固定,因此您复制的 starter 就是经过测试的版本。
  • 冒烟测试。 如果没有 API key,它会针对 API 的替代品运行。如果设置了 UBERLLM_API_KEY,它还会进行一次真实调用,费用约为一美分或更少。

每次调用都会按照其提供商的收费标准计费,失败的调用不收费。要限制 API key 的支出,请在 Dashboard → Keys 中为其设置支出限额。请参阅 定价。

用于您的 README 的实时价格徽章

您的项目支持 UberLLM 吗?一个徽章会显示您推荐模型的当前价格。UberLLM 以 SVG 格式提供它,因此当价格变化时,它会自动更新。

DeepSeek V4 Flash 在 UberLLM 上的价格

Markdown:

[![DeepSeek V4 Flash price on UberLLM](https://api.uberllm.dev/api/v1/public/badge/deepseek/deepseek-v4-flash.svg)](https://uberllm.dev/models/deepseek/deepseek-v4-flash?utm_source=embed&utm_medium=referral&utm_campaign=price-badge)

HTML:

<a href="https://uberllm.dev/models/deepseek/deepseek-v4-flash?utm_source=embed&amp;utm_medium=referral&amp;utm_campaign=price-badge"><img src="https://api.uberllm.dev/api/v1/public/badge/deepseek/deepseek-v4-flash.svg" alt="DeepSeek V4 Flash price on UberLLM"></a>
  • 将来自 uberllm.dev/models 的任何模型 ID 放入这两个地址中,例如 anthropic/claude-sonnet-5.5。
  • 不存在的 ID 会返回 404,,因此在提交前请检查徽章是否加载成功。
  • 如果需要数字而非图片,相同的价格以 JSON 格式位于 https://api.uberllm.dev/api/v1/public/prices?model=<model id>。无需 API key,浏览器即可调用。参见 价格 API 和价格徽章。
  • 要让您的应用列在 uberllm.dev/apps 上,请发送 Apps 中的两个 headers。

更多示例

适用于更多 SDK 和语言(OpenAI 和 Anthropic SDK、LlamaIndex、LiteLLM、Pydantic AI、Go、Rust、Java、.NET、curl、图像、视频、音乐和语音)的单文件示例位于操作指南。