Llama 3.3 70B (Morpheus Web) API
meta-llama/llama-3.3-70b-instruct:web# UberLLM: 通用LLM API
UberLLM是所有LLM的通用API。
它是OpenAI API的直接替代品,支持OpenAI、Anthropic、Claude、GPT、Gemini、DeepSeek、Veo、Kling等模型。
## 功能特性
* **通用API:** 一个API即可调用所有LLM。
* **兼容OpenAI API:** OpenAI API的直接替代品。
* **流式传输:** 支持流式响应。
* **成本优化:** 自动将请求路由到最便宜的可用模型。
* **缓存:** 缓存响应以降低延迟和成本。
* **负载均衡:** 将请求分发到多个模型以提高可靠性。
* **故障回退:** 自动使用其他模型重试失败的请求。
* **可观测性:** 监控API使用情况、延迟和错误。
* **使用限制:** 设置速率限制和支出限制。
* **自定义模型:** 添加您自己的自定义模型。
## 支持的模型
UberLLM支持所有主流LLM,包括:
* **OpenAI:** GPT-4, GPT-3.5等。
* **Anthropic:** Claude 3, Claude 2等。
* **Google:** Gemini等。
* **DeepSeek:** DeepSeek-Coder, DeepSeek-Chat等。
* **其他:** OpenRouter, Fal, kie.ai等。
## 快速入门
### 1. 注册UberLLM账户
前往[uberllm.com/signup](https://uberllm.com/signup)创建您的账户。
### 2. 获取您的API密钥
注册后,您可以在您的[仪表盘](https://uberllm.com/dashboard)中找到您的API密钥。
### 3. 安装SDK
```python
pip install uberllm
```
### 4. 使用API
```python
from uberllm import UberLLM
client = UberLLM(api_key="YOUR_UBERLLM_API_KEY")
response = client.chat.completions.create(
model="gpt-4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"},
],
)
print(response.choices[0].message.content)
```
## API参考
UberLLM的API与OpenAI的API完全兼容。
您可以使用与OpenAI相同的客户端库和SDK。
您唯一需要做的更改是将`base_url`设置为`https://api.uberllm.com/v1`。
```python
from openai import OpenAI
client = OpenAI(
base_url="https://api.uberllm.com/v1",
api_key="YOUR_UBERLLM_API_KEY",
)
response = client.chat.completions.create(
model="gpt-4",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello!"},
],
)
print(response.choices[0].message.content)
```
## 定价
UberLLM为所有支持的模型提供有竞争力的定价。
您只需按使用量付费,无任何隐藏费用。
### 示例定价
| 模型 | 输入 (每100万token) | 输出 (每100万token) |
|---|---|---|
| GPT-4 | ⟦n⟧ | ⟦n⟧ |
| GPT-3.5 | ⟦n⟧ | ⟦n⟧ |
| Claude 3 | ⟦n⟧ | ⟦n⟧ |
| Gemini | ⟦n⟧ | ⟦n⟧ |
如需查看完整定价列表,请访问我们的[定价页面](https://uberllm.com/pricing)。
## 联系我们
如果您有任何问题或需要帮助,请随时联系我们:
* **电子邮件:** [[email protected]](mailto:[email protected])
* **Discord:** [加入我们的Discord服务器](https://discord.gg/uberllm)
* **Twitter:** [@uberllm](https://twitter.com/uberllm)UberLLM 市场上的 Llama 3.3 70B (Morpheus Web)。 由 Meta 打造。 128,000 token 上下文。
目前暂不可用。 在有服务商重新提供之前,发往这个模型的请求都会被拒绝。
可以改用下面这些模型,现在就能用:
Llama 3.3 70B (Morpheus Web) API 常见问题
Llama 3.3 70B (Morpheus Web) API 要多少钱?
Llama 3.3 70B (Morpheus Web) 在 UberLLM 的模型目录中,但目前没有服务商在提供它。
如何通过 API 调用 Llama 3.3 70B (Morpheus Web)?
任何兼容 OpenAI 的 SDK 都可以:把 base URL 设为 https://api.uberllm.dev/v1,填入你的 UberLLM API 密钥,模型填 "meta-llama/llama-3.3-70b-instruct:web"。Anthropic SDK 可通过 https://api.uberllm.dev/v1/messages 使用。
UberLLM 上的 Llama 3.3 70B (Morpheus Web) 兼容 OpenAI 吗?
兼容。UberLLM 上的每个模型(包括 Llama 3.3 70B (Morpheus Web))都通过同一个兼容 OpenAI 的端点提供。在你现有的客户端里设置好 base URL 和密钥即可。
与其他服务商对比: 最佳 OpenRouter 替代方案