新我们如何抓出挂错模型的卖家,并在发生时为你退款。
UberLLM

隐私:提供商看到什么

谁会读取您的请求

UberLLM 不运行模型。为了响应您的请求,我们会将其发送给第三方:一个由独立卖家组成的市场,或卖家自己的产品列表。

卖家的提供商账户可能会保留卖家可以读取的日志。一些提供商允许账户所有者开启提示词日志记录。因此,处理您请求的卖家可能能够读取您的请求。

为了提高安全性,在请求离开 UberLLM 之前,我们会将您文本中的一些值替换为标签。这适用于文本请求:/v1/chat/completions、/v1/messages 和 /v1/responses。

我们不会使用您的请求来训练模型。UberLLM 自身保存的内容是一个单独的设置,不保存我的请求和回答,这在我们的隐私政策]中有所阐述。

我们总是隐藏的内容

对于每个密钥,无需开启任何设置,我们都会隐藏:

  • 以常见格式的 API keys 和 tokens
  • 写在诸如 password, secret, token 或 api_key 等词语之后的任何值,例如 password: … 或 api_key=…
  • private keys
  • signed tokens (JWT)
  • 链接中的一个 password,例如 postgres://user:PASS@host 中的 PASS

每一个都会变成一个像 [SECRET_3f9a2c1b] 这样的标签。

个人数据设置

关键设置 向提供商隐藏个人数据 也会隐藏:

  • 电子邮件地址,显示为 [EMAIL_…]
  • 电话号码(以 + 开头的国际号码,以及常见的美国格式),显示为 [PHONE_…]
  • 银行卡号(通过银行卡校验和检查),显示为 [CARD_…]
  • 公共 IPv4 地址,显示为 [IP_…]

新密钥默认开启此设置。在此设置存在之前创建的密钥会保持关闭状态,直到您在 Dashboard → API keys 中将其开启。

有些任务需要真实值,而模型只能看到标签。例如,“修复这些电子邮件地址中的拼写错误”或“此地址属于哪个域”等任务将无法正常工作。请为您用于该任务的密钥关闭此设置。

标签如何运作

您发送:

Email [email protected] about the outage.
Our database is postgres://app:[email protected]/main

开启此设置后,卖家收到:

Email [EMAIL_3f9a2c1b] about the outage.
Our database is postgres://app:[SECRET_8d04e7a2]@db.internal/main

模型使用标签进行回复。在回复到达您之前,我们会将真实值替换回去。这涵盖了普通回复、streaming回复和工具调用参数,因此您的应用运行的工具会获得真实地址。

思考和推理文本会保留标签。它会完全按照模型编写的方式返回,因此当您将其发送回去时,签名的思考内容仍然有效。

在您的账户中,相同的值总是会获得相同的标签。多轮对话和prompt caching会继续正常工作。

未隐藏的内容

  • 姓名和公司名称
  • 街道地址
  • 自由文本,例如备注、合同或您的代码功能描述
  • 图片、PDF、音频或其他文件中的任何内容
  • 用于视频、图像和音乐生成的提示词
  • 您的工具定义和输出 schema,以及您在链接字段中发送的链接(例如图片 URL)

我们根据值的形状来识别它们。一个在句子中以普通单词形式书写的密码,前面没有 password:,可能会被遗漏。同样地,一个我们不认识的格式的 key,在没有标签的情况下发送,也可能会被遗漏。对于您不想让卖家看到的任何内容,请不要仅仅依赖标签。

如何检查

每个我们隐藏了某些内容的请求回复,都会有这个头部信息:

X-UberLLM-Hidden: email=2,secret=1

它会说明在该请求中隐藏了哪些类型的值,以及每种类型有多少个。 如果没有头部信息,则表示我们没有发现任何需要隐藏的内容。

自带密钥

使用您自己的提供商密钥发送的请求会发送到您自己的提供商账户。我们不会更改它,其中没有任何内容会被隐藏。