隐私:提供商看到什么
谁会读取您的请求
UberLLM 不运行模型。为了响应您的请求,我们会将其发送给第三方:一个由独立卖家组成的市场,或卖家自己的产品列表。
卖家的提供商账户可能会保留卖家可以读取的日志。一些提供商允许账户所有者开启提示词日志记录。因此,处理您请求的卖家可能能够读取您的请求。
为了提高安全性,在请求离开 UberLLM 之前,我们会将您文本中的一些值替换为标签。这适用于文本请求:/v1/chat/completions、/v1/messages 和 /v1/responses。
我们不会使用您的请求来训练模型。UberLLM 自身保存的内容是一个单独的设置,不保存我的请求和回答,这在我们的隐私政策]中有所阐述。
我们总是隐藏的内容
对于每个密钥,无需开启任何设置,我们都会隐藏:
- 以常见格式的 API keys 和 tokens
- 写在诸如 password, secret, token 或 api_key 等词语之后的任何值,例如
password: …或api_key=… - private keys
- signed tokens (JWT)
- 链接中的一个 password,例如
postgres://user:PASS@host中的PASS
每一个都会变成一个像 [SECRET_3f9a2c1b] 这样的标签。
个人数据设置
关键设置 向提供商隐藏个人数据 也会隐藏:
- 电子邮件地址,显示为
[EMAIL_…] - 电话号码(以
+开头的国际号码,以及常见的美国格式),显示为[PHONE_…] - 银行卡号(通过银行卡校验和检查),显示为
[CARD_…] - 公共 IPv4 地址,显示为
[IP_…]
新密钥默认开启此设置。在此设置存在之前创建的密钥会保持关闭状态,直到您在 Dashboard → API keys 中将其开启。
有些任务需要真实值,而模型只能看到标签。例如,“修复这些电子邮件地址中的拼写错误”或“此地址属于哪个域”等任务将无法正常工作。请为您用于该任务的密钥关闭此设置。
标签如何运作
您发送:
Email [email protected] about the outage.
Our database is postgres://app:[email protected]/main
开启此设置后,卖家收到:
Email [EMAIL_3f9a2c1b] about the outage.
Our database is postgres://app:[SECRET_8d04e7a2]@db.internal/main
模型使用标签进行回复。在回复到达您之前,我们会将真实值替换回去。这涵盖了普通回复、streaming回复和工具调用参数,因此您的应用运行的工具会获得真实地址。
思考和推理文本会保留标签。它会完全按照模型编写的方式返回,因此当您将其发送回去时,签名的思考内容仍然有效。
在您的账户中,相同的值总是会获得相同的标签。多轮对话和prompt caching会继续正常工作。
未隐藏的内容
- 姓名和公司名称
- 街道地址
- 自由文本,例如备注、合同或您的代码功能描述
- 图片、PDF、音频或其他文件中的任何内容
- 用于视频、图像和音乐生成的提示词
- 您的工具定义和输出 schema,以及您在链接字段中发送的链接(例如图片 URL)
我们根据值的形状来识别它们。一个在句子中以普通单词形式书写的密码,前面没有 password:,可能会被遗漏。同样地,一个我们不认识的格式的 key,在没有标签的情况下发送,也可能会被遗漏。对于您不想让卖家看到的任何内容,请不要仅仅依赖标签。
如何检查
每个我们隐藏了某些内容的请求回复,都会有这个头部信息:
X-UberLLM-Hidden: email=2,secret=1
它会说明在该请求中隐藏了哪些类型的值,以及每种类型有多少个。 如果没有头部信息,则表示我们没有发现任何需要隐藏的内容。
自带密钥
使用您自己的提供商密钥发送的请求会发送到您自己的提供商账户。我们不会更改它,其中没有任何内容会被隐藏。