Quyền riêng tư: những gì nhà cung cấp thấy
Ai đọc yêu cầu của bạn
UberLLM không chạy các mô hình. Để trả lời một yêu cầu, chúng tôi gửi nó đến một bên thứ ba thực hiện điều đó: một thị trường của các người bán độc lập, hoặc danh sách riêng của người bán.
Tài khoản nhà cung cấp của người bán có thể lưu giữ nhật ký mà người bán có thể đọc. Một số nhà cung cấp cho phép chủ tài khoản bật tính năng ghi nhật ký lời nhắc (prompt logging). Vì vậy, người bán xử lý yêu cầu của bạn có thể đọc được nó.
Để làm cho điều này an toàn hơn, chúng tôi hoán đổi một số giá trị trong văn bản của bạn thành các thẻ trước khi yêu cầu rời khỏi UberLLM. Điều này hoạt động trên các yêu cầu văn bản: /v1/chat/completions, /v1/messages và /v1/responses.
Chúng tôi không sử dụng yêu cầu của bạn để huấn luyện mô hình. Điều mà bản thân UberLLM lưu trữ là một cài đặt riêng biệt, Không lưu yêu cầu và câu trả lời của tôi, được đề cập trong Chính sách quyền riêng tư của chúng tôi.
Những gì chúng tôi luôn ẩn giấu
Với mỗi khóa, không cần bật bất kỳ cài đặt nào, chúng tôi ẩn giấu:
- API keys và tokens ở các định dạng quen thuộc
- bất kỳ giá trị nào được viết sau một từ như password, secret, token hoặc api_key, ví dụ như
password: …hoặcapi_key=… - khóa riêng tư
- các token đã ký (JWT)
- một password bên trong một liên kết, ví dụ như
PASStrongpostgres://user:PASS@host
Mỗi mục sẽ trở thành một tag như [SECRET_3f9a2c1b].
Cài đặt dữ liệu cá nhân
Cài đặt chính Ẩn dữ liệu cá nhân khỏi nhà cung cấp cũng ẩn đi:
- địa chỉ email, dưới dạng
[EMAIL_…] - số điện thoại (số quốc tế bắt đầu bằng
+, và định dạng thông thường của Mỹ), dưới dạng[PHONE_…] - số thẻ (được kiểm tra bằng tổng kiểm tra thẻ), dưới dạng
[CARD_…] - địa chỉ IPv4 công khai, dưới dạng
[IP_…]
Cài đặt này được bật mặc định cho các khóa mới. Các khóa được tạo trước khi cài đặt này tồn tại sẽ giữ nguyên trạng thái tắt cho đến khi bạn bật nó lên trong Dashboard → API keys.
Một số tác vụ cần giá trị thực, và mô hình chỉ thấy thẻ. Ví dụ, "sửa lỗi chính tả trong các địa chỉ email này" hoặc "địa chỉ này thuộc miền nào" không thể hoạt động. Hãy tắt cài đặt này cho khóa bạn sử dụng cho tác vụ đó.
Cách thức hoạt động của thẻ (tags)
Bạn gửi:
Email [email protected] about the outage.
Our database is postgres://app:[email protected]/main
Khi bật cài đặt này, người bán nhận được:
Email [EMAIL_3f9a2c1b] about the outage.
Our database is postgres://app:[SECRET_8d04e7a2]@db.internal/main
Mô hình trả lời bằng các thẻ. Chúng tôi đặt lại các giá trị thực vào trước khi câu trả lời đến tay bạn. Điều này áp dụng cho các câu trả lời thông thường, câu trả lời streaming và các đối số gọi công cụ (tool-call arguments), vì vậy một công cụ mà ứng dụng của bạn chạy sẽ nhận được địa chỉ thực.
Văn bản suy nghĩ và lập luận giữ nguyên các thẻ. Nó được trả về chính xác như mô hình đã viết, vì vậy suy nghĩ đã ký (signed thinking) vẫn hợp lệ khi bạn gửi lại.
Cùng một giá trị luôn nhận được cùng một thẻ trong tài khoản của bạn. Các cuộc trò chuyện đa lượt (multi-turn chats) và bộ nhớ đệm lời nhắc (prompt caching) vẫn tiếp tục hoạt động.
Những gì không được ẩn
- tên và tên công ty
- địa chỉ đường phố
- văn bản tự do, chẳng hạn như ghi chú, hợp đồng hoặc những gì mã của bạn làm
- bất cứ thứ gì bên trong hình ảnh, PDF, âm thanh hoặc các tệp khác
- lời nhắc để tạo video, hình ảnh và âm nhạc
- định nghĩa công cụ và lược đồ đầu ra của bạn, cùng các liên kết bạn gửi trong trường liên kết (chẳng hạn như một URL hình ảnh)
Chúng tôi tìm các giá trị dựa trên hình dạng của chúng. Một mật khẩu được viết dưới dạng một từ đơn giản trong câu,
không có password: đứng trước, có thể bị bỏ sót. Tương tự, một khóa ở định dạng chúng tôi
không biết, được gửi mà không có nhãn, cũng có thể bị bỏ sót. Đừng chỉ dựa vào thẻ
cho bất cứ điều gì bạn không muốn người bán thấy.
Cách kiểm tra
Mọi câu trả lời cho một yêu cầu mà chúng tôi đã ẩn đi điều gì đó đều có tiêu đề này:
X-UberLLM-Hidden: email=2,secret=1
Nó cho biết những loại giá trị nào đã được ẩn trong yêu cầu đó, và số lượng của mỗi loại. Không có tiêu đề có nghĩa là chúng tôi không tìm thấy gì để ẩn.
Mang khóa riêng của bạn
Một yêu cầu được gửi bằng khóa nhà cung cấp của riêng bạn sẽ đi đến tài khoản nhà cung cấp của riêng bạn. Chúng tôi không thay đổi nó, và không có gì trong đó bị ẩn giấu.