NouveauComment nous repérons un vendeur qui propose le mauvais modèle, et vous remboursons si cela arrive.
UberLLM

Confidentialité : ce que le fournisseur voit

Qui lit votre requête

UberLLM n'exécute pas de modèles. Pour répondre à une requête, nous l'envoyons à un tiers qui le fait : une place de marché de vendeurs indépendants, ou l'offre propre d'un vendeur.

Le compte fournisseur du vendeur peut conserver des logs que le vendeur peut lire. Certains fournisseurs permettent au propriétaire du compte d'activer la journalisation des invites. Ainsi, le vendeur qui traite votre requête peut être en mesure de la lire.

Pour rendre cela plus sûr, nous échangeons certaines valeurs de votre texte contre des balises avant que la requête ne quitte UberLLM. Cela fonctionne sur les requêtes textuelles : /v1/chat/completions, /v1/messages et /v1/responses.

Nous n'utilisons pas vos requêtes pour entraîner des modèles. Ce que UberLLM enregistre lui-même est un paramètre distinct, Ne pas enregistrer mes requêtes et réponses, couvert par notre Politique de confidentialité.

Ce que nous masquons toujours

Pour chaque clé, sans rien avoir à activer, nous masquons :

  • les clés API et les tokens dans des formats connus
  • toute valeur écrite après un mot comme password, secret, token ou api_key, telle que password: … ou api_key=…
  • les clés privées
  • les tokens signés (JWT)
  • un mot de passe dans un lien, comme le PASS dans postgres://user:PASS@host

Chacun d'eux devient un tag comme [SECRET_3f9a2c1b].

Réglage des données personnelles

Le paramètre clé Masquer les données personnelles des fournisseurs masque également :

  • les adresses e-mail, comme [EMAIL_…]
  • les numéros de téléphone (les numéros internationaux qui commencent par +, et le format américain habituel), comme [PHONE_…]
  • les numéros de carte (vérifiés avec la somme de contrôle de la carte), comme [CARD_…]
  • les adresses IPv4 publiques, comme [IP_…]

Il est activé par défaut pour les nouvelles clés. Les clés créées avant l'existence de ce paramètre le gardent désactivé jusqu'à ce que vous l'activiez dans Tableau de bord → Clés API.

Certaines tâches nécessitent la valeur réelle, et le modèle ne voit que l'étiquette. Par exemple, "corriger les fautes de frappe dans ces adresses e-mail" ou "sur quel domaine se trouve cette adresse" ne peuvent pas fonctionner. Désactivez ce paramètre pour la clé que vous utilisez pour cette tâche.

Comment fonctionnent les tags

Vous envoyez :

Email [email protected] about the outage.
Our database is postgres://app:[email protected]/main

Avec le réglage activé, le vendeur reçoit :

Email [EMAIL_3f9a2c1b] about the outage.
Our database is postgres://app:[SECRET_8d04e7a2]@db.internal/main

Le modèle répond avec les tags. Nous rétablissons les valeurs réelles avant que la réponse ne vous parvienne. Cela couvre les réponses normales, les réponses en streaming et les arguments d'appel d'outil, de sorte qu'un outil exécuté par votre application reçoit la véritable adresse.

Le texte de réflexion et de raisonnement conserve les tags. Il est renvoyé exactement tel que le modèle l'a écrit, de sorte que la réflexion signée reste valide lorsque vous la renvoyez.

La même valeur reçoit toujours le même tag au sein de votre compte. Les conversations multi-tours et la mise en cache des prompts continuent de fonctionner.

Ce qui n'est pas masqué

  • les noms et noms d'entreprise
  • les adresses postales
  • le texte libre, comme les notes, les contrats ou ce que fait votre code
  • tout ce qui se trouve à l'intérieur d'images, de PDF, de fichiers audio ou d'autres fichiers
  • les prompts pour la génération de vidéo, d'image et de musique
  • vos définitions d'outils et schémas de sortie, et les liens que vous envoyez dans un champ de lien (comme une URL d'image)

Nous trouvons les valeurs par leur forme. Un mot de passe écrit comme un mot simple dans une phrase, sans password: devant, pourrait être manqué. De même, une clé dans un format que nous ne connaissons pas, envoyée sans étiquette. Ne vous fiez pas uniquement aux étiquettes pour tout ce que vous ne pouvez pas laisser un vendeur voir.


Comment vérifier

Chaque réponse à une requête où nous avons masqué quelque chose a cet en-tête :

X-UberLLM-Hidden: email=2,secret=1

Il indique quels types de valeurs ont été masqués dans cette requête, et combien de chaque. Pas d'en-tête signifie que nous n'avons rien trouvé à masquer.


Apportez votre propre clé

Une requête envoyée avec votre propre clé de fournisseur va sur votre propre compte de fournisseur. Nous ne la modifions pas, et rien n'y est caché.