NovitàCome scopriamo un venditore che offre il modello sbagliato, e ti rimborsiamo se succede.
UberLLM

Privacy: cosa vede il provider

Chi legge la tua richiesta

UberLLM non esegue modelli. Per rispondere a una richiesta, la inviamo a una terza parte che lo fa: un marketplace di venditori indipendenti, o l'offerta del venditore stesso.

L'account del fornitore del venditore potrebbe conservare log che il venditore può leggere. Alcuni fornitori consentono al titolare dell'account di attivare la registrazione dei prompt. Quindi il venditore che gestisce la tua richiesta potrebbe essere in grado di leggerla.

Per rendere questo più sicuro, scambiamo alcuni valori nel tuo testo con dei tag prima che la richiesta lasci UberLLM. Questo funziona per le richieste di testo: /v1/chat/completions, /v1/messages e /v1/responses.

Non usiamo le tue richieste per addestrare modelli. Ciò che UberLLM stesso salva è un'impostazione separata, Non salvare le mie richieste e risposte, coperta nella nostra Informativa sulla privacy.

Cosa nascondiamo sempre

Per ogni chiave, senza dover attivare nulla, nascondiamo:

  • API keys e token in formati ben noti
  • qualsiasi valore scritto dopo una parola come password, secret, token o api_key, come password: … o api_key=…
  • chiavi private
  • token firmati (JWT)
  • una password all'interno di un link, come PASS in postgres://user:PASS@host

Ognuno diventa un tag come [SECRET_3f9a2c1b].

Impostazione dati personali

L'impostazione chiave Nascondi dati personali ai fornitori nasconde anche:

  • indirizzi email, come [EMAIL_…]
  • numeri di telefono (numeri internazionali che iniziano con +, e il formato US usuale), come [PHONE_…]
  • numeri di carta (verificati con il checksum della carta), come [CARD_…]
  • indirizzi IPv4 pubblici, come [IP_…]

È attiva per impostazione predefinita per le nuove chiavi. Le chiavi create prima che l'impostazione esistesse la mantengono disattivata finché non la attivi in Dashboard → API keys.

Alcune attività richiedono il valore reale, e il modello vede solo il tag. Ad esempio, "correggi gli errori di battitura in questi indirizzi email" o "su quale dominio si trova questo indirizzo" non possono funzionare. Disattiva l'impostazione per la chiave che usi per quell'attività.

Come funzionano i tag

Tu invii:

Email [email protected] about the outage.
Our database is postgres://app:[email protected]/main

Con l'impostazione attiva, il venditore riceve:

Email [EMAIL_3f9a2c1b] about the outage.
Our database is postgres://app:[SECRET_8d04e7a2]@db.internal/main

Il modello risponde con i tag. Ripristiniamo i valori reali prima che la risposta ti raggiunga. Questo vale per le risposte normali, le risposte in streaming e gli argomenti delle chiamate a strumenti, così uno strumento eseguito dalla tua app riceve l'indirizzo reale.

Il testo di pensiero e ragionamento mantiene i tag. Viene restituito esattamente come scritto dal modello, così il pensiero firmato rimane valido quando lo reinvii.

Lo stesso valore ottiene sempre lo stesso tag all'interno del tuo account. Le chat multi-turno e la memorizzazione nella cache dei prompt continuano a funzionare.

Cosa non è nascosto

  • nomi e nomi di aziende
  • indirizzi stradali
  • testo libero, come note, contratti o ciò che fa il tuo codice
  • qualsiasi cosa all'interno di immagini, PDF, audio o altri file
  • prompt per la generazione di video, immagini e musica
  • le tue definizioni di strumenti e schemi di output, e i link che invii in un campo link (come un URL di immagine)

Troviamo i valori in base alla loro forma. Una password scritta come una semplice parola in una frase, senza password: davanti, potrebbe non essere rilevata. Lo stesso vale per una chiave in un formato che non conosciamo, inviata senza etichetta. Non fare affidamento solo sui tag per qualsiasi cosa tu non possa far vedere a un venditore.

Come verificare

Ogni risposta a una richiesta dove abbiamo nascosto qualcosa ha questa intestazione:

X-UberLLM-Hidden: email=2,secret=1

Indica quali tipi di valori sono stati nascosti in quella richiesta e quanti di ciascuno. Nessuna intestazione significa che non abbiamo trovato nulla da nascondere.

Usa la tua chiave

Una richiesta inviata con la tua chiave provider va al tuo account provider. Non la modifichiamo e nulla al suo interno è nascosto.