Vai al contenuto
Confronti

Alternativa a LiteLLM ospitata nella UE: Sluis vs LiteLLM

Sluis è un AI gateway gestito e ospitato nell'UE, con residenza, pseudonimizzazione e audit trail sigillato integrati. LiteLLM è un gateway open source che ospiti e assembli tu.

Ultima verifica
4 ottobre 2026
Tempo di lettura
8 min
Confrontato con
LiteLLM

Verdetto: Per le organizzazioni europee Sluis è la scelta migliore perché i dati personali vengono pseudonimizzati e ogni richiesta è instradata solo nell'UE prima di uscire, una console mostra workload, budget e audit raggruppati per richiesta, cambi un base_url invece di gestire un proxy, un database e un servizio PII e, nel nostro benchmark interno, il gateway in Rust ha superato LiteLLM anche con il suo security gate attivo.

In breve

Entrambi mettono un unico endpoint compatibile con OpenAI davanti a molti provider di modelli, con chiavi virtuali, budget e log. La differenza sta in dove ricade il lavoro. Per gli altri gateway della rosa, vedi Gateway AI per le organizzazioni europee a confronto.

Sluis fornisce il livello di conformità come prodotto: ogni chiamata viene ispezionata, instradata da una policy di residenza che privilegia l'UE, sigillata in un registro di audit a catena di hash e misurata, in un servizio gestito ospitato nell'UE o sui tuoi server con Sluis Edge. Parla le API di OpenAI e di Anthropic, quindi migrare significa cambiare il base_url.

LiteLLM ti offre un toolkit ampio con licenza MIT e lascia a te il modello operativo: lo ospiti tu, gestisci il suo database, colleghi il rilevamento dei dati personali e decidi come vincolare le regioni. Sluis non è open source: il codice è proprietario, con tutti i diritti riservati, e l'appliance Edge self-hosted richiede una licenza enterprise.

A colpo d'occhio

SluisLiteLLM
LicenzaProprietaria, tutti i diritti riservatiMIT, tranne la directory enterprise/ con licenza commerciale
DeploymentServizio gestito ospitato nell'UE, oppure Edge self-hosted (licenza enterprise)Self-hosted (immagine Docker o pacchetto pip)
Superficie APICompatibile con OpenAI e Anthropic Messages nativa, più un gateway MCPFormato OpenAI, più /responses, /embeddings, /messages, /batches e altro
ProviderUn catalogo definito (provider UE, USA e Cina) più endpoint personalizzati compatibili con OpenAIOltre 100 provider secondo il suo repository
Gestione dei dati personaliIntegrata: 60 rilevatori, riconoscimento dei nomi opzionale, blocca, maschera, registra o pseudonimizza in modo reversibileGuardrail Presidio (i container Presidio li distribuisci tu): maschera o blocca, ripristino opzionale
ResidenzaPolicy per richiesta, solo UE per impostazione predefinita, opzione solo di proprietà UEConfigurazione che costruisci con deployment e routing
BudgetPer workload: spesa, richieste e token al minuto, elenco di modelli consentitiPer chiave, utente, team e membro del team; richiede Postgres
AuditCatena di hash a prova di manomissione, verificabile offlineLog delle richieste nella versione OSS; audit log con retention sono una funzione enterprise
PrezzoPrezzo di listino del provider più 10%, oppure 0,50 € per 1M di token con le tue chiaviGratuito da eseguire; licenza enterprise su preventivo
Più adatto alle organizzazioni europeeSluisTeam che fanno self-hosting e costruiscono da sé i propri controlli di residenza e PII

Licenza e hosting

Sluis ti offre un servizio gestito ospitato nell'UE, senza nulla da installare o aggiornare. Quando devi eseguirlo in proprio, Edge è l'appliance completa sul tuo Kubernetes o Docker: i prompt non transitano nel cloud di Sluis, anche se l'egress verso i provider di modelli segue comunque la tua configurazione. Edge è solo enterprise, con una licenza annuale fissa per installazione.

Il repository di LiteLLM è con licenza MIT, a parte la directory enterprise/. La sua licenza enterprise aggiunge SSO oltre i cinque utenti, SCIM, audit log con retention, guardrail per chiave e per team e un canale di supporto; gli SLA di supporto 24/7 costano extra. Il modo documentato per eseguirlo è sulla tua infrastruttura, e il fornitore dichiara che un'istanza self-hosted non invia telemetria né dati ai suoi server.

Protezione dei dati e guardrail

Il passaggio Inspect di Sluis fa parte del gateway, quindi non si distribuisce nulla in più. Esegue 60 rilevatori integrati (email, IBAN, carta di credito, chiavi API e un pacchetto di documenti d'identità nazionali che convalida il checksum per dodici paesi UE), più il riconoscimento dei nomi su richiesta con due livelli di modello. La policy decide se un valore viene bloccato, mascherato, registrato o sostituito da un token stabile come «EMAIL_1» che viene ripristinato nella risposta. La scansione delle prompt injection e uno scope guard per workload sono opzionali. Il rilevamento non garantisce che ogni valore sensibile venga trovato, e usare Sluis non basta di per sé a stabilire la conformità al GDPR. Vedi protezione dei dati.

Il mascheramento dei dati personali di LiteLLM usa Microsoft Presidio. Distribuisci tu i container analyzer e anonymizer, scegli i tipi di entità e imposti ciascuno su MASK o BLOCK. Un flag di ripristino rimette i valori originali nella risposta. Diverse integrazioni di moderazione integrate, come il nascondimento dei segreti e i fornitori di rilevamento delle prompt injection, richiedono una licenza enterprise.

Routing e residenza

Sluis instrada in base a una policy, applicata a ogni richiesta. Il valore predefinito è solo UE, giurisdizioni come USA o Cina si aggiungono esplicitamente, e la restrizione ai soli provider di proprietà UE è un interruttore separato, perché una regione UE non implica un provider di proprietà UE. Le risposte indicano il percorso e il modello scelti. Alias gestiti come sluis/auto si risolvono all'interno della tua policy. All'interno di uno stesso provider, Sluis distribuisce le chiamate su più chiavi in base al peso, con retry e circuit breaking; il bilanciamento ponderato o basato sulla latenza tra modelli e deployment è disponibile su richiesta per i contratti enterprise. Vedi residenza e modelli.

Il router di LiteLLM è più forte sul traffic engineering: strategie ponderate e basate sulla latenza, routing basato sul costo, retry, cooldown e fallback tra deployment. Mantenere il traffico nell'UE significa scegliere deployment UE e mantenere tu quella configurazione.

Budget, limiti e accesso

In Sluis il lavoro lo fa un solo oggetto della console. Un workload possiede richieste al minuto, token al minuto, un elenco di modelli consentiti e un budget totale, giornaliero o mensile condiviso dalle sue chiavi, e un tetto dell'organizzazione sta sopra tutti i workload. Oltre il limite di frequenza una chiamata restituisce 429, oltre il budget 402, e la richiesta non raggiunge mai un provider. Se i contatori non sono raggiungibili, il controllo fallisce in modalità chiusa. Anche gli strumenti MCP passano dallo stesso gate: i permessi sono per chiave e negati per impostazione predefinita, e ogni chiamata viene ispezionata, instradata, sigillata e misurata. Vedi budget e limiti.

Entrambi applicano la spesa prima della chiamata. I budget di LiteLLM si collegano a chiavi, utenti, team e membri del team, e richiedono un database: senza, i controlli di budget vengono saltati.

Audit e logging

Sluis scrive ogni chiamata in un registro a catena di hash che puoi verificare offline con audit verify-chain, con corpi di richiesta e risposta cifrati opzionali per un periodo di retention. L'audit log mostra una riga per richiesta, e lo stesso registro è il documento di fatturazione, quindi audit e fattura coincidono.

LiteLLM registra richieste e risposte ed esporta verso strumenti di osservabilità. I suoi audit log, che registrano le azioni degli amministratori e le modifiche alle chiavi, sono indicati come funzione enterprise.

Prestazioni

Sluis è scritto in Rust per una latenza prevedibile e la sicurezza della memoria. Nel nostro benchmark interno, su hardware identico con un unico upstream mock condiviso a 256 connessioni, il gateway Sluis ha gestito 3.678 richieste al secondo con il security gate completo attivo, contro 298 di LiteLLM (e 3.148 di Bifrost). Il gate aggiunge circa 1 ms alla mediana. Con il gate disattivato, Sluis ha raggiunto 4.046 richieste al secondo. Questi valori sono relativi, su hardware di sviluppo e misurati internamente. Il dato di LiteLLM stesso, 8 ms P95 a 1.000 RPS, proviene da un harness diverso e non è confrontabile direttamente. I dettagli sono nella pagina delle prestazioni.

Prezzi

Sluis non ha abbonamento alla piattaforma né costo per utente e non ha un piano gratuito. Il self-service è prepagato, a partire da un acquisto di credito di 25 €, con supplementi per metodo di pagamento. L'uso dei modelli gestiti costa il prezzo di listino del provider più 10%. Con le tue chiavi, la commissione Sluis è di 0,50 € per 1M di token di input e output, con i costi del provider fatturati a parte. Vedi prezzi.

LiteLLM è gratuito da eseguire, quindi il tuo costo è infrastruttura, un database Postgres e tempo di ingegneria; la licenza enterprise è a preventivo.

Chi potrebbe comunque scegliere LiteLLM

  • Ti serve un open source che puoi leggere, forkare e sottoporre ad audit.
  • Vuoi un unico SDK Python e un proxy con la più ampia copertura di provider e modelli, inclusi i modelli del giorno zero.
  • Ti serve un traffic engineering fine: routing basato su latenza o costo, pool ponderati e fallback personalizzati.
  • Il tuo team gestisce già Postgres e Kubernetes e preferisce possedere l'intero stack.

Il nostro verdetto

Sluis vince per le organizzazioni europee sulle quattro cose per cui serve un gateway. Sicurezza dei dati: routing solo UE applicato per richiesta, pseudonimizzazione reversibile e una catena di audit che verifichi offline, con certificazione ISO 27001. Chiarezza: una console con workload, budget ed elenchi di modelli consentiti, una riga di audit per richiesta, una fattura a consumo. Facilità d'uso: punti un client OpenAI o Anthropic a un nuovo base_url, con un servizio gestito ospitato nell'UE e nulla da gestire, oppure Sluis Edge quando devi fare self-hosting. Prestazioni: un gateway in Rust che ha superato LiteLLM nel nostro benchmark interno, con il security gate attivo. Lo stesso gateway alimenta anche Sluis Workspace per i dipendenti, così persone e applicazioni condividono un'unica policy. Vedi prezzi.

FAQ

Posso passare da LiteLLM a Sluis cambiando il base URL?

Per la maggior parte dei client compatibili con OpenAI, sì. Punta il client a Sluis e usa una nuova chiave. Gli id dei modelli sulla superficie OpenAI hanno il prefisso del provider, come mistral/mistral-large-latest, e gli id senza prefisso restituiscono 400. Verifica che i tuoi provider siano nel catalogo Sluis; gli altri sono disponibili su richiesta per i contratti enterprise.

LiteLLM può mantenere i dati nell'UE?

Sì, se lo distribuisci nell'UE, instradi verso deployment di modelli UE e mantieni accurata la configurazione. Nella sua documentazione non abbiamo trovato alcuna impostazione di policy per giurisdizione o proprietà del provider, quindi questa disciplina spetta a te.

Sluis è open source?

No. Il sorgente è proprietario e tutti i diritti sono riservati. Puoi ispezionare il comportamento tramite la documentazione API pubblicata, la catena di audit e la console, ma non il codice.

Il gate di Sluis aggiunge latenza?

Nel nostro benchmark interno, circa 1 ms alla mediana con il security gate completo attivo, e il gateway in Rust ha comunque gestito 3.678 richieste al secondo contro 298 di LiteLLM. Sono valori relativi, su hardware di sviluppo, misurati internamente. Con un modello reale il gate rientra nella variabilità del provider, quindi misura il tuo carico di lavoro.

Posso usarli entrambi?

Forse. Sluis accetta provider personalizzati compatibili con OpenAI e il proxy LiteLLM espone un'API compatibile con OpenAI. Testa l'abbinamento; si applica la commissione per provider personalizzati di 0,50 € per 1M di token.

Fonti

Tutti i confrontiConfronto successivoSluis vs Portkey: il confronto tra AI gateway UE

Non sai cosa fa per te?

Raccontaci i tuoi requisiti e ti mostriamo come li copre Sluis.

Parla con il nostro team