De korte versie
Beide zetten één OpenAI-compatibel endpoint voor veel modelproviders, met virtuele sleutels, budgetten en logging. Het verschil zit in waar het werk terechtkomt. Voor de andere gateways op de shortlist, zie AI-gateways voor Europese organisaties vergeleken.
LiteLLM geeft je een brede toolkit onder de MIT-licentie en laat het operationele model aan jou over: je hostet het zelf, draait de database, richt PII-detectie in en bepaalt hoe regio's worden vastgezet. Sluis levert de compliancelaag als product: elk verzoek wordt geïnspecteerd, gerouteerd volgens een EU-eerst-residentiebeleid, verzegeld in een hashgekoppeld auditlogboek en gemeten, in een beheerde dienst die in de EU wordt gehost of op je eigen servers draait met Sluis Edge.
Sluis is geen open source. De code valt onder alle rechten voorbehouden en de zelfgehoste Edge-binary vereist een enterprise-licentie. Als toegang tot de broncode een harde eis is, is de keuze daarmee gemaakt: LiteLLM.
In één oogopslag
| Sluis | LiteLLM | |
|---|---|---|
| Licentie | Propriëtair, alle rechten voorbehouden | MIT, behalve de map enterprise/ onder een commerciële licentie |
| Uitrol | Beheerde dienst gehost in de EU, of zelfgehoste Edge (enterprise-licentie) | Zelfgehost (Docker-image of pip-pakket) |
| API-oppervlak | OpenAI-compatibel en native Anthropic Messages, plus een MCP-gateway | OpenAI-formaat, plus /responses, /embeddings, /messages, /batches en meer |
| Providers | Een vaste catalogus (EU-, VS- en Chinese providers) plus eigen OpenAI-compatibele endpoints | 100+ providers volgens de repository |
| PII-afhandeling | Ingebouwd: 60 detectoren, optionele naamherkenning, blokkeren, maskeren, loggen of omkeerbare pseudonimisering | Presidio-guardrail (je zet de Presidio-containers zelf neer): maskeren of blokkeren, optioneel herstellen |
| Residentie | Beleid per verzoek, standaard alleen EU, optioneel alleen EU-eigendom | Configuratie die je zelf opbouwt met deployments en routing |
| Budgetten | Per workload: uitgaven, verzoeken en tokens per minuut, toegestane modellen | Per sleutel, gebruiker, team en teamlid; vereist Postgres |
| Audit | Manipulatiebestendige hashketen, offline te verifiëren | Requestlogging in OSS; auditlogs met bewaartermijn zijn een enterprise-functie |
| Prijs | Lijstprijs van de provider plus 10%, of €0,50 per 1M tokens met eigen sleutels | Gratis om te draaien; enterprise-licentie op offerte |
Licentie en hosting
De repository van LiteLLM valt onder de MIT-licentie, op de map enterprise/ na. De enterprise-licentie voegt SSO voor meer dan vijf gebruikers toe, SCIM, auditlogs met bewaartermijn, guardrails op sleutel- en teamniveau en een supportkanaal; 24/7-supportafspraken kosten extra. De gedocumenteerde manier om het te draaien is op je eigen infrastructuur, en de leverancier stelt dat een zelfgehoste instantie geen telemetrie of gegevens naar zijn servers stuurt.
Sluis draait dezelfde gateway op twee manieren. De beheerde dienst wordt in de EU gehost. Edge is één binary op je servers, beheerd vanuit dezelfde console: prompts passeren niet via de cloud van Sluis, hoewel de uitgaande verbinding naar modelproviders nog steeds jouw configuratie volgt. Edge is alleen voor enterprise, met een vaste jaarlicentie per gateway.
Gegevensbescherming en guardrails
De PII-maskering van LiteLLM gebruikt Microsoft Presidio. Je zet de analyzer- en anonymizer-containers neer, kiest entiteitstypen en stelt elk in op MASK of BLOCK. Een restore-vlag zet de oorspronkelijke waarden terug in het antwoord. Verschillende ingebouwde moderatie-integraties, zoals het verbergen van geheimen en leveranciers van prompt-injectiedetectie, vereisen een enterprise-licentie.
De Inspect-stap van Sluis maakt deel uit van de gateway. Die draait 60 ingebouwde detectoren (e-mail, IBAN, creditcard, API-sleutels en een pakket nationale identiteitsnummers dat in twaalf EU-landen de controlecijfers valideert), plus opt-in naamherkenning met twee modelniveaus. Het beleid bepaalt of een waarde wordt geblokkeerd, gemaskeerd, gelogd of vervangen door een stabiel token zoals «EMAIL_1» dat in het antwoord wordt hersteld. Scannen op prompt-injectie en een scopebewaker per workload zijn optioneel. Detectie is geen garantie dat elke gevoelige waarde wordt gevonden, en het gebruik van Sluis maakt je op zichzelf niet AVG-conform. Zie gegevensbescherming.
Routing en residentie
De router van LiteLLM is sterker in verkeerstechniek: gewogen en latentiegebaseerde strategieën, kostengebaseerde routing, retries, cooldowns en fallbacks over deployments heen. Om verkeer in de EU te houden kies je EU-deployments en onderhoud je die configuratie zelf.
Sluis routeert op beleid. De standaard is alleen EU, rechtsgebieden zoals de VS of China voeg je expliciet toe, en een beperking tot alleen EU-eigendom is een aparte schakelaar, omdat een EU-regio niet betekent dat de provider in EU-handen is. Antwoorden vermelden de gekozen route en het gekozen model. Beheerde aliassen zoals sluis/auto worden binnen jouw beleid opgelost. Binnen één provider verdeelt Sluis verzoeken gewogen over meerdere sleutels, met retries en circuit breaking, maar er is geen gewogen of latentiegebaseerde verdeling over modellen of deployments. Zie residentie en modellen.
Budgetten, limieten en toegang
Beide handhaven uitgaven vóór het verzoek. De budgetten van LiteLLM hangen aan sleutels, gebruikers, teams en teamleden en vereisen een database: zonder database worden budgetcontroles overgeslagen. Sluis koppelt limieten aan een workload, die verzoeken per minuut, tokens per minuut, een lijst met toegestane modellen en een totaal-, dag- of maandbudget beheert dat door de sleutels wordt gedeeld. Boven alle workloads staat een plafond voor de organisatie. Voorbij de ratelimiet geeft een verzoek 429, voorbij het budget 402, en het verzoek bereikt nooit een provider. Als de tellers onbereikbaar zijn, faalt de controle gesloten.
MCP-tools passeren in Sluis dezelfde poort: toegangsrechten gelden per sleutel en zijn standaard geweigerd, en elke aanroep wordt geïnspecteerd, gerouteerd, verzegeld en gemeten. Zie budgetten en limieten.
Audit en logging
LiteLLM logt verzoeken en antwoorden en exporteert naar observability-tools. De auditlogs, die beheeracties en sleutelwijzigingen vastleggen, staan vermeld als enterprise-functie.
Sluis schrijft elk verzoek naar een hashgekoppeld grootboek dat je offline kunt verifiëren met audit verify-chain, met optioneel versleutelde request- en responsebodies onder een bewaartermijn. Hetzelfde grootboek is het factuurrecord.
Prestaties
Beide leveranciers publiceren cijfers, op verschillende testopstellingen, dus ze zijn niet direct vergelijkbaar. LiteLLM noemt 8 ms P95 bij 1.000 RPS. Sluis mat de poort intern: ongeveer +1 ms mediaan tegen een mock-upstream, en een 9% lagere verzoeksnelheid bij synthetische verzadiging. Deze cijfers zijn relatief, gemeten op ontwikkelaarshardware en intern gemeten. Details staan op de prestatiepagina.
Prijzen
LiteLLM is gratis om te draaien, dus je kosten zijn infrastructuur, een Postgres-database en engineeringtijd; de enterprise-licentie wordt op offerte geprijsd. Sluis heeft geen platformabonnement of kosten per gebruiker en geen gratis laag. Self-service is vooruitbetaald, vanaf een tegoedaankoop van €25, met toeslagen per betaalmethode. Gebruik van beheerde modellen kost de lijstprijs van de provider plus 10%. Met eigen sleutels is de Sluis-vergoeding €0,50 per 1M input- en outputtokens, met kosten van de provider apart gefactureerd. Zie prijzen.
Wanneer LiteLLM beter past
- Je hebt open source nodig die je kunt lezen, forken en auditen.
- Je wilt één Python-SDK en een proxy met de breedste dekking van providers en modellen, inclusief modellen op dag nul.
- Je hebt fijnmazige verkeerstechniek nodig: latentie- of kostengebaseerde routing, gewogen pools en eigen fallbacks.
- Je team draait al Postgres en Kubernetes en wil de hele stack in eigen beheer.
- EU-residentie en PII-controles zijn geen eis, of je bouwt ze liever zelf.
Wanneer Sluis beter past
- Je moet kunnen aantonen waar elk verzoek heen mocht, met EU-eerst-routing als standaard.
- Je wilt omkeerbare pseudonimisering en een offline verifieerbare auditketen zonder die zelf in elkaar te zetten.
- Je wilt een beheerde, in de EU gehoste dienst, met een zelfgehoste optie voor hetzelfde beleid.
- Medewerkers en agents, zoals Claude Code, moeten één beleid en één audittrail delen.
Veelgestelde vragen
Kan ik van LiteLLM naar Sluis overstappen door de base-URL te wijzigen?
Voor de meeste OpenAI-compatibele clients wel. Wijs de client naar Sluis en gebruik een nieuwe sleutel. Model-ids op het OpenAI-oppervlak hebben een providerprefix, zoals mistral/mistral-large-latest, en kale id's geven 400. Sluis heeft een smallere providercatalogus, dus controleer of jouw providers erin zitten.
Kan LiteLLM data in de EU houden?
Ja, als je het in de EU uitrolt, naar EU-modeldeployments routeert en de configuratie correct houdt. In de documentatie vonden we geen beleidsinstelling voor jurisdictie of eigendom van de provider, dus die discipline ligt bij jou.
Is Sluis open source?
Nee. De broncode is propriëtair en alle rechten zijn voorbehouden. Je kunt het gedrag beoordelen via de gepubliceerde API-documentatie, de auditketen en de console, maar niet de code.
Voegt de Sluis-poort latentie toe?
In een interne benchmark op ontwikkelaarshardware ongeveer +1 ms mediaan, en 9% lagere doorvoer wanneer de test de gateway verzadigt. Tegenover een live model valt het verschil binnen de variatie van de provider. Beschouw dit als relatieve cijfers en meet je eigen workload.
Kan ik beide draaien?
Mogelijk. Sluis accepteert eigen OpenAI-compatibele providers en de LiteLLM-proxy biedt een OpenAI-compatibele API. Test de combinatie; de vergoeding voor eigen providers van €0,50 per 1M tokens is van toepassing.