AI-gateways voor Europese organisaties vergeleken

Een AI-gateway staat tussen je applicaties (of je medewerkers en hun codeeragents) en de modelproviders. Voor een Europese organisatie is de interessante vraag wat de gateway doet met jurisdictie, persoonsgegevens en bewijs; routing, fallbacks en caching zijn basisvoorwaarden. Deze pagina is geschreven door Sluis, een van de acht. Elke andere rij hebben we op 1 oktober 2026 overgenomen uit de eigen documentatie van de leverancier, en de bronnen staan aan het eind. Waar we iets niet konden verifiëren, zeggen we dat.

Hoe je de tabel leest

Een gateway kan twee verschillende taken uitvoeren, en de meeste producten zijn in één sterk. Connectiviteit en betrouwbaarheid betekent één API voor veel providers, retries, fallbacks, load balancing, budgetten, caching en metrics. Controle en bewijs betekent beleid over waar een verzoek heen mag, verwerking van persoonsgegevens voordat ze vertrekken, en een record dat je een auditor kunt tonen. De onderstaande criteria horen bij de tweede taak, omdat de Europese eisen daar knellen. Als je alleen de eerste nodig hebt, doen de meeste van deze tools dat goed en gaat de keuze over operatie en prijs.

De criteriatabel

	Sluis	LiteLLM	Portkey	Kong AI Gateway	Cloudflare AI Gateway	OpenRouter	Azure API Management	Bifrost
Hosting en jurisdictie	Beheerd, gehost in de EU, 7Lab B.V., Amsterdam	Je draait het zelf	Portkey, Inc. (San Francisco), overgenomen door Palo Alto Networks (afgerond op 29 mei 2026); VPC-hosting op Enterprise	Konnect-controlevlak, dataplane dat je zelf draait, of on-prem	Netwerk van Cloudflare, bedrijf gevestigd in San Francisco	OpenRouter, Inc. (New York); regionale EU- en VS-domeinen op Business en Enterprise	Azure-dienst, in de regio die je kiest	Je draait het zelf; in-VPC op Enterprise
Zelf hosten	Optioneel enterprise-dataplane (Sluis Edge), vaste jaarlicentie per gateway	Ja, kerngebruik	Open source gateway; uitgebreidere functies in het beheerde product	Ja	Nee	Nee	Nee, maar draait in je Azure-abonnement	Ja
Licentie	Propriëtair	MIT, behalve de map `enterprise/`	MIT-gateway; commercieel platform	Kong Gateway Apache 2.0; meerdere AI-plugins alleen enterprise	Propriëtaire dienst	Propriëtaire dienst	Microsoft-dienst	Apache 2.0
PII-afhandeling	Detectie en omkeerbare pseudonimisering vóór verzending (60 detectoren, optionele AI-naamherkenning)	Presidio-maskering in open source; je zet de containers zelf neer	PII-redactie op geselecteerde guardrails, afhankelijk van het plan	AI PII Sanitizer (enterprise), aparte PII-service	DLP gratis op alle plannen, twee voorgedefinieerde profielen zonder Zero Trust	Sensitive Info-guardrail: redigeert of blokkeert treffers (regex, plus Presidio-namen en locaties in bèta), alleen input	Content Safety-moderatie; geen specifieke PII-policy gevonden	Enterprise-guardrails: regex, Presidio en clouddiensten van leveranciers
Residentiehandhaving	Organisatiebeleid bij verzending; standaard alleen EU, andere geweigerd met 403	Geen ingebouwd jurisdictiebeleid in de docs die we lazen	Regiogebonden SaaS en VPC-hybride op Enterprise; geen beleid per verzoek beschreven	Je kiest waar dataplane en backends draaien	Geen controle over providerregio gevonden; vermeld als incompatibel met Regional Services	EU- of VS-routing binnen de regio op Business en Enterprise; faalt gesloten	Je kiest de regio van gateway en backends	In-VPC-deployment op Enterprise
Audit	Hashgekoppeld grootboek, offline te verifiëren	Requestlogging; auditlogs met bewaartermijn zijn Enterprise	Requestlogs per plan; beheer-auditlogs op Enterprise	Auditlog gedocumenteerd	Logs standaard aan; auditlogs dekken configuratiewijzigingen	Activiteitenlogs en export	Prompts en completions naar Azure Monitor	Onveranderlijke audittrails op Enterprise
Prijsmodel	Lijstprijs plus 10%, BYOK EUR 0,50 per 1M tokens, geen kosten per gebruiker, vooruitbetaald vanaf EUR 25	Gratis om te draaien; enterprise op offerte	Gratis, USD 49 per maand, enterprise op offerte	Konnect Plus vanaf USD 25 per maand plus gebruik; enterprise op offerte	Kern gratis; Unified Billing voegt 5% toe op tegoed	5,5% (Standard) of 8% (Business) op tegoedaankopen	Azure-prijzen per tier	Gratis open source; enterprise via contact

Lees de tabel als vertrekpunt. Cellen met "niet gevonden" weerspiegelen de overzichtspagina's van een leverancier en bewijzen niet dat de mogelijkheid ontbreekt. Vraag het elke leverancier rechtstreeks.

Sluis

Sluis is een beheerde gateway en een werkplek voor medewerkers achter één poort. Het spreekt de protocollen van OpenAI en Anthropic Messages, dus bestaande SDK's en codeeragents koppelen door een base-URL te wijzigen. Elk verzoek wordt geïnspecteerd, gerouteerd op beleid, verzegeld in een hashgekoppelde auditregel en gemeten in echt geld. Zie de gatewayproductpagina.

Residentie afgedwongen bij verzending. De standaard staat alleen het EU-rechtsgebied toe. Een verzoek aan een provider buiten de toegestane set, zoals OpenAI, geeft 403 voordat er iets wordt verstuurd, totdat een eigenaar dat rechtsgebied toestaat met een vastgelegde bevestiging van de doorgiftevoorwaarden. EU-eigendom van de provider is een aparte beperking, omdat een EU-serveringsregio niet betekent dat de provider in EU-handen is.
Persoonsgegevens vóór verzending. Detectie en omkeerbare pseudonimisering draaien voordat het verzoek vertrekt. Detectie is niet perfect, en het gebruik van Sluis maakt je op zichzelf niet AVG- of HIPAA-conform.
Bewijs. De auditketen gebruikt sha256(prev_hash + record), dus een gewijzigd veld breekt elke latere schakel, en verificatie draait offline met de gateway-CLI. Sluis is ISO 27001-gecertificeerd.
Prijs. Lijstprijs van de provider plus 10%, of EUR 0,50 per miljoen input- plus outputtokens voor bring-your-own-key en eigen providers, plus gemeten controles zoals naamherkenning tegen EUR 0,005 of EUR 0,01 per verzoek. Geen platformabonnement; toeslagen per betaalmethode zijn van toepassing.

Qua doorvoer laat onze interne benchmark zien dat de poort in een gecontroleerde run ongeveer 1 ms mediaan toevoegt, met ongeveer 9% minder verzoeken per seconde bij synthetische verzadiging. Het is één testopstelling op één ontwikkelmachine, geen gereproduceerde benchmark, en we baseren er geen rangorde op. Zie de prestatiepagina.

Eerlijke beperkingen: Sluis is een beheerd product van een jong bedrijf en de repository is propriëtair. Binnen één provider verdeelt het verzoeken gewogen over meerdere sleutels, met retries en circuit breaking, maar er is geen gewogen of latentiegebaseerde verdeling over modellen of deployments. Er is geen SAML-single sign-on of SCIM-provisioning. De Agent Harness-route voor lokale codeeragents is een residentie-uitzondering: het providerabonnement kiest de serveringsregio en Sluis legt die vast als niet geverifieerd.

LiteLLM

LiteLLM is een open source gateway: een uniforme interface in OpenAI-formaat naar 100+ providers als Python-SDK of proxy, met virtuele sleutels, uitgavenregistratie, budgetten, fallbacks en logging. Het valt onder de MIT-licentie, behalve de map enterprise/. Eigen guardrails en Presidio-PII-maskering zitten in de open source versie. SSO is gratis tot vijf gebruikers; daarboven, en voor auditlogs met bewaarbeleid, SCIM, sleutelrotatie en verschillende ingebouwde guardrails is een enterprise-licentie nodig, geprijsd op offerte. Je zet het uit op je eigen infrastructuur, dus de jurisdictie is wat jij ervan maakt.

Kies het als je platformengineers hebt en de uitrol zelf wilt beheren. Residentie en auditbewijs stel je zelf samen. Zie de vergelijking van Sluis met LiteLLM.

Portkey

Portkey positioneert zichzelf als controlepaneel voor AI in productie: gateway, observability, guardrails, promptbeheer en een MCP-gateway. Op 29 mei 2026 rondde Palo Alto Networks de overname van Portkey af, en de prijspagina presenteert het product nu als Prisma AIRS AI Gateway. Die pagina toont een gratis Developer-laag, een Production-plan van USD 49 per maand dat volgens de pagina niet wordt aanbevolen voor organisaties die eigen beveiligingscontroles of garanties voor dataresidentie nodig hebben, en een Enterprise-plan met private cloud en VPC-hosting, SSO, configureerbare bewaartermijnen en compliancedocumentatie. De gateway onder de MIT-licentie wordt ook aangeboden om zelf te hosten.

Kies het als observability en promptbeheer de kern van het werk vormen en je een Enterprise-plan gaat onderhandelen, of als je al bij Palo Alto Networks inkoopt. Zie de vergelijking van Sluis met Portkey.

Kong AI Gateway

Kong breidt zijn Apache 2.0-API-gateway uit met LLM-, MCP- en agent-naar-agentverkeer. De documentatie noemt providerrouting en load balancing, semantische caching, promptguards, een AI PII Sanitizer die PII redigeert vóór de upstreamprovider, en integraties met guardrailsdiensten van AWS, Azure en Google. Meerdere van deze AI-plugins, waaronder de sanitizer, zijn alleen voor enterprise. Het draait via Konnect met een lokaal dataplane of on-prem op zelfgehoste Kong Gateway, en documenteert ondersteuning voor FIPS 140-3.

Kies het als Kong al je API's afschermt en je AI-verkeer door hetzelfde team wilt laten beheren. Het beleidsontwerp bouw je zelf uit plugins. Zie de vergelijking van Sluis met Kong AI Gateway.

Cloudflare AI Gateway

Cloudflare AI Gateway geeft je analytics, logging, caching, ratelimiting, retries en model-fallback voor AI-providers, "beschikbaar op alle plannen". Kernfuncties zijn gratis. DLP-scanning is gratis op alle plannen met twee voorgedefinieerde profielen, met uitgebreidere profielen bij een Zero Trust-abonnement. Guardrails gebruiken Llama Guard op Workers AI en worden gefactureerd als inferentie. Unified Billing voegt een toeslag van 5% toe op tegoed, en logs volgen de prijzen van Workers Logs voor gateways die vanaf 24 september 2026 zijn aangemaakt.

Kies het als je al Cloudflare gebruikt, een snelle installatie en lage kosten wilt, en zicht en basiscontroles nodig hebt in plaats van afgedwongen jurisdictie. In de pagina's die we lazen vonden we geen controle over de providerregio, dus laat dit bevestigen als het een eis is. Zie de vergelijking van Sluis met Cloudflare AI Gateway.

OpenRouter

OpenRouter is een gehoste router over 500+ modellen van 80+ providers met één API en één tegoedsaldo. Het is hier de breedste optie voor modelkeuze. De documentatie beschrijft zero-data-retention-routing en EU-routing binnen de regio: verzoeken naar eu.openrouter.ai worden alleen gerouteerd naar EU-endpoints en falen met een foutmelding in plaats van terug te vallen op een locatie buiten de regio. Routing binnen de regio vereist het Business-plan of hoger, en webzoeken, sommige servertools en de Batch API zijn niet beschikbaar op regionale domeinen.

Voor persoonsgegevens redigeert of blokkeert de Sensitive Info-guardrail treffers in verzoeken, met regexpresets plus op Presidio gebaseerde namen en locaties, wat de docs als bèta aanduiden. Het scant alleen input en herstelt de oorspronkelijke waarden niet in het antwoord. De vergoedingen zijn 5,5% (Standard) of 8% (Business) op tegoedaankopen, met doorberekening van de lijstprijzen van providers. SSO (SAML) en SCIM zijn alleen Enterprise.

Kies het als je maximale modelkeuze en geloofwaardige EU-routing wilt, en redactie aan de inputzijde volstaat voor je behoefte aan bescherming van persoonsgegevens. Zie de vergelijking van Sluis met OpenRouter.

Azure API Management

Azure API Management heeft AI-gatewaymogelijkheden in al zijn tiers: tokenlimieten en quota, semantische caching, authenticatie met managed identities, inhoudsveiligheidscontroles via Azure AI Content Safety, load balancing en circuit breakers, MCP-serverontsluiting en logging van prompts en completions naar Azure Monitor. Het kan Microsoft Foundry, Amazon Bedrock en zelfgehoste modellen afschermen. De regio volgt je deployment, en de richtlijn van Microsoft is om AI-backends in dezelfde regio's uit te rollen als de gateway.

Kies het als je omgeving op Azure staat en je AI-governance binnen bestaande identiteit, netwerken en monitoring wilt. Zie de vergelijking van Sluis met Azure API Management.

Bifrost

Bifrost is een Apache 2.0-gateway in Go, met 20+ providers achter een OpenAI-compatibele API, fallbacks, load balancing, virtuele sleutels, budgetten, semantische caching, een MCP-gateway en Prometheus-metrics. Enterprise-deployments voegen guardrails toe via diensten van AWS, Azure, Google en Patronus, clustering, adaptieve load balancing, integratie met identiteitsproviders, in-VPC-deployment en onveranderlijke audittrails. Het project meldt in zijn eigen benchmarks zeer lage overhead per verzoek.

Kies het als je een snelle, zelfgehoste open source gateway wilt die je kunt inbedden. Bewijs- en residentiefuncties zitten in het enterprise-niveau. Bifrost heeft op deze site geen eigen vergelijkingspagina.

Hoe kies je

Afgedwongen alleen-EU-routing, verwerking van persoonsgegevens en verifieerbare audit, voor je beheerd, met medewerkers en agents onder één beleid: Sluis.
Zelf de uitrol beheren, open source, door engineering geleid: LiteLLM of Bifrost.
Bestaande Kong- of Azure-omgeving: Kong AI Gateway of Azure API Management.
Snel, goedkoop zicht als je al Cloudflare gebruikt: Cloudflare AI Gateway.
Breedste modelcatalogus met gedocumenteerde EU-routing binnen de regio: OpenRouter.
Eerst observability en promptbeheer: Portkey.

Drie vragen scheiden het veld: kan de gateway een verzoek om redenen van jurisdictie weigeren voordat het wordt verstuurd, wat gebeurt er met persoonsgegevens in de prompt, en kun je een auditor bewijs overhandigen dat achteraf niet meer te bewerken was?

Wanneer de andere producten beter passen

Sluis is niet de betere keuze als je alles zonder enig beheerd onderdeel op je eigen hardware moet draaien (gebruik LiteLLM, Bifrost of Kong, of Sluis Edge met een enterprise-licentie), als je 500+ modellen achter één sleutel nodig hebt (OpenRouter), als je gateway in een bestaande Azure- of Kong-omgeving moet leven, of als je de laagste instapkosten wilt voor alleen zicht (Cloudflare). Sluis heeft ook geen SAML-single sign-on of SCIM-provisioning, die verschillende hierboven genoemde enterprise-niveaus wel vermelden.

Veelgestelde vragen

Wat is de beste AI-gateway voor EU-dataresidentie?

Dat hangt af van wat je afgedwongen wilt zien. Sluis dwingt bij verzending een alleen-EU-standaard af en weigert andere rechtsgebieden met een 403. OpenRouter biedt EU-routing binnen de regio op de plannen Business en Enterprise die gesloten faalt. Met zelfgehoste gateways zoals LiteLLM, Kong en Bifrost plaats je zelf alles in de EU, maar je ontwerpt het beleid zelf.

Is een open source AI-gateway genoeg voor de AVG?

Een open source gateway kan deel uitmaken van een conforme opzet, maar geen enkele gateway maakt een organisatie op zichzelf conform. Je hebt nog steeds een rechtsgrond nodig, een verwerkersovereenkomst met elke provider, besluiten over bewaartermijnen en een juridische beoordeling.

Maskeert LiteLLM persoonsgegevens?

De documentatie zegt dat Presidio-PII-maskering is opgenomen in het open source guardrailframework, en dat guardrails op sleutel- en teamniveau en verschillende ingebouwde moderatiecallbacks een enterprise-licentie vereisen. De kwaliteit van de maskering hangt af van de detectoren die je configureert en is geen garantie.

Kan een gateway bewijzen welk beleid is uitgevoerd?

Sommige kunnen het loggen. Azure API Management stuurt prompts en completions naar Azure Monitor, en LiteLLM, Bifrost en OpenRouter bewaren logs. Sluis verzegelt daarnaast elk verzoek en elke controle in een hashketen die offline te verifiëren is. Manipulatiebestendigheid is een engere eigenschap dan logging, dus controleer welke van de twee een leverancier bedoelt.

Voegt een gateway latentie toe?

Elke schakel voegt wat toe. Leveranciers publiceren verschillende cijfers onder verschillende omstandigheden, en geen ervan is direct vergelijkbaar. De eigen meting van Sluis laat ongeveer 1 ms mediaan zien onder gecontroleerde belasting, uit een interne testopstelling die we niet als onafhankelijk presenteren. Benchmark op je eigen verkeer.

Welke gateway is het goedkoopst?

Zelfgehoste open source (LiteLLM, Bifrost) en de kernfuncties van Cloudflare hebben geen platformvergoeding, maar kosten operationele tijd of missen enterprise-controles. OpenRouter rekent 5,5% of 8% op tegoedaankopen, Sluis telt 10% op bij beheerd modelgebruik zonder kosten per gebruiker, en Portkey, Kong en de enterprise-niveaus worden per plan of op offerte geprijsd. De laagste vergoeding is zelden de goedkoopste uitkomst als je het werk voor audit en residentie meetelt.