Fazit: Für EU-Organisationen ist Sluis die bessere Wahl, weil EU-only-Routing, umkehrbare Pseudonymisierung und ein manipulationssicheres Audit-Log eingebaut sind, statt aus Richtlinien zusammengesetzt zu werden. Eine Konsole zeigt Workloads, Budgets, nach Anfrage gruppiertes Audit und eine einzige Rechnung, und das Gateway ist in Rust gebaut, für vorhersagbare Latenz. Sie wechseln, indem Sie die base_url ändern.
Die Kurzfassung
Sluis ist ein verwaltetes Gateway, das 7Lab B.V. in Amsterdam in der EU hostet. Es ist ein einziges Produkt mit fester Pipeline, Inspect, Route, Seal: sensible Werte erkennen und pseudonymisieren, nach einer Residenz- und Eigentümerrichtlinie routen und einen manipulationssicheren Audit-Eintrag schreiben. Es spricht die Protokolle OpenAI und Anthropic Messages, die Einführung bedeutet also, die base_url zu ändern. Dasselbe Gateway treibt auch Sluis Workspace für Mitarbeitende an, und Sluis Edge deckt das Self-Hosting ab.
Das AI Gateway in Azure API Management (APIM) ist kein eigenes Produkt. Es ist eine Reihe von Funktionen auf Microsofts API-Gateway, um Sprachmodelle, MCP-Server und Agenten abzusichern, zu skalieren, zu überwachen und zu steuern. Es sitzt vor Modellen in Microsoft Foundry, Amazon Bedrock und selbst gehosteten Endpunkten.
Der eigentliche Unterschied liegt darin, wer die Kontrollen baut. In Sluis sind sie das Produkt, und Sie konfigurieren sie. In Azure setzen Sie sie aus Richtlinien, Backends, Content Safety, Monitor und der Wahl der Foundry-Bereitstellung zusammen.
Auf einen Blick
| Sluis | Azure API Management AI Gateway | |
|---|---|---|
| Betreiber | 7Lab B.V., Amsterdam | Microsoft Corporation (USA) |
| Form | Verwalteter EU-Dienst, optional selbst gehostetes Sluis Edge | Azure-Dienst in Ihrem Abonnement und Ihrer Region, Richtlinien-XML |
| Residenz | Organisationsrichtlinie, beim Dispatch durchgesetzt; standardmäßig nur EU, Ablehnung mit 403 | Region Ihres Gateways und der Backends; Foundry-Bereitstellungstypen Standard, DataZone oder Global |
| PII | 60 Detektoren, umkehrbare Pseudonymisierung vor dem Dispatch | Keine eigene PII-Richtlinie in der Richtlinienreferenz gefunden; Content Safety moderiert Schadenskategorien |
| Logging | Hashverkettetes Audit-Ledger, offline prüfbar, nach Anfrage gruppiert | Prompts und Completions in Azure Monitor und Application Insights |
| Budgets | Ratenlimits, Budgets und Allow-Lists je Workload | Token-Limits und Kontingente je Zählerschlüssel |
| MCP | Tool-Aufrufe durch dasselbe Gate, Freigaben standardmäßig verweigert | REST-APIs als MCP-Server bereitstellen, bestehende vorschalten, A2A-Agenten |
| Schemata | OpenAI-kompatibel und natives Anthropic Messages, beliebiges Modell dahinter | OpenAI Chat Completions und Responses, Anthropic Messages (v2-Tarife), Vertex; einheitliche OpenAI-kompatible API in der Preview |
| Kostenform | Listenpreis des Anbieters + 10 %, BYOK 0,50 € pro 1 Mio. Token | Pro Tarif oder pro Anfrage für das Gateway, Modellnutzung separat abgerechnet |
| Beste Wahl für EU-Organisationen | Sluis |
Wohin die Daten gehen und wer sie kontrolliert
Sluis macht die Beschränkung zum Standard. Das API-Routing erlaubt nur die EU-Jurisdiktion, eine Anfrage an einen Anbieter außerhalb der erlaubten Menge wird vor dem Dispatch mit 403 abgelehnt, und eine Erweiterung der Richtlinie ist eine protokollierte Entscheidung. Das EU-Eigentum am Anbieter ist ein eigener Schalter, weil eine EU-Region nicht bedeutet, dass der Anbieter in EU-Hand ist. Siehe Residenz und Modelle.
Bei APIM folgt der Standort Ihrer Bereitstellung. Sie wählen die Azure-Region für das Gateway und für jedes Backend. Im Gateway gibt es keine Jurisdiktionsrichtlinie, die eine Anfrage an einen Anbieter außerhalb der EU ablehnt; das drücken Sie dadurch aus, welche Backends existieren und wie Routen geschrieben sind.
Foundry bringt eigene Regeln mit. Von Azure verkaufte Modelle verarbeiten Prompts und Antworten innerhalb der vom Kunden festgelegten Geografie, sofern Sie keinen Bereitstellungstyp Global oder DataZone nutzen: DataZone kann überall innerhalb der definierten Zone verarbeiten, Global überall dort, wo das Modell bereitgestellt ist. Microsoft dokumentiert außerdem die EU Data Boundary, die Zusage, Kundendaten in der EU zu speichern und zu verarbeiten, vorbehaltlich begrenzter, aufgelisteter Ausnahmen. Sorgfältig eingesetzt, kann dies strenge EU-Anforderungen erfüllen.
Zum Eigentum: Microsoft Corporation ist ein US-Unternehmen, daher gilt der CLOUD Act für Daten unter seiner Kontrolle, wo auch immer sie gespeichert sind. Microsoft hat die Zusage veröffentlicht, behördliche Anforderungen für Daten von EU-Kunden im öffentlichen Sektor und in Unternehmen bei bestehender Rechtsgrundlage anzufechten und Kunden für eine unionsrechtswidrige Offenlegung zu entschädigen. Sluis arbeitet von den Niederlanden aus, was EU-Recht mit sich bringt, aber keine Immunität gegenüber jeder Regierung. Unser Leitfaden zum CLOUD Act behandelt beide Seiten.
Personenbezogene Daten, Content Safety und Missbrauchsüberwachung
Sluis legt die Behandlung personenbezogener Daten in den Anfragepfad. Die Detektoren decken personenbezogene Daten und Geheimnisse ab, darunter prüfsummenvalidierte nationale Kennnummern für 12 EU-Länder. Die Richtlinie kann blockieren, maskieren, protokollieren oder umkehrbar pseudonymisieren, mit Tokens wie «EMAIL_1», die in der Antwort wiederhergestellt werden, auch beim Streaming. Die Erkennung ist nicht perfekt, und die Nutzung von Sluis begründet für sich allein keine DSGVO-Konformität. Siehe Datenschutz.
Die Richtlinie llm-content-safety von APIM sendet Prompts und optional Completions an Azure AI Content Safety, das vier Schadenskategorien anhand von Ihnen gesetzter Schwellenwerte bewertet. Verstöße liefern 403, bei Streaming-Antworten stellt die Richtlinie jedoch die Weiterleitung von Ereignissen ein, ohne einen Fehler zurückzugeben. Im von uns gelesenen Richtlinienkatalog gibt es keine eigene Richtlinie, die personenbezogene Daten erkennt und ersetzt; Sie können eine mit Suchen-und-Ersetzen, Richtlinienausdrücken oder einem anderen Dienst bauen und verantworten dann deren Genauigkeit.
Prüfen Sie einen weiteren Azure-Punkt. Die Missbrauchsüberwachung von Foundry kann markierte Prompts und Completions speichern und prüfen, einschließlich menschlicher Prüfung durch autorisierte Microsoft-Mitarbeiter, bei EWR-Bereitstellungen im EWR; berechtigte Kunden können eine Änderung beantragen. Enthalten Prompts Daten besonderer Kategorien, lesen Sie zuerst diese Seite.
Logging und Audit
Sluis schreibt pro Aufruf einen Eintrag, in der Konsole nach Anfrage gruppiert und verknüpft über sha256(prev_hash + record), sodass die Änderung eines Feldes jedes spätere Glied bricht; die Gateway-CLI prüft die Kette offline. Siehe Sicherheit.
APIM kann Prompts, Completions und Token-Nutzung in Azure Monitor und Application Insights protokollieren, mit eingebautem Dashboard und Token-Metriken je Verbraucher; Aufbewahrung und Zugriff steuern Sie über Azure. Die von uns gelesenen Seiten beschreiben Logging, kein hashverkettetes oder anderweitig manipulationssicheres Ledger.
Eine Konsole: Budgets, Caching und Agenten
Workloads in Sluis besitzen Ratenlimits, ein Gesamt-, Tages- oder Monatsbudget, Modell-Allow-Lists und Richtlinienüberschreibungen, die vor dem Dispatch belastet werden, alles in einer Konsole mit Ausgabenübersicht. MCP-Tool-Aufrufe durchlaufen dasselbe Gate aus Inspect, Route, Seal und Metering mit standardmäßig verweigerten Freigaben, und Claude Code, Codex und Cursor können unter der Organisationsrichtlinie laufen. Siehe Budgets und MCP.
Die Token-Limit-Richtlinie von APIM setzt Tokens pro Minute oder Kontingente pro Stunde, Tag, Woche, Monat oder Jahr auf jedem Zählerschlüssel, etwa einem Abonnement oder einer IP-Adresse. Backends unterstützen Round-Robin, gewichtetes, prioritätsbasiertes und sitzungsbewusstes Load Balancing mit Circuit Breakern. APIM kann REST-APIs als MCP-Server bereitstellen und bestehende MCP-Server mit OAuth-Zugangsdatenverwaltung vorschalten.
Aufwand und Preise
Sluis wird konfiguriert, nicht zusammengebaut, und hat keine Abonnement- oder Platzgebühr. Verwaltete Nutzung kostet den Listenpreis des Anbieters + 10 %, BYOK und eigene Anbieter 0,50 € pro 1 Mio. Eingabe- plus Ausgabe-Token, im Voraus bezahlt ab 25 €, auf einer nutzungsbasierten Rechnung. Prüfungen wie die Namenserkennung (0,005 € oder 0,01 € pro Anfrage) werden gemessen, und für Zahlungsmittel fallen Aufschläge an. Siehe Preise.
APIM wird als Dienst bepreist. Klassische Tarife werden pro Einheit abgerechnet, Consumption pro Operation, und v2-Tarife mit monatlich enthaltenen Anfragen und einem Preis pro zusätzlicher Million; die Beträge werden dynamisch geladen, prüfen Sie also die Live-Seite. Das selbst gehostete Gateway ist in Developer kostenlos und in Premium ein Mehrpreis. Die Modellnutzung wird von dem Dienst abgerechnet, den Sie aufrufen. Bei sehr hohem Volumen kann ein Gateway mit fester Kapazität günstiger sein als eine prozentuale Gebühr; bei niedrigem oder schwankendem Volumen ist ein stundenweise bezahltes Gateway teurer.
Vergessen Sie die Ingenieurzeit nicht. APIM-Richtlinien, Backends, Content Safety und Monitor-Dashboards entwerfen und pflegen Sie selbst. Die übrigen Gateways der Auswahlliste finden Sie unter KI-Gateways für EU-Organisationen im Vergleich.
Performance
Das Sluis-Gateway ist in Rust gebaut, für vorhersagbare Latenz und Speichersicherheit. In unserem internen Benchmark (relativ, auf Entwicklungshardware, intern gemessen; identische Hardware, ein gemeinsamer Mock-Upstream, 256 Verbindungen) verarbeitete es mit vollständig aktivem Sicherheits-Gate 3.678 Anfragen pro Sekunde, gegenüber 3.148 bei Bifrost und 298 bei LiteLLM, und das Gate fügt im Median etwa 1 ms hinzu. Bei ausgeschaltetem Gate erreichte es 4.046 Anfragen pro Sekunde, p50 62 ms gegenüber 80 ms bei Bifrost und p99 77 ms gegenüber 118 ms. Azure API Management haben wir nicht gemessen. Siehe Performance.
Wer sich trotzdem für Azure API Management entscheiden könnte
- Teams, deren Workloads, Identität und Netzwerke bereits in Azure liegen, mit verwalteten Identitäten, privaten Netzwerken und einem bestehenden APIM-Team.
- Teams, die Policy-as-Code wollen und die Freiheit, eigenes Verhalten jenseits der Einstellungen eines Produkts zu bauen.
- Organisationen, die Microsofts Compliance-Portfolio, Vertrag und Support unter einer Vereinbarung wollen.
- Teams, deren Modelle in Foundry laufen und die Gateway-Steuerung innerhalb dieser Umgebung wollen.
Unser Fazit
Sluis gewinnt für EU-Organisationen, weil die Kontrollen, die Sie in Azure sonst entwerfen, bauen und pflegen müssten, fertig mitgeliefert werden: EU-only-Routing, das beim Dispatch abgelehnt wird, umkehrbare Pseudonymisierung, eine offline verifizierbare Audit-Kette sowie eine Konsole mit einer Rechnung, mit einer selbst gehosteten Option in Sluis Edge. Dasselbe Gateway treibt auch Sluis Workspace für Ihre Mitarbeitenden an. Siehe Sluis Gateway und Preise.
FAQ
Kann Azure API Management EU-only-Routing durchsetzen?
Ja, wenn Sie es bauen. Sie stellen Gateways und Backends in EU-Regionen bereit, nutzen Foundry-Bereitstellungstypen, die innerhalb der EU bleiben, und beschränken, wer Backends hinzufügen darf. Das ist eine Architektur, kein Schalter. Sluis liefert EU-only als Standardrichtlinie.
Schwärzt APIM personenbezogene Daten?
Wir haben in der Richtlinienreferenz keine eigene PII-Richtlinie gefunden. Es bietet Content-Safety-Moderation, Suchen-und-Ersetzen und eigene Richtlinienausdrücke, Schwärzung baut oder ergänzt man also selbst. Sluis pseudonymisiert von Haus aus umkehrbar.
Trainiert Azure Modelle mit meinen Prompts?
Microsoft erklärt, dass Prompts, Completions und Embeddings nicht ohne Ihre Erlaubnis zum Training von Foundation-Modellen verwendet werden und anderen Kunden nicht zur Verfügung stehen. Die Missbrauchsüberwachung kann markierte Inhalte dennoch zur Prüfung speichern.
Lassen sich beide kombinieren?
Möglicherweise. Sluis verbindet jeden eigenen OpenAI-kompatiblen Anbieter, daher könnte ein Azure-Endpunkt, der diese API spricht, einer sein, mit Ihrem eigenen Schlüssel und der Gebühr für eigene Anbieter. Wir haben diese Konstellation nicht getestet; prüfen Sie, wie der Endpunkt unter Ihrer Residenzrichtlinie eingestuft wird. Sie könnten auch APIM für internen API-Verkehr behalten und Sluis für KI nutzen.
Quellen
- AI gateway capabilities in Azure API Management
- llm-content-safety policy
- Azure API Management policy reference
- Azure API Management pricing
- Data, privacy, and security for Foundry Models sold by Azure
- Foundry Models sold by Azure abuse monitoring
- What is the EU Data Boundary?
- Microsoft's European digital commitments
- 18 U.S.C. § 2713, added by the CLOUD Act of 2018