Die Kurzfassung
Das AI Gateway in Azure API Management (APIM) ist kein eigenes Produkt. Es ist eine Reihe von Funktionen auf Microsofts API-Gateway, um Sprachmodelle, MCP-Server und Agenten abzusichern, zu skalieren, zu überwachen und zu steuern. Es sitzt vor Modellen in Microsoft Foundry, Amazon Bedrock und selbst gehosteten Endpunkten.
Sluis ist ein verwaltetes Gateway, das 7Lab B.V. in Amsterdam in der EU hostet. Es ist ein einziges Produkt mit fester Pipeline, Inspect, Route, Seal: sensible Werte erkennen und pseudonymisieren, nach einer Residenz- und Eigentümerrichtlinie routen und einen manipulationssicheren Audit-Eintrag schreiben. Es spricht die Protokolle OpenAI und Anthropic Messages.
Der eigentliche Unterschied liegt darin, wer die Kontrollen baut. In Azure setzen Sie sie aus Richtlinien, Backends, Content Safety, Monitor und der Wahl der Foundry-Bereitstellung zusammen. In Sluis sind sie das Produkt, und Sie konfigurieren sie.
Auf einen Blick
| Azure API Management AI Gateway | Sluis | |
|---|---|---|
| Betreiber | Microsoft Corporation (USA) | 7Lab B.V., Amsterdam |
| Form | Azure-Dienst in Ihrem Abonnement und Ihrer Region, Richtlinien-XML | Verwalteter EU-Dienst, optional selbst gehostetes Sluis Edge |
| Schemata | OpenAI Chat Completions und Responses, Anthropic Messages (v2-Tarife), Vertex; einheitliche OpenAI-kompatible API in der Preview | OpenAI-kompatibel und natives Anthropic Messages, beliebiges Modell dahinter |
| Residenz | Region Ihres Gateways und der Backends; Foundry-Bereitstellungstypen Standard, DataZone oder Global | Organisationsrichtlinie, beim Dispatch durchgesetzt; standardmäßig nur EU, Ablehnung mit 403 |
| PII | Keine eigene PII-Richtlinie in der Richtlinienreferenz gefunden; Content Safety moderiert Schadenskategorien | 60 Detektoren, umkehrbare Pseudonymisierung vor dem Dispatch |
| Logging | Prompts und Completions in Azure Monitor und Application Insights | Hashverkettetes Audit-Ledger, offline prüfbar |
| Budgets | Token-Limits und Kontingente je Zählerschlüssel | Ratenlimits, Budgets und Allow-Lists je Workload |
| MCP | REST-APIs als MCP-Server bereitstellen, bestehende vorschalten, A2A-Agenten | Tool-Aufrufe durch dasselbe Gate, Freigaben standardmäßig verweigert |
| Kostenform | Pro Tarif oder pro Anfrage für das Gateway, Modellnutzung separat abgerechnet | Listenpreis des Anbieters + 10 %, BYOK 0,50 € pro 1 Mio. Token |
Wohin die Daten gehen und wer sie kontrolliert
Bei APIM folgt der Standort Ihrer Bereitstellung. Sie wählen die Azure-Region für das Gateway und für jedes Backend. Im Gateway gibt es keine Jurisdiktionsrichtlinie, die eine Anfrage an einen Anbieter außerhalb der EU ablehnt; das drücken Sie dadurch aus, welche Backends existieren und wie Routen geschrieben sind.
Foundry bringt eigene Regeln mit. Von Azure verkaufte Modelle verarbeiten Prompts und Antworten innerhalb der vom Kunden festgelegten Geografie, sofern Sie keinen Bereitstellungstyp Global oder DataZone nutzen: DataZone kann überall innerhalb der definierten Zone verarbeiten, Global überall dort, wo das Modell bereitgestellt ist. Microsoft dokumentiert außerdem die EU Data Boundary, die Zusage, Kundendaten in der EU zu speichern und zu verarbeiten, vorbehaltlich begrenzter, aufgelisteter Ausnahmen. Sorgfältig eingesetzt, kann dies strenge EU-Anforderungen erfüllen.
Sluis macht die Beschränkung zum Standard. Das API-Routing erlaubt nur die EU-Jurisdiktion, eine Anfrage an einen Anbieter außerhalb der erlaubten Menge wird vor dem Dispatch mit 403 abgelehnt, und eine Erweiterung der Richtlinie ist eine protokollierte Entscheidung. Das EU-Eigentum am Anbieter ist ein eigener Schalter, weil eine EU-Region nicht bedeutet, dass der Anbieter in EU-Hand ist. Siehe Residenz und Modelle.
Zum Eigentum: Microsoft Corporation ist ein US-Unternehmen, daher gilt der CLOUD Act für Daten unter seiner Kontrolle, wo auch immer sie gespeichert sind. Microsoft hat die Zusage veröffentlicht, behördliche Anforderungen für Daten von EU-Kunden im öffentlichen Sektor und in Unternehmen bei bestehender Rechtsgrundlage anzufechten und Kunden für eine unionsrechtswidrige Offenlegung zu entschädigen. Sluis arbeitet von den Niederlanden aus, was EU-Recht mit sich bringt, aber keine Immunität gegenüber jeder Regierung. Unser Leitfaden zum CLOUD Act behandelt beide Seiten.
Personenbezogene Daten, Content Safety und Missbrauchsüberwachung
Die Richtlinie llm-content-safety von APIM sendet Prompts und optional Completions an Azure AI Content Safety, das vier Schadenskategorien anhand von Ihnen gesetzter Schwellenwerte bewertet. Verstöße liefern 403, bei Streaming-Antworten stellt die Richtlinie jedoch die Weiterleitung von Ereignissen ein, ohne einen Fehler zurückzugeben. Im von uns gelesenen Richtlinienkatalog gibt es keine eigene Richtlinie, die personenbezogene Daten erkennt und ersetzt; Sie können eine mit Suchen-und-Ersetzen, Richtlinienausdrücken oder einem anderen Dienst bauen und verantworten dann deren Genauigkeit.
Sluis legt die Behandlung personenbezogener Daten in den Anfragepfad. Die Detektoren decken personenbezogene Daten und Geheimnisse ab, darunter prüfsummenvalidierte nationale Kennnummern für 12 EU-Länder. Die Richtlinie kann blockieren, maskieren, protokollieren oder umkehrbar pseudonymisieren, mit Tokens wie «EMAIL_1», die in der Antwort wiederhergestellt werden, auch beim Streaming. Die Erkennung ist nicht perfekt, und die Nutzung von Sluis begründet für sich allein keine DSGVO-Konformität. Siehe Datenschutz.
Prüfen Sie einen weiteren Azure-Punkt. Die Missbrauchsüberwachung von Foundry kann markierte Prompts und Completions speichern und prüfen, einschließlich menschlicher Prüfung durch autorisierte Microsoft-Mitarbeiter, bei EWR-Bereitstellungen im EWR; berechtigte Kunden können eine Änderung beantragen. Enthalten Prompts Daten besonderer Kategorien, lesen Sie zuerst diese Seite.
Logging und Audit
APIM kann Prompts, Completions und Token-Nutzung in Azure Monitor und Application Insights protokollieren, mit eingebautem Dashboard und Token-Metriken je Verbraucher; Aufbewahrung und Zugriff steuern Sie über Azure. Die von uns gelesenen Seiten beschreiben Logging, kein hashverkettetes oder anderweitig manipulationssicheres Ledger.
Sluis schreibt pro Aufruf einen Eintrag, verknüpft über sha256(prev_hash + record), sodass die Änderung eines Feldes jedes spätere Glied bricht; die Gateway-CLI prüft die Kette offline. Siehe Sicherheit.
Budgets, Caching und Agenten
Die Token-Limit-Richtlinie von APIM setzt Tokens pro Minute oder Kontingente pro Stunde, Tag, Woche, Monat oder Jahr auf jedem Zählerschlüssel, etwa einem Abonnement oder einer IP-Adresse. Backends unterstützen Round-Robin, gewichtetes, prioritätsbasiertes und sitzungsbewusstes Load Balancing mit Circuit Breakern. APIM kann REST-APIs als MCP-Server bereitstellen und bestehende MCP-Server mit OAuth-Zugangsdatenverwaltung vorschalten.
Workloads in Sluis besitzen Ratenlimits, ein Gesamt-, Tages- oder Monatsbudget, Modell-Allow-Lists und Richtlinienüberschreibungen, die vor dem Dispatch belastet werden. MCP-Tool-Aufrufe durchlaufen dasselbe Gate aus Inspect, Route, Seal und Metering mit standardmäßig verweigerten Freigaben, und Claude Code, Codex und Cursor können unter der Organisationsrichtlinie laufen. Siehe Budgets und MCP.
Aufwand und Preise
APIM wird als Dienst bepreist. Klassische Tarife werden pro Einheit abgerechnet, Consumption pro Operation, und v2-Tarife mit monatlich enthaltenen Anfragen und einem Preis pro zusätzlicher Million; die Beträge werden dynamisch geladen, prüfen Sie also die Live-Seite. Das selbst gehostete Gateway ist in Developer kostenlos und in Premium ein Mehrpreis. Die Modellnutzung wird von dem Dienst abgerechnet, den Sie aufrufen.
Sluis hat keine Abonnement- oder Platzgebühr. Verwaltete Nutzung kostet den Listenpreis des Anbieters + 10 %, BYOK und eigene Anbieter 0,50 € pro 1 Mio. Eingabe- plus Ausgabe-Token, im Voraus bezahlt ab 25 €. Prüfungen wie die Namenserkennung (0,005 € oder 0,01 € pro Anfrage) werden gemessen, und für Zahlungsmittel fallen Aufschläge an. Siehe Preise. Bei sehr hohem Volumen kann ein Gateway mit fester Kapazität günstiger sein als eine prozentuale Gebühr; bei niedrigem oder schwankendem Volumen ist ein stundenweise bezahltes Gateway teurer.
Vergessen Sie die Ingenieurzeit nicht. APIM-Richtlinien, Backends, Content Safety und Monitor-Dashboards entwerfen und pflegen Sie selbst. Sluis wird konfiguriert, nicht zusammengebaut. Die übrigen Gateways der Auswahlliste finden Sie unter KI-Gateways für EU-Organisationen im Vergleich.
Wann Azure API Management die bessere Wahl ist
- Ihre Workloads, Identität und Netzwerke liegen bereits in Azure, mit verwalteten Identitäten, privaten Netzwerken und einem bestehenden APIM-Team.
- Sie wollen Policy-as-Code und die Freiheit, eigenes Verhalten jenseits der Einstellungen eines Produkts zu bauen.
- Sie wollen Microsofts Compliance-Portfolio, Vertrag und Support unter einer Vereinbarung.
- Ihre Modelle laufen in Foundry, und Sie wollen die Gateway-Steuerung innerhalb dieser Umgebung.
Wann Sluis die bessere Wahl ist
- Sie wollen EU-only-Routing, das beim Dispatch abgelehnt wird, ohne es entwerfen zu müssen, und EU-Eigentum als eigene Kontrolle.
- Personenbezogene Daten müssen ersetzt werden, bevor der Anbieter sie sieht, und in der Antwort wiederhergestellt werden.
- Sie brauchen einen Audit-Nachweis, der als unverändert verifiziert werden kann.
- Sie wollen Mitarbeitende, Anwendungen und Coding-Agenten unter einer Richtlinie, ohne dass ein Azure-Bestand nötig ist.
- Sie wollen eine selbst gehostete Datenebene auf Ihren eigenen Servern über Sluis Edge.
FAQ
Kann Azure API Management EU-only-Routing durchsetzen?
Ja, wenn Sie es bauen. Sie stellen Gateways und Backends in EU-Regionen bereit, nutzen Foundry-Bereitstellungstypen, die innerhalb der EU bleiben, und beschränken, wer Backends hinzufügen darf. Das ist eine Architektur, kein Schalter. Sluis liefert EU-only als Standardrichtlinie.
Schwärzt APIM personenbezogene Daten?
Wir haben in der Richtlinienreferenz keine eigene PII-Richtlinie gefunden. Es bietet Content-Safety-Moderation, Suchen-und-Ersetzen und eigene Richtlinienausdrücke, Schwärzung baut oder ergänzt man also selbst. Sluis pseudonymisiert von Haus aus umkehrbar.
Trainiert Azure Modelle mit meinen Prompts?
Microsoft erklärt, dass Prompts, Completions und Embeddings nicht ohne Ihre Erlaubnis zum Training von Foundation-Modellen verwendet werden und anderen Kunden nicht zur Verfügung stehen. Die Missbrauchsüberwachung kann markierte Inhalte dennoch zur Prüfung speichern.
Lassen sich beide kombinieren?
Möglicherweise. Sluis verbindet jeden eigenen OpenAI-kompatiblen Anbieter, daher könnte ein Azure-Endpunkt, der diese API spricht, einer sein, mit Ihrem eigenen Schlüssel und der Gebühr für eigene Anbieter. Wir haben diese Konstellation nicht getestet; prüfen Sie, wie der Endpunkt unter Ihrer Residenzrichtlinie eingestuft wird. Sie könnten auch APIM für internen API-Verkehr behalten und Sluis für KI nutzen.
Quellen
- AI gateway capabilities in Azure API Management
- llm-content-safety policy
- Azure API Management policy reference
- Azure API Management pricing
- Data, privacy, and security for Foundry Models sold by Azure
- Foundry Models sold by Azure abuse monitoring
- What is the EU Data Boundary?
- Microsoft's European digital commitments
- 18 U.S.C. § 2713, added by the CLOUD Act of 2018