Werdykt: Dla organizacji z UE lepszym wyborem jest Sluis Gateway, ponieważ routing tylko w UE jest egzekwowany przy każdym żądaniu, dane osobowe są odwracalnie pseudonimizowane, zanim dotrą do modelu, jedna polityka, jeden ślad audytowy z łańcuchem skrótów i jeden rachunek za użycie (cena katalogowa dostawcy plus 10%, bez opłat za stanowisko) obejmują pracowników, API i agenty kodujące, a gateway w Rust przewyższył Bifrost i LiteLLM w naszym wewnętrznym benchmarku nawet z włączoną bramką bezpieczeństwa.
Gateway AI stoi między Twoimi aplikacjami (lub pracownikami i ich agentami kodującymi) a dostawcami modeli. Dla organizacji z UE interesujące jest to, co gateway robi w sprawie jurysdykcji, danych osobowych i dowodów; routing, fallbacki i cache to podstawa. Tę stronę napisał Sluis, który jest jednym z ośmiu. Wszystkie pozostałe wiersze wzięliśmy z dokumentacji samych dostawców, a źródła podajemy na końcu. Tam, gdzie czegoś nie mogliśmy zweryfikować, mówimy o tym.
Jak czytać tabelę
Gateway może wykonywać dwie różne prace, a większość produktów jest mocna w jednej. Łączność i niezawodność oznacza jedno API do wielu dostawców, ponowienia, fallbacki, równoważenie obciążenia, budżety, cache i metryki. Kontrola i dowody oznacza politykę dotyczącą tego, dokąd może trafić żądanie, obsługę danych osobowych, zanim opuszczą system, oraz zapis, który możesz pokazać audytorowi. Poniższe kryteria dotyczą drugiej pracy, bo tam wymogi UE są najdotkliwsze. Jeśli potrzebujesz tylko pierwszej, większość tych narzędzi robi ją dobrze, a wybór sprowadza się do operacji i ceny.
Tabela kryteriów
| Sluis | LiteLLM | Portkey | Kong AI Gateway | Cloudflare AI Gateway | OpenRouter | Azure API Management | Bifrost | |
|---|---|---|---|---|---|---|---|---|
| Hosting i jurysdykcja | Zarządzany, hostowany w UE, 7Lab B.V., Amsterdam | Uruchamiasz samodzielnie | Portkey, Inc. (San Francisco), przejęty przez Palo Alto Networks (zamknięcie 29 maja 2026); hosting w VPC w planie Enterprise | Płaszczyzna kontrolna Konnect, płaszczyzna danych uruchamiana samodzielnie lub on-prem | Sieć Cloudflare, firma z siedzibą w San Francisco | OpenRouter, Inc. (Nowy Jork); regionalne domeny UE i USA w planach Business i Enterprise | Usługa Azure, w wybranym regionie | Uruchamiasz samodzielnie; w VPC w planie Enterprise |
| Samodzielny hosting | Opcjonalna appliance enterprise (Sluis Edge), jedna roczna licencja za instalację | Tak, podstawowy przypadek użycia | Open source'owy gateway; pełniejsze funkcje w produkcie zarządzanym | Tak | Nie | Nie | Nie, ale działa w Twojej subskrypcji Azure | Tak |
| Licencja | Własnościowa | MIT, z wyjątkiem katalogu enterprise/ | Gateway MIT; platforma komercyjna | Kong Gateway Apache 2.0; kilka wtyczek AI tylko w wersji enterprise | Usługa własnościowa | Usługa własnościowa | Usługa Microsoft | Apache 2.0 |
| Dane osobowe | Wykrywanie i odwracalna pseudonimizacja przed wysyłką (60 detektorów, opcjonalne rozpoznawanie imion i nazwisk przez AI) | Maskowanie Presidio w wersji open source; kontenery wdrażasz sam | Redakcja PII w wybranych guardrails, zależnie od planu | AI PII Sanitizer (enterprise), osobna usługa PII | DLP bezpłatne we wszystkich planach, dwa predefiniowane profile bez Zero Trust | Guardrail Sensitive Info: redaguje lub blokuje dopasowania (regex, plus imiona i lokalizacje z Presidio w wersji beta), tylko wejście | Moderacja Content Safety; nie znaleziono dedykowanej polityki PII | Guardrails enterprise: regex, Presidio i usługi dostawców chmurowych |
| Egzekwowanie rezydencji | Polityka organizacji przy wysyłce; domyślnie tylko UE, pozostałe odrzucane z 403 | Brak wbudowanej polityki jurysdykcji w przeczytanej dokumentacji | SaaS z przypiętymi regionami i hybryda VPC w planie Enterprise; nie opisano polityki per żądanie | Sam wybierasz, gdzie działają płaszczyzna danych i backendy | Nie znaleziono kontroli regionu dostawcy; wymieniony jako niezgodny z Regional Services | Routing w regionie UE lub USA w planach Business i Enterprise; kończy się odmową | Sam wybierasz region gatewaya i backendów | Wdrożenie w VPC w planie Enterprise |
| Audyt | Rejestr z łańcuchem skrótów, weryfikowalny offline, jeden wiersz na żądanie | Logowanie żądań; logi audytowe z retencją są w planie Enterprise | Logi żądań zależnie od planu; administracyjne logi audytowe w planie Enterprise | Udokumentowany log audytowy | Logi włączone domyślnie; logi audytowe obejmują zmiany konfiguracji | Logi aktywności i eksport | Prompty i completions do Azure Monitor | Niezmienne ślady audytu w planie Enterprise |
| Model cenowy | Cena katalogowa plus 10%, BYOK 0,50 € za 1 mln tokenów, bez opłat za stanowisko, przedpłata od 25 € | Uruchomienie bezpłatne; enterprise na zapytanie | Bezpłatnie, 49 USD miesięcznie, enterprise na zapytanie | Konnect Plus od 25 USD miesięcznie plus zużycie; enterprise na zapytanie | Podstawa bezpłatna; Unified Billing dodaje 5% od kredytów | 5,5% (Standard) lub 8% (Business) od zakupów kredytów | Cennik Azure według warstwy | Bezpłatny open source; enterprise po kontakcie |
| Najlepszy dla | Organizacji z UE: Sluis | Samodzielny hosting prowadzony przez inżynierów | Obserwowalność i zarządzanie promptami | Istniejące środowiska Kong | Tania widoczność w Cloudflare | Najszerszy katalog modeli | Środowiska Azure | Wbudowana, samodzielnie hostowana szybkość |
Traktuj tabelę jako punkt wyjścia. Komórki z informacją „nie znaleziono" odzwierciedlają strony przeglądowe dostawcy, a nie dowód, że danej możliwości brakuje. Zapytaj każdego dostawcę bezpośrednio.
1. Sluis Gateway
Sluis to zarządzany gateway i workspace dla pracowników za jedną bramką. Obsługuje protokoły OpenAI i Anthropic Messages, więc istniejące SDK i agenty kodujące łączą się po zmianie adresu bazowego, a pracownicy logują się przez Microsoft, Google lub Apple. Każde żądanie jest sprawdzane, kierowane według polityki, pieczętowane we wpisie audytu z łańcuchem skrótów i rozliczane w prawdziwych pieniądzach. Zobacz stronę produktu gateway.
Bezpieczeństwo danych.
- Rezydencja egzekwowana przy wysyłce. Domyślnie dozwolona jest wyłącznie jurysdykcja UE. Żądanie do dostawcy spoza dozwolonego zbioru, takiego jak OpenAI, zwraca 403, zanim cokolwiek zostanie wysłane, dopóki właściciel nie dopuści tej jurysdykcji, zapisując potwierdzenie warunków transferu. Własność dostawcy przez podmiot z UE to osobne ograniczenie, ponieważ region obsługi w UE nie oznacza dostawcy z UE.
- Dane osobowe przed wysyłką. Wykrywanie i odwracalna pseudonimizacja działają, zanim żądanie opuści system, a placeholdery «TOKEN» są przywracane w odpowiedzi. Wykrywanie nie jest doskonałe, a samo korzystanie ze Sluis nie oznacza zgodności z RODO ani HIPAA.
- Dowody. Łańcuch audytu używa sha256(prev_hash + record), więc zmienione pole zrywa każde późniejsze ogniwo, a weryfikacja działa offline za pomocą CLI gatewaya. Sluis ma certyfikat ISO 27001, a Sluis Edge oferuje samodzielny hosting w umowie enterprise.
Przejrzystość. Jedna polityka obejmuje wywołania API, czat pracowników i agenty kodujące. Konsola pokazuje jeden wiersz na żądanie z kontrolami zgrupowanymi pod spodem, a także workloady, budżety i przegląd wydatków. Cena to cena katalogowa dostawcy plus 10% albo 0,50 € za milion tokenów wejścia i wyjścia łącznie dla własnych kluczy i własnych dostawców, plus mierzone kontrole, takie jak rozpoznawanie imion i nazwisk po 0,005 € lub 0,01 € za żądanie. Bez opłat za stanowisko i bez abonamentu platformy; obowiązują dopłaty zależne od metody płatności.
Łatwość użycia. Zmieniasz jeden adres bazowy. Zewnętrzne narzędzia MCP przechodzą tę samą bramkę. Workspace daje osobom niebędącym deweloperami tę samą politykę przez czat, agenty i Skills.
Logowanie. Sluis oferuje SSO z Microsoft Entra ID, Google i Apple, plus uwierzytelnianie dwuskładnikowe aplikacją uwierzytelniającą lub kluczem dostępu. SAML i SCIM są dostępne na życzenie w umowach enterprise.
Wydajność. Gateway Sluis jest zbudowany w Rust dla przewidywalnych opóźnień i bezpieczeństwa pamięci. W naszym wewnętrznym benchmarku (względnym, na sprzęcie deweloperskim, mierzonym wewnętrznie; identyczny sprzęt, jeden wspólny mockowy upstream, 256 połączeń) obsłużył 3678 żądań na sekundę z włączoną pełną bramką bezpieczeństwa, wobec 3148 dla Bifrost i 298 dla LiteLLM. Bramka dodaje około 1 ms w medianie. Z wyłączoną bramką Sluis osiągnął 4046 żądań na sekundę, p50 62 ms wobec 80 ms dla Bifrost i p99 77 ms wobec 118 ms. Nie przeprowadziliśmy benchmarku pozostałych gateway. Zobacz stronę wydajności.
Ważone lub oparte na opóźnieniu równoważenie obciążenia między modelami lub wdrożeniami jest dostępne na życzenie w umowach enterprise. W obrębie jednego dostawcy Sluis już rozkłada wywołania na kilka kluczy według wag, z ponowieniami i circuit breakingiem. Sluis to zarządzany produkt młodej firmy, a repozytorium jest własnościowe. Trasa Agent Harness dla lokalnych agentów kodujących jest wyjątkiem od rezydencji: region obsługi wybiera subskrypcja dostawcy, a Sluis zapisuje go jako niezweryfikowany.
2. LiteLLM
LiteLLM to open source'owy gateway: ujednolicony interfejs w formacie OpenAI do ponad 100 dostawców jako SDK dla Pythona lub proxy, z kluczami wirtualnymi, śledzeniem wydatków, budżetami, fallbackami i logowaniem. Jest na licencji MIT, poza katalogiem enterprise/. Własne guardrails i maskowanie PII Presidio są w wersji open source. SSO jest bezpłatne do pięciu użytkowników; powyżej tego, a także dla logów audytowych z politykami retencji, SCIM, rotacji kluczy i kilku wbudowanych guardrails, wymagana jest licencja enterprise, wyceniana na zapytanie. Wdrażasz go na własnej infrastrukturze, więc jurysdykcja jest taka, jaką ją uczynisz, a rezydencję i dowody audytowe sam składasz. Zobacz porównanie Sluis z LiteLLM.
3. Portkey
Portkey pozycjonuje się jako panel sterowania dla produkcyjnego AI: gateway, obserwowalność, guardrails, zarządzanie promptami i gateway MCP. Palo Alto Networks zakończyło przejęcie 29 maja 2026 r., a strona cennika przedstawia go teraz jako Prisma AIRS AI Gateway. Pokazuje plan Production za 49 USD miesięcznie, o którym mówi, że nie jest zalecany dla organizacji wymagających własnych kontroli bezpieczeństwa lub gwarancji rezydencji danych, oraz plan Enterprise z chmurą prywatną i hostingiem w VPC. Zobacz porównanie Sluis z Portkey.
4. Kong AI Gateway
Kong rozszerza swój gateway API na licencji Apache 2.0 o ruch LLM, MCP i agent do agenta, w tym semantyczny cache, prompt guards i AI PII Sanitizer, który redaguje PII przed wysłaniem do dostawcy upstream. Kilka z tych wtyczek AI, w tym sanitizer, jest tylko w wersji enterprise. Projekt polityk z wtyczek należy do Ciebie. Zobacz porównanie Sluis z Kong AI Gateway.
5. Cloudflare AI Gateway
Cloudflare AI Gateway daje analitykę, logowanie, cache, limity, ponowienia i fallback modeli, „dostępne we wszystkich planach". Podstawowe funkcje są bezpłatne, skanowanie DLP jest bezpłatne z dwoma predefiniowanymi profilami, a Unified Billing dodaje opłatę 5% od kredytów. Na przeczytanych stronach nie znaleźliśmy kontroli regionu dostawcy, więc potwierdź to, jeśli jest to wymóg. Zobacz porównanie Sluis z Cloudflare AI Gateway.
6. OpenRouter
OpenRouter to hostowany router nad ponad 500 modelami od ponad 80 dostawców z jednym API i jednym saldem kredytów, najszerszy wybór modeli w tym zestawieniu. Jego dokumentacja opisuje routing w regionie UE: żądania wysłane na eu.openrouter.ai są kierowane tylko do endpointów w UE i kończą się odmową zamiast wracać poza region. Wymaga planu Business lub wyższego.
Jeśli chodzi o dane osobowe, jego guardrail Sensitive Info redaguje lub blokuje dopasowania w żądaniach, używając presetów regex plus imion i lokalizacji opartych na Presidio, które dokumentacja oznacza jako beta. Skanuje tylko wejście i nie przywraca oryginalnych wartości w odpowiedzi. Opłaty to 5,5% (Standard) lub 8% (Business) od zakupów kredytów, z cenami katalogowymi dostawców przekazywanymi dalej. SSO (SAML) i SCIM są tylko w planie Enterprise. Zobacz porównanie Sluis z OpenRouter.
7. Azure API Management
Azure API Management ma możliwości gatewaya AI we wszystkich warstwach: limity tokenów, semantyczny cache, kontrole bezpieczeństwa treści przez Azure AI Content Safety, równoważenie obciążenia i circuit breakery oraz logowanie promptów i completions do Azure Monitor. Region wynika z Twojego wdrożenia. Zobacz porównanie Sluis z Azure API Management.
8. Bifrost
Bifrost to gateway na licencji Apache 2.0 napisany w Go, z ponad 20 dostawcami za API zgodnym z OpenAI, fallbackami, równoważeniem obciążenia, kluczami wirtualnymi, budżetami, semantycznym cache i gatewayem MCP. Wdrożenia enterprise dodają guardrails, wdrożenie w VPC i niezmienne ślady audytu. Bifrost nie ma na tej stronie dedykowanej strony porównawczej.
Jak wybrać
- Egzekwowany routing tylko w UE, obsługa danych osobowych i weryfikowalny audyt, zarządzane za Ciebie, z pracownikami i agentami pod jedną polityką: Sluis.
- Własne wdrożenie, open source, prowadzone przez inżynierów: LiteLLM lub Bifrost.
- Istniejące środowisko Kong lub Azure: Kong AI Gateway lub Azure API Management.
- Szybka, tania widoczność, jeśli już używasz Cloudflare: Cloudflare AI Gateway.
- Najszerszy katalog modeli z udokumentowanym routingiem w regionie UE: OpenRouter.
- Najpierw obserwowalność i zarządzanie promptami: Portkey.
Trzy pytania odróżniają ten zbiór: czy gateway może odrzucić żądanie ze względów jurysdykcyjnych, zanim zostanie wysłane, co dzieje się z danymi osobowymi w prompcie i czy możesz przekazać audytorowi dowody, które nie mogły być edytowane po fakcie?
Kto mimo to może wybrać pozostałe
- LiteLLM, Bifrost lub Kong, jeśli musisz uruchomić wszystko na własnym sprzęcie bez komponentu zarządzanego (albo Sluis Edge w umowie enterprise).
- OpenRouter, jeśli potrzebujesz ponad 500 modeli za jednym kluczem.
- Azure API Management lub Kong, jeśli gateway musi działać wewnątrz istniejącego środowiska Azure lub Kong.
- Cloudflare, jeśli chcesz najniższego kosztu uruchomienia samej widoczności.
Nasz werdykt
Sluis Gateway jest lepszym wyborem dla organizacji z UE: rezydencja egzekwowana per żądanie, dane osobowe pseudonimizowane przed wysyłką, łańcuch audytu, który zweryfikujesz offline, i jeden rachunek za użycie bez opłat za stanowisko, dla pracowników, API i agentów kodujących jednocześnie. Zobacz stronę gatewaya i cennik.
FAQ
Jaki jest najlepszy gateway AI dla rezydencji danych w UE?
Dla organizacji z UE na pierwszym miejscu stawiamy Sluis: egzekwuje domyślnie tylko UE przy wysyłce i odrzuca inne jurysdykcje z 403. OpenRouter oferuje routing w regionie UE w planach Business i Enterprise, który kończy się odmową. Samodzielnie hostowane gateway, takie jak LiteLLM, Kong i Bifrost, pozwalają samemu umieścić wszystko w UE, ale politykę projektujesz sam.
Czy open source'owy gateway AI wystarczy do RODO?
Open source'owy gateway może być częścią zgodnej konfiguracji, ale żaden gateway sam nie czyni organizacji zgodną. Nadal potrzebujesz podstawy prawnej, umowy powierzenia z każdym dostawcą, decyzji o retencji i oceny prawnej.
Czy gateway może udowodnić, jaka polityka została zastosowana?
Niektóre mogą ją zalogować. Azure API Management wysyła prompty i completions do Azure Monitor, a LiteLLM, Bifrost i OpenRouter przechowują logi. Sluis dodatkowo pieczętuje każde żądanie i każdą kontrolę w łańcuchu skrótów, który można zweryfikować offline, co jest węższą i silniejszą właściwością niż logowanie. Sprawdź, którą z nich ma na myśli dostawca.
Czy gateway dodaje opóźnienie?
Każdy przeskok coś dodaje, a dostawcy publikują wartości w różnych warunkach. W naszym wewnętrznym benchmarku (względnym, na sprzęcie deweloperskim, mierzonym wewnętrznie) gateway Sluis dodał około 1 ms w medianie z włączoną pełną bramką bezpieczeństwa. Zmierz to na własnym ruchu.
Który gateway jest najtańszy?
Samodzielnie hostowany open source (LiteLLM, Bifrost) i podstawowe funkcje Cloudflare nie mają opłaty platformy, ale kosztują czas operacyjny lub nie mają kontroli enterprise. OpenRouter pobiera 5,5% lub 8% od zakupów kredytów, Sluis dodaje 10% do zarządzanego użycia modeli bez opłat za stanowisko, a Portkey, Kong i warstwy enterprise są wyceniane według planu lub na zapytanie. Najniższa opłata rzadko oznacza najniższy koszt, gdy doliczy się prace nad audytem i rezydencją.
Źródła
- Sluis documentation, full text
- Sluis pricing
- Sluis performance
- LiteLLM enterprise documentation
- LiteLLM on GitHub
- Portkey pricing
- Palo Alto Networks completes acquisition of Portkey
- Kong AI Gateway documentation
- Kong pricing
- Cloudflare AI Gateway overview
- Cloudflare AI Gateway pricing
- Cloudflare Data Localization Suite compatibility
- OpenRouter pricing
- OpenRouter in-region routing
- OpenRouter Sensitive Info guardrail
- OpenRouter zero data retention
- Azure API Management AI gateway capabilities
- Bifrost documentation
- Bifrost on GitHub