Gateway AI stoi między Twoimi aplikacjami (lub pracownikami i ich agentami kodującymi) a dostawcami modeli. Dla organizacji z UE interesujące jest to, co gateway robi w sprawie jurysdykcji, danych osobowych i dowodów; routing, mechanizmy zapasowe i cache to standard. Tę stronę napisał Sluis, który jest jednym z ośmiu. Każdy inny wiersz wzięliśmy z dokumentacji samego dostawcy z 1 października 2026 r. i podajemy źródła na końcu. Tam, gdzie czegoś nie mogliśmy zweryfikować, mówimy o tym wprost.
Jak czytać tabelę
Gateway może wykonywać dwie różne prace, a większość produktów jest mocna w jednej. Łączność i niezawodność to jedno API do wielu dostawców, ponawianie, mechanizmy zapasowe, równoważenie obciążenia, budżety, cache i metryki. Kontrola i dowody to polityka określająca, dokąd może trafić żądanie, obsługa danych osobowych, zanim opuszczą system, oraz zapis, który możesz pokazać audytorowi. Poniższe kryteria dotyczą drugiej pracy, ponieważ tam wymogi UE dają się najbardziej we znaki. Jeśli potrzebujesz tylko pierwszej, większość tych narzędzi robi ją dobrze, a wybór sprowadza się do operacji i ceny.
Tabela kryteriów
| Sluis | LiteLLM | Portkey | Kong AI Gateway | Cloudflare AI Gateway | OpenRouter | Azure API Management | Bifrost | |
|---|---|---|---|---|---|---|---|---|
| Hosting i jurysdykcja | Zarządzany, hostowany w UE, 7Lab B.V., Amsterdam | Uruchamiasz sam | Portkey, Inc. (San Francisco), przejęty przez Palo Alto Networks (zamknięcie 29 maja 2026 r.); hosting w VPC w Enterprise | Płaszczyzna sterowania Konnect, data plane uruchamiany przez Ciebie lub on-prem | Sieć Cloudflare, firma z siedzibą w San Francisco | OpenRouter, Inc. (Nowy Jork); domeny regionalne UE i USA w Business i Enterprise | Usługa Azure, w wybranym przez Ciebie regionie | Uruchamiasz sam; w VPC w Enterprise |
| Samodzielny hosting | Opcjonalny data plane enterprise (Sluis Edge), stała roczna licencja za gateway | Tak, główny przypadek użycia | Gateway open source; pełniejsze funkcje w produkcie zarządzanym | Tak | Nie | Nie | Nie, ale działa w Twojej subskrypcji Azure | Tak |
| Licencja | Własnościowa | MIT, poza katalogiem enterprise/ | Gateway na MIT; platforma komercyjna | Kong Gateway na Apache 2.0; kilka wtyczek AI tylko w wersji enterprise | Usługa własnościowa | Usługa własnościowa | Usługa Microsoftu | Apache 2.0 |
| Obsługa danych osobowych | Wykrywanie i odwracalna pseudonimizacja przed wysyłką (60 detektorów, opcjonalne rozpoznawanie imion i nazwisk przez AI) | Maskowanie Presidio w open source; kontenery wdrażasz sam | Redakcja danych osobowych w wybranych guardrailach, zależnie od planu | AI PII Sanitizer (enterprise), osobna usługa PII | DLP bezpłatne we wszystkich planach, dwa predefiniowane profile bez Zero Trust | Guardrail Sensitive Info: redaguje lub blokuje dopasowania (regex, plus imiona i lokalizacje z Presidio w wersji beta), tylko wejście | Moderacja Content Safety; nie znaleziono dedykowanej polityki PII | Guardraile enterprise: regex, Presidio i usługi dostawców chmurowych |
| Egzekwowanie rezydencji | Polityka organizacji przy wysyłce; domyślnie tylko UE, pozostałe odrzucane z kodem 403 | Brak wbudowanej polityki jurysdykcji w przeczytanej dokumentacji | SaaS przypięty do regionu i hybryda VPC w Enterprise; nie opisano polityki per żądanie | Sam wybierasz, gdzie działają data plane i backendy | Nie znaleziono kontroli regionu dostawcy; wymieniony jako niezgodny z Regional Services | Routing w regionie UE lub USA w Business i Enterprise; w razie problemu odmawia | Sam wybierasz region bramki i backendów | Wdrożenie w VPC w Enterprise |
| Audyt | Księga z łańcuchem skrótów, weryfikowalna offline | Logowanie żądań; logi audytowe z retencją w Enterprise | Logi żądań zależnie od planu; administracyjne logi audytowe w Enterprise | Udokumentowany log audytowy | Logi domyślnie włączone; logi audytowe obejmują zmiany konfiguracji | Logi aktywności i eksport | Prompty i uzupełnienia do Azure Monitor | Niezmienne ślady audytowe w Enterprise |
| Model cenowy | Cena katalogowa plus 10%, BYOK 0,50 € za 1 mln tokenów, bez opłaty za stanowisko, przedpłata od 25 € | Uruchomienie bezpłatne; enterprise na zapytanie | Bezpłatnie, 49 USD miesięcznie, enterprise na zapytanie | Konnect Plus od 25 USD miesięcznie plus zużycie; enterprise na zapytanie | Podstawa bezpłatna; Unified Billing dolicza 5% od kredytów | 5,5% (Standard) lub 8% (Business) przy zakupie kredytów | Cennik Azure według poziomu | Bezpłatny open source; enterprise po kontakcie |
Traktuj tabelę jako punkt wyjścia. Komórki z informacją „nie znaleziono" odzwierciedlają strony przeglądowe dostawcy, a nie dowód, że możliwości brakuje. Zapytaj bezpośrednio każdego dostawcę.
Sluis
Sluis to zarządzany gateway i przestrzeń robocza dla pracowników za jedną bramką. Obsługuje protokoły OpenAI i Anthropic Messages, więc istniejące SDK i agenci kodujący łączą się po zmianie base URL. Każde żądanie jest sprawdzane, kierowane według polityki, pieczętowane we wpisie audytowym z łańcuchem skrótów i rozliczane w prawdziwych pieniądzach. Zobacz stronę produktu gateway.
- Rezydencja egzekwowana przy wysyłce. Domyślnie dozwolona jest tylko jurysdykcja UE. Żądanie do dostawcy spoza dozwolonego zbioru, takiego jak OpenAI, zwraca 403, zanim cokolwiek zostanie wysłane, dopóki właściciel nie dopuści tej jurysdykcji, zapisując potwierdzenie warunków transferu. Własność dostawcy w UE to osobne ograniczenie, ponieważ region obsługi w UE nie oznacza dostawcy należącego do UE.
- Dane osobowe przed wysyłką. Wykrywanie i odwracalna pseudonimizacja działają, zanim żądanie opuści system. Wykrywanie nie jest doskonałe, a korzystanie ze Sluis samo w sobie nie oznacza zgodności z RODO ani HIPAA.
- Dowody. Łańcuch audytowy używa sha256(prev_hash + record), więc zmienione pole zrywa każde późniejsze ogniwo, a weryfikacja odbywa się offline za pomocą CLI gateway. Sluis ma certyfikat ISO 27001.
- Cena. Cena katalogowa dostawcy plus 10% lub 0,50 € za milion tokenów wejściowych plus wyjściowych dla własnych kluczy i własnych dostawców, plus kontrole rozliczane według zużycia, takie jak rozpoznawanie imion i nazwisk po 0,005 € lub 0,01 € za żądanie. Bez abonamentu platformy; obowiązują dopłaty zależne od metody płatności.
Pod względem przepustowości nasz wewnętrzny benchmark pokazuje, że bramka dodaje około 1 ms w medianie w kontrolowanym teście, z około 9% mniejszą liczbą żądań na sekundę przy syntetycznym nasyceniu. To jedno stanowisko testowe na jednej maszynie deweloperskiej, a nie odtworzony benchmark, i nie budujemy na nim żadnego rankingu. Zobacz stronę o wydajności.
Uczciwe ograniczenia: Sluis to produkt zarządzany od młodej firmy, a repozytorium jest własnościowe. W obrębie jednego dostawcy równoważy wywołania między kilkoma kluczami według wag, z ponawianiem i wyłącznikiem obwodu, ale nie ma ważonego ani opartego na opóźnieniu równoważenia między modelami czy wdrożeniami. Nie ma jednokrotnego logowania SAML ani udostępniania SCIM. Trasa Agent Harness dla lokalnych agentów kodujących jest wyjątkiem od rezydencji: subskrypcja dostawcy wybiera region obsługi, a Sluis zapisuje go jako niezweryfikowany.
LiteLLM
LiteLLM to gateway open source: ujednolicony interfejs w formacie OpenAI do ponad 100 dostawców jako SDK dla Pythona lub proxy, z kluczami wirtualnymi, śledzeniem wydatków, budżetami, mechanizmami zapasowymi i logowaniem. Jest na licencji MIT, poza katalogiem enterprise/. Własne guardraile i maskowanie danych osobowych Presidio są w wersji open source. SSO jest bezpłatne do pięciu użytkowników; powyżej tego, a także dla logów audytowych z politykami retencji, SCIM, rotacji kluczy i kilku wbudowanych guardrailów, wymagana jest licencja enterprise, wyceniana na zapytanie. Wdrażasz go na własnej infrastrukturze, więc jurysdykcja jest taka, jaką sam ją zrobisz.
Wybierz go, gdy masz inżynierów platformy i chcesz być właścicielem wdrożenia. Rezydencję i dowody audytowe składasz samodzielnie. Zobacz porównanie Sluis z LiteLLM.
Portkey
Portkey pozycjonuje się jako panel sterowania dla produkcyjnego AI: gateway, obserwowalność, guardraile, zarządzanie promptami i gateway MCP. 29 maja 2026 r. Palo Alto Networks sfinalizowało przejęcie Portkey, a strona cennika przedstawia obecnie produkt jako Prisma AIRS AI Gateway. Strona pokazuje bezpłatny poziom Developer, plan Production za 49 USD miesięcznie, który według niej nie jest zalecany organizacjom wymagającym własnych kontroli bezpieczeństwa lub gwarancji rezydencji danych, oraz plan Enterprise z chmurą prywatną i hostingiem w VPC, SSO, konfigurowalną retencją i dokumentacją zgodności. Gateway na licencji MIT jest też oferowany do samodzielnego hostingu.
Wybierz go, gdy obserwowalność i zarządzanie promptami są sednem pracy i będziesz negocjować plan Enterprise, albo gdy już kupujesz od Palo Alto Networks. Zobacz porównanie Sluis z Portkey.
Kong AI Gateway
Kong rozszerza swoją bramkę API na Apache 2.0 o ruch LLM, MCP i agent-agent. Jego dokumentacja wymienia routing do dostawców i równoważenie obciążenia, cache semantyczny, guardraile promptów, AI PII Sanitizer, który redaguje dane osobowe przed dostawcą upstream, oraz integracje z usługami guardrail AWS, Azure i Google. Kilka z tych wtyczek AI, w tym sanitizer, jest tylko w wersji enterprise. Działa przez Konnect z lokalnym data plane lub on-prem na samodzielnie hostowanym Kong Gateway i dokumentuje wsparcie FIPS 140-3.
Wybierz go, gdy Kong już stoi przed Twoimi API i chcesz, aby ruchem AI zarządzał ten sam zespół. Projekt polityk budujesz sam z wtyczek. Zobacz porównanie Sluis z Kong AI Gateway.
Cloudflare AI Gateway
Cloudflare AI Gateway daje analitykę, logowanie, cache, limity szybkości, ponawianie i zapasowe modele przed dostawcami AI, „dostępne we wszystkich planach". Podstawowe funkcje są bezpłatne. Skanowanie DLP jest bezpłatne we wszystkich planach z dwoma predefiniowanymi profilami, a pełniejsze profile są w subskrypcji Zero Trust. Guardrails używają Llama Guard na Workers AI i są rozliczane jako inferencja. Unified Billing dolicza 5% opłaty od kredytów, a logi podlegają cennikowi Workers Logs dla gateway utworzonych od 24 września 2026 r.
Wybierz go, gdy już używasz Cloudflare, chcesz szybkiej konfiguracji i niskiego kosztu oraz potrzebujesz wglądu i podstawowych kontroli, a nie egzekwowanej jurysdykcji. Na przeczytanych stronach nie znaleźliśmy kontroli regionu dostawcy, więc potwierdź to, jeśli jest wymogiem. Zobacz porównanie Sluis z Cloudflare AI Gateway.
OpenRouter
OpenRouter to hostowany router nad ponad 500 modelami od ponad 80 dostawców z jednym API i jednym saldem kredytów. To najszersza opcja tutaj pod względem wyboru modeli. Jego dokumentacja opisuje routing z zerową retencją danych i routing w regionie UE: żądania wysłane do eu.openrouter.ai są kierowane tylko do endpointów w UE i kończą się błędem zamiast przełączać się poza region. Routing w regionie wymaga planu Business lub wyższego, a wyszukiwanie w sieci, niektóre narzędzia serwerowe i Batch API nie są dostępne w domenach regionalnych.
Dla danych osobowych jego guardrail Sensitive Info redaguje lub blokuje dopasowania w żądaniach, używając presetów regex plus imion i lokalizacji opartych na Presidio, które dokumentacja określa jako beta. Skanuje tylko wejście i nie przywraca oryginalnych wartości w odpowiedzi. Opłaty to 5,5% (Standard) lub 8% (Business) przy zakupie kredytów, a ceny katalogowe dostawców są przekazywane dalej. SSO (SAML) i SCIM są tylko w Enterprise.
Wybierz go, gdy chcesz maksymalnego wyboru modeli i wiarygodnego routingu w UE, a redakcja po stronie wejścia zaspokaja Twoje potrzeby w zakresie danych osobowych. Zobacz porównanie Sluis z OpenRouter.
Azure API Management
Azure API Management ma możliwości gateway AI we wszystkich poziomach: limity tokenów i kwoty, cache semantyczny, uwierzytelnianie tożsamością zarządzaną, kontrole bezpieczeństwa treści przez Azure AI Content Safety, równoważenie obciążenia i wyłączniki obwodu, udostępnianie serwerów MCP oraz logowanie promptów i uzupełnień do Azure Monitor. Może stać przed Microsoft Foundry, Amazon Bedrock i samodzielnie hostowanymi modelami. Region wynika z Twojego wdrożenia, a wytyczne Microsoftu zalecają wdrażanie backendów AI w tych samych regionach co bramka.
Wybierz go, gdy Twoje środowisko jest w Azure i chcesz nadzoru nad AI w ramach istniejącej tożsamości, sieci i monitoringu. Zobacz porównanie Sluis z Azure API Management.
Bifrost
Bifrost to gateway na Apache 2.0 napisany w Go, z ponad 20 dostawcami za API zgodnym z OpenAI, mechanizmami zapasowymi, równoważeniem obciążenia, kluczami wirtualnymi, budżetami, cache semantycznym, gateway MCP i metrykami Prometheus. Wdrożenia enterprise dodają guardraile przez usługi AWS, Azure, Google i Patronus, klastrowanie, adaptacyjne równoważenie obciążenia, integrację z dostawcą tożsamości, wdrożenie w VPC i niezmienne ślady audytowe. Projekt raportuje bardzo niski narzut na żądanie we własnych benchmarkach.
Wybierz go, gdy chcesz szybkiego, samodzielnie hostowanego gateway open source, który możesz osadzić. Funkcje dowodowe i rezydencji są w warstwie enterprise. Bifrost nie ma na tej stronie dedykowanej strony porównania.
Jak wybrać
- Egzekwowany routing tylko do UE, obsługa danych osobowych i weryfikowalny audyt, zarządzane za Ciebie, z pracownikami i agentami pod jedną polityką: Sluis.
- Własne wdrożenie, open source, sterowane przez inżynierów: LiteLLM lub Bifrost.
- Istniejące środowisko Kong lub Azure: Kong AI Gateway lub Azure API Management.
- Szybki, tani wgląd, jeśli już używasz Cloudflare: Cloudflare AI Gateway.
- Najszerszy katalog modeli z udokumentowanym routingiem w regionie UE: OpenRouter.
- Najpierw obserwowalność i zarządzanie promptami: Portkey.
Trzy pytania rozdzielają stawkę: czy gateway potrafi odrzucić żądanie z powodów jurysdykcyjnych, zanim zostanie wysłane, co dzieje się z danymi osobowymi w prompcie i czy możesz przekazać audytorowi dowody, których nie dało się edytować po fakcie.
Kiedy inne produkty są lepszym wyborem
Sluis nie jest lepszym wyborem, jeśli musisz uruchomić wszystko na własnym sprzęcie bez żadnego komponentu zarządzanego (użyj LiteLLM, Bifrost lub Konga albo Sluis Edge na licencji enterprise), jeśli potrzebujesz ponad 500 modeli za jednym kluczem (OpenRouter), jeśli Twój gateway musi działać w istniejącym środowisku Azure lub Kong albo jeśli chcesz najniższego kosztu konfiguracji wyłącznie dla wglądu (Cloudflare). Sluis nie ma też jednokrotnego logowania SAML ani udostępniania SCIM, które wymienia kilka powyższych planów enterprise.
FAQ
Jaki jest najlepszy gateway AI dla rezydencji danych w UE?
To zależy od tego, co ma być egzekwowane. Sluis egzekwuje domyślne ograniczenie do UE przy wysyłce i odrzuca inne jurysdykcje kodem 403. OpenRouter oferuje routing w regionie UE w planach Business i Enterprise, który w razie problemu odmawia. Samodzielnie hostowane gateway, takie jak LiteLLM, Kong i Bifrost, pozwalają umieścić wszystko w UE samodzielnie, ale politykę projektujesz Ty.
Czy gateway AI open source wystarczy do zgodności z RODO?
Gateway open source może być częścią zgodnej konfiguracji, ale żaden gateway sam nie czyni organizacji zgodną. Nadal potrzebujesz podstawy prawnej, umowy powierzenia z każdym dostawcą, decyzji o retencji i oceny prawnej.
Czy LiteLLM maskuje dane osobowe?
Jego dokumentacja mówi, że maskowanie danych osobowych Presidio jest zawarte w frameworku guardrail open source, a guardraile przypisane do kluczy i zespołów oraz kilka wbudowanych wywołań zwrotnych moderacji wymaga licencji enterprise. Jakość maskowania zależy od skonfigurowanych detektorów i nie jest gwarancją.
Czy gateway może udowodnić, jaka polityka została zastosowana?
Niektóre mogą ją logować. Azure API Management wysyła prompty i uzupełnienia do Azure Monitor, a LiteLLM, Bifrost i OpenRouter przechowują logi. Sluis dodatkowo pieczętuje każde żądanie i każdą kontrolę w łańcuchu skrótów, który można zweryfikować offline. Odporność na manipulacje to węższa właściwość niż logowanie, więc sprawdź, o którą z nich chodzi dostawcy.
Czy gateway dodaje opóźnienie?
Każdy przeskok coś dodaje. Dostawcy publikują różne liczby w różnych warunkach i żadnych nie da się wprost porównać. Własny pomiar Sluis pokazuje około 1 ms w medianie przy kontrolowanym obciążeniu, ze stanowiska wewnętrznego, którego nie przedstawiamy jako niezależnego. Zmierz na własnym ruchu.
Który gateway jest najtańszy?
Samodzielnie hostowany open source (LiteLLM, Bifrost) i podstawowe funkcje Cloudflare nie mają opłaty platformy, ale kosztują czas operacyjny lub nie mają kontroli enterprise. OpenRouter pobiera 5,5% lub 8% przy zakupie kredytów, Sluis dolicza 10% do zarządzanego użycia modeli bez opłaty za stanowisko, a Portkey, Kong i plany enterprise są wyceniane według planu lub na zapytanie. Najniższa opłata rzadko oznacza najtańszy wynik, gdy doliczy się pracę nad audytem i rezydencją.
Źródła
- Sluis documentation, full text
- Sluis pricing
- Sluis performance
- LiteLLM enterprise documentation
- LiteLLM on GitHub
- Portkey pricing
- Palo Alto Networks completes acquisition of Portkey
- Kong AI Gateway documentation
- Kong pricing
- Cloudflare AI Gateway overview
- Cloudflare AI Gateway pricing
- Cloudflare Data Localization Suite compatibility
- OpenRouter pricing
- OpenRouter in-region routing
- OpenRouter Sensitive Info guardrail
- OpenRouter zero data retention
- Azure API Management AI gateway capabilities
- Bifrost documentation
- Bifrost on GitHub