Sluis vs LiteLLM: comparativa de gateways de IA

En pocas palabras

Ambos ponen un único endpoint compatible con OpenAI delante de muchos proveedores de modelos, con claves virtuales, presupuestos y registros. La diferencia está en dónde recae el trabajo. Para ver los demás gateways de la lista corta, consulte Gateways de IA para organizaciones de la UE comparados.

LiteLLM le ofrece un conjunto de herramientas amplio con licencia MIT y deja el modelo operativo en sus manos: usted lo aloja, gestiona su base de datos, configura la detección de PII y decide cómo se fijan las regiones. Sluis incluye la capa de cumplimiento como producto: cada llamada se inspecciona, se enruta según una política de residencia que prioriza la UE, se sella en un registro de auditoría encadenado por hash y se mide, en un servicio gestionado alojado en la UE o en sus propios servidores con Sluis Edge.

Sluis no es de código abierto. El código tiene todos los derechos reservados y el binario Edge autoalojado requiere una licencia enterprise. Si el acceso al código fuente es un requisito imprescindible, la decisión es LiteLLM.

De un vistazo

	Sluis	LiteLLM
Licencia	Propietaria, todos los derechos reservados	MIT, salvo el directorio `enterprise/`, con licencia comercial
Despliegue	Servicio gestionado alojado en la UE, o Edge autoalojado (licencia enterprise)	Autoalojado (imagen Docker o paquete pip)
Superficie de API	Compatible con OpenAI y Anthropic Messages nativa, más un gateway MCP	Formato OpenAI, más `/responses`, `/embeddings`, `/messages`, `/batches` y más
Proveedores	Un catálogo definido (proveedores de la UE, EE. UU. y China) más endpoints personalizados compatibles con OpenAI	Más de 100 proveedores según su repositorio
Gestión de PII	Integrada: 60 detectores, reconocimiento opcional de nombres, bloquear, enmascarar, registrar o seudonimización reversible	Guardrail de Presidio (usted despliega los contenedores de Presidio): enmascarar o bloquear, restauración opcional
Residencia	Política por solicitud, solo UE por defecto, opción de solo propiedad de la UE	Configuración que usted construye con despliegues y enrutamiento
Presupuestos	Por carga de trabajo: gasto, solicitudes y tokens por minuto, lista de modelos permitidos	Por clave, usuario, equipo y miembro del equipo; requiere Postgres
Auditoría	Cadena de hash a prueba de manipulaciones, verificable sin conexión	Registro de solicitudes en la versión OSS; los registros de auditoría con retención son una función enterprise
Precio	Precio de lista del proveedor más un 10 %, o 0,50 € por 1M de tokens con claves propias	Gratuito de operar; licencia enterprise bajo presupuesto

Licencia y alojamiento

El repositorio de LiteLLM tiene licencia MIT, salvo el directorio enterprise/. Su licencia enterprise añade SSO más allá de cinco usuarios, SCIM, registros de auditoría con retención, guardrails por clave y por equipo y un canal de soporte; los SLA de soporte 24/7 tienen un coste adicional. La forma documentada de ejecutarlo es en su propia infraestructura, y el proveedor afirma que una instancia autoalojada no envía telemetría ni datos a sus servidores.

Sluis ejecuta el mismo gateway de dos maneras. El servicio gestionado está alojado en la UE. Edge es un único binario en sus servidores, gestionado desde la misma consola: los prompts no transitan por la nube de Sluis, aunque la salida hacia los proveedores de modelos sigue su configuración. Edge es solo enterprise, con una licencia anual fija por gateway.

Protección de datos y guardrails

El enmascaramiento de PII de LiteLLM usa Microsoft Presidio. Usted despliega los contenedores del analizador y del anonimizador, elige los tipos de entidad y asigna a cada uno MASK o BLOCK. Un indicador de restauración devuelve los valores originales a la respuesta. Varias integraciones de moderación incorporadas, como la ocultación de secretos y los proveedores contra inyección de prompts, requieren una licencia enterprise.

El paso Inspect de Sluis forma parte del gateway. Ejecuta 60 detectores integrados (correo electrónico, IBAN, tarjeta de crédito, claves de API y un paquete de identificadores nacionales que valida el dígito de control en doce países de la UE), además del reconocimiento opcional de nombres con dos niveles de modelo. La política decide si un valor se bloquea, se enmascara, se registra o se sustituye por un token estable como «EMAIL_1», que se restaura en la respuesta. El análisis de inyección de prompts y un control de alcance por carga de trabajo son opcionales. La detección no garantiza que se encuentren todos los valores sensibles, y usar Sluis no establece por sí solo el cumplimiento del RGPD. Consulte protección de datos.

Enrutamiento y residencia

El router de LiteLLM es más potente en ingeniería de tráfico: estrategias ponderadas y basadas en latencia, enrutamiento por coste, reintentos, periodos de enfriamiento y alternativas entre despliegues. Mantener el tráfico en la UE implica elegir despliegues en la UE y mantener usted mismo esa configuración.

Sluis enruta según política. Por defecto es solo UE, jurisdicciones como EE. UU. o China se añaden de forma explícita, y una restricción de solo propiedad de la UE es un interruptor aparte, porque una región de la UE no implica un proveedor de propiedad europea. Las respuestas indican la ruta y el modelo elegidos. Los alias gestionados, como sluis/auto, se resuelven dentro de su política. Dentro de un mismo proveedor, Sluis reparte las llamadas entre varias claves según su peso, con reintentos e interrupción de circuito, pero no ofrece balanceo ponderado ni basado en latencia entre modelos o despliegues. Consulte residencia y modelos.

Presupuestos, límites y acceso

Ambos aplican el gasto antes de la llamada. Los presupuestos de LiteLLM se asocian a claves, usuarios, equipos y miembros de equipo, y requieren una base de datos: sin ella, se omiten las comprobaciones de presupuesto. Sluis asocia los límites a una carga de trabajo, que gestiona solicitudes por minuto, tokens por minuto, una lista de modelos permitidos y un presupuesto total, diario o mensual compartido por sus claves. Por encima de todas las cargas de trabajo hay un tope de organización. Al superar el límite de frecuencia la llamada devuelve 429, al superar el presupuesto 402, y la solicitud nunca llega a un proveedor. Si los contadores no están disponibles, la comprobación falla en modo cerrado.

Las herramientas MCP pasan por la misma puerta en Sluis: los permisos son por clave y se deniegan por defecto, y cada llamada se inspecciona, se enruta, se sella y se mide. Consulte presupuestos y límites.

Auditoría y registros

LiteLLM registra solicitudes y respuestas y exporta a herramientas de observabilidad. Sus registros de auditoría, que recogen acciones de administración y cambios de claves, figuran como función enterprise.

Sluis escribe cada llamada en un libro mayor encadenado por hash que puede verificar sin conexión con audit verify-chain, con cuerpos de solicitud y respuesta cifrados opcionales bajo un periodo de retención. El mismo libro mayor es el registro de facturación.

Rendimiento

Ambos proveedores publican cifras, con arneses distintos, por lo que no se pueden comparar directamente. LiteLLM indica 8 ms en P95 a 1.000 RPS. Sluis midió la puerta internamente: aproximadamente +1 ms en la mediana frente a un upstream simulado, y una tasa de solicitudes un 9 % menor en saturación sintética. Estas cifras son relativas, se tomaron en hardware de desarrollo y se midieron internamente. Los detalles están en la página de rendimiento.

Precios

LiteLLM es gratuito de operar, por lo que su coste es la infraestructura, una base de datos Postgres y tiempo de ingeniería; la licencia enterprise se fija bajo presupuesto. Sluis no tiene suscripción a la plataforma ni tarifa por usuario, y tampoco nivel gratuito. El autoservicio es de prepago, desde una compra de crédito de 25 €, con recargos según el método de pago. El uso de modelos gestionados cuesta el precio de lista del proveedor más un 10 %. Con claves propias, la tarifa de Sluis es de 0,50 € por 1M de tokens de entrada y salida, y los cargos del proveedor se facturan aparte. Consulte precios.

Cuándo LiteLLM es la mejor opción

Necesita código abierto que pueda leer, bifurcar y auditar.
Quiere un SDK de Python y un proxy con la cobertura más amplia de proveedores y modelos, incluidos los modelos del día cero.
Necesita ingeniería de tráfico detallada: enrutamiento basado en latencia o coste, pools ponderados y alternativas personalizadas.
Su equipo ya opera Postgres y Kubernetes y prefiere controlar toda la pila.
La residencia en la UE y los controles de PII no son requisitos, o prefiere construirlos usted.

Cuándo Sluis es la mejor opción

Debe demostrar adónde se permitió enviar cada solicitud, con enrutamiento que prioriza la UE como opción por defecto.
Quiere seudonimización reversible y una cadena de auditoría verificable sin conexión sin tener que montarlas usted.
Quiere un servicio gestionado alojado en la UE, con una opción autoalojada para la misma política.
Empleados y agentes, como Claude Code, deben compartir una política y un rastro de auditoría.

Preguntas frecuentes

¿Puedo pasar de LiteLLM a Sluis cambiando la URL base?

Para la mayoría de los clientes compatibles con OpenAI, sí. Apunte el cliente a Sluis y use una clave nueva. Los identificadores de modelo en la superficie OpenAI llevan el prefijo del proveedor, como mistral/mistral-large-latest, y los identificadores sin prefijo devuelven 400. Sluis tiene un catálogo de proveedores más reducido, así que confirme que sus proveedores están cubiertos.

¿Puede LiteLLM mantener los datos en la UE?

Sí, si lo despliega en la UE, enruta a despliegues de modelos en la UE y mantiene la configuración correcta. En su documentación no encontramos ningún ajuste de política para la jurisdicción o la propiedad del proveedor, así que esa disciplina es suya.

¿Es Sluis de código abierto?

No. El código fuente es propietario y todos los derechos están reservados. Puede inspeccionar el comportamiento mediante la documentación publicada de la API, la cadena de auditoría y la consola, pero no el código.

¿Añade latencia la puerta de Sluis?

En una prueba interna en hardware de desarrollo, aproximadamente +1 ms en la mediana, y un 9 % menos de rendimiento cuando la prueba satura el gateway. Frente a un modelo real, la diferencia queda dentro de la variación del proveedor. Trate estas cifras como relativas y mida su propia carga de trabajo.

¿Puedo ejecutar ambos?

Posiblemente. Sluis acepta proveedores personalizados compatibles con OpenAI y el proxy de LiteLLM expone una API compatible con OpenAI. Pruebe la combinación; se aplica la tarifa de proveedor personalizado de 0,50 € por 1M de tokens.