Zum Inhalt springen

API-Referenz

Authentifizierung, Endpoints, Streaming, Reasoning und Fehler der OpenAI-Oberfläche, native Anthropic-APIs und Kompatibilitätsmatrix pro Endpoint.

Authentifizierung

Jede Anfrage an /v1/* authentifiziert sich mit einem virtuellen Key im Header Authorization: Bearer. Erstellen Sie Keys in der Console unter Workloads.

  • Das Secret wird einmal angezeigt, gespeichert wird nur sein Hash.
  • Ein Key ist ein Zugangsdatum für einen Workload. Der Workload besitzt Rate-Limits, Budget, erlaubte Modelle und Policy-Overrides. Die Organisations-Policy gilt weiterhin.
  • Ein Key kann ein optionales Ablaufdatum tragen. Danach wird er genau wie ein unbekannter Key abgewiesen.
  • Ein Modell, das nicht auf der nicht leeren Allow-List des Workloads steht, wird mit einem versiegelten 403 permission_error abgewiesen, bevor etwas versendet wird. Die Abweisung selbst landet in der Audit-Kette.
  • Ein Workload kann seine Keys auf Endpunkt-Familien beschränken, zum Beispiel chat und embeddings. Andere Familien erhalten ein versiegeltes 403 operation_not_allowed, bevor etwas versendet wird.
  • Für einen Produktions-Key brauchen Sie eine verifizierte E-Mail-Adresse.
  • Eine Ausnahme: Die signierten, zeitlich begrenzten Download-Links für anonymisierte Dokumente brauchen keinen Key.
Workload-Zugangsdaten: Verwalten Sie API-Keys und ihre Zugriffseinstellungen.
Workload-Zugangsdaten: Verwalten Sie API-Keys und ihre Zugriffseinstellungen.Englische Oberfläche · illustrative Demodaten. Öffnen Sie das Bild in voller Größe.
curl https://api.sluis.ai/v1/models \
  -H "Authorization: Bearer $SLUIS_KEY"

# a model outside the workload's allow-list never dispatches:
# → 403 permission_error, and the refusal is sealed in the audit chain

Endpunkte

Sluis stellt die unten stehende OpenAI-kompatible Oberfläche bereit, dazu die nativen Anthropic-Pfade, die weiter unten beschrieben sind.

Endpunkte ohne First-Class-Handler werden unverändert an den gerouteten Anbieter weitergereicht, Streaming inbegriffen, sodass OpenAI-kompatible Upstreams volle Fidelität behalten.

Ein Browser, der einen Pfad öffnet, den die API nicht bedient, etwa den bloßen API-Host, wird zu dieser Dokumentation weitergeleitet. API-Clients erhalten weiterhin ein schlichtes 404.

EndpunktZweck
POST /v1/chat/completionsChat Completions, die primäre Oberfläche: Routing, Datenschutz, Caching, Streaming.
POST /v1/completionsLegacy-Text-Completions.
POST /v1/embeddingsEmbeddings.
POST /v1/moderationsModerations-Klassifikation.
POST /v1/responsesDie OpenAI Responses API.
POST /v1/systemoneNative System One typed decisions, not OpenAI chat messages.
POST /v1/ocrDokument-OCR (Mistral, oder vollständig lokal mit dem Modell sluis/ocr), pro Seite abgerechnet. Mit aktiver dlp_documents-Policy werden Inline-Dokumente anonymisiert, bevor sie das Haus verlassen.
POST /v1/documents/anonymizeDokument-Anonymisierung: personenbezogene Daten werden durch «MERGE_TAG»s ersetzt, Bilder unkenntlich gemacht. Pro Seite oder Bild abgerechnet.
POST /v1/documents/anonymize/jobsAsynchrone Anonymisierungs-Jobs: große Dokumente einreihen, /jobs/{id} abfragen und /jobs/{id}/result abholen. Der signierte Download-Link (/v1/documents/deliverables/{id}) ist zeitlich begrenzt und braucht keinen API-Key.
GET /v1/modelsDurch Ihre Policy, Zugangsdaten und Ihren Workload erlaubte Modelle mit Typ, Kontextfenster, Fähigkeiten, Residency, Aliasziel und dem Endpreis dieser Organisation in EUR, ohne MwSt.
GET /v1/models/{id}Metadaten und organisationsspezifischer Preis eines Modells, im selben Format wie die Liste.
POST /v1/audio/*Transkription, Übersetzung und Sprache, an den gerouteten Anbieter weitergereicht. Mit dem Modell sluis/transcribe führt POST /v1/audio/transcriptions die Spracherkennung von Sluis selbst aus, mit Sprechererkennung. Siehe Sprache zu Text.
POST /v1/images/*Bildgenerierung und -bearbeitung, weitergereicht. Ausnahme ist mistral/image-generation: Mistral bietet sie nur über seinen Agent-Connector an, daher übersetzt das Gateway die OpenAI-Anfrage und antwortet mit b64_json, abgerechnet pro Bild.
POST /v1/video/generationsVideogenerierung, weitergereicht.
/v1/filesDateioperationen, weitergereicht mit dem eigenen Key Ihrer Organisation (BYOK oder eigener Anbieter). Ausnahme sind Dateien mit purpose=batch: Sie laufen durch die eigene Schleuse des Gateways und dürfen verwaltete Keys nutzen.
/v1/batchesBatches im OpenAI-Format: Laden Sie eine JSONL-Datei mit purpose=batch an /v1/files hoch, dann hier erstellen, abfragen und abbrechen. Jede Zeile durchläuft Datenschutz und Residency wie ein Live-Aufruf. Ergebnisse kommen innerhalb von 24 Stunden, abgerechnet zum halben Live-Preis. Mistral, Azure, OpenAI und Qwen.
POST /v1/messages/batchesAnthropic Message Batches: erstellen, auflisten, abrufen, Ergebnisse und abbrechen. Aus, solange Ihre Bereitstellung sie nicht aktiviert. Sie brauchen Inhaltsaufbewahrung und laufen nur auf Anthropic-Modellen. Sonst antworten diese Routen mit 404.
POST /v1/messagesNativer Anthropic-Messages-Ingress: Richten Sie jedes Anthropic-SDK-Tool auf Sluis, mit jedem verbundenen Modell.
POST /v1/messages/count_tokensLokale Token-Schätzung für das Kontextmanagement des Anthropic SDK. Nichts wird versendet.
GET /anthropic/v1/modelsNative Anthropic-Modell-Discovery (list und get), aus dem In-Process-Katalog beantwortet. Auf /v1/models wählt der Header anthropic-version dieselbe Form.
HEAD /api/helloAufwärm-Probe für Anthropic-SDK-Clients wie Claude Code: 200 mit leerem Body.
GET /v1/realtimeOpenAI-Realtime-kompatibler WebSocket für Live-Sprachdialoge (Speech to Speech) mit vertex/gemini-3.8-live, gehostet in der EU-Multi-Region auf Google Vertex AI. Auch unter /openai/v1/realtime erreichbar; der Query-Parameter model ist Pflicht. Authentifizieren Sie die Upgrade-Anfrage mit Authorization: Bearer oder x-api-key. Es spricht die GA-Eventnamen; die Beta-Formen OpenAI-Beta: realtime=v1, ephemere Client-Secrets, Browser-Subprotokoll-Schlüssel und G.711-Audio werden nicht unterstützt. Serverseitige Tools, Sitzungswiederaufnahme, Stimmreplikation und Avatar-Ausgabe werden beim Setup abgelehnt. Text wird wie an jedem Endpunkt geschützt; Audio- und Videoframes werden ungeprüft weitergeleitet. Eine Sitzung endet bei einer Ausgabenobergrenze von 2 EUR, und der Anbieter schließt eine Verbindung nach etwa 10 Minuten; verbinden Sie sich neu, um fortzufahren. Abgerechnet wird pro Token zu den Modalitätspreisen des Modells (Text, Audio, Bild- und Videoframes) laut Nutzungsbericht des Anbieters. Nicht verfügbar in Sluis Workspace, im Playground und in sluis/*-Aliasen. Die vollständige Eventliste steht im agent skill.
GET /ws/google.ai.generativelanguage.v1beta.GenerativeService.BidiGenerateContentNativer Gemini-Live-WebSocket (BidiGenerateContent), auch unter /ws/google.cloud.aiplatform.v1.LlmBidiService/BidiGenerateContent; die Version im Dienstnamen kann v1, v1beta, v1beta1 oder v1alpha sein. Ein google-genai-SDK mit dem gateway-Origin als Base-URL verbindet sich unverändert. Authentifizieren Sie die Upgrade-Anfrage mit x-goog-api-key, Authorization: Bearer oder x-api-key; der Query-Parameter ?key= wird nicht akzeptiert. Frames werden so weitergereicht, wie das Gemini-Live-Protokoll sie definiert, und setup.model ist gemini-3.8-live. Ablehnungen kommen als WebSocket-Close-Frame mit dem Grund als Text. Gleiches Modell, gleiche Limits, gleicher Datenschutz und gleiche Abrechnung wie bei /v1/realtime.
curl https://api.sluis.ai/v1/chat/completions \
  -H "Authorization: Bearer $SLUIS_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "model": "mistral/mistral-large-latest",
        "messages": [{ "role": "user", "content": "Say hi" }] }'
Playground mit ausgewähltem Modell und abgeschlossener Beispielanfrage.
Playground mit ausgewähltem Modell und abgeschlossener Beispielanfrage.Englische Oberfläche · illustrative Demodaten. Öffnen Sie das Bild in voller Größe.

Jeder JSON-Body oben darf zusätzlich die gateway-Erweiterung sluis.remove tragen, die Begriffe benennt, die vor dem Versand aus dem Prompt pseudonymisiert werden müssen. Sie wird entfernt, bevor die Anfrage die gateway verlässt; siehe die Datenschutz-Referenz.

# Document OCR, billed per page. Returns pages[] markdown + usage_info.pages_processed.
# model "sluis/ocr" runs the gateway's own OCR engine: fully local, no provider egress (inline data: URLs only).
curl https://api.sluis.ai/v1/ocr \
  -H "Authorization: Bearer $SLUIS_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "model": "mistral/mistral-ocr-latest", "document": { "type": "document_url", "document_url": "https://example.com/invoice.pdf" } }'

Sprache zu Text mit Sprechererkennung

Setzen Sie das Modell auf sluis/transcribe und senden Sie POST /v1/audio/transcriptions. Das Gateway führt die Spracherkennung selbst aus, ohne Abfluss an einen Anbieter.

  • Senden Sie eine multipart-file von bis zu 240 Minuten. Die Sprache wird automatisch erkannt.
  • response_format ist json (Standard), text oder verbose_json (Segmente mit Sprecher).
  • Abgerechnet mit 0,02 € pro Audiominute, je angefangene Sekunde.
  • Der DLP-Modus der Organisation gilt wie bei sluis/ocr für das Transkript.
  • Antwortet mit 503, wo die Bereitstellung keine Transkription ausführt.
# Speech to text with speaker detection, billed €0.02 per minute of audio (per started second).
# model "sluis/transcribe" runs in the gateway's own worker: no provider egress, language detected automatically.
curl https://api.sluis.ai/v1/audio/transcriptions \
  -H "Authorization: Bearer $SLUIS_KEY" \
  -F model=sluis/transcribe \
  -F response_format=verbose_json \
  -F file=@meeting.m4a
# Document anonymization, billed per page/image. PII becomes «MERGE_TAG»s; images are blurred.
curl https://api.sluis.ai/v1/documents/anonymize \
  -H "Authorization: Bearer $SLUIS_KEY" \
  -F file=@contract.docx \
  -F 'options={ "entities": ["person_name", "email", "iban"], "remove": ["Project Nightingale"] }'
Playground Documents: Laden Sie ein Dokument zur Anonymisierung hoch.
Playground Documents: Laden Sie ein Dokument zur Anonymisierung hoch.Englische Oberfläche · illustrative Demodaten. Öffnen Sie das Bild in voller Größe.

System One typed decisions

# The router behind sluis/auto: send state only, not questions.
curl https://api.sluis.ai/v1/systemone \
  -H "Authorization: Bearer $SLUIS_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"sluis/typed/router",
       "state":{"request":"Compare these two supplier contracts clause by clause and list the risks.",
                "previous":"Here are both contracts.",
                "attachments":["contract_a.pdf (application/pdf)","contract_b.pdf (application/pdf)"]}}'
Local router contract (sluis/typed/router)Behaviour
Model idssluis/typed/router is the router Sluis uses for sluis/auto, with its own calibrated questions. For your own questions, use a typesafe/jev-* model with your own TypeSafe key.
sluis/typed/routerSend the text a request carries: state.request (required), and optional previous, system and attachments (a string or a list of "name (mime)" strings); a plain string is the request. It answers reasoning (noul, P(needs multi-step reasoning)), complexity (score, 0 trivial to 3 hard, with legend and probabilities per level) and task (choice over code, writing, translation, extraction, document, support, smalltalk, action). decision holds the route and demand sluis/auto would take from this text alone, or null. Files, images, JSON mode, tools, prompt size and your organisation's policy are not part of this input and can change a real sluis/auto route. answers.reasoning keeps the keys it always had; the rest is additional.
TypeSafeBring your own key only; no sluis/* alias reaches it. Name the model explicitly, for example typesafe/jev-latest. The normal gate applies: it is a US provider, so your residency policy must allow US. The other rows describe sluis/typed/router only.
AvailabilityEvery answer comes from verified model weights, reported as revision. If the router is unavailable or cannot be verified, the call fails closed with 503.
StateRequired JSON object, list (array) or string, at most 128 KiB (131072 bytes) of serialized JSON before DLP. Missing or invalid state returns 422; oversized state returns 413.
Questionssluis/typed/router supplies its own calibrated questions: any questions field, including null or an empty object, returns 400.
ResponseJSON with model, answers, decision and revision (weights SHA256). Each answer has its type, its typed value (choice, score or noul), confidence, probabilities, legend and answer_confidence. No chat completion or streaming envelope.
Latencysluis/typed/router usually answers well under 200 ms; when busy it returns 503 with Retry-After: 2.
Data protectionTenant DLP applies locally to the state: block refuses; tokenize or mask rewrites what the router is shown. Per-request removal terms are honoured.
ResidencyProcessed on Sluis infrastructure with no outside provider and no upstream residency routing step.
MeteringEach successful local decision is sealed and billed per input token at €0.01 per 1M tokens; output is free. The router reports no token count, so input is estimated at about 4 characters per token over the state it was shown. Normal limits, budgets and model allow-lists still apply.
AliasesAn existing tenant alias with the same name takes precedence over the local router.

Dokumente als Eingabe

Hängen Sie ein PDF, Word-Dokument, Bild oder eine Textdatei als Content-Part "type": "file" mit einer base64-file_data-Daten-URL an eine Chat-Anfrage an.

Jedes geroutete Modell akzeptiert das. Anbieter, die File-Parts nativ verstehen, erhalten sie unverändert. Für alle anderen konvertiert das Gateway das Dokument vor dem Versand.

Wie das Modell das Dokument erhält

  • Mit einem PDF-Renderer erhalten Modelle mit Bildeingabe jede PDF-Seite als image_url-Part. Das Budget beträgt 48 Seiten pro Anfrage, geteilt über alle angehängten Dokumente, dazu können Limits des Anbieters gelten. Ohne Renderer extrahiert der Fallback der Bereitstellung den Text oder lehnt ab.
  • Modelle ohne Bildeingabe erhalten den extrahierbaren Text des Dokuments als Prompt-Text. Der Datenschutz-Scan deckt ihn dann wie jeden anderen Text ab.
  • Längere oder schwerere Dokumente gehören auf /v1/ocr.
  • Die Responses API nimmt input_file-Parts statt der verschachtelten file-Form der Chat Completions.
  • Sluis kann anbieterseitige file_id-Referenzen weder prüfen noch auflösen. Sie gehen nur an einen Anbieter durch, der sie unterstützt, mit Ihrem eigenen Anbieter-Key und ausgeschalteter Dokumentprüfung. Sonst betten Sie die Bytes als file_data ein.

Datenschutz für Dokumente

  • Mit aktiver dlp_documents-Policy wird das Dokument anonymisiert oder abgelehnt, bevor etwas das Gateway verlässt.
  • Ist sie aus und der DLP-Modus schützend (tokenize, mask oder block), werden Dokumente abgelehnt, die als nicht prüfbare Bilder reisen würden. Unter allow_log passieren sie mit einer expliziten Ungeprüft-Markierung im Audit-Trail.
  • Audioteile (input_audio) können nicht gescannt werden. block oder erforderliche KI-Erkennung bei aktiver Dokumentprüfung lehnt sie mit 422 ab. Sonst tragen sie x-sluis-unscanned: audio.
# Attach a document as an OpenAI-style `file` content part. The gateway
# normalizes it for the routed provider, so this works on any model.
curl https://api.sluis.ai/v1/chat/completions \
  -H "Authorization: Bearer $SLUIS_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "model": "scaleway/gemma-4-26b-a4b-it",
        "messages": [{ "role": "user", "content": [
          { "type": "file",
            "file": { "filename": "drawing.pdf",
                      "file_data": "data:application/pdf;base64,'"$(base64 -w0 drawing.pdf)"'" } },
          { "type": "text", "text": "Which discipline does this drawing document?" }
        ] }] }'

Streaming

Setzen Sie stream: true, und die Antwort kommt als Server-Sent Events. Jedes Frame ist ein chat.completion.chunk-Delta, und der Stream endet mit data: [DONE].

Streams werden im Gateway nie gepuffert: Sie werden durchgeschleust, und Audit-Siegel und Metering erfolgen selbst dann, wenn der Client früh auflegt.

Fordern Sie stream_options.include_usage an, und das Gateway verlangt vom Anbieter ein letztes Nutzungs-Frame. Sendet der Anbieter keines oder bricht der Stream ab, schätzt das Gateway die Nutzung für das Metering.

Möchten Sie sehen, was ein gestreamter Aufruf Ihre Organisation gekostet hat? Senden Sie x-sluis-include-cost: true zusammen mit stream_options.include_usage. Das letzte Nutzungsobjekt enthält dann sluis_cost_eur, siehe Kosten eines Aufrufs.

Bedrock trennt Überlegungen mit reasoning_content und reasoning_signature von der Antwort, auch in Streaming-Deltas. Ablehnungen verwenden finish_reason: content_filter, Ausgabelimits length, auch bei unvollständigen Tool-Aufrufen. Führen Sie keine unvollständigen Tool-Argumente aus. AWS-Streaming-Ausnahmen werden zu Fehler-Frames ohne sensible Details.

Keepalive, Header und Neustarts

  • Nach 15 Sekunden ohne Frame schreibt das Gateway zwischen den Events eine SSE-Kommentarzeile (: keepalive), damit Proxys mit Leerlauf-Timeout die Verbindung offen halten, während ein Modell nachdenkt. SSE-Clients ignorieren sie.
  • Streams tragen Cache-Control: no-cache und X-Accel-Buffering: no.
  • Startet eine Gateway-Replik neu, bedient sie offene Streams noch bis zu fünf Minuten. Ein danach noch offener Stream endet mit einem Fehler-Event mit dem Code server_restarting, wiederholen Sie dann die Anfrage.
  • Tokenisierte Streams akzeptieren einzelne Events bis 4 MiB. Größere Events beenden den Stream mit einem Fehler.
stream = client.chat.completions.create(
    model="mistral/mistral-large-latest",
    messages=[{"role": "user", "content": "Write a haiku"}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

Reasoning

Übergeben Sie den OpenAI-Parameter reasoning_effort (minimal | low | medium | high) bei jedem Modell mit Thinking-Fähigkeit. Sluis übersetzt ihn je Anbieter (Geminis Thinking-Level, Claudes adaptiver Thinking-Effort) und lässt ihn weg, wo ein Modell ihn ablehnen würde, sodass ein einziger Parameter über den gesamten Katalog funktioniert.

resp = client.chat.completions.create(
    model="vertex/claude-opus-4-8",
    messages=[{"role": "user", "content": "Prove it step by step…"}],
    reasoning_effort="high",  # minimal | low | medium | high
)

Prompt-Caching

Wiederkehrende Prompt-Präfixe (System-Prompts, Tools, Gesprächsverlauf) können beim Anbieter gecacht werden, um Kosten und Latenz zu senken. Sluis übersetzt Anthropic-artige cache_control-Blöcke (optionale TTL 5m oder 1h) sowie OpenAIs prompt_cache_key und prompt_cache_retention auf oberster Ebene je Anbieter.

Mehrere System- oder Assistant-Cachegrenzen können bei der Übersetzung zusammenfallen, auch bei unterschiedlichen TTLs.

AnbieterPrompt-Cache-Verhalten
AnthropicExplizites cache_control auf System-Blöcken, Nachrichteninhalten und Tools, einschließlich TTL. Lesen und Schreiben werden getrennt gemeldet.
Bedrockcache_control wird zu Converse-cachePoint-Blöcken in system, messages und toolConfig.
OpenAI · AzureAutomatisches Caching. Nach Aktivierung bleiben prompt_cache_key und prompt_cache_retention für Chat und Responses erhalten; nicht unterstützte Optionen und Marker werden entfernt.
Gemini · VertexImplizites Gemini-Caching und dessen Nutzungsdaten funktionieren; explizite cachedContent-Referenzen werden nicht unterstützt. Claude auf Vertex übersetzt cache_control und TTL wie Anthropic.
xAI · DeepSeek · Mistral · Qwen · Moonshot · ZhipuAutomatisches Caching, sofern angeboten; alle expliziten Direktiven werden entfernt. Moonshots natives usage.cached_tokens wird erkannt.
ScalewayAutomatisches Caching, sofern angeboten; alle expliziten Direktiven werden entfernt. Lesen nutzt den offiziellen Scaleway-EUR-Tarif für Cache-Eingaben, sofern verfügbar, nicht LiteLLM.
NebulAutomatisches Caching, sofern angeboten; alle expliziten Direktiven werden entfernt. Lesen nutzt den offiziellen EUR-Tarif für Cache-Eingaben, sofern verfügbar.
Nebius · nebius-euAutomatisches Caching, sofern angeboten; alle expliziten Direktiven werden entfernt. Offizielle Live-Preise übernehmen keine LiteLLM-Cache-Rabatte; ohne offiziellen Modellpreis kann der LiteLLM-Fallback einen Cache-Tarif liefern.
CustomNach Aktivierung durch die Organisation werden Direktiven unverändert übermittelt; die Unterstützung liegt beim Betreiber.

Explizites Prompt-Caching ist Opt-in

Explizites Prompt-Caching ist eine Einstellung der Organisation (provider_prompt_cache). Es ist standardmäßig aus und unabhängig von der Sluis-Inhaltsaufbewahrung und vom exakten Antwort-Cache. Aktivieren Sie es unter Console › Datenschutz.

  • Gecachte Präfixe bleiben beim Anbieter, nachdem der Sluis-Datenschutz sie gefiltert hat.
  • Ist es aus, entfernt die Schleuse prompt_cache_key, prompt_cache_retention, prompt_cache_options, cache_control und prompt_cache_breakpoint. Das automatische Caching des Anbieters selbst wird dadurch nicht abgeschaltet.
  • Ohne eigenen Key für einen Anbieter laufen Aufrufe über ein Sluis-Zugangsdatum, das sich andere Organisationen teilen. Bei OpenAI und Azure setzt Sluis einen aus Ihrer Organisation abgeleiteten prompt_cache_key an die Stelle Ihres eigenen. Bei jedem anderen Anbieter zeigen die Cached-Token-Zahlen in Ihrer Nutzung 0. Die Abrechnung wendet trotzdem den echten Cache-Rabatt an.

Abrechnung und Limits

  • Cache-Lese- und Schreibmengen sind Teil der gesamten Prompt-Token, keine zusätzliche Eingabe. Lesen nutzt den verfügbaren Cache-Tarif.
  • Anthropic-1h-Schreibvorgänge nutzen den TTL-Tarif, wenn Nutzungsaufschlüsselung und Tarif vorliegen. Sonst gilt der Standard-Erstellungstarif.
  • Ohne Cache-Tarif gilt der normale Eingabetarif, niemals Nullabrechnung.
  • Die Cache-Nutzung erscheint im Audit-Drawer und unter Nutzung & Budget.
  • Lange Prompts werden zum Long-Context-Tarif des Anbieters abgerechnet. Überschreitet der Prompt (gecachte Tokens eingeschlossen) die Schwelle des Modells, wird der gesamte Aufruf zu diesem Tarif abgerechnet. Er steht in der Modelltabelle unter dem Preis.

Bei einem von Sluis verwalteten Key weist Sluis eine Anfrage mit 400 ab, bevor etwas gesendet wird, wenn sie einen Aufschlag wählt, den Sluis nicht messen kann:

  • eine cache_control-ttl außer 5m, wo der Anbieter sie berücksichtigt (Anthropic, Bedrock, Claude auf Vertex)
  • ein service_tier außer auto, default, flex oder standard_only
  • die Anthropic-Long-Context-Beta (context-1m) auf einem Modell, für das Sluis keinen Long-Context-Tarif hat

Ihr eigener Anbieter-Key leitet alle drei unverändert weiter.

Fehlercodes

Fehler verwenden das OpenAI-Fehler-Envelope; der Wert error.type spiegelt den HTTP-Status, sodass die Fehlerbehandlung Ihres SDK unverändert weiterarbeitet.

CodeWann
400 invalid_request_errorFehlerhafter Request-Body oder fehlerhafte Parameter.
400 invalid_request_errorModell-ID ohne Anbieter-Präfix. Jede aufrufbare ID ist provider/model, zum Beispiel mistral/mistral-large-latest. Die Meldung lautet: model must be provider-prefixed.
400 invalid_request_errorDie Anfrage trägt den entfernten Header x-sluis-dlp. Overrides pro Anfrage wurden durch Option-Overrides pro Workload ersetzt: Konfigurieren Sie sie unter Console › Workloads.
401 authentication_errorFehlender oder unbekannter API-Key.
402 insufficient_quotaKein aktiver Plan oder Budget erreicht. Aktivieren Sie einen Plan oder erhöhen Sie das Budget. Die Anfrage erreicht nie einen Anbieter.
403 permission_errorDem Key fehlt die Berechtigung, zum Beispiel weil das Modell nicht auf der Allow-List des Workloads steht.
422 invalid_request_errorVor dem Versand abgewiesen, zum Beispiel weil der Datenschutz im Modus block die Anfrage erfasst hat.
422 document_too_large_to_scanEin Dokument ist zu groß für den gewählten Weg: eine Seite, die selbst bei der minimalen Scan-Auflösung über der Render-Pixelgrenze bleibt, oder eine Datei über der Byte-Grenze der Textextraktion. Großformatige Seiten (A0- und A1-Zeichnungen) werden automatisch herunterskaliert. Verkleinern oder teilen Sie das Dokument und senden Sie es erneut.
429 rate_limit_errorRate-Limit erreicht. Am Gateway durchgesetzt, die Anfrage erreicht also nie einen Anbieter.
403 permission_errorDurch die Residency-Policy blockiert: Keine erlaubte Jurisdiktion bedient die Anfrage. Der Body enthält den Grund.
403 scope_violationVom Scope-Guard des Workloads im Modus block abgewiesen: Der Aufruf liegt außerhalb des für diesen Workload festgelegten Einsatzbereichs. Die Meldung nennt den Grund des Guards, und die Anfrage erreicht nie einen Anbieter.
422 malware_detectedDie hochgeladene Datei entsprach einer Malware-Signatur und wurde abgelehnt, bevor sie gespeichert oder verarbeitet wurde. Der Name der Signatur wird nie zurückgegeben.
503 pdf_renderer_unavailableEin eingebettetes PDF musste als Seitenbilder gesendet werden, weil das geroutete Modell Bildeingaben liest, aber diese Bereitstellung hat keinen PDF-Renderer. Die Anfrage wird abgelehnt, statt aus extrahiertem Text beantwortet zu werden, was alles verwerfen würde, was eine Zeichnung oder ein Scan zeigt.
503 malware_scan_unavailableDie hochgeladene Datei konnte nicht auf Malware geprüft werden (Scanner nicht erreichbar oder langsam, oder die Datei überschreitet das Scanlimit von 100 MiB) und wurde deshalb nicht angenommen. Es wurde nichts gespeichert. Versuchen Sie es mit Backoff erneut.
503 scope_guard_unavailableDer Scope-Guard des Workloads steht auf block, konnte aber kein Urteil fällen, deshalb wird der Aufruf abgewiesen, statt durchgelassen zu werden. Mit Backoff erneut versuchen.
503 auth_unavailableDas Gateway konnte seinen Key-Speicher nicht lesen und deshalb den Key nicht prüfen. Der Key ist nicht als ungültig bekannt. Versuchen Sie es mit Backoff erneut und beachten Sie Retry-After.
504 api_errorDer Anbieter hat nicht innerhalb der Antwortfrist des Workloads geantwortet: standardmäßig 300 Sekunden, 10 bis 600, wenn der Workload sie festlegt, kürzer, wenn die Anfrage x-sluis-upstream-timeout sendet. error.sluis.cause ist timeout. Das Gateway hat den Aufruf nicht wiederholt, weil der Anbieter ihn noch ausführen kann. Kürzen Sie den Prompt oder bitten Sie um eine längere Frist, bevor Sie erneut senden.
5xx api_errorAusfall des Upstream-Anbieters nach Wiederholungsversuchen. Der Circuit Breaker lenkt den Traffic an fehlerhaften Anbietern vorbei. Der Body enthält die Meldung des Anbieters selbst sowie ein error.sluis-Objekt, das die Ursache und jeden Versuch nennt, mit Upstream-Status oder Transportfehler und Dauer.
{
  "error": {
    "message": "model must be provider-prefixed, e.g. \"mistral/mistral-large-latest\"",
    "type": "invalid_request_error",
    "param": null,
    "code": "invalid_request"
  }
}

Anthropic Messages API

Sluis spricht die Anthropic Messages API nativ. Richten Sie Claude Code oder ein beliebiges Anthropic-SDK auf das Gateway und rufen Sie POST /v1/messages auf. /anthropic/v1/messages ist der eindeutige Pfad mit Präfix auf denselben Handler.

Die Anfrage wird in die interne Form übersetzt, durchläuft dieselbe Pipeline aus Inspect, Route, Seal und Meter wie jeder andere Aufruf und kommt in Anthropics Format zurück, Streaming inbegriffen.

Authentifizierung

  • Senden Sie Ihren Sluis-Key im Anthropic-Header x-api-key oder im üblichen Header Authorization: Bearer. Beides wird akzeptiert.
  • Der Header anthropic-version wird mit jedem Wert akzeptiert und nie verlangt. Bei GET /v1/models wählt sein Vorhandensein die Anthropic-Form.
  • Das Parsing ist bewusst offen: Unbekannte Body-Felder, unbekannte Content-Block-Typen, unbekannte anthropic-beta-Werte und die Query ?beta=true, die Claude Code sendet, werden toleriert, nicht abgewiesen.
  • Beta-Flags gehen Byte für Byte an Upstreams der Anthropic-Familie und werden überall sonst ignoriert.

Endpoints

EndpunktZweck
POST /v1/messagesMessages, gepuffert oder streamend. Unterstützt System-Prompts (String oder Blöcke), Tools und Tool-Ergebnisse (einschließlich Fehlerergebnissen und darin enthaltener Bilder), Bilder, Dokumentblöcke, thinking- und redacted_thinking-Blöcke im Verlauf sowie cache_control-Marker an jeder cachefähigen Stelle.
POST /v1/messages/count_tokensLokale Token-Schätzung für das Kontextmanagement des SDK. Nichts wird versendet, aufbewahrt oder gemessen.
GET /v1/models · GET /v1/models/{id}Native Modell-Discovery in Anthropics Form, aus dem In-Process-Katalog beantwortet. Auf dem Root-Pfad wählt der Header anthropic-version diese Form, ohne ihn erhalten Sie die OpenAI-Form. Unter /anthropic gilt sie immer. Die Cursor before_id, after_id und limit gelten nach bestem Bemühen, und created_at ist ein fester Platzhalter, weil der Katalog kein Veröffentlichungsdatum pro Modell kennt.
HEAD /api/helloDie Aufwärm-Probe, die Claude Code vor einer Sitzung sendet: nur HEAD, beantwortet mit 200 und leerem Body.

Modell-Routing

Das Wire-Format schränkt das Modell nie ein: Der Ingress ist ein Codec, und die Modell-ID bestimmt die Route.

  • Eine blanke ID wie claude-sonnet-5 wird über den Standardanbieter dieses Ingress aufgelöst, anthropic, es sei denn, Ihre Organisation verweist ihn woandershin (zum Beispiel auf vertex für in der EU gehostetes Claude). Die Residency-Schleuse entscheidet weiterhin, ob dieses Ziel die Anfrage bedienen darf.
  • Legen Sie ein Ziel explizit mit einer ID mit Anbieter-Präfix fest, etwa vertex/claude-opus-4-8.
  • Oder übergeben Sie einen sluis/*-Alias. Dann läuft ein Anthropic-SDK-Tool bei jedem verbundenen Anbieter, innerhalb Ihrer Policy.

Streaming

Mit "stream": true ist die Antwort die vollständige Anthropic-Event-Grammatik:

  • message_start, dann content_block_start, content_block_delta und content_block_stop für jeden Block, dann message_delta mit kumulierter Nutzung (einschließlich Cache-Lese- und Erstellungs-Tokens), dann message_stop.
  • Text kommt als text_delta, Tool-Argumente als input_json_delta und Reasoning als thinking_delta plus signature_delta, wenn der geroutete Anbieter es erzeugt hat.
  • message_start trägt die Zahl der Eingabe-Tokens, wenn der Anbieter sie in seinem ersten Chunk meldet. Sonst beginnt sie bei null, und message_delta meldet die aktualisierte Nutzung.
  • Ein ping-Event folgt auf message_start und wiederholt sich nach etwa 15 Sekunden Upstream-Stille, damit ein langer Thinking-Zug nie den Watchdog eines Clients auslöst.
  • Ein Fehler mitten im Stream wird als error-Event neu kodiert, statt einen abgeschnittenen Stream zu liefern.
  • stop_sequence trägt die getroffene Sequenz, wenn die Antwort von einem Anbieter der Anthropic-Familie kam, und ist sonst null.
  • Senden Sie x-sluis-include-cost: true, und die Nutzung in message_delta enthält auch sluis_cost_eur, den Preis des Aufrufs für Ihre Organisation in EUR, sowie sluis_cost_estimated: true nur bei einer Schätzung. Siehe Kosten eines Aufrufs.
# native Anthropic Messages: the model id owns the route, not the wire format
curl https://api.sluis.ai/v1/messages \
  -H "x-api-key: $SLUIS_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{ "model": "vertex/claude-opus-4-8",
        "max_tokens": 256,
        "system": "Be concise.",
        "messages": [{ "role": "user", "content": "Say hi" }] }'

# /anthropic/v1/messages is the unambiguous prefixed path for the same handler

Fehler

Fehler der Messages-Handler nutzen das Envelope von Anthropic: ein "type": "error" auf oberster Ebene mit dem Fehlertyp des Anbieters. Das gilt auch für Abweisungen, die nie ein Modell erreichen, etwa ein unbekannter Key oder eine Datenschutz-Blockade.

Die Typen sind invalid_request_error, authentication_error, billing_error, permission_error, not_found_error, conflict_error, request_too_large, rate_limit_error, api_error und overloaded_error.

  • Die Antwort trägt einen request-id-Header und ein request_id-Body-Feld, die Korrelations-ID für Ihren Client.
  • Hat der Aufruf eine Audit-Zeile erzeugt, kennzeichnet der Header x-sluis-request-id diese Zeile. Ein Authentifizierungsfehler hat keine Audit-Zeile.
  • Vom Gateway behandelte HTTP-5xx-Antworten tragen zusätzlich eine eigene Diagnose-ID x-request-id. Eine sichere, vom Client gesendete ID wird auch bei anderen Antworten zurückgegeben. Fehler eines vorgeschalteten Proxys sind davon ausgenommen.
  • Abweisungen auf Gateway-Ebene, die vor dem Handler passieren, etwa Ledger-Backpressure oder Überlast, können in der OpenAI-Fehlerform zurückkommen.
# failures from the Messages handlers are Anthropic-shaped: auth and
# data-protection refusals included
{
  "type": "error",
  "error": {
    "type": "rate_limit_error",
    "message": "rate limit exceeded"
  },
  "request_id": "req_9f2e…"
}

Ein nicht leeres mcp_servers-Array wird mit 400 invalid_request_error abgewiesen, statt weitergereicht zu werden. Ein Modell, das selbst einen externen MCP-Server aufruft, läge außerhalb der Sluis-Schleuse. Registrieren Sie den Server stattdessen in der Console und rufen Sie seine Tools über das MCP-Gateway auf, wo jeder ausgeführte Tool-Aufruf geprüft, geroutet, versiegelt und gemessen wird.

Kompatibilitätsmatrix

Was die nativen Ingresse heute abdecken, Endpoint für Endpoint. Diese Tabelle ist die Aussage: was hier nicht als unterstützt steht, ist Roadmap, wird bewusst abgewiesen oder gehört zu einer anderen Produktoberfläche, nie stillschweigend angedeutet.

AnthropicStatusHinweise
POST /v1/messages✓ nativGepuffert und streamend, Tools, Bilder, Dokumentblöcke, Thinking-Round-Trip und Prompt-Cache-Marker.
POST /v1/messages/count_tokens✓ lokale SchätzungLokal beantwortet. Nichts wird versendet.
GET /v1/models · /v1/models/{id}✓ nativNative list- und get-Form aus dem In-Process-Katalog. Auf dem Root-Pfad per Header verhandelt, unter /anthropic bedingungslos.
HEAD /api/hello✓Die Aufwärm-Probe von Claude Code, nur HEAD.
Message Batches✓ Opt-inVerfügbar, wenn Ihre Bereitstellung sie aktiviert: erstellen, auflisten, abrufen, Ergebnisse und abbrechen, für Modelle, die auf Anthropic aufgelöst werden. Sonst 404. Nutzen Sie für andere Anbieter das OpenAI-förmige /v1/batches.
Files✗ RoadmapDie Files API ist nicht gebrückt. Inline-Dokumentblöcke und file_data decken den üblichen Weg ab.
mcp_servers✗ abgewiesenEin nicht leeres Array wird mit 400 abgewiesen, statt weitergereicht zu werden. Registrieren Sie den Server und nutzen Sie das Sluis-MCP-Gateway.
Skills · Agents · Admin✗ außerhalb des UmfangsSkills, Managed Agents und die Admin-, Nutzungs- und Kosten-APIs sind eine andere Produktoberfläche, keine Inferenz-Kompatibilität.

Routing über Protokollgrenzen

Anbieterspezifische Felder bleiben erhalten, solange die Anfrage bei einem Anbieter landet, der dasselbe Protokoll spricht. Eine Anthropic-Anfrage, die ein Anbieter der Anthropic-Familie bedient, behält ihre Thinking-Blöcke, Cache-Marker, Beta-Flags und die getroffene stop_sequence.

Bei Routing über Protokollgrenzen werden diese Felder beim Versand verworfen und nie am Ingress abgewiesen. Die Audit-Zeile hält Wire-Format und aufgelösten Anbieter fest, sodass sich jeder Qualitätsverlust zuordnen lässt.

Opake Werte werden nie umgeschrieben: Thinking-Signaturen und redacted_thinking-Payloads werden unverändert oder gar nicht weitergereicht. Deshalb wird auch ein geparkter Thinking-Block, den der Datenschutz-Scan beanstandet, verworfen statt maskiert: Ein umgeschriebener Block trüge eine ungültige Signatur.