Charges de travail
Une charge de travail regroupe les paramètres d’une équipe, d’un utilisateur, d’un agent ou d’une application. Les clés API sont ses identifiants.
Définissez les modèles autorisés, les requêtes et jetons par minute et un budget quotidien, mensuel ou total. Choisissez block pour arrêter les appels (402) ou notify pour les poursuivre.
Dans Limites & budget, le délai de réponse fixe combien de temps un appel de modèle attend la réponse du fournisseur : de 10 à 600 secondes, 300 par défaut. Un appel sans réponse à temps échoue avec 504 et n’est pas rejoué, car le fournisseur peut encore le traiter. Un appelant peut raccourcir ce délai par requête avec l’en-tête x-sluis-upstream-timeout, jamais l’allonger. Une réponse en streaming déjà commencée n’est pas coupée par ce délai ; seules 600 secondes de silence en cours de flux y mettent fin.
Un objet option_overrides vide hérite des paramètres de l’organisation. La mise en pause refuse les requêtes (403) sans révoquer les clés. La rotation des clés conserve la politique.
Le garde de périmètre vérifie chaque appel de modèle fait avec les clés de la charge de travail (sauf les embeddings) par rapport à un périmètre que vous rédigez en langage courant : ce que l’IA de cette charge de travail peut et ne peut pas faire, jusqu’à 4 000 caractères. Un petit modèle hébergé dans l’UE (Mistral Small) juge chaque appel après la protection des données, sur le texte que le fournisseur recevrait. off désactive la vérification. log juge en arrière-plan sans retarder l’appel et consigne les appels hors périmètre dans le journal d’audit. block attend le verdict et refuse un appel hors périmètre avec 403 scope_violation avant qu’il n’atteigne le fournisseur ; si la vérification ne peut aboutir, l’appel est refusé avec 503. Chaque vérification est un reçu d’audit distinct, facturé au prix par token du modèle, et votre politique de résidence doit autoriser ce modèle.
