Règles de routage
Vos applications demandent une capacité, pas un modèle précis. Ces règles décident lequel répond, et vers quoi basculer quand il ne répond plus.
Requêtes routées 24 h
180 940
Replis déclenchés
2 872
1,59 % des requêtes
Règles autorisant une sortie
1
sur 6 règles
Garde-fous actifs
4
sur 5 disponibles
Règles, dans l’ordre d’évaluation
La première règle qui correspond gagne. Une requête qui n’en satisfait aucune part sur le modèle par défaut de sa clé.
1Données réglementées — territoire obligatoireClasse de données « réglementée », quelle que soit la cléTerritoire imposé
Chaîne
Llama 3.3 70B InstructQwen3 32B8 420 requêtes en 24 h · 112 replis
Active
2Transcription des appelsRequête sur /audio/transcriptionsTerritoire imposé
Chaîne
Whisper large-v3Aucun repli — l’appel échoue en 503 si le modèle est indisponible2 180 requêtes en 24 h · aucun repli
Active
3Vectorisation des bases de connaissancesRequête sur /embeddings ou /rerankTerritoire imposé
Chaîne
BGE-M3Aucun repli — l’appel échoue en 503 si le modèle est indisponible96 400 requêtes en 24 h · aucun repli
Active
4Volume courant — modèle rapide par défautClé support-client ou app-metier, moins de 4 000 jetons demandésTerritoire imposé
Chaîne
Mistral Small 3.2 24BLlama 3.3 70B Instruct61 300 requêtes en 24 h · 840 replis
Active
5Contextes longs — sortie de territoire autoriséePlus de 100 000 jetons demandés, classe « interne » au plus
Chaîne
Mistral Large 3Claude Sonnet 4.5GPT-5.112 640 requêtes en 24 h · 1 920 replis
Active
6Comparaison de référence — équipe donnéesClé analytics · exploration, en-tête x-synelia-benchmark
Chaîne
GPT-5.1Claude Sonnet 4.50 requêtes en 24 h · aucun repli
Active
Ce qu’un repli change, et ce qu’il ne change pas
Basculer sur un autre modèle rétablit le service, pas la qualité : les réponses changent de style, parfois de format. Si votre application analyse la sortie, testez-la avec chaque modèle de la chaîne, pas seulement avec le premier. Un repli non éprouvé n’est pas un repli, c’est une panne différée.