AI API / deep divesInformational
Fallback strategies prin Router by MP
Strategii de fallback pentru chat completions, image generation și voice realtime când provider-ul principal cade.
Raspuns scurt
Fallback in Router by MP se configureaza per cheie: declari lista de modele de back-up și gateway-ul comuta automat la 429, 500 sau 503 din upstream.
Problema concreta
Provider single-source provoaca SLA disruptions. Echipele care nu au fallback raspund clientilor cu erori 500 și ratează vanzari.
Cum o rezolva Router by MP
Cheia cu ordering: primary -> secondary -> tertiary. Configurare fallback declarativa, fără redeploy aplicatie. Audit log arată când și de ce fallback-ul a actionat.
Fluxuri uzuale
- Configurare fallback per cheie.
- Aplicatia trimite request normal.
- Gateway-ul gestioneaza retry + fallback.
- Log structurat in cabinet.
| Control | De ce conteaza |
|---|---|
| Continuitate | SLA crescut prin redundanta. |
| Trasare | Cazurile de fallback sunt vizibile. |
| Configurabil | Schimbi ordinea fără redeploy. |
Reguli si limite
- Cost variabil. Fallback la model scump = cost mai mare.
- Schimbare comportament. Modele diferite intr-o conversatie pot da raspunsuri inconsistente.
- Verificare model. Toate modelele din fallback trebuie sa fie in /models.
Integrare rapida
Foloseste endpointul https://api.megapromoting.com/v1, trimite cheia caAuthorization: Bearer <router_api_key> si verifica pagina/modelsinainte de productie.