Sari la conținut
Inapoi la AI API
AI API / deep divesInformational

Model routing prin Router by MP

Router by MP ruleaza model routing per cheie cu whitelist și fallback.

Raspuns scurt

Model routing pe Router by MP se face declarativ: cheia are whitelist de modele permise, fallback configurat per cheie și modul de routing (timp de răspuns / cost / preferred).

Problema concreta

Aplicatiile fără model routing se blocheaza când un provider cade. Hardcodarea modelului in cod face dificila schimbarea când apare optiune mai buna.

Cum o rezolva Router by MP

Pe Router by MP, definesti whitelist + fallback pentru cheia ta. Aplicatia ta cere `gpt-5.4-mini`; dacă acel model are 429 sau cade, gateway-ul folosește fallback. Tu nu redeployezi.

Fluxuri uzuale

  • Cheia cu whitelist [primary, fallback].
  • Aplicatia cere modelul primar.
  • Gateway transparent face fallback la incident.
  • Audit log arată când fallback-ul a fost folosit.
ControlDe ce conteaza
DeclarativConfigurare in cheie, nu in cod.
TransparentAplicatia nu stie ca s-a facut fallback.
AuditVezi când fallback-ul a salvat un raspuns.

Reguli si limite

  • Schimbare comportament. Fallback-ul poate da raspunsuri diferite; testeaza inainte.
  • Cost. Fallback la model scump crește costul; alege fallback ieftin.
  • Schema. Modele diferite raspund diferit la prompts complexe.

Integrare rapida

Foloseste endpointul https://api.megapromoting.com/v1, trimite cheia caAuthorization: Bearer <router_api_key> si verifica pagina/modelsinainte de productie.

Mai departe

Model routing prin Router by MP | Router by Mega Promoting