Sari la conținut
Inapoi la AI API
AI API / deep divesInformational

Patterns pentru function calling

Cele mai bune patterns: parallel tool calls, structured output, retry și validare.

Raspuns scurt

Pentru function calling de productie folosesti scheme JSON stricte, retry cu eroare claritate și max_iters; modelul orchestreaza, dar serverul ramane gardianul.

Problema concreta

Function calling poate explora arbore de actiuni in mod necontrolat. Fără discipline, sistemul intra in loop sau apeleaza tools cu input invalid.

Cum o rezolva Router by MP

Limita max_iters, validare schema pe fiecare tool call, retry cu eroare clara, parallel tool calls când independenta. Logging pe fiecare iteratie.

Fluxuri uzuale

  • Definire tools cu schema JSON Schema.
  • Setare max_iters in loop server.
  • Validare schema tool input.
  • Retry cu eroare dacă tool input invalid.

Modele recomandate

  • gpt-5.4-mini
  • gpt-5.4-pro

Disponibilitatea reala se verifica live in /models.

ControlDe ce conteaza
Iteratii limitateBug nu se traduce in cost mare.
Validare schemaInput invalid intors la model cu eroare.
ParallelTool calls independente paralel pentru speed.

Reguli si limite

  • Modele compatibile. Verifica /models pentru capability tool/function calling.
  • Complex schemas. Schemele foarte complexe pot scapa de validare.
  • Cost. Iteratii multe cresc cost; max_iters strict.

Integrare rapida

Foloseste endpointul https://api.megapromoting.com/v1, trimite cheia caAuthorization: Bearer <router_api_key> si verifica pagina/modelsinainte de productie.

Mai departe

Patterns pentru function calling | Router by Mega Promoting