Roteamento de modelos
Cloudflare AI Gateway: aliases de modelos e fallback
Os aliases do AI Gateway chegaram em 4 de novembro. Organize modelos e fallback sem redeploy, preservando formato, permissões e controle de custo.
Neste artigo
Um alias separa a aplicação da ordem dos modelos. Ele não torna formatos equivalentes nem garante economia ou disponibilidade: teste cada destino e o caminho de falha.
O que muda com os aliases#
Em 4 de novembro de 2026, a Cloudflare adicionou aliases de modelos ao AI Gateway. A aplicação solicita um nome custom/ e o gateway resolve seu grupo de destinos. A configuração pode mudar sem novo deploy da aplicação, embora a propagação possa manter temporariamente uma configuração em cache.
Documentação: Cloudflare · Model aliases, 4 November 2026
Escolher o algoritmo e preparar os destinos#
preferred tenta modelos elegíveis na ordem configurada; smart escolhe um por solicitação e volta à ordem padrão quando não consegue classificá-los. Opções da solicitação podem substituir a preferência salva. Habilite autenticação e configure Unified Billing ou chaves dos fornecedores antes de testar.
| Teste | O que demonstra |
|---|---|
| Destino principal responde | A solicitação e o formato são compatíveis com esse destino. |
| Falha do principal | Uma alternativa elegível responde respeitando as políticas. |
| Saída estruturada | O esquema permanece válido quando a alternativa responde. |
| Custo do fluxo | Tentativas, tokens e ferramentas são contabilizados, não apenas a resposta final. |
Documentação: Cloudflare · AI Gateway model aliases
Corpo de uma solicitação de teste#
{
"model": "custom/support-fast",
"input": {
"messages": [
{
"role": "user",
"content": "Return one short greeting."
}
]
},
"options": {
"routing": {
"algorithm": "preferred"
}
}
}Documentação: Cloudflare · AI Gateway model aliases
Implantar a mudança com controle#
- Comece com um alias de staging e modelos que aceitem o contrato da sua aplicação.
- Simule uma falha recuperável e uma falha de permissões. Confirme qual admite fallback e o que o usuário recebe.
- Registre modelo efetivo, versão da configuração e custo por tarefa sem armazenar prompts sensíveis nos logs.
- Implante gradualmente e preserve como restaurar a ordem anterior. Renomear o alias também altera o nome solicitado pela aplicação.
Compare custo total e taxa de tarefas concluídas com seus próprios critérios. Um alias não mede qualidade nem habilita modelos ou formatos não suportados.