Limites
Projete seu cliente para respeitar o contexto e as restrições de solicitação do modelo escolhido.
Uma solicitação pode ser limitada pelo modelo, chave de API, conta, carteira, taxa de solicitações ou configuração do cliente. Ao atingir um limite, identifique primeiro a camada que o causou.
Tipos de limites
| Camada | O que verificar |
|---|---|
| Capacidade do modelo | Contexto, saída máxima, tipos de entrada e tamanho ou quantidade de mídia |
| Chave de API | Orçamento, expiração, escopo de modelos, custo por solicitação e restrições de origem |
| Conta e carteira | Status da conta, saldo disponível e disponibilidade do serviço |
| Taxa de solicitações | Solicitações, tokens ou concorrência permitidos em um intervalo |
| Cliente | Timeout, conexões, número de tentativas e fila de solicitações |
Verifique antes de enviar
- Obtenha os valores reais dos limites na documentação do modelo.
- Conte juntos o histórico, a entrada atual e a saída reservada.
- Verifique os arquivos de mídia e o tamanho total da solicitação.
- Confirme orçamento, expiração e escopo de modelos da chave.
- Defina limites razoáveis de timeout, concorrência e novas tentativas do cliente.
Não aplique os limites de um modelo a todos os modelos.
Lide com um limite
| Problema | Ação recomendada |
|---|---|
| Entrada muito longa | Remova histórico desnecessário, comprima ou divida o conteúdo |
| Limite de saída inválido | Use um campo e valor aceitos pelo modelo |
| Chave expirada ou orçamento esgotado | Revise as configurações da chave e siga o processo do console |
| Solicitações em excesso | Use uma fila, reduza a taxa e a concorrência |
| Acesso ao modelo restrito | Revise a disponibilidade da conta, chave e modelo |
| Timeout do cliente | Verifique a solicitação original em Logs de API |
Adicionar fundos não aumenta necessariamente os limites de taxa nem contorna as capacidades do modelo ou as políticas da chave de API.
Solicite um ajuste de limite
Ao contatar o suporte, forneça Model ID, volume esperado de solicitações, concorrência, entrada e saída médias, horário de atividade e Request IDs de exemplo. Enviar um pedido não significa que o limite mudou; aguarde um resultado explícito antes de contar com ele.