Ir para o conteúdo principal
Português— Escolher um idioma
Menu

RPM e TPM por Modelo

Aula 2 de 14 Atualizada a 2 de novembro de 2026 Avancado
Nesta página
  1. As Duas Métricas de Limitação
  2. O RPM Limita o Número de Chamadas
  3. O TPM Limita o Volume Processado
  4. Limites Específicos de Cada Modelo
  5. Monitorização do Consumo Sem Cabeçalhos Dedicados
  6. Pontos-chave

Atualização de 2 de novembro de 2026 — Imagine. O modelo grok-imagine-image-quality foi removido a 2 de novembro de 2026: os seus pedidos são agora processados pelo Imagine Image 2.0 (grok-imagine-image-2.0, $0.04 por imagem) na qualidade low. Substitua o identificador nos seus exemplos e defina a qualidade desejada; o grok-imagine-image (versão 1.0) não é afetado. O Imagine Image 2.0 aceita até cinco imagens de referência e a qualidade auto, que é agora a predefinição.

As Duas Métricas de Limitação

Limites de taxa na consola xAI

A API Grok não mede a sua utilização com um único contador, mas sim com dois, que são acionados de forma independente: RPM (pedidos por minuto) e TPM (tokens por minuto). Pode ser bloqueado por um deles enquanto ainda está muito abaixo do limite do outro. Um ponto crítico para o que se segue: estes dois contadores são rastreados por modelo, pelo que os seus limites no grok-4.5 não têm qualquer efeito nos do grok-4.3.

Esta distinção não é apenas um pormenor da documentação. Ela determina como dimensiona a sua infraestrutura, como distribui a carga e exatamente onde o seu serviço começará a devolver erros num dia de picos de tráfego.

O RPM Limita o Número de Chamadas

O RPM conta as chamadas, independentemente do seu tamanho: um pedido de dez tokens e um de cem mil tokens pesam exatamente o mesmo. As fichas técnicas oficiais dos modelos expressam isto em pedidos por segundo: 150 para o grok-4.7 e grok-4.5 (9.000 por minuto), 37 para o grok-4.3 (2.220 por minuto). Isto é suficiente para uma aplicação conversacional padrão.

O RPM torna-se o gargalo assim que os seus pedidos são numerosos e curtos. Um pipeline que classifica tickets de suporte um a um, ou extrai três entidades por frase num corpus de documentos, esgotará a sua quota de chamadas muito antes de se aproximar da sua quota de tokens. Neste caso, a solução não é pedir mais RPM, mas sim agrupar vários itens numa única chamada.

O TPM Limita o Volume Processado

O TPM soma os tokens de entrada e de saída num minuto deslizante, com, segundo as fichas técnicas oficiais, 50 milhões de tokens por minuto para o grok-4.7 e grok-4.5, e 10 milhões para o grok-4.3. O comportamento aqui é exatamente o inverso do caso anterior: poucas chamadas, mas muito pesadas.

Considere um serviço de análise de documentos que envia pastas de 50.000 tokens cada. No grok-4.3, o teto de pedidos autorizaria 2.220 submissões por minuto, mas o TPM limita a 200 documentos: 200 × 50.000 = 10 milhões. Saturará, portanto, a cerca de um onze avos da sua capacidade teórica em número de chamadas, e nenhuma configuração de paralelismo lhe permitirá ultrapassar este muro.

Limites Específicos de Cada Modelo

Os tetos não são os mesmos consoante a natureza do modelo chamado, e precisa de conhecer esta escala antes de prometer throughput a um cliente.

CategoriaModelosLimite (ficha técnica oficial)
Textogrok-4.7, grok-4.5150 pedidos/s, 50M TPM
Textogrok-4.337 pedidos/s, 10M TPM
Imagemgrok-imagine-image, grok-imagine-image-2.06 pedidos/s
Vídeogrok-imagine-video, -1.5, -1.5-lite10 pedidos/s

Estes valores provêm das fichas técnicas oficiais dos modelos de 2 de novembro de 2026; os limites efetivos da sua equipa são apresentados na consola xAI.

Uma vez que os contadores são independentes, saturar um modelo não bloqueia os outros. Se o grok-4.5 devolver erros 429, o grok-4.3 continua a aceitar os seus pedidos como se nada tivesse acontecido. Esta é uma alavanca de throughput frequentemente negligenciada: em vez de aguardar um aumento de quota, encaminhe tarefas simples — classificação, extração, resumo curto — para um modelo menos solicitado, reserve o grok-4.5 para raciocínios verdadeiramente complexos e deixe a orquestração de vários subagentes de fluxo para o grok-4.20-multi-agent-0309. O throughput global da sua plataforma torna-se então a soma de várias quotas em vez de apenas uma.

Monitorização do Consumo Sem Cabeçalhos Dedicados

A API Grok não devolve cabeçalhos nas suas respostas que indiquem quanto RPM ou TPM lhe resta. Por outras palavras, nada o avisará de que se está a aproximar do teto: a única forma de saber a sua posição é fazer a contabilidade você mesmo, no lado do cliente.

Este rastreio baseia-se em três elementos: um contador de pedidos por minuto por modelo, um contador de tokens alimentado pelo objeto usage que cada resposta contém, e um limiar de alerta acionado por volta de 80% dos limites. Este último ponto é o mais importante: um alerta a 80% dá-lhe tempo para se ajustar — distribuir a carga, suavizar as submissões, ativar uma atualização de nível — enquanto um alerta a 100% apenas confirma o incidente em curso.

Pontos-chave

  • Os limites são medidos em RPM (pedidos/minuto) e TPM (tokens/minuto)
  • Os modelos de texto oferecem 1.800 RPM e 10M TPM como padrão
  • Cada modelo tem os seus próprios limites independentes
  • Distribuir a carga entre modelos permite multiplicar o throughput efetivo
  • Implemente o rastreio no lado do cliente para antecipar os limites