Capacidad dedicada y rendimiento aprovisionado
En esta página
Reserva capacidad en lugar de compartirla
El rendimiento aprovisionado (Provisioned Throughput) es la columna vertebral técnica de la oferta Enterprise de xAI. El principio cabe en una frase: reservas capacidad de procesamiento dedicada para tus modelos Grok y tu rendimiento deja de depender de la carga global de la plataforma. Todo el valor reside en esta independencia, y entenderla es clave para decidir si activarla.
Qué te encuentras sin capacidad reservada
En el modo de pago por uso, tus solicitudes comparten infraestructura con la de todos los demás usuarios de la API. La mayoría de las veces no lo notarás. El problema surge durante picos de demanda, y tus equipos de operaciones reconocerán al instante los síntomas: los tiempos de respuesta aumentan y, lo que es peor, se vuelven variables. Una variabilidad es mucho más dañina que una lentitud constante, porque una interfaz diseñada para responder en dos segundos se comporta mal cuando a veces tarda ocho. A continuación aparecen errores de limitación de tasa (rate limiting) con el código 429; tu aplicación debe gestionar reintentos que, a su vez, aumentan la latencia percibida por el usuario. Finalmente, degradaciones ocasionales de la disponibilidad pueden afectar al servicio justo cuando la demanda es máxima.
El rendimiento aprovisionado elimina esta exposición. Tus solicitudes se procesan en capacidad reservada para ti, con prioridad garantizada y tiempos de respuesta mucho más consistentes. No solo estás trasladando un coste; estás trasladando un riesgo: el riesgo de rendimiento pasa de tu aplicación al proveedor.
Pensar en unidades
Compras capacidad en unidades, un concepto que volverá en cada lección siguiente. Cada unidad corresponde a una asignación de tokens por minuto (TPM) para un modelo dado. Crucial para tus cálculos: las unidades de entrada, que procesan tus prompts, y las unidades de salida, que generan las respuestas, se adquieren por separado.
La tabla de precios, sin embargo, es engañosamente simple: 10 € por unidad y día, independientemente del modelo. El precio por unidad nunca varía de un modelo a otro, pero los TPM que ofrece esa unidad sí lo hacen. Un modelo muy potente te da poco; un modelo más ligero, mucho más. Esta brecha genera las diferencias de coste considerables que cuantificaremos en dos lecciones.
Decidir si lo necesitas
Una aplicación en producción sujeta a requisitos estrictos de latencia encaja exactamente con el problema que resuelve este mecanismo, así que hay pocas razones para dudar. El soporte automatizado se encuentra en la misma situación, con un argumento adicional: cada segundo de espera se traduce en un abandono o en una llamada entrante que tendrás que gestionar de otra forma. El procesamiento en tiempo real de volúmenes grandes y predecibles también es un buen candidato; aquí la predictibilidad hace fiable el dimensionamiento. En términos más generales, cualquier aplicación en la que una interrupción tenga un coste alto, medible en dólares o en reputación, justifica reservar capacidad para ella.
El razonamiento inverso es igual de útil. Un proceso por lotes nocturno sin restricciones de tiempo no gana nada con capacidad reservada: que termine a las 3:00 o a las 4:00 no cambia nada, y el pago por uso sigue siendo francamente más económico. La misma conclusión vale para la creación de prototipos y los volúmenes bajos. Si aún dudas, hazte una pregunta concreta antes de comprometerte a 30 días: en los últimos 30 días, ¿cuántas horas al día estuvo este servicio realmente a plena carga? Una respuesta honesta casi siempre zanja el debate.
Puntos clave
- El rendimiento aprovisionado reserva capacidad dedicada a 10 € por unidad y día
- El compromiso mínimo es de 30 días
- Un SLA del 99,9 % está garantizado contractualmente
- El rendimiento es constante, independientemente de la carga global de la plataforma
- El pago por uso sigue siendo preferible para volúmenes bajos y creación de prototipos