Streaming SSE
En esta página
Recibe respuestas en tiempo real
Por defecto, la API espera a que se haya generado la respuesta completa antes de devolverla. Con el streaming, recibes los tokens a medida que se generan. Esta técnica reduce el tiempo de espera percibido por los usuarios y te permite mostrar las respuestas de forma progresiva, exactamente como hace la interfaz de Grok.
Cómo funciona el streaming
El streaming utiliza el protocolo Server-Sent Events (SSE). En lugar de una única respuesta HTTP, el servidor envía un flujo continuo de eventos. Cada evento contiene un fragmento de la respuesta y el cliente los ensambla para reconstruir el texto completo.
El parámetro stream: true activa este modo para cualquier endpoint de generación.
Streaming en Python con el SDK de OpenAI
from openai import OpenAI
import os
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
stream = client.chat.completions.create(
model="grok-4.5",
messages=[
{"role": "user", "content": "Explica los principios SOLID en programación."}
],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
print() # Salto de línea final
Cómo funciona el código
stream=Trueactiva el streaming- La respuesta es un iterador de objetos
chunk(fragmentos) - Cada chunk contiene un
deltacon el nuevo contenido end=""evita saltos de línea entre fragmentosflush=Truefuerza la visualización inmediata
Streaming con el endpoint /v1/responses
stream = client.responses.create(
model="grok-4.5",
input="Describe los pasos para desplegar una aplicación web.",
stream=True
)
for event in stream:
if hasattr(event, 'type') and event.type == 'response.output_text.delta':
print(event.delta, end="", flush=True)
print()
El endpoint /v1/responses utiliza eventos tipados. El tipo response.output_text.delta contiene los fragmentos de texto.
Streaming con cURL
cURL admite el streaming SSE de forma nativa. Añade "stream": true al cuerpo de la solicitud:
curl -N https://api.x.ai/v1/chat/completions \
-H "Authorization: Bearer $XAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "grok-4.5",
"messages": [{"role": "user", "content": "Hello"}],
"stream": true
}'
La opción -N desactiva el búfer de cURL para que los eventos se muestren tan pronto como lleguen.
Cada línea del flujo SSE comienza con data: seguido de un objeto JSON. El último evento es data: [DONE], que señala el final de la generación.
Cuándo usar streaming
La decisión se reduce a una pregunta: ¿hay alguien observando cómo llega la respuesta? Si es así (un chatbot, un asistente, una herramienta de escritura), el streaming es casi obligatorio: los usuarios ven aparecer el texto palabra por palabra en lugar de mirar una pantalla congelada, y en una respuesta larga, la diferencia entre «primera palabra en 300 ms» y «todo el texto tras 8 segundos» marca toda la experiencia percibida.
Si nadie está observando, el streaming no aporta nada y complica el código. Un trabajo por lotes que rellena una base de datos, una canalización automatizada que debe analizar la respuesta completa antes de actuar, una llamada que devuelve solo unas pocas palabras: en todos estos casos, la llamada clásica (una solicitud, una respuesta completa) sigue siendo más sencilla de escribir, probar y depurar.
Gestión de errores en streaming
En modo streaming, los errores pueden producirse en mitad del flujo. Tu código debe gestionar esas interrupciones:
try:
stream = client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Test"}],
stream=True
)
for chunk in stream:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
except Exception as e:
print(f"\nError durante el streaming: {e}")
Puntos clave
- Añade
stream=Truepara recibir tokens a medida que se generan - El protocolo utilizado es SSE (Server-Sent Events)
- En Python, itera sobre los chunks e imprime
delta.content - Con cURL, usa
-Npara desactivar el búfer - Reserva el streaming para casos en los que la visualización progresiva aporte valor