Tutoriales de VPS
La API de IA no transmite: SSE, buffering Nginx y lectura frontend
Compara llegada de eventos en backend, Nginx y dominio; distingue formato SSE, buffering, consumo frontend y timeout con cuatro comparaciones históricas.

La respuesta de IA llega entera al final después del despliegue, aunque activaste streaming. Compara la misma petición al backend, a Nginx y al dominio público para localizar dónde se acumulan los eventos. Cambiar de modelo o añadir memoria no identifica esa capa.
La guía trata de flujos HTTP, SSE, buffering y lectura frontend. Para conexiones bidireccionales con handshake 101, consulta WebSocket.
| Observación | Primera comprobación | Siguiente paso |
|---|---|---|
| Backend directo espera al final | Aplicación, SDK y modelo | Tiempos de generación y flush |
| Backend transmite, Nginx agrupa | Buffering, compresión y location | Configuración del endpoint |
| Origen transmite, CDN demora | Caché, conversión o políticas | Tiempos por capa |
| curl transmite, web actualiza al final | response.text, parser y UI | Consumo frontend |
| Abre y se corta tras silencio | Heartbeat y timeout | Último evento y límites |
200 no demuestra entrega en tiempo real. Separa primer token lento de datos posteriores retenidos: desactivar buffering no genera un token que aún no existe.
Usa un endpoint que emita realmente eventos pequeños a intervalos. /events/test es una ruta ilustrativa que debe implementarse. Compara backend local y dominio:
curl -sS -N -i --max-time 10 \
-H 'Accept: text/event-stream' \
http://127.0.0.1:3000/events/test
curl -sS -N -i --max-time 10 \
-H 'Accept: text/event-stream' \
https://api.example.com/events/test
Adapta puerto y dominio. -N desactiva el buffer de curl, no el servidor. Conserva POST, autenticación y cuerpo de la API real. No coloques claves en URL o logs públicos. Un timeout a diez segundos puede ser solo el límite de observación.
Registra cuándo aparece cada evento. Si el backend genera cada medio segundo y el cliente recibe todo junto, investiga intermediarios.
La guía de Nginx explica que recibir del upstream y entregar al cliente pueden seguir ritmos diferentes.
Con ruta /events/ y backend local 3000, integra en el servidor HTTPS existente:
location /events/ {
proxy_pass http://127.0.0.1:3000;
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_set_header Host $host;
proxy_set_header X-Forwarded-Proto $scheme;
proxy_set_header Accept-Encoding "";
proxy_buffering off;
proxy_cache off;
proxy_read_timeout 90s;
gzip off;
}
Conserva TLS, autenticación, rate limits y otras rutas. proxy_pass no tiene barra final y conserva /events/.... Si el endpoint es /api/chat, configúralo; añadir un /events/ nunca utilizado no cambia nada.
El fragmento separa buffering, caché y compresión. Vaciar Accept-Encoding evita negociar compresión upstream. gzip off la desactiva en este Nginx, pero no descomprime respuestas arbitrarias. Compara primero sin compresión y evalúala después.
proxy_request_buffering controla el cuerpo enviado por el cliente, no la respuesta. Desactivarlo no es la clave de SSE ni necesitas ampliar uploads para recibir texto.
La aplicación puede devolver X-Accel-Buffering: no en la respuesta upstream para controlar buffering, salvo que Nginx ignore esa cabecera. Consulta las directivas proxy. Verla en el navegador no prueba el resultado: mide llegada de eventos.
Valida antes de cargar:
sudo nginx -t
sudo systemctl reload nginx
Confirma que panel, contenedor o script usa ese archivo. Revisa cada proxy de la cadena.
SSE emplea text/event-stream y líneas vacías entre eventos, según MDN:
data: {"text":"你好"}
data: {"text":",世界"}
El servidor debe enviar y hacer flush a tiempo. Acumular en una cadena y devolver al final no transmite incrementalmente aunque Content-Type sea correcto. Middleware, compresión o SDK pueden agrupar antes.
Chunks y eventos no coinciden: una lectura puede traer medio evento o varios. Guarda fragmentos incompletos y utiliza el parser correcto; no supongas JSON completo por chunk. JSON, NDJSON y SSE son protocolos distintos.
Activa streaming según la definición de la API. Un proxy no transforma una respuesta JSON completa en tokens reales. Mantén estado y tipo de errores, sin disfrazarlos todos como 200 SSE.
Este patrón espera hasta terminar:
const text = await response.text();
Response.text lee hasta el final antes de devolver texto. Actualizar después oculta el streaming.
Usa reader del cuerpo o cliente SSE adecuado; consulta ReadableStream.getReader. Decodifica UTF-8 conservando caracteres divididos entre chunks, incluidos texto chino y acentos. Actualiza tras analizar eventos completos.
EventSource nativo sirve para GET compatibles, pero no reemplaza directamente una API con cuerpo POST o Authorization personalizado. Conserva autenticación sin mover claves a parámetros. Para bloqueos entre orígenes, consulta CORS.
Si llega todo al final, revisa agrupación; si se corta y faltan eventos, revisa timeout. Normalmente el límite de lectura mide silencio entre lecturas upstream, no toda la duración.
Los 90 segundos ilustrativos deben ajustarse a espera inicial, heartbeat y gateways. En SSE puedes enviar un comentario como : ping seguido de línea vacía. No es un evento de negocio; no lo insertes en JSON ordinario u otro protocolo.
Heartbeat no evita todo límite total ni acelera al modelo. Define errores, marcador de final y recuperación si falla un flujo ya abierto para que la UI no quede generando indefinidamente.
Compara backend, Nginx y dominio para primer evento y siguientes. Prueba petición autenticada y error controlado, incluido cierre correcto de UI.
El artículo original comparó cuatro casos con Nginx 1.19.6 y el mismo backend simulado, que emitía en 0, 0.5 y 1 segundos. El contenido fue completo e idéntico:
| Acceso | Llegada de eventos 1 / 2 / 3, segundos desde el inicio |
|---|---|
| Backend directo | 0.038 / 0.541 / 1.045 |
| Nginx con buffering | 1.006 / 1.006 / 1.006 |
| Nginx sin buffering | 0.002 / 0.505 / 1.007 |
| Buffering activado, cabecera upstream lo desactiva | 0.002 / 0.506 / 1.007 |
En esas condiciones, buffering agrupó eventos; desactivarlo por configuración o cabecera mantuvo su ritmo. No son medidas de velocidad del modelo ni producción y no cubren TLS, CDN, UI del navegador o timeouts largos.