---
title: "¿Qué es la inferencia serverless? Modelos con pago por uso"
description: "La inferencia serverless ejecuta un modelo tras un endpoint que escala con el tráfico, incluso a cero, y cobra solo por uso. Arranques en frío, precios y más."
url: https://broadrouter.com/es/glossary/serverless-inference/
lang: es
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/glossary/serverless-inference/) (actualizado el 2026-11-16).

# Inferencia serverless (serverless inference)

Actualizado 2026-11-16

La inferencia serverless es una forma de ejecutar modelos de machine learning en la que la plataforma inicia, escala y detiene automáticamente el cómputo detrás de un endpoint, a menudo hasta cero cuando está inactivo, y cobra por uso en lugar de por máquinas reservadas. La contrapartida es un posible retraso por arranque en frío.

También llamado: inferencia sin servidor, serverless, endpoint serverless, escalar a cero, serverless LLM, serverless model endpoint, scale to zero, serverless GPU inference

Serverless no significa que no haya servidores. Significa que usted nunca los ve y que deja de pagar cuando deja de enviar solicitudes.

## Cómo funciona

La guía de SageMaker de AWS ofrece una versión de referencia clara. Los endpoints serverless “automatically launch compute resources and scale them in and out depending on traffic” (traducción: lanzan recursos de cómputo automáticamente y los escalan según el tráfico), y cuando no hay solicitudes el servicio “scales your endpoint down to 0” (traducción: reduce su endpoint a 0). Se paga por uso, no por instancia.

El costo de escalar a cero es el **arranque en frío**. Si un endpoint ha estado inactivo y llega una solicitud, “it can take some time for your endpoint to spin up the compute resources” (traducción: su endpoint puede tardar un tiempo en levantar los recursos de cómputo). En los modelos de lenguaje grandes, cargar decenas de gigabytes de pesos alarga ese retraso. La solución habitual es pagar para mantener cierta capacidad lista; AWS lo llama provisioned concurrency y lo factura por memoria, duración y concurrencia.

Las funciones varían según la plataforma. La propia lista de exclusiones de AWS para SageMaker Serverless Inference incluye las GPU, así que el hosting serverless para modelos del tamaño de un LLM suele venir de otras plataformas. Hugging Face describe sus Inference Providers como una forma de usar “serverless inference of models” (traducción: inferencia serverless de modelos) en varios proveedores con un solo token.

## Por qué importa

|  | Endpoint serverless | GPU alquilada ([hora de GPU](https://broadrouter.com/es/glossary/gpu-hour/)) | API compartida por token |
| --- | --- | --- | --- |
| Paga en inactividad | No (salvo que la mantenga lista) | Sí | No |
| Arranques en frío | Posibles | No, una vez en marcha | Raros en los modelos listados |
| Su propio modelo | Sí | Sí | Solo lo que lista el proveedor |
| Trabajo de escalado | Plataforma | Usted | Proveedor |

Serverless conviene para tráfico irregular o bajo con su propio modelo. Una carga alta y constante suele costar menos en hardware reservado. Los arranques en frío aparecen como una cola larga de [latencia](https://broadrouter.com/es/glossary/latency/), no en el promedio, así que revise el p95.

## En BroadNet Inference

BroadNet no describe su API como serverless, y su documentación no dice nada sobre arranques en frío. En la práctica, sus claves de [pago por uso](https://broadrouter.com/es/glossary/pay-as-you-go/) comparten los rasgos serverless que le importan a quien llama: ninguna instancia que elegir, nada que escalar y facturación por token o por minuto de audio. Los límites son por clave, 30 solicitudes por minuto y 4 en curso, no por máquina. Solo puede llamar a los modelos que BroadNet lista, como [Qwen3.8 27B](https://broadrouter.com/es/models/qwen3.8-27b/); los endpoints privados y otros modelos están disponibles bajo solicitud. Probar una [primera solicitud con curl](https://broadrouter.com/es/guides/curl-quickstart/) toma un minuto.

## Preguntas frecuentes

### ¿Qué es un arranque en frío en la inferencia serverless?

Es el retraso que se produce cuando un endpoint que se ha reducido recibe una solicitud y primero debe iniciar el cómputo y cargar el modelo. La documentación de SageMaker de AWS lo describe y ofrece provisioned concurrency para mantener capacidad lista a cambio de un cargo.

### ¿Una API de LLM que cobra por token es serverless?

Desde el lado de quien la llama, en gran medida sí. Usted envía solicitudes, paga por token y no administra servidores. La diferencia es que una API compartida mantiene cargados los modelos populares para muchos clientes, así que normalmente no espera a que arranque su propio modelo.

### ¿La inferencia serverless es más barata que una GPU dedicada?

Con tráfico irregular o bajo, normalmente sí, porque deja de pagar cuando no hay actividad. Con carga alta y constante, una GPU reservada suele costar menos por solicitud. Compare su patrón de tráfico con ambos precios.

## Vea también

-   [Proveedor de inferencia (inference provider)](https://broadrouter.com/es/glossary/inference-provider/) (término)
-   [Hora de GPU (GPU-hour)](https://broadrouter.com/es/glossary/gpu-hour/) (término)
-   [Pago por uso (pay-as-you-go)](https://broadrouter.com/es/glossary/pay-as-you-go/) (término)
-   [Latencia (latency)](https://broadrouter.com/es/glossary/latency/) (término)
-   [Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/) (término)
-   [Primera solicitud a BroadNet Inference con curl](https://broadrouter.com/es/guides/curl-quickstart/) (guía)
-   [Alojar un LLM propio o usar una API: costo real y punto de equilibrio](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) (artículo)
-   [Precios de la API de LLM: entrada, caché, salida y razonamiento](https://broadrouter.com/es/blog/llm-api-pricing-explained/) (artículo)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-glossary-serverless-inference&utm_content=page-cta) ·

**Fuentes**

-   [AWS, guía para desarrolladores de Amazon SageMaker Serverless Inference (consultado el 2026-11-16)](https://docs.aws.amazon.com/sagemaker/latest/dg/serverless-endpoints.html)
-   [Hugging Face, documentación de Inference Providers (inferencia serverless) (consultado el 2026-11-16)](https://huggingface.co/docs/inference-providers/index)
-   [Referencia de la API de BroadNet Inference, límites (consultado el 2026-11-16) (en inglés)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-glossary-serverless-inference&utm_content=sources#limits)
