---
title: "Planificar un endpoint privado de LLM: qué definir primero"
description: "Qué definir antes de pedir un endpoint privado de LLM: carga de trabajo, tokens por segundo, concurrencia, contexto, región, licencia y presupuesto, y cómo probarlo."
url: https://broadrouter.com/es/blog/private-endpoint-planning/
lang: es
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traducido del inglés con ayuda de IA. [Lea el original en inglés](https://broadrouter.com/blog/private-endpoint-planning/) (actualizado el 2026-11-15).

# Un endpoint privado empieza con una carga de trabajo clara

Por el equipo de BroadNet Inference · 7 min de lectura · Publicado 2026-11-15

Antes de pedir un endpoint privado, ponga por escrito la carga de trabajo: solicitudes por día y en el pico, tokens de entrada y salida, la concurrencia que implican, el contexto que necesita, la región de procesamiento, el modelo y su licencia, y un presupuesto. Acuerde por escrito la región y los límites, y haga una prueba rápida del endpoint entregado antes de usar datos reales.

## Puntos clave

-   Una solicitud de capacidad vale lo que valen sus cifras: solicitudes por segundo en el pico, tokens de entrada y salida, y la latencia que usted puede aceptar.
-   La concurrencia se deduce de la ley de Little: solicitudes en curso = tasa de llegada × tiempo por solicitud. Mida primero el tiempo por solicitud en una prueba.
-   BroadNet describe públicamente los endpoints privados como capacidad de GPU reservada con precio según su tráfico, con su propia clave, límites y región, a la que se accede con un ID de modelo privado. Todo lo demás se acuerda con BroadNet.
-   Los Términos de BroadNet dicen que el autoservicio no tiene compromiso de disponibilidad, y que los endpoints privados y la capacidad reservada se rigen por un acuerdo escrito aparte.
-   Pruebe el endpoint entregado antes de producción: ID del modelo, streaming, la concurrencia acordada y el error ante un ID de modelo incorrecto.

**En esta página**

1.  ¿Cuándo tiene sentido un endpoint privado?
2.  ¿Qué debe definir sobre la carga de trabajo?
3.  ¿Cómo se convierte el volumen en tokens por segundo y concurrencia?
4.  ¿Y la región, la residencia y los límites?
5.  ¿Qué modelo, y con qué licencia?
6.  ¿Cómo se fija un presupuesto?
7.  ¿Cómo se envía la consulta?
8.  ¿Cómo se valida el endpoint que le entregan?
9.  Dónde encaja BroadNet Inference

“Necesitamos un endpoint dedicado” es el inicio de una conversación, no una especificación. El proveedor no puede dimensionar, ubicar ni cotizar la capacidad sin sus cifras, y usted tampoco puede valorar su respuesta sin ellas. Este artículo enumera lo que conviene definir antes de pedirlo, con un ejemplo calculado de extracción de facturas, y termina con un script que comprueba el endpoint que le entreguen.

Se aplica a cualquier proveedor. Cuando describe la oferta de BroadNet, se ciñe a lo que BroadNet dice públicamente, verificado el 15 de noviembre de 2026. Cualquier cosa más allá es una pregunta para BroadNet.

## ¿Cuándo tiene sentido un endpoint privado?

Normalmente por uno de cuatro motivos:

-   **Tráfico por encima de los límites de autoservicio.** La referencia de la API de BroadNet publica 30 solicitudes por minuto y 4 solicitudes en curso para una clave de pago por uso. Una carga sostenida por encima de eso es una cuestión de capacidad, no de reintentos. ([Cómo manejar los 429](https://broadrouter.com/es/blog/handle-llm-api-429-rate-limits/) cubre las ráfagas cortas.)
-   **Un modelo que no está en la lista pública.** El catálogo de BroadNet marca algunos modelos como “available on request” (Traducción: disponible a pedido), entre ellos Qwen3-VL 30B-A3B, Qwen3-VL 8B y un ajuste fino de BroadNet de Cohere Transcribe Arabic. [Cómo leer un catálogo de modelos](https://broadrouter.com/es/blog/understand-model-status/) explica la diferencia.
-   **Una ubicación de procesamiento que usted debe controlar.** Las normas de residencia de datos, como las de la [lista de verificación de la PDPL de Arabia Saudita y los EAU](https://broadrouter.com/es/blog/saudi-uae-pdpl-llm-api-checklist/), pueden exigir una región acordada por escrito.
-   **Latencia predecible.** La capacidad compartida varía con la carga de otros usuarios. La capacidad reservada elimina esa variable, aunque no la distancia de red ni el tamaño de sus propios prompts.

Si nada de esto aplica, una clave de autoservicio es más sencilla. Y si su volumen es muy alto y constante, compárelo con ejecutarlo usted mismo: [autoalojamiento frente al costo de una API](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/) explica el método.

## ¿Qué debe definir sobre la carga de trabajo?

Escriba un resumen de una página. Estas son las cifras que necesita un proveedor:

| Elemento | Qué anotar | Ejemplo |
| --- | --- | --- |
| Tarea | Qué hace el modelo, en una frase | Leer fotos de facturas y devolver campos JSON |
| Volumen | Solicitudes por día y la proporción en la hora de más carga | 40,000 al día, 15 % en la hora pico |
| Tokens | Tokens de entrada y salida promedio y en el percentil 95 | 1,800 de entrada (imagen de una página + prompt), 350 de salida |
| Contexto | La solicitud individual más grande, prompt más respuesta | 4,000 tokens |
| Latencia | Tiempo aceptable hasta el primer token y hasta la respuesta completa | Respuesta completa en menos de 10 segundos |
| Streaming | Necesario o no | No necesario (tipo lote) |
| Entradas | Texto, imágenes, audio; formatos y tamaños | JPEG y PNG, una página cada uno |
| Idiomas | Cuáles y en qué proporción | Árabe e inglés, 60/40 |
| Crecimiento | Volumen esperado a 6 y 12 meses | El doble en 12 meses |

Mida las cantidades de tokens con muestras reales, no con suposiciones. El árabe suele necesitar más tokens que el inglés para el mismo texto; el [contador de tokens en árabe](https://broadrouter.com/tools/arabic-token-counter/) y [costo real por idioma](https://broadrouter.com/data/real-cost-by-language/) muestran cuántos más con distintos tokenizadores. Para imágenes, la [calculadora de tokens de imagen](https://broadrouter.com/tools/image-token-calculator/) da una primera estimación.

## ¿Cómo se convierte el volumen en tokens por segundo y concurrencia?

Las solicitudes por segundo en el pico son el volumen de la hora de más carga dividido entre 3,600. La concurrencia, es decir, el número de solicitudes en curso a la vez, se deduce de la [ley de Little](https://en.wikipedia.org/wiki/Little%27s_law): el número promedio de elementos en un sistema es igual a la tasa de llegada multiplicada por el tiempo promedio que cada uno pasa en él. Para una API, eso son solicitudes por segundo × segundos por solicitud.

```python
import math

def size(requests_per_day: int, peak_share_of_day_in_busiest_hour: float,
         in_tokens: int, out_tokens: int, out_tok_per_s_per_stream: float) -> dict:
    """Rough peak numbers to put in a capacity enquiry. Measure your own inputs; these are not provider specs."""
    peak_rps = requests_per_day * peak_share_of_day_in_busiest_hour / 3600
    seconds_per_request = out_tokens / out_tok_per_s_per_stream        # ignores queueing and prompt time
    concurrency = peak_rps * seconds_per_request                      # Little's law: L = λ × W
    return {
        "peak_requests_per_second": round(peak_rps, 2),
        "seconds_per_request": round(seconds_per_request, 1),
        "concurrent_requests_at_peak": math.ceil(concurrency),
        "peak_input_tokens_per_second": round(peak_rps * in_tokens),
        "peak_output_tokens_per_second": round(peak_rps * out_tokens),
        "monthly_tokens_millions": round(requests_per_day * 30 * (in_tokens + out_tokens) / 1e6, 1),
    }

# 40,000 invoice extractions a day, 15% of them in the busiest hour,
# 1,800 tokens in, 350 out, 60 tokens/s per stream measured on a trial.
print(size(40_000, 0.15, 1_800, 350, 60))
```

Imprimió 1.67 solicitudes por segundo en el pico, unos 5.8 segundos por solicitud, 10 solicitudes concurrentes, 3,000 tokens de entrada y 583 de salida por segundo, y 2,580 millones de tokens al mes. Los 60 tokens por segundo son una suposición para el ejemplo; mida los suyos en el modelo que vaya a usar, porque la velocidad varía según el modelo, la longitud del prompt y la carga. El artículo sobre [latencia, TTFT y rendimiento](https://broadrouter.com/es/blog/llm-latency-ttft-throughput/) explica qué cronometrar.

Dos advertencias. La fórmula ignora el tiempo de procesamiento del prompt, así que los prompts largos o las imágenes grandes hacen más lentas las solicitudes reales y elevan la concurrencia. Y los promedios ocultan las ráfagas: dé al proveedor el tamaño de solicitud en el percentil 95 y un perfil breve de ráfagas, no solo la media. El pico de este ejemplo (unas 100 solicitudes por minuto y 10 en curso) está muy por encima de los límites publicados de autoservicio para una clave de pago por uso, que es justo cuando vale la pena una conversación sobre capacidad.

## ¿Y la región, la residencia y los límites?

Acuérdelos de forma explícita y por escrito antes de mover cualquier dato regulado. Los Términos de BroadNet (§7.3a) dicen: “Contact us to agree processing locations for your deployment before sending data with residency requirements,” (Traducción: contáctenos para acordar las ubicaciones de procesamiento de su implementación antes de enviar datos con requisitos de residencia), y que el procesamiento alojado por socios y el de respaldo implican a otros encargados, con una lista actualizada de subencargados disponible para los clientes a pedido. Su declaración de privacidad dice que los modelos propios de BroadNet y los modelos de pesos abiertos que aloja se ejecutan en hardware propio o arrendado por BroadNet en Estados Unidos, con capacidad de socios como respaldo, y su página de resumen dice que el procesamiento regional en MENA o Europa está disponible a pedido.

Así que las preguntas para cualquier proveedor son:

1.  ¿Qué región procesa las solicitudes y qué región tiene la capacidad de respaldo?
2.  ¿Qué subencargados pueden acceder al tráfico, incluso en caso de conmutación por error o desbordamiento?
3.  ¿Cuáles son los límites de tasa, concurrencia y tokens del endpoint, y qué ocurre por encima de ellos?
4.  ¿Qué condiciones de disponibilidad y soporte se aplican, y dónde están escritas? Los Términos de BroadNet (§7.4) dicen que el autoservicio no tiene compromiso de disponibilidad, y que los endpoints privados y la capacidad reservada se rigen por su acuerdo escrito aparte. Para ver qué cubren los SLA escritos de otros proveedores, lea [SLA de API de LLM comparados](https://broadrouter.com/es/blog/llm-api-sla-uptime-compared/).
5.  ¿Qué se conserva? Para la API de inferencia de BroadNet, la posición publicada es: el contenido de inferencia no se conserva; los metadatos necesarios de cuenta, facturación y seguridad se conservan según se describe en su [declaración de privacidad](https://www.broadnet.ai/inference-privacy). Confirme que lo mismo se aplica a su endpoint.

## ¿Qué modelo, y con qué licencia?

Indique el modelo y la versión exactos, y compruebe que su licencia permite su uso y el servicio por API. Las páginas de modelos de BroadNet indican Apache-2.0 para Gemma 4 26B, Qwen3-VL 30B-A3B y los pesos base de Cohere Transcribe, y el ajuste fino de BroadNet de Cohere Transcribe Arabic “under contract” (Traducción: bajo contrato). Sus Términos dicen que los modelos se rigen por sus licencias, y que la licencia de DeepSeek V4.1 Flash sigue aplicándose cuando lo aloja un socio.

Acuerde también la ventana de contexto. Los límites de contexto dependen del modelo y de la implementación, no solo del máximo del modelo base: BroadNet indica 32K tokens para Gemma 4 VL 26B en su API pública y 16K para Qwen3-VL 30B-A3B, que está disponible a pedido. Use la [calculadora de ventana de contexto](https://broadrouter.com/tools/context-window-calculator/) con su solicitud más grande, no con la promedio.

## ¿Cómo se fija un presupuesto?

BroadNet no publica un precio para endpoints privados; su página de resumen dice “Reserved GPU, priced to your traffic. Ask for a quote.” (Traducción: GPU reservada, con precio según su tráfico. Pida una cotización.) Así que fije primero su propio tope. Calcule el precio de la misma carga en autoservicio con la [calculadora de costo de API de LLM](https://broadrouter.com/tools/llm-api-cost-calculator/), usando la cantidad mensual de tokens del script de dimensionamiento, y decida cuánto valen para usted, además, la capacidad predecible, una región o un modelo que no es público. Una cotización por debajo de la cifra de autoservicio es un extra; una muy por encima necesita una justificación en su lista de requisitos.

## ¿Cómo se envía la consulta?

La referencia de la API de BroadNet dice: “Private endpoints, our Arabic fine-tunes and other models on request are reached with a private ID issued with the endpoint.” (Traducción: a los endpoints privados, a nuestros ajustes finos en árabe y a otros modelos a pedido se accede con un ID privado emitido junto con el endpoint.) Su página de resumen pide “your model, languages and traffic requirements” (Traducción: su modelo, idiomas y requisitos de tráfico). Envíe su resumen de una página a través de la [página de contacto](https://broadrouter.com/es/contact/#private), sin claves de API ni datos de clientes. Incluya la salida del dimensionamiento, la región, el modelo y su licencia, el objetivo de latencia, su tope de presupuesto y su calendario.

## ¿Cómo se valida el endpoint que le entregan?

Antes del tráfico de producción, pruebe el endpoint frente a lo acordado. Este script solo usa la biblioteca estándar de Python. Comprueba que el ID de modelo privado funciona, que el streaming termina con el marcador `data: [DONE]` que describe la documentación de BroadNet, que la concurrencia acordada se ejecuta sin errores 429 y que un ID de modelo incorrecto se rechaza.

```python
import json, os, sys, time, urllib.error, urllib.request
from concurrent.futures import ThreadPoolExecutor

BASE = os.environ["ENDPOINT_BASE_URL"].rstrip("/")    # from your agreement, e.g. https://.../v1
KEY = os.environ["ENDPOINT_API_KEY"]
MODEL = os.environ["ENDPOINT_MODEL_ID"]                # the private ID issued with the endpoint
AGREED_CONCURRENCY = int(os.environ.get("AGREED_CONCURRENCY", "4"))

def post(payload: dict, stream=False):
    req = urllib.request.Request(f"{BASE}/chat/completions", data=json.dumps(payload).encode(),
        headers={"Authorization": f"Bearer {KEY}", "Content-Type": "application/json"})
    t0 = time.monotonic()
    try:
        with urllib.request.urlopen(req, timeout=120) as r:
            body = r.read().decode()
            return r.status, r.headers.get("X-Request-ID"), body, time.monotonic() - t0
    except urllib.error.HTTPError as e:
        return e.code, e.headers.get("X-Request-ID"), e.read().decode(), time.monotonic() - t0

def main() -> int:
    msg = [{"role": "user", "content": "Reply with the word OK."}]
    results = {}
    code, rid, body, secs = post({"model": MODEL, "messages": msg, "max_tokens": 1000})
    ok = code == 200 and "usage" in json.loads(body)
    results["model_id_accepted"] = (ok, f"HTTP {code}, request ID {rid}, {secs:.2f}s")
    code, _, body, _ = post({"model": MODEL, "messages": msg, "stream": True,
                             "stream_options": {"include_usage": True}})
    results["stream_ends_with_DONE"] = (code == 200 and body.rstrip().endswith("data: [DONE]"), f"HTTP {code}")
    with ThreadPoolExecutor(AGREED_CONCURRENCY) as pool:
        codes = list(pool.map(lambda _: post({"model": MODEL, "messages": msg, "max_tokens": 1000})[0],
                              range(AGREED_CONCURRENCY)))
    results["agreed_concurrency_no_429"] = (all(c == 200 for c in codes), f"codes {sorted(codes)}")
    code, _, _, _ = post({"model": MODEL + "-typo", "messages": msg})
    results["unknown_model_rejected"] = (code in (400, 403, 404), f"HTTP {code}")
    for name, (passed, note) in results.items():
        print(f"{'PASS' if passed else 'FAIL'}  {name}: {note}")
    return 0 if all(p for p, _ in results.values()) else 1

if __name__ == "__main__":
    sys.exit(main())
```

Lo ejecutamos contra un servidor simulado local (no un endpoint real) que permite 8 solicitudes en curso. Con `AGREED_CONCURRENCY=8` pasaron las cuatro comprobaciones. Con 12, la comprobación de concurrencia falló con ocho 200 y cuatro 429, que es el resultado que usted quiere ver antes del lanzamiento y no después. `max_tokens=1000` deja margen para los modelos de razonamiento, que gastan parte del presupuesto antes de responder.

Tras la prueba rápida, ejecute una prueba de carga corta en su pico medido con prompts de tamaño real, y registre el tiempo hasta el primer token y la latencia de la respuesta completa del endpoint. Guarde los ID de solicitud; la documentación de BroadNet pide el `X-Request-ID`, la marca de tiempo, la ruta y el estado en las solicitudes de soporte.

## Dónde encaja BroadNet Inference

BroadRouter es el sitio de la propia BroadNet. BroadNet Inference vende acceso de autoservicio a modelos públicos por token, por minuto de audio, por plan de sesión y por clave por horas; los precios están en la [página de precios](https://broadrouter.com/es/pricing/). Los endpoints privados, el procesamiento regional, los ajustes finos y los modelos listados “on request” (a pedido) no son de autoservicio: son consultas que BroadNet cotiza y acuerda por escrito. Este artículo no puede decirle qué ofrecerá BroadNet para su carga de trabajo. Un resumen claro es la forma de averiguarlo.

Herramientas gratuitas sobre este tema (en inglés)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Herramientas gratuitas (en inglés)](https://broadrouter.com/tools/)

## Términos de este artículo

[Token](https://broadrouter.com/es/glossary/token/)

Un token es la unidad de texto que un modelo de lenguaje lee y escribe: una palabra, parte de una palabra, un signo de puntuación o una secuencia de bytes producida por el tokenizador del modelo. Las APIs de LLM cuentan, limitan y normalmente facturan el uso en tokens.

[Concurrencia (concurrency)](https://broadrouter.com/es/glossary/concurrency/)

La concurrencia es el número de solicitudes que un cliente tiene en curso al mismo tiempo. Las APIs de LLM suelen limitarla por clave o por plan, aparte de las solicitudes por minuto, porque cada solicitud abierta ocupa capacidad de GPU hasta que su respuesta termina.

[Latencia (latency)](https://broadrouter.com/es/glossary/latency/)

La latencia, en una API de modelos de lenguaje, es el tiempo que tarda una solicitud desde que se envía hasta que se recibe el último token de salida. Es la suma del tiempo hasta el primer token y el tiempo de generación, y suele reportarse en percentiles como p50 y p95, no como promedio.

[Llamadas a herramientas (tool calling)](https://broadrouter.com/es/glossary/tool-calling/)

Las llamadas a herramientas (tool calling), también llamadas function calling, son una función de las APIs de LLM en la que el modelo devuelve una solicitud estructurada para ejecutar una función definida por el desarrollador, con argumentos JSON. La aplicación ejecuta la función y devuelve el resultado; el modelo nunca ejecuta código.

[Pago por uso (pay-as-you-go)](https://broadrouter.com/es/glossary/pay-as-you-go/)

El pago por uso es un modelo de precios en el que usted paga solo lo que usa, medido por unidades como tokens, solicitudes o minutos de audio, sin suscripción ni compromiso mínimo. La mayoría de las APIs de LLM cobran así, desde un saldo prepagado o con una factura periódica.

[Streaming (respuestas en tiempo real)](https://broadrouter.com/es/glossary/streaming/)

El streaming es una forma de devolver la respuesta de un modelo de lenguaje en pequeños fragmentos mientras aún se genera, en lugar de una sola respuesta al final. Las APIs compatibles con OpenAI hacen streaming mediante server-sent events cuando la solicitud define stream como true.

[Límite de frecuencia (rate limit)](https://broadrouter.com/es/glossary/rate-limit/)

Un límite de frecuencia (rate limit) es un tope que una API impone a cuánto puede usarla un cliente en un periodo, como solicitudes por minuto o tokens por minuto. Las solicitudes que lo superan se rechazan, normalmente con HTTP 429 Too Many Requests, hasta que el uso vuelve a quedar por debajo.

[Throughput (rendimiento total)](https://broadrouter.com/es/glossary/throughput/)

El throughput, en el servicio de LLMs, es la cantidad total de trabajo que un sistema completa por unidad de tiempo en todas las solicitudes concurrentes, normalmente medida en tokens de salida por segundo o solicitudes por segundo. Es distinto de la velocidad por stream, que es qué tan rápido recibe sus tokens una sola solicitud.

## Preguntas frecuentes

### ¿Qué es un endpoint privado de LLM?

Un endpoint de API respaldado por capacidad reservada para un solo cliente, en lugar de compartida con todos los usuarios de autoservicio. BroadNet describe su versión como una GPU o un nodo reservado con el modelo que usted elija, su propia clave y límites, y la región que necesite, al que se accede con un ID de modelo privado.

### ¿Cómo estimo la concurrencia que necesito?

Use la ley de Little: solicitudes concurrentes = solicitudes por segundo en el pico × segundos por solicitud. 1.67 solicitudes por segundo a unos 5.8 segundos cada una significan unas 10 solicitudes en curso. Mida los segundos por solicitud en el modelo real con sus prompts reales.

### ¿Puedo contratar un endpoint privado de BroadNet en autoservicio?

No. BroadNet presenta los endpoints privados, el procesamiento regional y los modelos no listados como consultas: usted describe la carga de trabajo y BroadNet le envía una cotización. Sus Términos dicen que los endpoints privados y la capacidad reservada se rigen por un acuerdo escrito aparte.

### ¿Un endpoint privado incluye un SLA?

Solo si su acuerdo escrito lo dice. Los Términos de BroadNet establecen que el autoservicio no tiene compromiso de disponibilidad y que los niveles de servicio solo existen en un acuerdo escrito aparte. Pida los términos exactos antes de depender de ellos.

### ¿Dónde se procesarán mis datos?

Acuérdelo antes de enviar datos. Los Términos de BroadNet piden a los clientes con requisitos de residencia que acuerden primero las ubicaciones de procesamiento, y dicen que el procesamiento alojado por socios y el de respaldo implican a otros encargados, con una lista de subencargados disponible para los clientes a pedido.

## Siga leyendo

-   [Alojar un LLM propio o usar una API: costo real y punto de equilibrio](https://broadrouter.com/es/blog/self-hosting-llm-vs-api-cost/)
-   [Latencia de LLM: TTFT, tokens por segundo y latencia total](https://broadrouter.com/es/blog/llm-latency-ttft-throughput/)
-   [PDPL de Arabia Saudita y EAU y API de LLM: checklist de transferencias](https://broadrouter.com/es/blog/saudi-uae-pdpl-llm-api-checklist/)
-   [Cómo elegir un proveedor de API de LLM: lista de 20 puntos](https://broadrouter.com/es/blog/choose-llm-api-provider-checklist/)
-   [Cómo estimar el costo de una API de LLM antes de lanzar una función](https://broadrouter.com/es/blog/estimate-llm-api-cost-before-launch/)
-   [Cómo manejar el 429 de una API de LLM: backoff, jitter y limitadores](https://broadrouter.com/es/blog/handle-llm-api-429-rate-limits/)
-   [Disponible, bajo solicitud o investigación: lea bien un catálogo](https://broadrouter.com/es/blog/understand-model-status/)
-   [El hardware GPU de BroadNet y cómo sirve los modelos, según BroadNet](https://broadrouter.com/es/blog/broadnet-gpu-fleet-and-serving/)
-   [Caché de respuestas de APIs de LLM para reducir costos en Python](https://broadrouter.com/es/blog/cache-llm-responses-cut-cost/)
-   [Guía: Códigos de error de BroadNet Inference y cuándo reintentar](https://broadrouter.com/es/guides/errors-and-retries/)
-   [Guía: Limite sus claves de API a sus servidores con listas de IP permitidas](https://broadrouter.com/es/guides/api-keys-ip-allow-lists/)

Pruébelo con su carga de trabajo real. Las cuentas nuevas empiezan con USD 5 de crédito para Gemma y transcripción. DeepSeek, GLM y Qwen3.8 requieren una recarga.

[Comenzar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-private-endpoint-planning&utm_content=page-cta) ·

**Fuentes**

-   [Resumen de BroadNet Inference: endpoint privado "Reserved GPU, priced to your traffic", procesamiento regional a pedido (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference)
-   [Catálogo de modelos de BroadNet: disponible a pedido, endpoints privados multi-GPU dimensionados para cada cliente (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models)
-   [Página del modelo Qwen3-VL 30B-A3B Instruct de BroadNet: a pedido, ID privado emitido para cada cliente, contexto de 16K (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models/qwen3-vl-30b-a3b)
-   [Página del modelo Gemma 4 VL 26B de BroadNet: endpoint privado con su propia clave, límites y región (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference/models/gemma-4-vl-26b)
-   [Términos del servicio de BroadNet, §7.3a ubicaciones de alojamiento y procesamiento y §7.4 disponibilidad, última actualización 23 de septiembre de 2026 (consultado el 2026-11-15)](https://www.broadnet.ai/es/terms)
-   [Referencia de la API de BroadNet Inference: ID privados, límites de pago por uso, streaming, errores (consultado el 2026-11-15) (en inglés)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=es-blog-private-endpoint-planning&utm_content=sources)
-   [Declaración de privacidad y retención de datos de BroadNet Inference: dónde se realiza el procesamiento (consultado el 2026-11-15)](https://www.broadnet.ai/es/inference-privacy)
-   [Ley de Little, L = λW (Wikipedia, consultado el 2026-11-15)](https://en.wikipedia.org/wiki/Little%27s_law)
