---
title: "Perancangan endpoint LLM persendirian: apa ditakrif dahulu"
description: "Apa yang perlu ditakrifkan sebelum meminta endpoint LLM persendirian: beban kerja, token sesaat, keserentakan, konteks, rantau, lesen, bajet, dan cara mengujinya."
url: https://broadrouter.com/ms/blog/private-endpoint-planning/
lang: ms
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/blog/private-endpoint-planning/) (dikemas kini 2026-11-15).

# Endpoint persendirian bermula dengan beban kerja yang jelas

Oleh pasukan BroadNet Inference · 7 minit bacaan · Diterbitkan 2026-11-15

Sebelum meminta endpoint persendirian, tulis beban kerjanya: permintaan sehari dan pada waktu puncak, token masuk dan keluar, keserentakan yang terhasil, konteks yang anda perlukan, rantau pemprosesan, model dan lesennya, serta bajet. Persetujui rantau dan had secara bertulis, kemudian uji asap endpoint yang diberikan sebelum menghantar data sebenar.

## Perkara utama

-   Permintaan kapasiti hanya sebaik angkanya: permintaan sesaat pada waktu puncak, token masuk dan keluar, dan kependaman yang boleh anda terima.
-   Keserentakan mengikut hukum Little: permintaan yang sedang berjalan = kadar ketibaan × masa setiap permintaan. Ukur masa setiap permintaan pada percubaan dahulu.
-   BroadNet secara terbuka menerangkan endpoint persendirian sebagai kapasiti GPU khas yang harganya mengikut trafik anda, dengan kunci, had dan rantau anda sendiri, dicapai dengan ID model persendirian. Selain itu, semuanya dipersetujui bersama BroadNet.
-   Terma BroadNet menyatakan layan diri tiada komitmen ketersediaan, dan endpoint persendirian serta kapasiti khas tertakluk kepada perjanjian bertulis yang berasingan.
-   Uji endpoint yang diberikan sebelum pengeluaran: ID model, penstriman, keserentakan yang dipersetujui dan ralat untuk ID model yang salah.

**Dalam halaman ini**

1.  Bilakah endpoint persendirian masuk akal?
2.  Apakah yang perlu anda takrifkan tentang beban kerja?
3.  Bagaimanakah anda menukar volum kepada token sesaat dan keserentakan?
4.  Bagaimana pula dengan rantau, kediaman data dan had?
5.  Model mana, dan di bawah lesen mana?
6.  Bagaimanakah anda menetapkan bajet?
7.  Bagaimanakah anda menghantar pertanyaan?
8.  Bagaimanakah anda mengesahkan endpoint yang diberikan?
9.  Di mana BroadNet Inference sesuai

“Kami perlukan endpoint khusus” ialah permulaan perbualan, bukan spesifikasi. Penyedia tidak dapat menyaiz, menempatkan atau meletakkan harga kapasiti tanpa angka anda, dan anda juga tidak dapat menilai jawapan mereka tanpanya. Catatan ini menyenaraikan apa yang perlu ditakrifkan sebelum anda bertanya, menggunakan contoh pengekstrakan invois, dan diakhiri dengan skrip yang menyemak endpoint yang diberikan kepada anda.

Ia terpakai kepada mana-mana penyedia. Apabila ia menerangkan tawaran BroadNet, ia berpegang pada apa yang dinyatakan BroadNet secara terbuka, disemak pada 15 November 2026. Apa-apa di luar itu ialah soalan untuk BroadNet.

## Bilakah endpoint persendirian masuk akal?

Biasanya atas salah satu daripada empat sebab:

-   **Trafik melebihi had layan diri.** Rujukan API BroadNet menerbitkan 30 permintaan seminit dan 4 permintaan serentak untuk kunci bayar ikut guna. Beban kerja yang stabil melebihi had itu ialah persoalan kapasiti, bukan persoalan cubaan semula. ([Mengendalikan 429](https://broadrouter.com/ms/blog/handle-llm-api-429-rate-limits/) merangkumi lonjakan singkat.)
-   **Model yang tiada dalam senarai awam.** Katalog BroadNet menandakan sesetengah model “available on request” (tersedia atas permintaan), termasuk Qwen3-VL 30B-A3B, Qwen3-VL 8B dan model Cohere Transcribe Arabic yang ditala halus oleh BroadNet. [Membaca katalog model](https://broadrouter.com/ms/blog/understand-model-status/) menerangkan perbezaannya.
-   **Lokasi pemprosesan yang mesti anda kawal.** Peraturan kediaman data, seperti dalam [senarai semak PDPL Saudi dan UAE](https://broadrouter.com/ms/blog/saudi-uae-pdpl-llm-api-checklist/), mungkin memerlukan rantau yang telah anda persetujui secara bertulis.
-   **Kependaman yang boleh diramal.** Kapasiti kongsi berubah mengikut beban pengguna lain. Kapasiti khas membuang pemboleh ubah itu, walaupun bukan jarak rangkaian atau saiz prompt anda sendiri.

Jika tiada satu pun yang berkaitan, kunci layan diri lebih mudah. Dan jika volum anda sangat tinggi dan stabil, bandingkan dengan menjalankannya sendiri: [hos sendiri lwn kos API](https://broadrouter.com/ms/blog/self-hosting-llm-vs-api-cost/) mempunyai kaedahnya.

## Apakah yang perlu anda takrifkan tentang beban kerja?

Tulis taklimat satu halaman. Ini angka yang diperlukan penyedia:

| Perkara | Apa yang perlu ditulis | Contoh |
| --- | --- | --- |
| Tugas | Apa yang dilakukan model, dalam satu ayat | Baca foto invois, pulangkan medan JSON |
| Volum | Permintaan sehari, dan bahagian dalam jam paling sibuk | 40,000 sehari, 15% dalam jam puncak |
| Token | Purata dan persentil ke-95 token input dan output | 1,800 masuk (imej satu halaman + prompt), 350 keluar |
| Konteks | Permintaan tunggal terbesar, prompt dan jawapan | 4,000 token |
| Kependaman | Masa yang boleh diterima hingga token pertama dan hingga jawapan penuh | Jawapan penuh dalam 10 saat |
| Penstriman | Perlu atau tidak | Tidak perlu (gaya kelompok) |
| Input | Teks, imej, audio; format dan saiz | JPEG dan PNG, satu halaman setiap satu |
| Bahasa | Yang mana, dan bahagian setiap satu | Arab dan Inggeris, 60/40 |
| Pertumbuhan | Volum dijangka dalam 6 dan 12 bulan | Dua kali ganda dalam 12 bulan |

Ukur kiraan token pada sampel sebenar, bukan tekaan. Bahasa Arab selalunya memerlukan lebih banyak token daripada bahasa Inggeris untuk teks yang sama; [pengira token bahasa Arab](https://broadrouter.com/tools/arabic-token-counter/) dan [kos sebenar mengikut bahasa](https://broadrouter.com/data/real-cost-by-language/) menunjukkan sebanyak mana pada tokenizer berbeza. Untuk imej, [kalkulator token imej](https://broadrouter.com/tools/image-token-calculator/) memberi anggaran pertama.

## Bagaimanakah anda menukar volum kepada token sesaat dan keserentakan?

Permintaan sesaat pada waktu puncak ialah volum jam paling sibuk dibahagi 3,600. Keserentakan, iaitu bilangan permintaan yang sedang berjalan pada satu masa, mengikut [hukum Little](https://en.wikipedia.org/wiki/Little%27s_law): purata bilangan dalam sesuatu sistem sama dengan kadar ketibaan didarab purata masa setiap satu berada di situ. Bagi API, itu ialah permintaan sesaat × saat setiap permintaan.

```python
import math

def size(requests_per_day: int, peak_share_of_day_in_busiest_hour: float,
         in_tokens: int, out_tokens: int, out_tok_per_s_per_stream: float) -> dict:
    """Rough peak numbers to put in a capacity enquiry. Measure your own inputs; these are not provider specs."""
    peak_rps = requests_per_day * peak_share_of_day_in_busiest_hour / 3600
    seconds_per_request = out_tokens / out_tok_per_s_per_stream        # ignores queueing and prompt time
    concurrency = peak_rps * seconds_per_request                      # Little's law: L = λ × W
    return {
        "peak_requests_per_second": round(peak_rps, 2),
        "seconds_per_request": round(seconds_per_request, 1),
        "concurrent_requests_at_peak": math.ceil(concurrency),
        "peak_input_tokens_per_second": round(peak_rps * in_tokens),
        "peak_output_tokens_per_second": round(peak_rps * out_tokens),
        "monthly_tokens_millions": round(requests_per_day * 30 * (in_tokens + out_tokens) / 1e6, 1),
    }

# 40,000 invoice extractions a day, 15% of them in the busiest hour,
# 1,800 tokens in, 350 out, 60 tokens/s per stream measured on a trial.
print(size(40_000, 0.15, 1_800, 350, 60))
```

Ia mencetak 1.67 permintaan sesaat pada waktu puncak, kira-kira 5.8 saat setiap permintaan, 10 permintaan serentak, 3,000 token input dan 583 token output sesaat, dan 2,580 juta token sebulan. Angka 60 token sesaat ialah andaian untuk contoh ini; ukur angka anda sendiri pada model yang akan anda gunakan, kerana kelajuan berbeza mengikut model, panjang prompt dan beban. Catatan [kependaman, TTFT dan daya pemprosesan](https://broadrouter.com/ms/blog/llm-latency-ttft-throughput/) menerangkan apa yang perlu diukur masanya.

Dua peringatan. Formula ini mengabaikan masa pemprosesan prompt, jadi prompt panjang atau imej besar menjadikan permintaan sebenar lebih perlahan dan menaikkan keserentakan. Dan purata menyembunyikan lonjakan: berikan penyedia saiz permintaan persentil ke-95 anda dan profil lonjakan singkat, bukan sekadar min. Puncak contoh ini (kira-kira 100 permintaan seminit dan 10 serentak) jauh melebihi had layan diri yang diterbitkan untuk satu kunci bayar ikut guna, dan itulah masanya perbualan tentang kapasiti berbaloi.

## Bagaimana pula dengan rantau, kediaman data dan had?

Persetujuinya secara jelas, bertulis, sebelum sebarang data terkawal bergerak. Terma BroadNet (§7.3a) menyatakan: “Contact us to agree processing locations for your deployment before sending data with residency requirements,” (Terjemahan: Hubungi kami untuk mempersetujui lokasi pemprosesan bagi penggunaan anda sebelum menghantar data yang mempunyai keperluan kediaman,) dan bahawa pemprosesan yang dihoskan rakan kongsi dan sandaran melibatkan pemproses lain, dengan senarai subpemproses semasa tersedia kepada pelanggan atas permintaan. Pernyataan privasinya menyatakan model BroadNet sendiri dan model open-weight yang dihoskan berjalan pada perkakasan milik atau sewaan BroadNet di Amerika Syarikat, dengan kapasiti rakan kongsi sebagai sandaran, dan halaman gambaran keseluruhannya menyatakan pemprosesan serantau di MENA atau Eropah tersedia atas permintaan.

Jadi soalan untuk mana-mana penyedia ialah:

1.  Rantau manakah yang memproses permintaan, dan rantau manakah yang memegang kapasiti sandaran?
2.  Subpemproses manakah yang boleh menyentuh trafik, termasuk untuk failover atau limpahan?
3.  Apakah had kadar, keserentakan dan token endpoint, dan apa yang berlaku apabila melebihinya?
4.  Terma ketersediaan dan sokongan apakah yang terpakai, dan di mana ia ditulis? Terma BroadNet (§7.4) menyatakan layan diri tiada komitmen ketersediaan, dan endpoint persendirian serta kapasiti khas tertakluk kepada perjanjian bertulis anda yang berasingan. Untuk melihat apa yang dirangkumi SLA bertulis penyedia lain, baca [perbandingan SLA API LLM](https://broadrouter.com/ms/blog/llm-api-sla-uptime-compared/).
5.  Apakah yang disimpan? Bagi API inferens BroadNet, kedudukan yang diterbitkan ialah: kandungan inferens tidak disimpan; metadata akaun, pengebilan dan keselamatan yang perlu disimpan seperti yang diterangkan dalam [pernyataan privasinya](https://www.broadnet.ai/inference-privacy). Sahkan perkara yang sama terpakai pada endpoint anda.

## Model mana, dan di bawah lesen mana?

Namakan model dan versi yang tepat, dan semak bahawa lesennya membenarkan kegunaan anda dan penyajian API. Halaman model BroadNet menyenaraikan Apache-2.0 untuk Gemma 4 26B, Qwen3-VL 30B-A3B dan pemberat asas Cohere Transcribe, dengan versi Cohere Transcribe Arabic yang ditala halus BroadNet “under contract” (di bawah kontrak). Termanya menyatakan model ditadbir oleh lesen masing-masing, dan lesen DeepSeek V4.1 Flash masih terpakai apabila dihoskan rakan kongsi.

Persetujui juga tetingkap konteks. Had konteks bergantung pada model dan penggunaannya, bukan hanya pada maksimum model asas: BroadNet menyenaraikan 32K token untuk Gemma 4 VL 26B pada API awamnya dan 16K untuk Qwen3-VL 30B-A3B, yang tersedia atas permintaan. Gunakan [kalkulator tetingkap konteks](https://broadrouter.com/tools/context-window-calculator/) terhadap permintaan terbesar anda, bukan purata.

## Bagaimanakah anda menetapkan bajet?

BroadNet tidak menerbitkan harga endpoint persendirian; halaman gambaran keseluruhannya menyatakan “Reserved GPU, priced to your traffic. Ask for a quote.” (Terjemahan: GPU khas, harga mengikut trafik anda. Minta sebut harga.) Jadi tetapkan siling anda sendiri dahulu. Letakkan harga beban kerja yang sama pada layan diri dengan [kalkulator kos API LLM](https://broadrouter.com/tools/llm-api-cost-calculator/), menggunakan kiraan token bulanan daripada skrip penyaizan, dan putuskan berapa nilai tambahan bagi anda untuk kapasiti yang boleh diramal, satu rantau atau model yang tidak awam. Sebut harga di bawah angka layan diri ialah bonus; sebut harga yang jauh lebih tinggi memerlukan sebab daripada senarai keperluan anda.

## Bagaimanakah anda menghantar pertanyaan?

Rujukan API BroadNet menyatakan: “Private endpoints, our Arabic fine-tunes and other models on request are reached with a private ID issued with the endpoint.” (Terjemahan: Endpoint persendirian, model bahasa Arab kami yang ditala halus dan model lain atas permintaan dicapai dengan ID persendirian yang dikeluarkan bersama endpoint.) Halaman gambaran keseluruhannya meminta “your model, languages and traffic requirements” (Terjemahan: model, bahasa dan keperluan trafik anda). Hantar taklimat satu halaman anda melalui [halaman hubungi](https://broadrouter.com/ms/contact/#private), tanpa kunci API atau data pelanggan. Sertakan output penyaizan, rantau, model dan lesen, sasaran kependaman, siling bajet dan garis masa anda.

## Bagaimanakah anda mengesahkan endpoint yang diberikan?

Sebelum trafik pengeluaran, uji endpoint terhadap apa yang dipersetujui. Skrip ini hanya menggunakan pustaka standard Python. Ia menyemak bahawa ID model persendirian berfungsi, bahawa penstriman berakhir dengan penanda `data: [DONE]` yang diterangkan dokumentasi BroadNet, bahawa keserentakan yang dipersetujui berjalan tanpa 429, dan bahawa ID model yang salah ditolak.

```python
import json, os, sys, time, urllib.error, urllib.request
from concurrent.futures import ThreadPoolExecutor

BASE = os.environ["ENDPOINT_BASE_URL"].rstrip("/")    # from your agreement, e.g. https://.../v1
KEY = os.environ["ENDPOINT_API_KEY"]
MODEL = os.environ["ENDPOINT_MODEL_ID"]                # the private ID issued with the endpoint
AGREED_CONCURRENCY = int(os.environ.get("AGREED_CONCURRENCY", "4"))

def post(payload: dict, stream=False):
    req = urllib.request.Request(f"{BASE}/chat/completions", data=json.dumps(payload).encode(),
        headers={"Authorization": f"Bearer {KEY}", "Content-Type": "application/json"})
    t0 = time.monotonic()
    try:
        with urllib.request.urlopen(req, timeout=120) as r:
            body = r.read().decode()
            return r.status, r.headers.get("X-Request-ID"), body, time.monotonic() - t0
    except urllib.error.HTTPError as e:
        return e.code, e.headers.get("X-Request-ID"), e.read().decode(), time.monotonic() - t0

def main() -> int:
    msg = [{"role": "user", "content": "Reply with the word OK."}]
    results = {}
    code, rid, body, secs = post({"model": MODEL, "messages": msg, "max_tokens": 1000})
    ok = code == 200 and "usage" in json.loads(body)
    results["model_id_accepted"] = (ok, f"HTTP {code}, request ID {rid}, {secs:.2f}s")
    code, _, body, _ = post({"model": MODEL, "messages": msg, "stream": True,
                             "stream_options": {"include_usage": True}})
    results["stream_ends_with_DONE"] = (code == 200 and body.rstrip().endswith("data: [DONE]"), f"HTTP {code}")
    with ThreadPoolExecutor(AGREED_CONCURRENCY) as pool:
        codes = list(pool.map(lambda _: post({"model": MODEL, "messages": msg, "max_tokens": 1000})[0],
                              range(AGREED_CONCURRENCY)))
    results["agreed_concurrency_no_429"] = (all(c == 200 for c in codes), f"codes {sorted(codes)}")
    code, _, _, _ = post({"model": MODEL + "-typo", "messages": msg})
    results["unknown_model_rejected"] = (code in (400, 403, 404), f"HTTP {code}")
    for name, (passed, note) in results.items():
        print(f"{'PASS' if passed else 'FAIL'}  {name}: {note}")
    return 0 if all(p for p, _ in results.values()) else 1

if __name__ == "__main__":
    sys.exit(main())
```

Kami menjalankannya terhadap pelayan olok-olok tempatan (bukan endpoint sebenar) yang membenarkan 8 permintaan serentak. Dengan `AGREED_CONCURRENCY=8` keempat-empat semakan lulus. Dengan 12, semakan keserentakan gagal dengan lapan 200 dan empat 429, iaitu hasil yang anda mahu lihat sebelum pelancaran, bukan selepasnya. `max_tokens=1000` memberi ruang untuk model penaakulan, yang membelanjakan sebahagian bajet sebelum menjawab.

Selepas ujian asap, jalankan ujian beban singkat pada puncak yang anda ukur dengan prompt bersaiz sebenar, dan rekod masa hingga token pertama dan kependaman jawapan penuh endpoint itu. Simpan ID permintaan; dokumentasi BroadNet meminta `X-Request-ID`, cap masa, laluan dan status dalam permintaan sokongan.

## Di mana BroadNet Inference sesuai

BroadRouter ialah laman web milik BroadNet sendiri. BroadNet Inference menjual akses layan diri kepada model awam mengikut token, minit audio, pelan sesi dan kunci sejam; harga ada di [halaman harga](https://broadrouter.com/ms/pricing/). Endpoint persendirian, pemprosesan serantau, penalaan halus dan model yang disenaraikan “on request” bukan layan diri: ia pertanyaan yang diberi sebut harga oleh BroadNet dan dipersetujui secara bertulis. Catatan ini tidak dapat memberitahu anda apa yang akan ditawarkan BroadNet untuk beban kerja anda. Taklimat yang jelas ialah cara anda mengetahuinya.

Alat percuma untuk topik ini (Bahasa Inggeris)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Alatan percuma (Bahasa Inggeris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Token input dan output (input and output tokens)](https://broadrouter.com/ms/glossary/input-and-output-tokens/)

Token input ialah token yang dibaca oleh model bahasa dalam satu permintaan, termasuk prompt sistem, sejarah perbualan, definisi alatan dan imej. Token output ialah token yang dijananya sebagai balasan, termasuk sebarang penaakulan. API LLM biasanya meletakkan harga berasingan, dan output biasanya lebih mahal.

[SLA (perjanjian tahap perkhidmatan)](https://broadrouter.com/ms/glossary/sla/)

SLA (service level agreement, perjanjian tahap perkhidmatan) ialah komitmen kontrak daripada penyedia terhadap tahap perkhidmatan yang boleh diukur, biasanya peratusan uptime bulanan, dengan remedi yang ditetapkan, biasanya kredit perkhidmatan, jika tidak dicapai. SLA mentakrifkan apa yang dikira sebagai downtime, apa yang dikecualikan dan cara membuat tuntutan.

[Token sesaat (tokens per second)](https://broadrouter.com/ms/glossary/tokens-per-second/)

Token sesaat (TPS) ialah kadar model bahasa menjana token output, biasanya diukur bagi satu permintaan selepas token pertamanya tiba. Ia menentukan sepantas mana jawapan distrim sebaik bermula. Apabila dijumlahkan merentas semua permintaan serentak, ia menjadi daya pemprosesan sistem; masa menunggu sebelum token pertama diukur secara berasingan.

## Soalan lazim

### Apakah itu endpoint LLM persendirian?

Endpoint API yang disokong oleh kapasiti yang dikhaskan untuk seorang pelanggan, bukan dikongsi dengan setiap pengguna layan diri. BroadNet menerangkan versinya sebagai GPU atau nod khas dengan model pilihan anda, kunci dan had anda sendiri, serta rantau yang anda perlukan, dicapai dengan ID model persendirian.

### Bagaimanakah saya menganggar keserentakan yang saya perlukan?

Gunakan hukum Little: permintaan serentak = permintaan sesaat pada waktu puncak × saat setiap permintaan. 1.67 permintaan sesaat pada kira-kira 5.8 saat setiap satu bermakna kira-kira 10 permintaan sedang berjalan. Ukur saat setiap permintaan pada model sebenar dengan prompt sebenar anda.

### Bolehkah saya membeli endpoint persendirian BroadNet secara layan diri?

Tidak. BroadNet membentangkan endpoint persendirian, pemprosesan serantau dan model yang tidak tersenarai sebagai pertanyaan: anda menerangkan beban kerja dan BroadNet memberi sebut harga. Termanya menyatakan endpoint persendirian dan kapasiti khas tertakluk kepada perjanjian bertulis yang berasingan.

### Adakah endpoint persendirian disertakan dengan SLA?

Hanya jika perjanjian bertulis anda menyatakannya. Terma BroadNet menyatakan layan diri tiada komitmen ketersediaan dan tahap perkhidmatan hanya wujud dalam perjanjian bertulis yang berasingan. Minta terma yang tepat sebelum anda bergantung padanya.

### Di manakah data saya akan diproses?

Persetujuinya sebelum anda menghantar data. Terma BroadNet meminta pelanggan yang mempunyai keperluan kediaman data supaya mempersetujui lokasi pemprosesan terlebih dahulu, dan menyatakan pemprosesan yang dihoskan rakan kongsi dan sandaran melibatkan pemproses lain, dengan senarai subpemproses tersedia kepada pelanggan atas permintaan.

## Teruskan membaca

-   [Hos LLM sendiri vs API: kos sebenar dan titik pulang modal](https://broadrouter.com/ms/blog/self-hosting-llm-vs-api-cost/)
-   [Kependaman LLM: TTFT vs token sesaat vs masa hujung ke hujung](https://broadrouter.com/ms/blog/llm-latency-ttft-throughput/)
-   [PDPL Arab Saudi dan UAE serta API LLM: senarai semak rentas sempadan](https://broadrouter.com/ms/blog/saudi-uae-pdpl-llm-api-checklist/)
-   [Cara memilih penyedia API LLM: senarai semak 20 perkara](https://broadrouter.com/ms/blog/choose-llm-api-provider-checklist/)
-   [Cara menganggar kos API LLM sebelum melancarkan ciri baharu](https://broadrouter.com/ms/blog/estimate-llm-api-cost-before-launch/)
-   [Cara mengendalikan ralat 429 API LLM: backoff, jitter dan pengehad](https://broadrouter.com/ms/blog/handle-llm-api-429-rate-limits/)
-   [Live, atas permintaan, penyelidikan: cara membaca katalog model](https://broadrouter.com/ms/blog/understand-model-status/)
-   [Perkakasan GPU dan pendekatan penyajian BroadNet, menurut BroadNet](https://broadrouter.com/ms/blog/broadnet-gpu-fleet-and-serving/)
-   [Cache respons API LLM untuk jimat kos: cache padanan tepat Python](https://broadrouter.com/ms/blog/cache-llm-responses-cut-cost/)
-   [Panduan: Kod ralat BroadNet Inference dan bila perlu cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/)
-   [Panduan: Kunci API kepada pelayan anda dengan senarai IP dibenarkan](https://broadrouter.com/ms/guides/api-keys-ip-allow-lists/)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-private-endpoint-planning&utm_content=page-cta) ·

**Sumber**

-   [Gambaran keseluruhan BroadNet Inference: endpoint persendirian "Reserved GPU, priced to your traffic", pemprosesan serantau atas permintaan (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/inference)
-   [Katalog model BroadNet: tersedia atas permintaan, endpoint persendirian berbilang GPU yang disaizkan bagi setiap pelanggan (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/inference/models)
-   [Halaman model BroadNet, Qwen3-VL 30B-A3B Instruct: atas permintaan, ID persendirian dikeluarkan bagi setiap pelanggan, konteks 16K (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/inference/models/qwen3-vl-30b-a3b)
-   [Halaman model BroadNet, Gemma 4 VL 26B: endpoint persendirian dengan kunci, had dan rantau anda sendiri (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Terma Perkhidmatan BroadNet, §7.3a lokasi pengehosan dan pemprosesan dan §7.4 ketersediaan, kali terakhir dikemas kini 23 September 2026 (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/terms)
-   [Rujukan API BroadNet Inference: ID persendirian, had bayar ikut guna, penstriman, ralat (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-private-endpoint-planning&utm_content=sources)
-   [Pernyataan privasi dan pengekalan data BroadNet Inference: di mana pemprosesan berlaku (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/inference-privacy)
-   [Hukum Little, L = λW (Wikipedia, disemak 2026-11-15)](https://en.wikipedia.org/wiki/Little%27s_law)
