---
title: "Cara memilih penyedia API LLM: checklist 20 poin | BroadRouter"
description: "Dua puluh pertanyaan sebelum memilih API LLM: harga, batas, kompatibilitas OpenAI, privasi, model, dukungan, dan uptime, plus lembar penilaian dan rencana uji."
url: https://broadrouter.com/id/blog/choose-llm-api-provider-checklist/
lang: id
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/blog/choose-llm-api-provider-checklist/) (diperbarui 2026-11-16).

# Cara memilih penyedia API LLM: checklist 20 poin

Oleh tim BroadNet Inference · 5 menit baca · Dipublikasikan 2026-11-14 · Diperbarui 2026-11-16

Pilih penyedia API LLM dengan menilainya di enam area: total biaya untuk beban kerja nyata Anda, rate limit dan batas konkurensi, kompatibilitas OpenAI, ketentuan retensi data dan pelatihan, model serta ukuran konteks yang Anda butuhkan, serta dukungan dan keandalan. Lalu jalankan uji satu minggu dengan trafik Anda sendiri sebelum berkomitmen. Harga per token saja adalah panduan yang buruk.

## Poin penting

-   Hitung biaya beban kerja nyata Anda, termasuk input cache, token penalaran, dan retry, bukan sekadar harga input utama.
-   Batas konkurensi lebih sering merusak agen dan pekerjaan batch daripada batas permintaan per menit.
-   Kompatibilitas OpenAI membuat perpindahan tetap murah, tetapi periksa data usage saat streaming, tool call, dan kode error.
-   Dapatkan ketentuan retensi dan pelatihan secara tertulis; ketentuannya berbeda antara tingkat gratis dan berbayar.
-   Jalankan uji coba satu minggu dengan trafik nyata dan catat token, latensi, serta error sebelum berkomitmen.

**Di halaman ini**

1.  Berapa biaya sebenarnya? (pertanyaan 1 sampai 4)
2.  Batas mana yang akan Anda temui lebih dulu? (pertanyaan 5 sampai 7)
3.  Seberapa kompatibel dengan kode Anda? (pertanyaan 8 sampai 10)
4.  Apa yang terjadi pada data Anda? (pertanyaan 11 sampai 13)
5.  Apakah tersedia model yang Anda butuhkan? (pertanyaan 14 sampai 16)
6.  Apakah layanannya tetap hidup, dan siapa yang menjawab? (pertanyaan 17 sampai 20)
7.  Bagaimana menilai penyedia satu sama lain?
8.  Bagaimana menguji penyedia dalam satu minggu?
9.  Bagaimana BroadNet Inference menjawab checklist ini

_[image: A chess knight and queen on a board, with the text "The right model. For the next move."]_

Untuk memilih penyedia API LLM, nilai setiap kandidat di enam area: biaya bulanan beban kerja nyata Anda, rate limit dan batas konkurensi, kompatibilitas OpenAI, ketentuan retensi data dan pelatihan, model yang Anda butuhkan, serta dukungan dan keandalan. Lalu uji dua teratas dengan trafik nyata selama seminggu. Di bawah ini: 20 pertanyaan, lembar penilaian, dan rencana uji.

Setelah Anda memilih, [checklist migrasi](https://broadrouter.com/id/blog/openai-compatible-api-migration-checklist/) membahas proses perpindahannya, dan [cara mengevaluasi LLM sebelum berpindah](https://broadrouter.com/id/blog/evaluate-llm-before-switching/) membahas pengujian kualitas secara mendalam.

## Berapa biaya sebenarnya? (pertanyaan 1 sampai 4)

1.  **Berapa biaya bulanan beban kerja nyata saya?** Hitung input, [input cache](https://broadrouter.com/id/glossary/cached-input-tokens/), dan output secara terpisah; [kalkulator biaya API LLM](https://broadrouter.com/tools/llm-api-cost-calculator/) gratis melakukannya per model. Agen mengirim ulang konteks yang sama, jadi input cache sering mendominasi. [Penjelasan harga](https://broadrouter.com/id/blog/llm-api-pricing-explained/) kami menguraikan setiap komponen.
2.  **Apakah token penalaran ditagih sebagai output?** Model penalaran bisa menghabiskan lebih banyak token untuk berpikir daripada untuk menjawab.
3.  **Apakah ada opsi harga tetap?** Untuk agen yang selalu aktif, paket tetap bisa lebih hemat daripada penagihan per token. Lihat [perhitungan titik impasnya](https://broadrouter.com/id/blog/flat-rate-vs-pay-per-token-llm-api/).
4.  **Apakah harga dapat dibaca mesin dan bertanggal?** File harga JSON memungkinkan Anda melacak perubahan dan membuat peringatan biaya.

Dataset terbuka kami tentang [tingkat gratis dan rate limit API LLM](https://broadrouter.com/data/llm-api-free-tiers-and-rate-limits/) membandingkan apa yang dipublikasikan 14 penyedia tentang akses gratis, rate limit awal, kewajiban kartu, dan pelatihan dengan data tingkat gratis, dengan sumber dan tanggal untuk setiap nilai.

## Batas mana yang akan Anda temui lebih dulu? (pertanyaan 5 sampai 7)

5.  **Berapa batas permintaan per menit dan konkurensinya?** Konkurensi (permintaan yang sedang berjalan) adalah hal yang menghentikan agen paralel dan pekerjaan batch. Lihat [rate limit](https://broadrouter.com/id/glossary/rate-limit/) dan [konkurensi](https://broadrouter.com/id/glossary/concurrency/), lalu ukur trafik Anda terhadap sebuah batas dengan [kalkulator rate limit](https://broadrouter.com/tools/llm-rate-limit-calculator/).
6.  **Apakah ada batas token, jendela bergulir, atau kuota mingguan?** Paket “unlimited” sering punya salah satunya. Baca [apa arti unlimited sebenarnya](https://broadrouter.com/id/blog/what-unlimited-llm-api-really-means/).
7.  **Berapa context window-nya, dan apakah dipangkas?** Periksa batas maksimum nyata per permintaan, dan apakah penyedia diam-diam memotong prompt panjang.

## Seberapa kompatibel dengan kode Anda? (pertanyaan 8 sampai 10)

8.  **Apakah kompatibel dengan OpenAI, dan sejauh mana?** Mengganti [base URL](https://broadrouter.com/id/glossary/base-url/) seharusnya cukup. Lalu uji streaming dengan usage, tool call, output terstruktur, dan kode error. [Checklist migrasi](https://broadrouter.com/id/blog/openai-compatible-api-migration-checklist/) mencantumkan apa saja yang bisa rusak.
9.  **Apakah bisa dipakai dengan tool saya?** SDK, framework agen, asisten IDE. Periksa [panduan integrasi](https://broadrouter.com/integrations/) penyedia.
10.  **Apakah ID model stabil?** Anda menginginkan ID berversi dan pemberitahuan sebelum sebuah model dihentikan.

## Apa yang terjadi pada data Anda? (pertanyaan 11 sampai 13)

11.  **Apakah prompt dan output disimpan, dan berapa lama?** Banyak penyedia menyimpan konten API hingga 30 hari secara default. Bandingkan kata-kata resminya di [perbandingan retensi data API LLM](https://broadrouter.com/id/blog/llm-api-data-retention-compared/).
12.  **Apakah data saya dipakai untuk pelatihan?** Periksa default untuk tingkat Anda, secara tertulis.
13.  **Bisakah saya menandatangani DPA, melihat subprosesor, dan membatasi kunci?** Pakai [checklist GDPR](https://broadrouter.com/id/blog/gdpr-llm-api-checklist/) jika Anda memproses data pribadi warga UE, dan minta IP allow-list.

## Apakah tersedia model yang Anda butuhkan? (pertanyaan 14 sampai 16)

14.  **Apakah penyedia punya ukuran dan kemampuan model yang saya butuhkan?** Vision, tool calling, penalaran, konteks panjang, suara.
15.  **Bagaimana performa setiap model pada tugas saya?** Buat 30 hingga 50 kasus uji nyata dan beri nilai. Benchmark adalah saringan pertama; [tempat membandingkan LLM](https://broadrouter.com/id/blog/artificial-analysis-alternatives/) mencantumkan leaderboard dan apa yang diukur masing-masing. [Panduan evaluasi](https://broadrouter.com/id/blog/evaluate-llm-before-switching/) menunjukkan cara menyusun set dan menghindari bias juri.
16.  **Open-weight atau tertutup?** Model open-weight bisa di-host oleh beberapa penyedia, sehingga mengurangi lock-in. Lihat [model open-weight vs tertutup](https://broadrouter.com/id/blog/open-weight-vs-closed-models/).

## Apakah layanannya tetap hidup, dan siapa yang menjawab? (pertanyaan 17 sampai 20)

17.  **Apakah ada halaman status dan riwayat insiden?**
18.  **Apakah ada SLA tertulis untuk produksi?**
19.  **Siapa yang menjalankan GPU-nya?** Perangkat keras sendiri, cloud, atau kapasitas yang dijual ulang dari API lain. Masing-masing menambah satu pihak di jalur data dan keandalan.
20.  **Bagaimana cara menghubungi manusia?** Waktu respons, kanal, dan apakah tim dukungan bisa melihat konten permintaan Anda.

## Bagaimana menilai penyedia satu sama lain?

Beri nilai setiap pertanyaan 0 (tidak atau tidak diketahui), 1 (sebagian), atau 2 (ya, secara tertulis). Beri bobot kelompok sesuai kasus penggunaan Anda:

| Kelompok | Pertanyaan | Bobot untuk agen | Bobot untuk aplikasi teregulasi |
| --- | --- | --- | --- |
| Harga | 1 sampai 4 | Tinggi | Sedang |
| Batas | 5 sampai 7 | Tinggi | Sedang |
| Kompatibilitas | 8 sampai 10 | Sedang | Sedang |
| Privasi | 11 sampai 13 | Sedang | Tinggi |
| Model | 14 sampai 16 | Tinggi | Tinggi |
| Dukungan dan keandalan | 17 sampai 20 | Sedang | Tinggi |

“Tidak diketahui” bernilai 0 karena alasan yang jelas: jika penyedia tidak bisa menjawab, Anda tidak bisa mengandalkannya.

## Bagaimana menguji penyedia dalam satu minggu?

1.  Pilih dua penyedia teratas dari lembar penilaian.
2.  Arahkan sebagian trafik nyata ke masing-masing lewat OpenAI SDK yang sama, dengan ID model dan base URL di konfigurasi.
3.  Catat per permintaan: model, token prompt, token cache, token completion, latensi, kode status. Jangan pernah mencatat konten.
4.  Picu beban puncak Anda: jalankan pekerjaan batch atau agen paralel, dan pantau 429. [Panduan error dan retry](https://broadrouter.com/id/guides/errors-and-retries/) menunjukkan back-off yang benar.
5.  Kalikan token seminggu dengan sekitar 4,3 dan hitung biaya sebulan untuk setiap penyedia.
6.  Nilai output pada set uji Anda.

## Bagaimana BroadNet Inference menjawab checklist ini

| # | BroadNet Inference |
| --- | --- |
| 1, 4 | Harga per token dipublikasikan di [pricing.json](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-choose-llm-api-provider-checklist&utm_content=body), disinkronkan 2026-11-14 |
| 3 | Paket tetap untuk [DeepSeek V4.1 Flash](https://broadrouter.com/id/models/deepseek-v4.1-flash/): $60 per bulan, $15 per minggu, atau $1 per jam per sesi |
| 5 | Bayar sesuai pemakaian: 30 permintaan per menit, 4 berjalan bersamaan; sesi paket menjalankan satu permintaan dalam satu waktu |
| 6 | Paket: tanpa meteran token, tanpa jendela bergulir, tanpa batas mingguan |
| 7 | Hingga 1.048.576 token pada DeepSeek V4.1 Flash dan GLM 5.3; halaman paket menyatakan konteks tidak pernah dipangkas |
| 8 | Kompatibel dengan OpenAI di `https://inference.broadnet.ai/v1` |
| 11, 12 | Prompt dan output tidak disimpan; tidak dipakai untuk melatih, fine-tune, atau mengevaluasi model |
| 13 | IP allow-list hingga 32 entri; daftar subprosesor atas permintaan; minta DPA |
| 14 | Empat model chat plus dua model speech-to-text |
| 19 | Pernyataan privasi BroadNet menyebutkan model miliknya dan model open-weight yang di-host berjalan di perangkat keras milik atau sewaan BroadNet di AS, dengan kapasitas mitra sebagai cadangan; model yang disajikan mitra seperti DeepSeek V4.1 Flash berjalan di mitra inference AS dengan ketentuan ZDR |

Yang tidak kami temukan di dokumentasi atau halaman paket BroadNet (dicek 14 November 2026): SLA, halaman status, atau kebijakan penghentian model. Mintalah jika itu penting bagi Anda, dan siapkan penyedia kedua untuk alur kritis. Katalognya juga lebih kecil daripada agregator: jika Anda membutuhkan model GPT, Claude, atau Gemini, BroadNet bukan penyedia untuk trafik itu. Kredit awal $5 cukup untuk langkah 3 rencana uji pada beban kerja ringan, tetapi di antara model chat yang ditanggungnya hanya untuk Gemma 4 VL 26B (kredit ini juga menanggung dua model Transcribe); model chat lainnya memerlukan top up.

Alat gratis untuk topik ini (bahasa Inggris)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[Alat gratis (bahasa Inggris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Rate limit (batas laju)](https://broadrouter.com/id/glossary/rate-limit/)

Rate limit adalah batas yang diterapkan API pada seberapa banyak client boleh memakainya dalam rentang waktu tertentu, misalnya permintaan per menit atau token per menit. Permintaan yang melebihi batas ditolak, biasanya dengan HTTP 429 Too Many Requests, sampai pemakaian kembali di bawah batas.

[Token](https://broadrouter.com/id/glossary/token/)

Token adalah satuan teks yang dibaca dan ditulis model bahasa: sebuah kata, bagian kata, tanda baca, atau urutan byte yang dihasilkan tokenizer model. API LLM menghitung, membatasi, dan biasanya menagih pemakaian dalam token.

[Konkurensi (concurrency)](https://broadrouter.com/id/glossary/concurrency/)

Konkurensi (concurrency) adalah jumlah permintaan yang sedang berjalan dari sebuah client pada saat yang sama. API LLM sering membatasinya per kunci atau per paket, terpisah dari batas permintaan per menit, karena setiap permintaan yang terbuka menahan kapasitas GPU sampai responsnya selesai.

[Model open-weight (bobot terbuka)](https://broadrouter.com/id/glossary/open-weight-model/)

Model open-weight adalah model machine learning yang bobot hasil pelatihannya dipublikasikan agar bisa diunduh dan dijalankan siapa saja, biasanya di bawah lisensi dengan syarat tertentu. Model ini berbeda dari AI yang sepenuhnya open source, yang juga merilis kode pelatihan dan informasi rinci tentang data pelatihan agar orang lain bisa mempelajari dan mereproduksinya.

[Base URL](https://broadrouter.com/id/glossary/base-url/)

Base URL adalah alamat root tetap sebuah API, seperti https://api.example.com/v1, yang ditempatkan client di depan setiap path endpoint, seperti /chat/completions. Di SDK yang kompatibel dengan OpenAI, mengganti base URL bersama kunci API dan ID model akan mengarahkan kode yang sama ke penyedia lain.

[Tool calling (function calling)](https://broadrouter.com/id/glossary/tool-calling/)

Tool calling, disebut juga function calling, adalah fitur API LLM di mana model mengembalikan permintaan terstruktur untuk menjalankan fungsi yang didefinisikan developer, lengkap dengan argumen JSON. Aplikasi yang menjalankan fungsi itu dan mengirim hasilnya kembali; model tidak pernah menjalankan kode sendiri.

[Bayar sesuai pemakaian (pay-as-you-go)](https://broadrouter.com/id/glossary/pay-as-you-go/)

Bayar sesuai pemakaian (pay-as-you-go) adalah model harga di mana Anda hanya membayar yang Anda pakai, dihitung per satuan seperti token, permintaan, atau menit audio, tanpa langganan atau komitmen minimum. Sebagian besar API LLM menagih dengan cara ini, dari saldo prabayar atau tagihan berkala.

[Token input cache (cached input tokens)](https://broadrouter.com/id/glossary/cached-input-tokens/)

Token input cache adalah token prompt yang baru saja diproses penyedia LLM dan bisa dipakai ulang dari cache alih-alih dihitung lagi, biasanya prefiks berulang seperti system prompt atau dokumen. Penyedia menagihnya dengan tarif lebih rendah daripada token input baru.

## Pertanyaan umum

### Apa yang perlu diperhatikan saat memilih penyedia API LLM?

Total biaya untuk beban kerja Anda, rate limit dan batas konkurensi, kompatibilitas OpenAI, ketentuan retensi data dan pelatihan, model serta ukuran konteks yang Anda butuhkan, serta dukungan dan keandalan. Beri nilai masing-masing, lalu uji dengan trafik nyata.

### Apakah API LLM termurah pilihan terbaik?

Tidak selalu. Harga input cache, token penalaran, retry akibat rate limit, dan waktu engineering untuk mengakali fitur yang tidak ada bisa melebihi selisih harga daftar yang lebih rendah. Bandingkan tagihan bulanan untuk beban kerja nyata Anda.

### Bagaimana menghindari vendor lock-in pada API LLM?

Pakai API yang kompatibel dengan OpenAI lewat SDK standar, simpan ID model dan base URL di konfigurasi, hindari fitur khusus satu penyedia di alur inti Anda, dan siapkan penyedia kedua yang sudah diuji.

### Berapa lama sebaiknya menguji API LLM sebelum berkomitmen?

Sekitar satu minggu trafik nyata sudah cukup untuk melihat pemakaian token, cache hit rate, latensi, tingkat error, dan perilaku rate limit. Kalikan satu minggu dengan sekitar 4,3 untuk memperkirakan sebulan.

### Uptime seperti apa yang sebaiknya ditawarkan penyedia API LLM?

Minta halaman status yang dipublikasikan, riwayat insiden, dan untuk pemakaian produksi, SLA tertulis. Jika penyedia tidak punya semua itu, siapkan penyedia fallback untuk alur kritis Anda.

## Baca juga

-   [Base URL API kompatibel OpenAI: 14 penyedia, sudah dicek](https://broadrouter.com/id/blog/openai-compatible-api-base-urls/)
-   [Cara mengevaluasi LLM sebelum berpindah penyedia](https://broadrouter.com/id/blog/evaluate-llm-before-switching/)
-   [Pindah ke API kompatibel OpenAI: checklist migrasi](https://broadrouter.com/id/blog/openai-compatible-api-migration-checklist/)
-   [Apa arti "unlimited" yang sebenarnya di paket API LLM](https://broadrouter.com/id/blog/what-unlimited-llm-api-really-means/)
-   [GDPR dan API LLM: 15 pertanyaan untuk penyedia Anda](https://broadrouter.com/id/blog/gdpr-llm-api-checklist/)
-   [Model AI open-weight vs tertutup untuk bisnis: biaya, kontrol, risiko](https://broadrouter.com/id/blog/open-weight-vs-closed-models/)
-   [Keamanan kunci API LLM: penyimpanan, rotasi, dan IP allow-list](https://broadrouter.com/id/blog/llm-api-key-security/)
-   [Alternatif Artificial Analysis: tempat membandingkan LLM di 2026](https://broadrouter.com/id/blog/artificial-analysis-alternatives/)
-   [Perbandingan SLA API LLM: janji Azure, Bedrock, Google, dan OpenAI](https://broadrouter.com/id/blog/llm-api-sla-uptime-compared/)
-   [Panduan: Kode error BroadNet Inference dan kapan harus mencoba ulang](https://broadrouter.com/id/guides/errors-and-retries/)
-   [Panduan: Batasi kunci API ke server Anda dengan IP allow-list](https://broadrouter.com/id/guides/api-keys-ip-allow-lists/)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-choose-llm-api-provider-checklist&utm_content=page-cta) ·

**Sumber**

-   [Referensi API BroadNet Inference: batas, error, data (diakses 2026-11-14) (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-choose-llm-api-provider-checklist&utm_content=sources)
-   [Harga BroadNet Inference yang dapat dibaca mesin, pricing.json (diakses 2026-11-14) (bahasa Inggris)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-choose-llm-api-provider-checklist&utm_content=sources)
-   [Paket BroadNet Inference (diakses 2026-11-14) (bahasa Inggris)](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-choose-llm-api-provider-checklist&utm_content=sources)
-   [Pernyataan privasi BroadNet Inference (berlaku September 2026; diakses 2026-11-14) (bahasa Inggris)](https://www.broadnet.ai/inference-privacy)
-   [Referensi API OpenAI, chat completions, acuan kompatibilitas (diakses 2026-11-14)](https://developers.openai.com/api/reference/resources/chat)
