---
title: "Setup base_url kustom kompatibel OpenAI di CrewAI | BroadRouter"
description: "Arahkan agen CrewAI ke BroadNet Inference dengan LLM(custom_openai=True, base_url=...), lalu pilih model untuk tools, konteks panjang, dan paket harga tetap."
url: https://broadrouter.com/id/guides/crewai-custom-openai-endpoint/
lang: id
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/guides/crewai-custom-openai-endpoint/) (diperbarui 2026-11-16).

# CrewAI dengan BroadNet Inference sebagai endpoint OpenAI kustom

Diperbarui 2026-11-16

Buat model dengan kelas LLM dari crewai: isi model dengan ID BroadNet seperti broadnet/glm-5.3, custom\_openai=True, base\_url https://inference.broadnet.ai/v1, dan api\_key berisi kunci BroadNet Anda. Lalu berikan LLM itu ke setiap Agent. CrewAI memakai klien OpenAI native dan chat completions, jadi tidak perlu menginstal LiteLLM.

CrewAI adalah framework Python untuk tim agen. Dokumentasinya menunjukkan pola **endpoint kustom yang kompatibel dengan OpenAI**: sebuah `LLM` dengan `custom_openai=True` dan `base_url`. BroadNet Inference melayani chat completions standar di `https://inference.broadnet.ai/v1`, jadi bisa langsung dipasang di situ. BroadRouter adalah situs milik BroadNet sendiri; panduan ini mengikuti dokumentasi dan kode sumber CrewAI versi 1.15.41.

## Instalasi

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## Menghubungkan

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

Jika `llm.call` mencetak jawaban, berarti kunci, URL, dan ID model sudah benar.

## Cara CrewAI meneruskan permintaan

Kode sumber CrewAI menetapkan urutan: `custom_openai=True` diperiksa paling awal dan memaksa provider OpenAI native, mengalahkan apa pun yang tersirat dari nama model. Opsi ini juga memunculkan error kecuali endpoint kustom diatur lewat `base_url`, `api_base`, `OPENAI_BASE_URL`, atau `OPENAI_API_BASE`. String model dikirim apa adanya, jadi `broadnet/glm-5.3` sampai ke BroadNet tanpa diubah.

Tanpa `custom_openai`, nama seperti `broadnet/glm-5.3` akan dibaca sebagai provider `broadnet`, yang tidak dikenal CrewAI, lalu jatuh ke LiteLLM. Alternatif yang didokumentasikan adalah `model="openai/broadnet/glm-5.3"` dengan `base_url`: CrewAI membuang prefiks `openai/` dan mengirim sisanya.

Dua hal lagi dari kode dan dokumentasi CrewAI:

-   **Field batas token.** Jika Anda mengirim `max_tokens`, klien native mengirim `max_tokens` pada chat completions, yaitu field yang dijelaskan di referensi API BroadNet. Jika Anda mengirim `max_completion_tokens`, field itulah yang dikirim.
-   **Tetap di chat completions.** Dokumentasi CrewAI menunjukkan `api="responses"` untuk beralih ke Responses API. Jangan atur itu; BroadNet tidak mencantumkan API tersebut.

## Model mana untuk agen mana

| Agen | Model | Alasan |
| --- | --- | --- |
| Agen yang memakai tools | `broadnet/glm-5.3` | BroadNet mencantumkan tools dan output terstruktur; konteks 1M |
| Input gambar atau bahasa Arab, dengan tools | `broadnet/qwen3.8-27b` | Tools plus gambar; konteks 262K |
| Tugas membaca panjang, paket harga tetap | `broadnet/deepseek-v4.1-flash` | Paket unlimited; tools tidak dicantumkan oleh BroadNet |

Satu crew bisa mencampurnya: beri setiap `Agent` `LLM`\-nya sendiri.

## Pemecahan masalah

-   **401.** Kunci salah, kedaluwarsa, atau jatahnya habis. Jika Anda tidak mengisi `api_key`, CrewAI membaca `OPENAI_API_KEY`, yang mungkin berisi kunci OpenAI.
-   **“custom\_openai=True requires base\_url”.** Isi `base_url`, atau atur `OPENAI_BASE_URL`.
-   **Model tidak ditemukan.** Pastikan ID sama persis dengan milik BroadNet. Model berbayar memerlukan top up; kredit $5 hanya mencakup `broadnet/gemma-4-26b-a4b`.
-   **`EmptyLLMResponseError`.** CrewAI mencoba ulang jawaban kosong satu kali, lalu memunculkan error ini. Naikkan `max_tokens`. [Kenapa jawaban kembali kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).
-   **429 dengan beberapa agen.** Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan, sedangkan satu sesi paket menjalankan satu permintaan dalam satu waktu. Lihat [panduan error dan percobaan ulang](https://broadrouter.com/id/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Tool calling (function calling)](https://broadrouter.com/id/glossary/tool-calling/)

Tool calling, disebut juga function calling, adalah fitur API LLM di mana model mengembalikan permintaan terstruktur untuk menjalankan fungsi yang didefinisikan developer, lengkap dengan argumen JSON. Aplikasi yang menjalankan fungsi itu dan mengirim hasilnya kembali; model tidak pernah menjalankan kode sendiri.

[Bayar sesuai pemakaian (pay-as-you-go)](https://broadrouter.com/id/glossary/pay-as-you-go/)

Bayar sesuai pemakaian (pay-as-you-go) adalah model harga di mana Anda hanya membayar yang Anda pakai, dihitung per satuan seperti token, permintaan, atau menit audio, tanpa langganan atau komitmen minimum. Sebagian besar API LLM menagih dengan cara ini, dari saldo prabayar atau tagihan berkala.

[Chat Completions API](https://broadrouter.com/id/glossary/chat-completions-api/)

Chat Completions API adalah endpoint HTTP milik OpenAI, POST /v1/chat/completions, yang menerima nama model dan daftar pesan bertanda peran lalu mengembalikan pesan berikutnya dari model. Bentuk request dan response-nya menjadi format umum yang dipakai ulang oleh penyedia dan SDK yang kompatibel dengan OpenAI.

[Konkurensi (concurrency)](https://broadrouter.com/id/glossary/concurrency/)

Konkurensi (concurrency) adalah jumlah permintaan yang sedang berjalan dari sebuah client pada saat yang sama. API LLM sering membatasinya per kunci atau per paket, terpisah dari batas permintaan per menit, karena setiap permintaan yang terbuka menahan kapasitas GPU sampai responsnya selesai.

[Rate limit (batas laju)](https://broadrouter.com/id/glossary/rate-limit/)

Rate limit adalah batas yang diterapkan API pada seberapa banyak client boleh memakainya dalam rentang waktu tertentu, misalnya permintaan per menit atau token per menit. Permintaan yang melebihi batas ditolak, biasanya dengan HTTP 429 Too Many Requests, sampai pemakaian kembali di bawah batas.

[API kompatibel OpenAI](https://broadrouter.com/id/glossary/openai-compatible-api/)

API kompatibel OpenAI adalah API HTTP yang menerima format permintaan dan respons yang sama dengan API OpenAI, seperti POST /v1/chat/completions, sehingga SDK dan tool OpenAI bisa memakainya hanya dengan mengganti base URL, kunci API, dan nama model.

[Base URL](https://broadrouter.com/id/glossary/base-url/)

Base URL adalah alamat root tetap sebuah API, seperti https://api.example.com/v1, yang ditempatkan client di depan setiap path endpoint, seperti /chat/completions. Di SDK yang kompatibel dengan OpenAI, mengganti base URL bersama kunci API dan ID model akan mengarahkan kode yang sama ke penyedia lain.

[Context window (jendela konteks)](https://broadrouter.com/id/glossary/context-window/)

Context window adalah jumlah token maksimum yang bisa diolah model bahasa dalam satu permintaan. Cakupannya meliputi prompt, riwayat percakapan, definisi tool, gambar, dan output yang dihasilkan, termasuk token penalaran. Apa pun yang tidak muat harus dipotong, diringkas, atau dibagi ke beberapa permintaan.

## Pertanyaan umum

### Apa fungsi custom\_openai=True di CrewAI?

Menurut kode sumber CrewAI, opsi ini memaksa provider OpenAI native apa pun bentuk nama modelnya, dan mewajibkan base\_url, api\_base, OPENAI\_BASE\_URL, atau OPENAI\_API\_BASE. String model dikirim apa adanya, jadi broadnet/glm-5.3 sampai ke BroadNet tanpa diubah.

### Bisakah saya menulis model="openai/broadnet/glm-5.3" saja?

Bisa. Dengan base\_url kustom, CrewAI mengarahkan prefiks openai/ ke klien OpenAI native-nya dan membuang prefiks itu, sehingga BroadNet menerima broadnet/glm-5.3. Namun custom\_openai=True adalah bentuk yang lebih jelas.

### Kenapa crew saya gagal dengan EmptyLLMResponseError?

CrewAI mencoba ulang satu kali jawaban kosong, yaitu jawaban tanpa konten dan tanpa tool call, lalu memunculkan error ini jika hasil percobaan ulang juga kosong. Pada model penalaran BroadNet, ini biasanya berarti penalaran menghabiskan anggaran output. Naikkan max\_tokens.

### Model BroadNet mana yang sebaiknya dipakai agen CrewAI?

GLM 5.3 untuk agen yang memakai tools, karena BroadNet mencantumkan tools dan output terstruktur untuknya. Qwen3.8 27B juga mendukung tools dan menerima gambar.

## Panduan terkait

-   [Pydantic AI dengan BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/id/guides/pydantic-ai-openai-compatible/)
-   [Memakai OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/id/guides/openai-python-sdk/)
-   [Kenapa model reasoning mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/)
-   [Kode error BroadNet Inference dan kapan harus mencoba ulang](https://broadrouter.com/id/guides/errors-and-retries/)
-   [Semua alat yang bisa dipakai dengan BroadNet Inference (bahasa Inggris)](https://broadrouter.com/integrations/): SDK, agen coding, antarmuka chat, dan alat otomatisasi, lengkap dengan pengaturan persis untuk masing-masing

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi CrewAI, LLM (OpenAI, endpoint kustom kompatibel OpenAI) (diperiksa 2026-11-15)](https://docs.crewai.com/en/concepts/llms)
-   [Kode sumber CrewAI, routing LLM untuk custom\_openai (llm.py) (diperiksa 2026-11-15)](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI, crewai 1.15.41, Python 3.10 sampai 3.13 (diperiksa 2026-11-15)](https://pypi.org/project/crewai/)
-   [Referensi API BroadNet Inference (diperiksa 2026-11-15) (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-crewai-custom-openai-endpoint&utm_content=sources)
