---
title: "Persediaan base_url serasi OpenAI tersuai CrewAI | BroadRouter"
description: "Halakan ejen CrewAI ke BroadNet Inference dengan LLM(custom_openai=True, base_url=...), kemudian pilih model untuk tools, konteks panjang dan pelan kadar tetap."
url: https://broadrouter.com/ms/guides/crewai-custom-openai-endpoint/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/guides/crewai-custom-openai-endpoint/) (dikemas kini 2026-11-16).

# Guna CrewAI dengan BroadNet Inference sebagai endpoint OpenAI tersuai

Dikemas kini 2026-11-16

Cipta model dengan kelas LLM crewai: model ditetapkan kepada ID BroadNet seperti broadnet/glm-5.3, custom\_openai=True, base\_url kepada https://inference.broadnet.ai/v1 dan api\_key kepada kunci BroadNet anda. Kemudian berikan LLM itu kepada setiap Agent. CrewAI menggunakan klien OpenAI aslinya dan chat completions, jadi LiteLLM tidak perlu dipasang.

CrewAI ialah rangka kerja Python untuk pasukan ejen. Dokumentasinya menunjukkan corak **endpoint serasi OpenAI tersuai**: `LLM` dengan `custom_openai=True` dan `base_url`. BroadNet Inference menyediakan chat completions yang standard di `https://inference.broadnet.ai/v1`, jadi ia boleh dipasang di situ. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi dan kod sumber CrewAI setakat versi 1.15.41.

## Pasang

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## Sambung

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

Jika `llm.call` mencetak jawapan, kunci, URL dan ID model anda betul.

## Cara CrewAI menghalakan permintaan

Kod sumber CrewAI menetapkan susunan: `custom_openai=True` didahulukan dan memaksa penyedia OpenAI asli, mengatasi apa sahaja yang dibayangkan oleh nama model. Ia juga menimbulkan ralat melainkan endpoint tersuai ditetapkan melalui `base_url`, `api_base`, `OPENAI_BASE_URL` atau `OPENAI_API_BASE`. Rentetan model dihantar seperti yang ditulis, jadi `broadnet/glm-5.3` sampai ke BroadNet tanpa diubah.

Tanpa `custom_openai`, nama seperti `broadnet/glm-5.3` akan dibaca sebagai penyedia `broadnet`, yang tidak dikenali oleh CrewAI, lalu jatuh kembali kepada LiteLLM. Alternatif yang didokumenkan ialah `model="openai/broadnet/glm-5.3"` dengan `base_url`: CrewAI membuang awalan `openai/` dan menghantar selebihnya.

Dua perkara lagi daripada kod dan dokumentasi CrewAI:

-   **Medan had token.** Apabila anda menghantar `max_tokens`, klien asli menghantar `max_tokens` pada chat completions, iaitu medan yang diterangkan dalam rujukan API BroadNet. Jika anda menghantar `max_completion_tokens`, medan itu yang dihantar.
-   **Kekal pada chat completions.** Dokumentasi CrewAI menunjukkan `api="responses"` untuk bertukar ke Responses API. Jangan tetapkannya; BroadNet tidak menyenaraikan API itu.

## Model mana untuk ejen mana

| Ejen | Model | Sebab |
| --- | --- | --- |
| Ejen dengan tools | `broadnet/glm-5.3` | BroadNet menyenaraikan tools dan output berstruktur; konteks 1M |
| Input imej atau bahasa Arab, dengan tools | `broadnet/qwen3.8-27b` | Tools serta imej; konteks 262K |
| Tugas membaca yang panjang, pelan kadar tetap | `broadnet/deepseek-v4.1-flash` | Pelan tanpa had; tools tidak disenaraikan oleh BroadNet |

Satu crew boleh mencampurkannya: beri setiap `Agent` `LLM` tersendiri.

## Penyelesaian masalah

-   **401.** Kunci salah, tamat tempoh atau kehabisan elaun. Jika anda tidak menghantar `api_key`, CrewAI membaca `OPENAI_API_KEY`, yang mungkin menyimpan kunci OpenAI.
-   **“custom\_openai=True requires base\_url”.** Hantar `base_url`, atau tetapkan `OPENAI_BASE_URL`.
-   **Model tidak dijumpai.** Pastikan ID sepadan tepat dengan ID BroadNet. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi `broadnet/gemma-4-26b-a4b` dan dua model Transcribe.
-   **`EmptyLLMResponseError`.** CrewAI mencuba semula jawapan kosong sekali, kemudian menimbulkan ralat ini. Naikkan `max_tokens`. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **429 dengan beberapa ejen.** Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak, dan satu sesi pelan menjalankan satu permintaan pada satu masa. Lihat [ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Base URL (URL asas)](https://broadrouter.com/ms/glossary/base-url/)

Base URL ialah alamat akar tetap sesuatu API, seperti https://api.example.com/v1, yang diletakkan oleh klien di hadapan setiap laluan endpoint, seperti /chat/completions. Dalam SDK serasi OpenAI, menukar base URL, bersama kunci API dan ID model, menghalakan kod yang sama kepada penyedia lain.

[Had kadar (rate limit)](https://broadrouter.com/ms/glossary/rate-limit/)

Had kadar ialah had yang ditetapkan oleh API ke atas jumlah penggunaan klien dalam satu tempoh masa, seperti permintaan seminit atau token seminit. Permintaan yang melebihi had ditolak, biasanya dengan HTTP 429 Too Many Requests, sehingga penggunaan turun semula di bawahnya.

[Kredit prabayar (prepaid credit)](https://broadrouter.com/ms/glossary/prepaid-credit/)

Kredit prabayar ialah wang yang ditambah ke akaun API sebelum digunakan. Setiap permintaan menolak kosnya daripada baki, dan apabila baki habis, permintaan bermeter berhenti sehingga anda menambah nilai. Ia mengehadkan perbelanjaan kepada jumlah yang telah anda bayar.

## Soalan lazim

### Apakah fungsi custom\_openai=True dalam CrewAI?

Kod sumber CrewAI menyatakan ia memaksa penyedia OpenAI asli tanpa mengira rupa nama model, dan ia memerlukan base\_url, api\_base, OPENAI\_BASE\_URL atau OPENAI\_API\_BASE. Rentetan model dihantar seperti yang ditulis, jadi broadnet/glm-5.3 sampai ke BroadNet tanpa diubah.

### Bolehkah saya menulis model="openai/broadnet/glm-5.3" sebaliknya?

Boleh. Dengan base\_url tersuai, CrewAI menghalakan awalan openai/ ke klien OpenAI aslinya dan membuang awalan itu, jadi BroadNet menerima broadnet/glm-5.3. custom\_openai=True ialah bentuk yang lebih jelas.

### Mengapakah crew saya gagal dengan EmptyLLMResponseError?

CrewAI mencuba semula jawapan kosong, iaitu jawapan tanpa kandungan dan tanpa panggilan alatan, sekali, dan menimbulkan ralat ini jika cubaan semula itu juga kosong. Pada model penaakulan BroadNet, ini biasanya bermakna penaakulan telah menghabiskan bajet output. Naikkan max\_tokens.

### Model BroadNet manakah yang patut digunakan oleh ejen CrewAI?

GLM 5.3 untuk ejen dengan tools, kerana BroadNet menyenaraikan tools dan output berstruktur untuknya. Qwen3.8 27B juga mempunyai tools dan menerima imej.

## Panduan berkaitan

-   [Guna Pydantic AI dengan BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/ms/guides/pydantic-ai-openai-compatible/)
-   [Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/)
-   [Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Kod ralat BroadNet Inference dan bila perlu cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/)
-   [Semua alat yang berfungsi dengan BroadNet Inference (Bahasa Inggeris)](https://broadrouter.com/integrations/): SDK, ejen pengekodan, antara muka sembang dan alat automasi, dengan tetapan tepat bagi setiap satu

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi CrewAI, LLMs (OpenAI, endpoint serasi OpenAI tersuai) (disemak 2026-11-15)](https://docs.crewai.com/en/concepts/llms)
-   [Kod sumber CrewAI, penghalaan LLM untuk custom\_openai (llm.py) (disemak 2026-11-15)](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI, crewai 1.15.41, Python 3.10 hingga 3.13 (disemak 2026-11-15)](https://pypi.org/project/crewai/)
-   [Rujukan API BroadNet Inference (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-crewai-custom-openai-endpoint&utm_content=sources)
