---
title: "Setup ng CrewAI custom OpenAI-compatible na base_url"
description: "Ituro ang CrewAI agents sa BroadNet Inference gamit ang LLM(custom_openai=True, base_url=...), saka pumili ng model para sa tools, mahabang context at flat na plan."
url: https://broadrouter.com/fil/guides/crewai-custom-openai-endpoint/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/guides/crewai-custom-openai-endpoint/) (na-update noong 2026-11-16).

# CrewAI sa BroadNet Inference bilang custom na OpenAI endpoint

Na-update 2026-11-16

Gawin ang model gamit ang LLM class ng crewai: model na isang BroadNet ID gaya ng broadnet/glm-5.3, custom\_openai=True, base\_url na https://inference.broadnet.ai/v1 at api\_key na BroadNet key mo. Pagkatapos, ibigay ang LLM na iyon sa bawat Agent. Native na OpenAI client at chat completions ang gamit ng CrewAI, kaya hindi kailangang mag-install ng LiteLLM.

Ang CrewAI ay Python framework para sa mga team ng agent. Ipinapakita ng docs nito ang pattern ng **custom na OpenAI-compatible endpoint**: isang `LLM` na may `custom_openai=True` at `base_url`. Karaniwang chat completions ang sine-serve ng BroadNet Inference sa `https://inference.broadnet.ai/v1`, kaya doon ito isinasaksak. Sariling site ng BroadNet ang BroadRouter; sinusundan nito ang docs at source code ng CrewAI sa bersyon 1.15.41.

## I-install

```bash
pip install crewai
export BROADNET_API_KEY='your-broadnet-key'
```

## Ikonekta

```python
import os
from crewai import LLM, Agent

llm = LLM(
    model="broadnet/glm-5.3",
    custom_openai=True,
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,  # reasoning counts toward this limit
)

# Quick test: one call straight to the model
print(llm.call("Say hello in five words."))

analyst = Agent(
    role="Analyst",
    goal="Summarize incidents",
    backstory="You write short incident summaries.",
    llm=llm,
)
print(analyst.kickoff("Summarize: the API returned 503 for four minutes after a deploy."))
```

Kung may sagot na lumabas sa `llm.call`, tama ang key, URL at model ID.

## Paano dinadala ng CrewAI ang request

May itinakdang pagkakasunod-sunod ang source code ng CrewAI: nauuna ang `custom_openai=True` at pinipilit nito ang native na OpenAI provider, anuman ang ipahiwatig ng pangalan ng model. Nag-e-error din ito maliban kung may custom na endpoint na naka-set sa pamamagitan ng `base_url`, `api_base`, `OPENAI_BASE_URL` o `OPENAI_API_BASE`. Ipinapadala ang model string nang eksakto kung paano isinulat, kaya hindi nababago ang `broadnet/glm-5.3` pagdating sa BroadNet.

Kung walang `custom_openai`, babasahin ang pangalang gaya ng `broadnet/glm-5.3` bilang provider na `broadnet`, na hindi kilala ng CrewAI, kaya babagsak ito sa LiteLLM. Ang dokumentadong alternatibo ay `model="openai/broadnet/glm-5.3"` na may `base_url`: tinatanggal ng CrewAI ang `openai/` prefix at ipinapadala ang natitira.

Dalawa pang bagay mula sa code at docs ng CrewAI:

-   **Field ng token limit.** Kapag nagpasa ka ng `max_tokens`, `max_tokens` ang ipinapadala ng native client sa chat completions, ang field na inilalarawan ng API reference ng BroadNet. Kung `max_completion_tokens` ang ipapasa mo, iyon ang ipapadala.
-   **Manatili sa chat completions.** Ipinapakita ng docs ng CrewAI ang `api="responses"` para lumipat sa Responses API. Huwag itong i-set; hindi nakalista ang API na iyon sa BroadNet.

## Aling model para sa aling agent

| Agent | Model | Bakit |
| --- | --- | --- |
| Mga agent na may tools | `broadnet/glm-5.3` | Nakalista sa BroadNet ang tools at structured output; 1M context |
| Input na larawan o Arabic, may tools | `broadnet/qwen3.8-27b` | Tools at mga larawan; 262K context |
| Mahahabang reading task, flat-rate na plan | `broadnet/deepseek-v4.1-flash` | Mga unlimited na plan; walang tools na nakalista sa BroadNet |

Puwedeng paghaluin ng isang crew ang mga ito: bigyan ang bawat `Agent` ng sarili nitong `LLM`.

## Troubleshooting

-   **401.** Mali, expired o ubos na ang allowance ng key. Kung hindi mo isinama ang `api_key`, `OPENAI_API_KEY` ang binasa ng CrewAI, na baka OpenAI key ang laman.
-   **“custom\_openai=True requires base\_url”.** Ipasa ang `base_url`, o i-set ang `OPENAI_BASE_URL`.
-   **Model not found.** Tiyaking eksaktong tugma ang ID sa ID ng BroadNet. Kailangan ng top-up para sa mga bayad na model; ang `broadnet/gemma-4-26b-a4b` at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
-   **`EmptyLLMResponseError`.** Isang beses nire-retry ng CrewAI ang walang lamang sagot, saka nito itinataas ito. Taasan ang `max_tokens`. [Bakit walang laman ang mga sagot](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/).
-   **429 kapag maraming agent.** Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay na tumatakbo, at isang request lang sa isang pagkakataon ang pinapatakbo ng plan session. Tingnan ang [errors and retries](https://broadrouter.com/fil/guides/errors-and-retries/).

## Mga termino sa gabay na ito

[AI agent](https://broadrouter.com/fil/glossary/agent/)

Ang AI agent ay isang system kung saan ang language model mismo ang nagdidirekta ng mga hakbang nito tungo sa isang layunin: pinipili nito kung aling tools ang tatawagin, binabasa ang mga resulta at umuulit hanggang makabuo ng huling sagot o maabot ang limit. Workflow naman ang karaniwang tawag sa fixed na script na tumatawag sa model sa takdang punto.

[Tool calling (function calling)](https://broadrouter.com/fil/glossary/tool-calling/)

Ang tool calling, tinatawag ding function calling, ay feature ng LLM API kung saan nagbabalik ang model ng structured na request para magpatakbo ng function na tinukoy ng developer, kasama ang JSON arguments. Ang application ang nagpapatakbo ng function at nagpapadala pabalik ng resulta; hindi kailanman nagpapatakbo ng code ang model mismo.

[API key](https://broadrouter.com/fil/glossary/api-key/)

Ang API key ay isang lihim na string na kumikilala at nagpapahintulot sa client na tumatawag sa isang API. Kadalasang hinihingi ito ng mga LLM API sa Authorization: Bearer header, at ang sinumang may hawak ng key ay makakagawa ng mga request na sisingilin sa account na may-ari nito.

[Chat Completions API](https://broadrouter.com/fil/glossary/chat-completions-api/)

Ang Chat Completions API ay HTTP endpoint ng OpenAI, POST /v1/chat/completions, na tumatanggap ng pangalan ng model at listahan ng mga message na may role, at ibinabalik ang susunod na message ng model. Ang hugis ng request at response nito ang naging karaniwang format na ginagamit din ng mga OpenAI-compatible na provider at SDK.

[Context window](https://broadrouter.com/fil/glossary/context-window/)

Ang context window ay ang pinakamaraming token na kayang hawakan ng isang language model sa iisang request. Sakop nito ang prompt, history ng usapan, tool definitions, mga larawan at ang nabuong output, kasama ang anumang reasoning tokens. Ang hindi kasya ay kailangang bawasan, ibuod o hatiin sa ilang request.

[Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/)

Ang pay-as-you-go ay paraan ng pagpepresyo kung saan ang nagamit mo lang ang binabayaran mo, sinusukat kada yunit gaya ng token, request o minuto ng audio, nang walang subscription o minimum na commitment. Ganito naniningil ang karamihan ng LLM API, mula sa prepaid na balance o sa pana-panahong invoice.

[Base URL](https://broadrouter.com/fil/glossary/base-url/)

Ang base URL ay ang fixed na root address ng isang API, gaya ng https://api.example.com/v1, na idinudugtong ng client sa unahan ng bawat endpoint path, gaya ng /chat/completions. Sa mga OpenAI-compatible SDK, kapag pinalitan ang base URL, kasama ang API key at model ID, sa ibang provider na tatawag ang parehong code.

[Concurrency](https://broadrouter.com/fil/glossary/concurrency/)

Ang concurrency ay ang bilang ng request na sabay-sabay na in flight mula sa isang client. Madalas itong nililimitahan ng mga LLM API kada key o plan, hiwalay sa requests per minute, dahil humahawak ng GPU capacity ang bawat bukas na request hanggang matapos ang response nito.

## Mga tanong

### Ano ang ginagawa ng custom\_openai=True sa CrewAI?

Ayon sa source code ng CrewAI, pinipilit nito ang native na OpenAI provider anuman ang itsura ng pangalan ng model, at kailangan nito ng base\_url, api\_base, OPENAI\_BASE\_URL o OPENAI\_API\_BASE. Ipinapadala ang model string nang eksakto kung paano isinulat, kaya hindi nababago ang broadnet/glm-5.3 pagdating sa BroadNet.

### Puwede ko bang isulat na lang ang model="openai/broadnet/glm-5.3"?

Oo. Kapag may custom na base\_url, dinadala ng CrewAI ang openai/ prefix sa native na OpenAI client nito at tinatanggal ang prefix, kaya broadnet/glm-5.3 ang matatanggap ng BroadNet. Mas malinaw na anyo ang custom\_openai=True.

### Bakit pumapalya ang crew ko nang may EmptyLLMResponseError?

Isang beses nire-retry ng CrewAI ang walang lamang sagot, ibig sabihin ay walang content at walang tool calls, at itinataas nito ang error na ito kung wala ring laman ang retry. Sa mga reasoning model ng BroadNet, kadalasang ibig sabihin nito ay naubos ng reasoning ang output budget. Taasan ang max\_tokens.

### Aling model ng BroadNet ang dapat gamitin ng mga CrewAI agent?

GLM 5.3 para sa mga agent na may tools, dahil nakalista sa BroadNet ang tools at structured output para dito. May tools din ang Qwen3.8 27B at tumatanggap ito ng larawan.

## Mga kaugnay na gabay

-   [Pydantic AI sa BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/fil/guides/pydantic-ai-openai-compatible/)
-   [Paano gamitin ang OpenAI Python SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-python-sdk/)
-   [Bakit walang laman ang sagot ng isang reasoning model](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/)
-   [Mga error code ng BroadNet Inference at kailan dapat mag-retry](https://broadrouter.com/fil/guides/errors-and-retries/)
-   [Lahat ng tool na gumagana sa BroadNet Inference (Ingles)](https://broadrouter.com/integrations/): mga SDK, coding agent, chat UI at automation tool, kasama ang eksaktong setting ng bawat isa

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-crewai-custom-openai-endpoint&utm_content=page-cta) ·

**Mga source**

-   [CrewAI docs, LLMs (OpenAI, custom na OpenAI-compatible endpoint) (sinuri noong 2026-11-15)](https://docs.crewai.com/en/concepts/llms)
-   [Source code ng CrewAI, LLM routing para sa custom\_openai (llm.py) (sinuri noong 2026-11-15)](https://github.com/crewAIInc/crewAI/blob/main/lib/crewai/src/crewai/llm.py)
-   [PyPI, crewai 1.15.41, Python 3.10 hanggang 3.13 (sinuri noong 2026-11-15)](https://pypi.org/project/crewai/)
-   [API reference ng BroadNet Inference (sinuri noong 2026-11-15) (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-crewai-custom-openai-endpoint&utm_content=sources)
