---
title: "promptfoo openai:chat provider na may custom apiBaseUrl"
description: "Magpatakbo ng promptfoo evals at side-by-side na model test sa BroadNet Inference gamit ang openai:chat provider, apiBaseUrl at apiKeyEnvar, pati mga grader."
url: https://broadrouter.com/fil/guides/promptfoo-openai-compatible/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/guides/promptfoo-openai-compatible/) (na-update noong 2026-11-16).

# I-evaluate ang mga BroadNet model gamit ang promptfoo

Na-update 2026-11-16

Sa promptfooconfig.yaml, magdagdag ng provider na may id na openai:chat:broadnet/glm-5.3 at config na nagse-set ng apiBaseUrl sa https://inference.broadnet.ai/v1 at apiKeyEnvar sa BROADNET\_API\_KEY. Gamitin ang openai:chat prefix para laging Chat Completions ang tawagin ng promptfoo, ang endpoint na sine-serve ng BroadNet. Ikaw na ang mag-set ng max\_tokens, dahil 1,024 token ang default na output limit ng promptfoo.

Ang promptfoo ay open-source na CLI para sa pag-test ng mga prompt, pagkumpara ng mga model at red-teaming ng mga LLM app. Gumagana ang OpenAI provider nito sa mga OpenAI-compatible gateway sa pamamagitan ng `apiBaseUrl`. Nagse-serve ang BroadNet Inference ng chat completions sa `https://inference.broadnet.ai/v1`, kaya puwede mong ikumpara ang mga model ng BroadNet sa isa’t isa, o sa mga model na gamit mo na, mula sa iisang YAML file. Sariling site ng BroadNet ang BroadRouter; sinusundan ng gabay na ito ang OpenAI provider docs ng promptfoo sa release 0.125.1.

## I-set up

```bash
npm install -g promptfoo     # or: npx promptfoo@latest
export BROADNET_API_KEY='your-broadnet-key'
```

## promptfooconfig.yaml

```yaml
description: BroadNet model comparison
prompts:
  - 'What is the capital of Saudi Arabia? Answer in one sentence.'
providers:
  - id: openai:chat:broadnet/glm-5.3
    label: GLM 5.3
    config:
      apiBaseUrl: https://inference.broadnet.ai/v1
      apiKeyEnvar: BROADNET_API_KEY
      max_tokens: 4000
  - id: openai:chat:broadnet/deepseek-v4.1-flash
    label: DeepSeek V4.1 Flash
    config:
      apiBaseUrl: https://inference.broadnet.ai/v1
      apiKeyEnvar: BROADNET_API_KEY
      omitDefaults: true
tests:
  - assert:
      - type: icontains
        value: Riyadh
```

Sa totoong config, karaniwang nasa `tests.vars` ang mga test input at tinutukoy sa prompt gamit ang double-brace template syntax ng promptfoo. Fixed ang isang ito para tumakbo ito nang eksakto kung paano isinulat.

Patakbuhin ito:

```bash
promptfoo eval
promptfoo view   # side-by-side results in the browser
```

## Ano ang ginagawa ng bawat setting

-   **`openai:chat:` kasama ang BroadNet ID.** Lahat ng nasa likod ng `openai:chat:` ay ang model ID na ipinapadala, kaya panatilihin ang `broadnet/` prefix. Ang tahasang `chat` na bahagi ang nagpi-pin sa Chat Completions endpoint; hindi sine-serve ng BroadNet ang Responses API.
-   **`apiBaseUrl`** ay ang base URL na may `/v1`, pero walang `/chat/completions`. Ang promptfoo na ang nagdadagdag ng path.
-   **`apiKeyEnvar`** ang nagpapangalan sa variable na may laman ng BroadNet key mo. Hindi babagsak ang promptfoo sa `OPENAI_API_KEY` kung wala ito.
-   **`max_tokens`**. Ang default ng promptfoo para sa mga non-reasoning request ay `temperature: 0` at 1,024-token na limit. Nagre-reason muna bago sumagot ang mga DeepSeek, GLM at Qwen model ng BroadNet, kaya puwedeng magresulta ang 1,024 sa walang lamang sagot. Mag-set ng mas mataas na limit, gaya ng sa unang provider.
-   **`omitDefaults: true`** ang nag-aalis ng default na temperature at limit ng promptfoo, gaya ng sa ikalawang provider. Wala nang output limit mula sa promptfoo ang request.

## Mga model-graded assertion

Hindi naaapply ang provider settings sa mga grader gaya ng `llm-rubric`. Para mag-grade gamit ang isang BroadNet model, idagdag itong muli para sa grader:

```yaml
defaultTest:
  options:
    provider:
      id: openai:chat:broadnet/glm-5.3
      config:
        apiBaseUrl: https://inference.broadnet.ai/v1
        apiKeyEnvar: BROADNET_API_KEY
        max_tokens: 4000
```

## Aling mga model ang ikukumpara

| Model | Bagay para sa |
| --- | --- |
| `broadnet/glm-5.3` | Mga test sa tool calling at structured output |
| `broadnet/qwen3.8-27b` | Mga test na may larawan, Arabic na teksto o tools |
| `broadnet/deepseek-v4.1-flash` | Mga test na mahaba ang context at sensitibo sa gastos |
| `broadnet/gemma-4-26b-a4b` | Libreng test gamit ang $5 na panimulang credit |

Sa GLM 5.3 at Qwen3.8 27B lang nakalista sa docs ng BroadNet ang tools at structured output. [Mga presyo ng bawat model](https://broadrouter.com/fil/pricing/).

## Paano namin ito sinubukan

Noong 2026-11-15, nag-install kami ng promptfoo 0.125.1 sa Node 24 at pinatakbo ang `promptfoo eval` sa isang config na tulad ng nasa itaas, nakaturo sa isang local na mock server na sumusunod sa chat-completions na anyo ng BroadNet. Pumasa ang mga test. Pumunta sa `/v1/chat/completions` ang mga na-log na request, na hindi nabago ang BroadNet model ID at may Bearer key. Nagpadala ang unang provider ng `max_tokens: 4000` at `temperature: 0`; ang provider na may `omitDefaults: true` ay model at messages lang ang ipinadala. Nang walang laman ang `BROADNET_API_KEY`, huminto ang promptfoo na may “Missing BROADNET\_API\_KEY”. Hindi namin sinubukan ang mga grader, at wala kaming BroadNet key, kaya hindi namin nasubukan ang totoong output ng model.

## Troubleshooting

-   **Walang laman o putol na output.** Taasan ang `max_tokens`. [Bakit walang laman ang mga sagot](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/).
-   **404.** Tiyaking nagtatapos sa `/v1` ang `apiBaseUrl` at may `broadnet/` prefix pa rin ang model ID pagkatapos ng `openai:chat:`. Kailangan ng top-up para sa mga bayad na model; `broadnet/gemma-4-26b-a4b` at ang dalawang Transcribe model lang ang sakop ng $5 na credit.
-   **429 sa malalaking eval.** Concurrency na 4 ang ginamit ng promptfoo sa eval namin. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay, kaya ibaba ito gamit ang `promptfoo eval -j 1` para sa malalaking test set. Tingnan ang [errors and retries](https://broadrouter.com/fil/guides/errors-and-retries/).

## Mga termino sa gabay na ito

[API key](https://broadrouter.com/fil/glossary/api-key/)

Ang API key ay isang lihim na string na kumikilala at nagpapahintulot sa client na tumatawag sa isang API. Kadalasang hinihingi ito ng mga LLM API sa Authorization: Bearer header, at ang sinumang may hawak ng key ay makakagawa ng mga request na sisingilin sa account na may-ari nito.

[Tool calling (function calling)](https://broadrouter.com/fil/glossary/tool-calling/)

Ang tool calling, tinatawag ding function calling, ay feature ng LLM API kung saan nagbabalik ang model ng structured na request para magpatakbo ng function na tinukoy ng developer, kasama ang JSON arguments. Ang application ang nagpapatakbo ng function at nagpapadala pabalik ng resulta; hindi kailanman nagpapatakbo ng code ang model mismo.

[Chat Completions API](https://broadrouter.com/fil/glossary/chat-completions-api/)

Ang Chat Completions API ay HTTP endpoint ng OpenAI, POST /v1/chat/completions, na tumatanggap ng pangalan ng model at listahan ng mga message na may role, at ibinabalik ang susunod na message ng model. Ang hugis ng request at response nito ang naging karaniwang format na ginagamit din ng mga OpenAI-compatible na provider at SDK.

[Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/)

Ang pay-as-you-go ay paraan ng pagpepresyo kung saan ang nagamit mo lang ang binabayaran mo, sinusukat kada yunit gaya ng token, request o minuto ng audio, nang walang subscription o minimum na commitment. Ganito naniningil ang karamihan ng LLM API, mula sa prepaid na balance o sa pana-panahong invoice.

[Concurrency](https://broadrouter.com/fil/glossary/concurrency/)

Ang concurrency ay ang bilang ng request na sabay-sabay na in flight mula sa isang client. Madalas itong nililimitahan ng mga LLM API kada key o plan, hiwalay sa requests per minute, dahil humahawak ng GPU capacity ang bawat bukas na request hanggang matapos ang response nito.

[Structured output](https://broadrouter.com/fil/glossary/structured-output/)

Ang structured output ay feature ng LLM API na naglilimita sa sagot ng model sa format na itinakda ng developer, kadalasang JSON Schema, para maaasahang ma-parse ito ng code. Mas mahigpit ito kaysa sa JSON mode, na gumagarantiya ng valid na JSON pero hindi ng partikular na hugis.

[Base URL](https://broadrouter.com/fil/glossary/base-url/)

Ang base URL ay ang fixed na root address ng isang API, gaya ng https://api.example.com/v1, na idinudugtong ng client sa unahan ng bawat endpoint path, gaya ng /chat/completions. Sa mga OpenAI-compatible SDK, kapag pinalitan ang base URL, kasama ang API key at model ID, sa ibang provider na tatawag ang parehong code.

[Context window](https://broadrouter.com/fil/glossary/context-window/)

Ang context window ay ang pinakamaraming token na kayang hawakan ng isang language model sa iisang request. Sakop nito ang prompt, history ng usapan, tool definitions, mga larawan at ang nabuong output, kasama ang anumang reasoning tokens. Ang hindi kasya ay kailangang bawasan, ibuod o hatiin sa ilang request.

## Mga tanong

### openai:chat ba o openai ang dapat kong gamiting provider prefix sa promptfoo?

openai:chat. Sa openai:chat:broadnet/glm-5.3, tinatawag ng promptfoo ang /v1/chat/completions, na siyang sine-serve ng BroadNet. Ayon sa docs ng promptfoo, babagsak din sa Chat Completions ang hindi kilalang pangalan ng model pagkatapos ng simpleng openai prefix, pero hindi umaasa sa patakarang iyon ang tahasang chat prefix.

### Bakit naputol ang mga sagot ng BroadNet sa promptfoo?

Nagse-set ang promptfoo ng 1,024-token na output limit bilang default para sa mga non-reasoning request, at ginagamit ng mga DeepSeek, GLM at Qwen model ng BroadNet ang bahagi ng output budget sa reasoning. I-set ang max\_tokens sa provider config, o i-set ang omitDefaults sa true.

### Babagsak ba ang apiKeyEnvar sa OPENAI\_API\_KEY?

Hindi. Ayon sa docs ng promptfoo, kung wala ang pinangalanang variable, hindi ito babagsak sa OPENAI\_API\_KEY. Sa test namin, huminto ito na may "Missing BROADNET\_API\_KEY".

### Puwede bang mag-grade ng llm-rubric assertions ang isang BroadNet model?

Oo, pero ayon sa docs ng promptfoo, hindi naaapply sa mga grader ang provider settings. Hiwalay na i-set ang grader sa ilalim ng defaultTest.options.provider na may parehong id at config.

## Mga kaugnay na gabay

-   [Paano gamitin ang curl sa BroadNet Inference: ang una mong request](https://broadrouter.com/fil/guides/curl-quickstart/)
-   [Paano gamitin ang OpenAI Node.js SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-node-sdk/)
-   [Bakit walang laman ang sagot ng isang reasoning model](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/)
-   [Mga error code ng BroadNet Inference at kailan dapat mag-retry](https://broadrouter.com/fil/guides/errors-and-retries/)
-   [Lahat ng tool na gumagana sa BroadNet Inference (Ingles)](https://broadrouter.com/integrations/): mga SDK, coding agent, chat UI at automation tool, kasama ang eksaktong setting ng bawat isa

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-promptfoo-openai-compatible&utm_content=page-cta) ·

**Mga source**

-   [promptfoo docs, OpenAI provider (mga OpenAI-compatible gateway) (sinuri noong 2026-11-15)](https://www.promptfoo.dev/docs/providers/openai/)
-   [promptfoo sa GitHub, release 0.125.1, 2026-10-25 (sinuri noong 2026-11-15)](https://github.com/promptfoo/promptfoo/releases/tag/0.125.1)
-   [API reference ng BroadNet Inference (sinuri noong 2026-11-15) (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-promptfoo-openai-compatible&utm_content=sources)
