---
title: "Vercel AI SDK createOpenAICompatible na may custom base URL"
description: "Tawagin ang BroadNet Inference sa Vercel AI SDK gamit ang createOpenAICompatible ng @ai-sdk/openai-compatible: generateText, streamText, tools, reasoning effort."
url: https://broadrouter.com/fil/guides/vercel-ai-sdk-openai-compatible/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (na-update noong 2026-11-16).

# Paano gamitin ang Vercel AI SDK sa BroadNet Inference

Na-update 2026-11-16

I-install ang ai at @ai-sdk/openai-compatible, saka tawagin ang createOpenAICompatible na may name na broadnet, baseURL na https://inference.broadnet.ai/v1 at BroadNet key mo bilang apiKey. Ipasa sa provider ang isang BroadNet model ID gaya ng broadnet/glm-5.3, at gamitin ang generateText o streamText gaya ng dati. Itago sa server ang key, at bigyan ng maluwag na maxOutputTokens ang mga reasoning model.

Ang [AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) ng Vercel ay isang TypeScript toolkit para sa mga LLM app. Gumagawa ang `@ai-sdk/openai-compatible` package nito ng provider para sa kahit anong API na sumusunod sa format ng OpenAI chat completions. Sumusunod dito ang BroadNet Inference, kaya base URL, key at mga model ID lang ang papalitan mo. Kung ang simpleng OpenAI client ang gusto mo, tingnan ang [gabay sa Node SDK](https://broadrouter.com/fil/guides/openai-node-sdk/).

## Setup

1.  **I-install ang mga package.** Sa oras ng pagsulat nito, `ai` 7.x at `@ai-sdk/openai-compatible` 3.x ang ibinibigay ng npm.
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **Gawin ang provider.** Ilagay ito sa file na `broadnet.ts`. Ang `includeUsage: true` ang nagdadagdag ng usage data sa mga streaming response.
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
3.  **Bumuo ng text.** Kasama ang reasoning sa `maxOutputTokens`, kaya maluwag ang 4000 sa example.
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **I-stream ito.** Palitan ang `generateText` ng `streamText` at basahin ang `textStream`. Ipinapaliwanag ng [streaming guide](https://broadrouter.com/fil/guides/streaming-chat-completions/) ang wire format sa ilalim nito.
    

Ang `name` na ipapasa mo ang magiging key para sa provider options at provider metadata, kaya panatilihin itong maikli at hindi nagbabago. Parehong gumagawa ng chat model ang `provider('id')` at `provider.chatModel('id')`; walang hiwalay na setup kada model. Itago sa server ang key. Huwag i-import ang file na ito sa code na tumatakbo sa browser, kundi mapapasa ang key sa bawat bisita.

Nakalista sa provider docs bilang suportadong kakayahan ang text generation, streaming, tool calling, structured outputs, reasoning content at image input, na may paalalang nakadepende sa provider ang ilan. Sa BroadNet, gumagana ang image input sa DeepSeek V4.1 Flash, Qwen3.8 27B at Gemma 4 VL 26B. Text lang ang tinatanggap ng GLM 5.3.

## Mga option na dapat i-set

-   **reasoningEffort.** Ipasa ito sa `providerOptions`, gamit ang pangalan ng provider bilang key. Ayon sa docs ng AI SDK, nakadepende sa provider ang eksaktong mga value; `low` ang ipinapakita sa docs ng BroadNet.

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** Nagpapadala lang ang AI SDK ng JSON schema kapag `true` ito sa provider. Nakalista sa BroadNet ang structured output para sa GLM 5.3 at Qwen3.8 27B. Kung io-on mo ito, gamitin ang mga model na iyon para sa schema output.
-   **maxRetries.** Dalawang beses nagre-retry ang `generateText` bilang default. I-set ito ayon sa rate limit mo.
-   **Reasoning output.** Binabasa ng AI SDK ang reasoning content kapag ibinabalik ito ng provider. Minarkahan nang deprecated ang top-level na `reasoningText` na field ng resulta, kapalit ng `finalStep.reasoningText`. Huwag gumawa ng logic na umaasang laging may reasoning.

## Aling model ang pipiliin

| Kailangan | Model | Context |
| --- | --- | --- |
| Tool calling, structured output | [`broadnet/glm-5.3`](https://broadrouter.com/fil/models/glm-5.3/) | 1,048,576 |
| Mga larawan at tools, Arabic | [`broadnet/qwen3.8-27b`](https://broadrouter.com/fil/models/qwen3.8-27b/) | 262,144 |
| Mahabang context, flat-rate na plan | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/fil/models/deepseek-v4.1-flash/) | 1,048,576 |
| Murang text at image call | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/fil/models/gemma-4-vl-26b/) | 32,768 |

Nasa [pricing page](https://broadrouter.com/fil/pricing/) ang per-token na presyo ng bawat model.

## Troubleshooting

-   **401.** Wala ang `BROADNET_API_KEY` sa runtime (tingnan ang env settings ng hosting provider mo), o mali, expired, o ubos na ang pay-as-you-go allowance.
-   **Hindi pinapansin ang providerOptions.** Kailangang tugma ang key sa `name` ng provider sa camelCase. Kung `name: 'broadnet'`, gamitin ang `providerOptions.broadnet`.
-   **Mga error sa model.** Kailangang eksaktong tugma ang ID sa BroadNet, kasama ang `broadnet/` prefix. Kailangan ng top-up para sa GLM 5.3, Qwen3.8 27B at DeepSeek V4.1 Flash; ang Gemma 4 VL 26B at ang dalawang Transcribe model ang sakop ng $5 na panimulang credit.
-   **Walang lamang text, finishReason “length”.** Naubos ng reasoning ang budget. Taasan ang `maxOutputTokens` o babaan ang `reasoningEffort`. [Bakit walang laman ang mga sagot](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/).
-   **429 kapag mabigat ang load.** Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Mabilis mag-scale out ang mga serverless function, kaya lagyan ng limit ang concurrency sa app mo. Tingnan ang [errors and retries](https://broadrouter.com/fil/guides/errors-and-retries/).
-   **Parallel na agent sa isang plan key.** Isang request lang sa isang pagkakataon ang pinapatakbo ng isang [session ng unlimited na plan](https://broadrouter.com/fil/guides/unlimited-llm-api-sessions/). Kapag nag-`Promise.all` ka sa ilang agent, kailangan ng isang session kada agent, kundi pipila ang mga request.

## Mga termino sa gabay na ito

[API key](https://broadrouter.com/fil/glossary/api-key/)

Ang API key ay isang lihim na string na kumikilala at nagpapahintulot sa client na tumatawag sa isang API. Kadalasang hinihingi ito ng mga LLM API sa Authorization: Bearer header, at ang sinumang may hawak ng key ay makakagawa ng mga request na sisingilin sa account na may-ari nito.

[Tool calling (function calling)](https://broadrouter.com/fil/glossary/tool-calling/)

Ang tool calling, tinatawag ding function calling, ay feature ng LLM API kung saan nagbabalik ang model ng structured na request para magpatakbo ng function na tinukoy ng developer, kasama ang JSON arguments. Ang application ang nagpapatakbo ng function at nagpapadala pabalik ng resulta; hindi kailanman nagpapatakbo ng code ang model mismo.

[Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/)

Ang pay-as-you-go ay paraan ng pagpepresyo kung saan ang nagamit mo lang ang binabayaran mo, sinusukat kada yunit gaya ng token, request o minuto ng audio, nang walang subscription o minimum na commitment. Ganito naniningil ang karamihan ng LLM API, mula sa prepaid na balance o sa pana-panahong invoice.

[Structured output](https://broadrouter.com/fil/glossary/structured-output/)

Ang structured output ay feature ng LLM API na naglilimita sa sagot ng model sa format na itinakda ng developer, kadalasang JSON Schema, para maaasahang ma-parse ito ng code. Mas mahigpit ito kaysa sa JSON mode, na gumagarantiya ng valid na JSON pero hindi ng partikular na hugis.

[AI agent](https://broadrouter.com/fil/glossary/agent/)

Ang AI agent ay isang system kung saan ang language model mismo ang nagdidirekta ng mga hakbang nito tungo sa isang layunin: pinipili nito kung aling tools ang tatawagin, binabasa ang mga resulta at umuulit hanggang makabuo ng huling sagot o maabot ang limit. Workflow naman ang karaniwang tawag sa fixed na script na tumatawag sa model sa takdang punto.

[Streaming](https://broadrouter.com/fil/glossary/streaming/)

Ang streaming ay paraan ng pagbabalik ng sagot ng language model nang paunti-unting chunk habang binubuo pa ito, sa halip na iisang sagot sa dulo. Sa mga OpenAI-compatible na API, dumadaan ang streaming sa server-sent events kapag naka-set sa true ang stream sa request.

[Concurrency](https://broadrouter.com/fil/glossary/concurrency/)

Ang concurrency ay ang bilang ng request na sabay-sabay na in flight mula sa isang client. Madalas itong nililimitahan ng mga LLM API kada key o plan, hiwalay sa requests per minute, dahil humahawak ng GPU capacity ang bawat bukas na request hanggang matapos ang response nito.

[Context window](https://broadrouter.com/fil/glossary/context-window/)

Ang context window ay ang pinakamaraming token na kayang hawakan ng isang language model sa iisang request. Sakop nito ang prompt, history ng usapan, tool definitions, mga larawan at ang nabuong output, kasama ang anumang reasoning tokens. Ang hindi kasya ay kailangang bawasan, ibuod o hatiin sa ilang request.

## Mga tanong

### @ai-sdk/openai o @ai-sdk/openai-compatible ba ang dapat kong gamitin?

Gamitin ang @ai-sdk/openai-compatible para sa mga third-party na OpenAI-compatible na API. Tinatawag nito ang chat completions endpoint, na siyang sine-serve ng BroadNet Inference.

### Bakit walang laman ang nabuong text?

Sa BroadNet, kasama ang reasoning sa max\_tokens. Kung maliit ang maxOutputTokens, puwede itong maubos lahat ng model bago pa magsimula ang sagot. Taasan ito o i-set ang reasoningEffort sa low.

### Paano ko makukuha ang token usage habang nag-i-stream?

I-set ang includeUsage sa true kapag ginagawa ang provider. Ayon sa docs ng AI SDK, nagdadagdag ito ng usage data sa mga streaming response. False ang default nito.

### Kailangan ko ba ng hiwalay na setup para sa bawat model ng BroadNet?

Hindi. Sakop ng iisang createOpenAICompatible provider ang bawat model. Tawagin ang broadnet('model-id') o broadnet.chatModel('model-id') gamit ang kahit anong chat model ID ng BroadNet.

## Mga kaugnay na gabay

-   [Paano gamitin ang OpenAI Node.js SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-node-sdk/)
-   [Paano mag-stream ng chat completions at ayusin ang naputol na stream](https://broadrouter.com/fil/guides/streaming-chat-completions/)
-   [Bakit walang laman ang sagot ng isang reasoning model](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/)
-   [Idagdag ang BroadNet Inference sa opencode bilang custom provider](https://broadrouter.com/fil/guides/opencode-custom-provider/)
-   [Lahat ng tool na gumagana sa BroadNet Inference (Ingles)](https://broadrouter.com/integrations/): mga SDK, coding agent, chat UI at automation tool, kasama ang eksaktong setting ng bawat isa

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**Mga source**

-   [AI SDK docs, OpenAI Compatible providers (sinuri noong 2026-11-14)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [AI SDK docs, generateText reference (sinuri noong 2026-11-14)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, @ai-sdk/openai-compatible package (3.x, sinuri noong 2026-11-14)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [API reference ng BroadNet Inference (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
