---
title: "Vercel AI SDK createOpenAICompatible dengan base URL tersuai"
description: "Panggil BroadNet Inference dalam Vercel AI SDK dengan createOpenAICompatible dari @ai-sdk/openai-compatible: generateText, streamText, alatan, reasoning effort."
url: https://broadrouter.com/ms/guides/vercel-ai-sdk-openai-compatible/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (dikemas kini 2026-11-16).

# Cara guna Vercel AI SDK dengan BroadNet Inference

Dikemas kini 2026-11-16

Pasang ai dan @ai-sdk/openai-compatible, kemudian panggil createOpenAICompatible dengan name broadnet, baseURL https://inference.broadnet.ai/v1 dan kunci BroadNet anda sebagai apiKey. Hantar ID model BroadNet seperti broadnet/glm-5.3 kepada penyedia, dan guna generateText atau streamText seperti biasa. Simpan kunci di pelayan, dan beri model penaakulan maxOutputTokens yang besar.

[AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) daripada Vercel ialah kit alatan TypeScript untuk aplikasi LLM. Pakej `@ai-sdk/openai-compatible` mencipta penyedia untuk sebarang API yang mengikut format chat completions OpenAI. BroadNet Inference mengikut format itu, jadi anda hanya menukar base URL, kunci dan ID model. Jika anda mahukan klien OpenAI biasa, lihat [panduan Node SDK](https://broadrouter.com/ms/guides/openai-node-sdk/).

## Persediaan

1.  **Pasang pakej.** Semasa artikel ini ditulis, npm menyediakan `ai` 7.x dan `@ai-sdk/openai-compatible` 3.x.
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **Cipta penyedia.** Letakkan kod ini dalam fail `broadnet.ts`. `includeUsage: true` menambah data usage pada respons penstriman.
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
3.  **Jana teks.** Penaakulan dikira dalam `maxOutputTokens`, sebab itu contoh ini memberi 4000.
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **Strim.** Tukar `generateText` kepada `streamText` dan baca `textStream`. [Panduan penstriman](https://broadrouter.com/ms/guides/streaming-chat-completions/) menerangkan format wayar di bawahnya.
    

`name` yang anda hantar menjadi kunci untuk provider options dan provider metadata, jadi pastikan ia pendek dan tidak berubah. `provider('id')` dan `provider.chatModel('id')` kedua-duanya mencipta model chat; tiada persediaan berasingan bagi setiap model. Simpan kunci di pelayan. Jangan import fail ini ke dalam kod yang berjalan dalam pelayar, atau kunci itu akan dihantar kepada setiap pelawat.

Dokumentasi penyedia menyenaraikan penjanaan teks, penstriman, tool calling, structured outputs, reasoning content dan input imej sebagai keupayaan yang disokong, dengan nota bahawa sesetengahnya bergantung pada penyedia. Di BroadNet, input imej berfungsi dengan DeepSeek V4.1 Flash, Qwen3.8 27B dan Gemma 4 VL 26B. GLM 5.3 menerima teks sahaja.

## Pilihan yang patut ditetapkan

-   **reasoningEffort.** Hantarkannya melalui `providerOptions`, dikunci dengan nama penyedia. Dokumentasi AI SDK menyatakan nilai tepatnya bergantung pada penyedia; dokumentasi BroadNet menunjukkan `low`.

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** AI SDK hanya menghantar skema JSON apabila nilai ini `true` pada penyedia. BroadNet menyenaraikan output berstruktur untuk GLM 5.3 dan Qwen3.8 27B. Jika anda menghidupkannya, gunakan model tersebut untuk output skema.
-   **maxRetries.** `generateText` mencuba semula dua kali secara lalai. Tetapkan nilainya mengikut had kadar anda.
-   **Output penaakulan.** AI SDK membaca kandungan penaakulan apabila penyedia memulangkannya. Medan hasil `reasoningText` peringkat atas kini ditandakan deprecated dan digantikan dengan `finalStep.reasoningText`. Jangan bina logik yang bergantung pada kehadiran penaakulan.

## Model mana yang patut dipilih

| Keperluan | Model | Konteks |
| --- | --- | --- |
| Tool calling, output berstruktur | [`broadnet/glm-5.3`](https://broadrouter.com/ms/models/glm-5.3/) | 1,048,576 |
| Imej serta alatan, bahasa Arab | [`broadnet/qwen3.8-27b`](https://broadrouter.com/ms/models/qwen3.8-27b/) | 262,144 |
| Konteks panjang, pelan kadar tetap | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) | 1,048,576 |
| Panggilan teks dan imej yang murah | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/ms/models/gemma-4-vl-26b/) | 32,768 |

Harga setiap token bagi setiap model ada di [halaman harga](https://broadrouter.com/ms/pricing/).

## Penyelesaian masalah

-   **401.** `BROADNET_API_KEY` tiada dalam runtime (semak tetapan env penyedia hosting anda), salah, tamat tempoh, atau elaun bayar ikut guna telah habis.
-   **providerOptions diabaikan.** Kuncinya mesti sepadan dengan `name` penyedia dalam camelCase. Dengan `name: 'broadnet'`, gunakan `providerOptions.broadnet`.
-   **Ralat model.** ID mesti sepadan tepat dengan ID BroadNet, termasuk awalan `broadnet/`. GLM 5.3, Qwen3.8 27B dan DeepSeek V4.1 Flash memerlukan tambah nilai; kredit permulaan $5 meliputi Gemma 4 VL 26B dan dua model Transcribe.
-   **Teks kosong, finishReason “length”.** Penaakulan telah menggunakan bajet. Naikkan `maxOutputTokens` atau turunkan `reasoningEffort`. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **429 semasa beban tinggi.** Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Fungsi serverless berskala keluar dengan pantas, jadi hadkan keserentakan dalam aplikasi anda. Lihat [ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/).
-   **Ejen selari pada kunci pelan.** Satu [sesi pelan tanpa had](https://broadrouter.com/ms/guides/unlimited-llm-api-sessions/) menjalankan satu permintaan pada satu masa. Menjalankan `Promise.all` merentas beberapa ejen memerlukan satu sesi bagi setiap ejen, atau permintaan akan beratur.

## Istilah dalam panduan ini

[Output berstruktur (structured output)](https://broadrouter.com/ms/glossary/structured-output/)

Output berstruktur ialah ciri API LLM yang mengehadkan balasan model kepada format yang ditetapkan oleh pembangun, biasanya JSON Schema, supaya kod boleh menghuraikannya dengan boleh dipercayai. Ia lebih ketat daripada JSON mode, yang menjamin JSON yang sah tetapi bukan bentuk tertentu.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Base URL (URL asas)](https://broadrouter.com/ms/glossary/base-url/)

Base URL ialah alamat akar tetap sesuatu API, seperti https://api.example.com/v1, yang diletakkan oleh klien di hadapan setiap laluan endpoint, seperti /chat/completions. Dalam SDK serasi OpenAI, menukar base URL, bersama kunci API dan ID model, menghalakan kod yang sama kepada penyedia lain.

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

[Had kadar (rate limit)](https://broadrouter.com/ms/glossary/rate-limit/)

Had kadar ialah had yang ditetapkan oleh API ke atas jumlah penggunaan klien dalam satu tempoh masa, seperti permintaan seminit atau token seminit. Permintaan yang melebihi had ditolak, biasanya dengan HTTP 429 Too Many Requests, sehingga penggunaan turun semula di bawahnya.

## Soalan lazim

### Patutkah saya menggunakan @ai-sdk/openai atau @ai-sdk/openai-compatible?

Gunakan @ai-sdk/openai-compatible untuk API serasi OpenAI pihak ketiga. Ia memanggil endpoint chat completions, iaitu apa yang disediakan oleh BroadNet Inference.

### Mengapakah teks yang dijana kosong?

Penaakulan dikira dalam max\_tokens di BroadNet. Jika maxOutputTokens kecil, model boleh menghabiskan kesemuanya sebelum jawapan bermula. Naikkan nilainya atau tetapkan reasoningEffort kepada low.

### Bagaimanakah saya mendapatkan penggunaan token semasa penstriman?

Tetapkan includeUsage kepada true semasa mencipta penyedia. Dokumentasi AI SDK menyatakan ia menambah data usage pada respons penstriman. Nilai lalainya ialah false.

### Adakah saya memerlukan persediaan berasingan untuk setiap model BroadNet?

Tidak. Satu penyedia createOpenAICompatible meliputi setiap model. Panggil broadnet('model-id') atau broadnet.chatModel('model-id') dengan mana-mana ID model chat BroadNet.

## Panduan berkaitan

-   [Cara guna OpenAI Node.js SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-node-sdk/)
-   [Strim chat completions dan kendalikan sambungan yang terputus](https://broadrouter.com/ms/guides/streaming-chat-completions/)
-   [Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Tambah BroadNet Inference ke opencode sebagai penyedia tersuai](https://broadrouter.com/ms/guides/opencode-custom-provider/)
-   [Semua alat yang berfungsi dengan BroadNet Inference (Bahasa Inggeris)](https://broadrouter.com/integrations/): SDK, ejen pengekodan, antara muka sembang dan alat automasi, dengan tetapan tepat bagi setiap satu

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi AI SDK, penyedia OpenAI Compatible (disemak 2026-11-14)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [Dokumentasi AI SDK, rujukan generateText (disemak 2026-11-14)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, pakej @ai-sdk/openai-compatible (3.x, disemak 2026-11-14)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [Rujukan API BroadNet Inference (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
