---
title: "Pydantic AI dengan base_url serasi OpenAI tersuai | BroadRouter"
description: "Jalankan ejen Pydantic AI pada BroadNet Inference dengan OpenAIChatModel dan OpenAICompatibleProvider, serta tool calls, output berstruktur dan model profile."
url: https://broadrouter.com/ms/guides/pydantic-ai-openai-compatible/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/guides/pydantic-ai-openai-compatible/) (dikemas kini 2026-11-16).

# Guna Pydantic AI dengan BroadNet Inference (OpenAICompatibleProvider)

Dikemas kini 2026-11-16

Pasang pydantic-ai-slim\[openai\], kemudian bina OpenAIChatModel dengan ID model BroadNet seperti broadnet/glm-5.3 dan OpenAICompatibleProvider yang base URL-nya https://inference.broadnet.ai/v1 dan kunci API-nya ialah kunci BroadNet anda. Hantar model itu kepada Agent. Gunakan OpenAIChatModel, bukan model Responses, kerana BroadNet menyediakan chat completions. Dokumentasi Pydantic AI menyatakan OpenAIProvider dengan base\_url adalah untuk OpenAI sendiri.

Pydantic AI ialah rangka kerja ejen Python daripada pasukan Pydantic. Bagi perkhidmatan yang tiada penyedia terbina dalam, dokumentasinya menyuruh anda menggunakan `OpenAICompatibleProvider` dengan `base_url` perkhidmatan itu. BroadNet Inference menyediakan chat completions yang standard di `https://inference.broadnet.ai/v1`, jadi itulah laluannya. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi Pydantic AI setakat versi 2.68.

## Pasang

```bash
pip install "pydantic-ai-slim[openai]"
export BROADNET_API_KEY='your-broadnet-key'
```

## Sambung

```python
import os
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai_compatible import OpenAICompatibleProvider

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider(
        'broadnet',
        base_url='https://inference.broadnet.ai/v1',
        api_key=os.environ['BROADNET_API_KEY'],
    ),
)

agent = Agent(model)
result = agent.run_sync('Give me three names for a Go linting tool.')
print(result.output)
```

Menjalankan kod ini ialah ujiannya: jawapan yang dicetak bermakna kunci, URL dan ID model adalah betul.

-   **Argumen pertama ialah ID model** yang dihantar ke BroadNet. Gunakannya dengan tepat, termasuk awalan `broadnet/`.
-   **Nama penyedia** (`'broadnet'` di sini) direkodkan pada setiap respons. Dokumentasi Pydantic AI menyuruh anda mengekalkannya stabil, kerana ia menentukan data mana daripada respons terdahulu yang dihantar semula ke perkhidmatan.
-   **Kekal pada `OpenAIChatModel`.** Dokumentasi Pydantic AI menyatakan `OpenAIResponsesModel` hanya patut digunakan jika perkhidmatan itu melaksanakan Responses API. BroadNet tidak menyenaraikannya.

## Tools dan output berstruktur

```python
from pydantic import BaseModel

class City(BaseModel):
    name: str
    country: str

agent = Agent(model, output_type=City)
print(agent.run_sync('Which city hosts the Burj Khalifa?').output)
```

Gunakan `broadnet/glm-5.3` atau `broadnet/qwen3.8-27b` untuk tools dan output berstruktur; dokumentasi BroadNet menyenaraikan kedua-dua ciri untuk dua model ini sahaja.

## Bila perlu menetapkan model profile

Pydantic AI memilih profil permintaan berdasarkan nama model. Jika sesuatu ciri diabaikan atau ditolak, dokumentasinya menyuruh anda menghantar `OpenAIModelProfile` sendiri. Dua tetapan patut diketahui untuk BroadNet:

```python
from pydantic_ai.profiles.openai import OpenAIModelProfile

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider('broadnet', base_url='https://inference.broadnet.ai/v1', api_key=os.environ['BROADNET_API_KEY']),
    profile=OpenAIModelProfile(
        openai_chat_supports_max_completion_tokens=False,  # send max_tokens, the field BroadNet documents
        openai_supports_strict_tool_definition=False,      # only if strict tool schemas are rejected
    ),
)
```

Hantar had output melalui tetapan model, contohnya `agent.run_sync(prompt, model_settings={'max_tokens': 2000})`. Penaakulan dikira dalam had itu pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B.

## Model mana yang patut dipilih

| Ejen | Model |
| --- | --- |
| Tools, output berstruktur | `broadnet/glm-5.3` |
| Imej atau teks Arab, dengan tools | `broadnet/qwen3.8-27b` |
| Dokumen panjang, pelan harga tetap | `broadnet/deepseek-v4.1-flash` |
| Kredit permulaan percuma | `broadnet/gemma-4-26b-a4b` (konteks 32,768 token) |

[Harga setiap model](https://broadrouter.com/ms/pricing/).

## Penyelesaian masalah

-   **401.** Kunci salah, tamat tempoh atau kehabisan elaun.
-   **404 atau model tidak dijumpai.** `base_url` mesti berakhir dengan `/v1`. Semak ID model. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi `broadnet/gemma-4-26b-a4b` dan dua model Transcribe.
-   **Output kosong atau gelung cuba semula validation.** Penaakulan telah menggunakan bajet output. Naikkan `max_tokens`. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **400 pada definisi tool.** Tetapkan `openai_supports_strict_tool_definition=False` dalam profil, dan gunakan model yang disenaraikan oleh BroadNet dengan tools.
-   **429 apabila anda menjalankan ejen serentak.** Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Lihat [ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Output berstruktur (structured output)](https://broadrouter.com/ms/glossary/structured-output/)

Output berstruktur ialah ciri API LLM yang mengehadkan balasan model kepada format yang ditetapkan oleh pembangun, biasanya JSON Schema, supaya kod boleh menghuraikannya dengan boleh dipercayai. Ia lebih ketat daripada JSON mode, yang menjamin JSON yang sah tetapi bukan bentuk tertentu.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

[Had kadar (rate limit)](https://broadrouter.com/ms/glossary/rate-limit/)

Had kadar ialah had yang ditetapkan oleh API ke atas jumlah penggunaan klien dalam satu tempoh masa, seperti permintaan seminit atau token seminit. Permintaan yang melebihi had ditolak, biasanya dengan HTTP 429 Too Many Requests, sehingga penggunaan turun semula di bawahnya.

[Kredit prabayar (prepaid credit)](https://broadrouter.com/ms/glossary/prepaid-credit/)

Kredit prabayar ialah wang yang ditambah ke akaun API sebelum digunakan. Setiap permintaan menolak kosnya daripada baki, dan apabila baki habis, permintaan bermeter berhenti sehingga anda menambah nilai. Ia mengehadkan perbelanjaan kepada jumlah yang telah anda bayar.

[max\_tokens](https://broadrouter.com/ms/glossary/max-tokens/)

max\_tokens ialah parameter API LLM yang menetapkan bilangan maksimum token yang boleh dijana oleh model dalam satu respons. Apabila had itu dicapai, penjanaan berhenti dan respons ditandakan sebagai terpotong, contohnya dengan finish\_reason ditetapkan kepada "length".

## Soalan lazim

### Patutkah saya guna OpenAIProvider atau OpenAICompatibleProvider untuk BroadNet?

OpenAICompatibleProvider. Dokumentasi Pydantic AI menyatakan OpenAIProvider juga menerima base\_url, tetapi ia untuk OpenAI sendiri atau proksi telus kepadanya, dan ia menganggap model dan ciri OpenAI.

### Mengapakah guna OpenAIChatModel dan bukan model OpenAI lalai?

Model OpenAI lalai Pydantic AI menggunakan Responses API. BroadNet menyediakan chat completions di /v1/chat/completions, iaitu apa yang dipanggil oleh OpenAIChatModel.

### Adakah tools dan output berstruktur berfungsi?

Ya, pada model yang disenaraikan oleh BroadNet dengan tools dan output berstruktur, iaitu GLM 5.3 dan Qwen3.8 27B. Dokumentasi BroadNet tidak menyenaraikan tools untuk DeepSeek V4.1 Flash, jadi uji dahulu ejen yang menggunakan tools padanya.

### Bagaimanakah saya menghentikan Pydantic AI daripada menghantar max\_completion\_tokens?

Hantar profile=OpenAIModelProfile(openai\_chat\_supports\_max\_completion\_tokens=False) kepada OpenAIChatModel. Pydantic AI kemudiannya menghantar medan max\_tokens yang lebih lama, iaitu medan yang diterangkan dalam rujukan API BroadNet.

## Panduan berkaitan

-   [Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/)
-   [Cara guna LangChain dengan BroadNet Inference](https://broadrouter.com/ms/guides/langchain-openai-base-url/)
-   [Guna CrewAI dengan BroadNet Inference sebagai endpoint OpenAI tersuai](https://broadrouter.com/ms/guides/crewai-custom-openai-endpoint/)
-   [Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Semua alat yang berfungsi dengan BroadNet Inference (Bahasa Inggeris)](https://broadrouter.com/integrations/): SDK, ejen pengekodan, antara muka sembang dan alat automasi, dengan tetapan tepat bagi setiap satu

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-pydantic-ai-openai-compatible&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi Pydantic AI, Other compatible APIs (Other endpoints, Model profile) (disemak 2026-11-15)](https://pydantic.dev/docs/ai/models/compatible-apis/)
-   [Dokumentasi Pydantic AI, OpenAI models (disemak 2026-11-15)](https://pydantic.dev/docs/ai/models/openai/)
-   [PyPI, pydantic-ai 2.68.0, Python 3.11+ (disemak 2026-11-15)](https://pypi.org/project/pydantic-ai/)
-   [Rujukan API BroadNet Inference (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-pydantic-ai-openai-compatible&utm_content=sources)
