---
title: "Instructor na may OpenAI-compatible base_url (Pydantic)"
description: "Kumuha ng Pydantic objects mula sa BroadNet Inference gamit ang Instructor, sa from_openai o from_provider na may custom base_url, at piliin ang tamang Mode."
url: https://broadrouter.com/fil/guides/instructor-structured-output/
lang: fil
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/guides/instructor-structured-output/) (na-update noong 2026-11-16).

# Structured output gamit ang Instructor sa BroadNet Inference

Na-update 2026-11-16

I-wrap gamit ang instructor.from\_openai ang isang OpenAI client na may base\_url na https://inference.broadnet.ai/v1 at ang BroadNet key mo, saka tawagin ang chat.completions.create na may response\_model na Pydantic class mo at model na broadnet/glm-5.3 o broadnet/qwen3.8-27b. Ito ang dalawang model na may nakalistang tools at structured output sa BroadNet. Mode.TOOLS ang default; gumagana rin ang Mode.JSON\_SCHEMA.

Python library ang Instructor na ginagawang validated na Pydantic objects ang mga sagot ng LLM at kayang mag-retry kapag pumalya ang validation. Pina-patch nito ang OpenAI client, at sakop ng docs nito ang mga OpenAI-compatible na server sa pamamagitan ng `base_url`. Nagse-serve ang BroadNet Inference ng chat completions sa `https://inference.broadnet.ai/v1`, at nakalista ang tools at structured output para sa GLM 5.3 at Qwen3.8 27B. Ang BroadRouter ay sariling site ng BroadNet; sinusundan nito ang docs ng Instructor simula sa version 1.17.0.

## I-install

```bash
pip install instructor
export BROADNET_API_KEY='your-broadnet-key'
```

## Kumuha ng object

```python
import os
import instructor
from openai import OpenAI
from pydantic import BaseModel

class Invoice(BaseModel):
    vendor: str
    total: float
    currency: str

client = instructor.from_openai(
    OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    mode=instructor.Mode.TOOLS,
)

invoice = client.chat.completions.create(
    model="broadnet/glm-5.3",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": "Acme Trading invoice, total 1,250.00 SAR"}],
)
print(invoice)
```

Ginagawang tool schema ng Instructor ang `Invoice`, pinipilit ang model na tawagin ito gamit ang `tool_choice`, at vina-validate ang mga argument. Ipasa ang `max_retries` para kontrolin kung ilang beses itong magtatanong ulit, kasama ang validation error, kapag hindi pumasa sa validation ang object.

## O gamitin ang from\_provider

```python
pclient = instructor.from_provider(
    "openai/broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
invoice = pclient.create(response_model=Invoice, max_tokens=4000,
                         messages=[{"role": "user", "content": "Acme Trading, 1,250.00 SAR"}])
```

Ang bahaging `openai/` ang pumipili ng client. Ang natitira, `broadnet/glm-5.3`, ang ipinapadala bilang model ID.

## Aling mode

| Mode | Ano ang ipinapadala | Gamitin sa BroadNet |
| --- | --- | --- |
| `Mode.TOOLS` (default) | Isang pinilit na tool call na may schema mo | Oo, sa GLM 5.3 o Qwen3.8 27B |
| `Mode.JSON_SCHEMA` | `response_format` na `json_schema` ang type | Oo, sa GLM 5.3 o Qwen3.8 27B |
| `Mode.MD_JSON` | Simpleng request; JSON na pina-parse mula sa text | Fallback para sa ibang model; subukan muna |
| `Mode.RESPONSES_TOOLS` | Ang Responses API | Hindi: chat completions ang sine-serve ng BroadNet |

## Mga larawan

Tumatanggap ang Qwen3.8 27B ng mga larawan bukod sa tools, kaya kaya nitong basahin ang isang litrato o scan diretso papunta sa model mo:

```python
import base64
img = base64.b64encode(open("invoice.jpg", "rb").read()).decode()
invoice = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "Extract the invoice fields."},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + img}},
    ]}],
)
```

Sa isang pay-as-you-go key, binibilang bilang input tokens ang isang larawan. Tingnan ang [pagbasa ng mga Arabic na invoice gamit ang vision](https://broadrouter.com/fil/guides/read-arabic-invoices-with-vision/).

## Paano namin ito sinubok

Noong 2026-11-15, nag-install kami ng instructor 1.17.0 kasama ang openai 3.3.0 sa isang malinis na virtual environment at pinatakbo ang mga example sa itaas laban sa isang lokal na mock server na sumusunod sa chat-completions na format ng BroadNet. Binasa namin ang mga naka-log na request. Ipinadala ng `Mode.TOOLS` ang schema bilang tool na may pinilit na `tool_choice`, nagpadala ang `Mode.JSON_SCHEMA` ng `json_schema` na response format, at parehong nagbalik ng valid na `Invoice`. Ipinadala ng `from_provider` ang model ID nang walang pagbabago. Hindi sumusulat ng free-text na JSON ang mock namin, kaya hindi namin sinubok ang `Mode.MD_JSON`, at hindi namin ipinadala ang image example. Wala kaming BroadNet key, kaya hindi namin sinubok ang totoong output ng model.

## Troubleshooting

-   **Mga validation retry na hindi kailanman nagtatagumpay.** Kasama ang reasoning sa `max_tokens` sa GLM 5.3 at Qwen3.8 27B. Kayang putulin ng mababang limit ang mga tool argument. Taasan ito. [Bakit walang laman ang mga sagot](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/).
-   **400 sa request.** Tiyaking GLM 5.3 o Qwen3.8 27B ang gamit mo. Kung tinanggihan ang pinilit na `tool_choice`, subukan ang `Mode.JSON_SCHEMA`.
-   **401.** Mali, expired o ubos na ang allowance ng key.
-   **404.** Dapat nagtatapos sa `/v1` ang `base_url`. Kailangan ng top-up para sa GLM 5.3 at Qwen3.8 27B; hindi sakop ng $5 na credit ang mga ito.
-   **429 sa batch extraction.** Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 nang sabay-sabay. Isa pang request ang bawat validation retry. Tingnan ang [errors and retries](https://broadrouter.com/fil/guides/errors-and-retries/).

## Mga termino sa gabay na ito

[API key](https://broadrouter.com/fil/glossary/api-key/)

Ang API key ay isang lihim na string na kumikilala at nagpapahintulot sa client na tumatawag sa isang API. Kadalasang hinihingi ito ng mga LLM API sa Authorization: Bearer header, at ang sinumang may hawak ng key ay makakagawa ng mga request na sisingilin sa account na may-ari nito.

[Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/)

Ang pay-as-you-go ay paraan ng pagpepresyo kung saan ang nagamit mo lang ang binabayaran mo, sinusukat kada yunit gaya ng token, request o minuto ng audio, nang walang subscription o minimum na commitment. Ganito naniningil ang karamihan ng LLM API, mula sa prepaid na balance o sa pana-panahong invoice.

[Chat Completions API](https://broadrouter.com/fil/glossary/chat-completions-api/)

Ang Chat Completions API ay HTTP endpoint ng OpenAI, POST /v1/chat/completions, na tumatanggap ng pangalan ng model at listahan ng mga message na may role, at ibinabalik ang susunod na message ng model. Ang hugis ng request at response nito ang naging karaniwang format na ginagamit din ng mga OpenAI-compatible na provider at SDK.

[Input at output token (input and output tokens)](https://broadrouter.com/fil/glossary/input-and-output-tokens/)

Ang input token ay ang mga token na binabasa ng language model sa isang request, kasama ang system prompt, history ng usapan, tool definitions at mga larawan. Ang output token ay ang mga token na binubuo nito bilang sagot, kasama ang anumang reasoning. Kadalasang magkahiwalay ang presyo ng dalawa, at mas mahal ang output.

[Token](https://broadrouter.com/fil/glossary/token/)

Ang token ay ang yunit ng text na binabasa at isinusulat ng isang language model: isang salita, bahagi ng salita, bantas o byte sequence na ginawa ng tokenizer ng model. Sa token binibilang, nililimitahan at kadalasang sinisingil ng mga LLM API ang paggamit.

[Tool calling (function calling)](https://broadrouter.com/fil/glossary/tool-calling/)

Ang tool calling, tinatawag ding function calling, ay feature ng LLM API kung saan nagbabalik ang model ng structured na request para magpatakbo ng function na tinukoy ng developer, kasama ang JSON arguments. Ang application ang nagpapatakbo ng function at nagpapadala pabalik ng resulta; hindi kailanman nagpapatakbo ng code ang model mismo.

[Concurrency](https://broadrouter.com/fil/glossary/concurrency/)

Ang concurrency ay ang bilang ng request na sabay-sabay na in flight mula sa isang client. Madalas itong nililimitahan ng mga LLM API kada key o plan, hiwalay sa requests per minute, dahil humahawak ng GPU capacity ang bawat bukas na request hanggang matapos ang response nito.

[Prepaid credit](https://broadrouter.com/fil/glossary/prepaid-credit/)

Ang prepaid credit ay perang idinadagdag sa isang API account bago gamitin. Ibinabawas sa balance ang gastos ng bawat request, at kapag naubos ang balance, titigil ang mga metered request hanggang mag-top-up ka. Nililimitahan nito ang gastos sa halagang naibayad mo na.

## Mga tanong

### Aling Instructor mode ang gagamitin ko sa BroadNet?

Ang Mode.TOOLS, ang default, sa GLM 5.3 o Qwen3.8 27B, na may nakalistang tools at structured output sa BroadNet. Ang Mode.JSON\_SCHEMA naman ay nagpapadala ng json\_schema na response\_format. Parehong nakabuo ng valid na object sa test namin sa mock server.

### Puwede ko bang gamitin ang Mode.RESPONSES\_TOOLS?

Hindi. Sabi ng docs ng Instructor, huwag itong piliin maliban kung naka-implement sa server ang Responses API. Chat completions lang ang sine-serve ng BroadNet.

### Gumagana ba ang Instructor sa DeepSeek V4.1 Flash o Gemma sa BroadNet?

Hindi nakalista ng BroadNet ang tools o structured output para sa mga model na iyon. Humihingi ang Mode.MD\_JSON ng JSON sa plain text at pina-parse ito, na posibleng gumana, pero subukan muna sa sarili mong data bago umasa rito.

### Paano isusulat ang model string para sa from\_provider?

Gamitin ang openai/broadnet/glm-5.3. Inihihiwalay ng Instructor ang unang bahagi bilang provider, at sa test namin, ipinadala nito ang broadnet/glm-5.3 sa server nang walang pagbabago.

## Mga kaugnay na gabay

-   [Paano gamitin ang OpenAI Python SDK sa BroadNet Inference](https://broadrouter.com/fil/guides/openai-python-sdk/)
-   [Pydantic AI sa BroadNet Inference (OpenAICompatibleProvider)](https://broadrouter.com/fil/guides/pydantic-ai-openai-compatible/)
-   [Basahin ang mga Arabic na invoice at resibo gamit ang vision model](https://broadrouter.com/fil/guides/read-arabic-invoices-with-vision/)
-   [Bakit walang laman ang sagot ng isang reasoning model](https://broadrouter.com/fil/guides/reasoning-tokens-empty-response/)
-   [Lahat ng tool na gumagana sa BroadNet Inference (Ingles)](https://broadrouter.com/integrations/): mga SDK, coding agent, chat UI at automation tool, kasama ang eksaktong setting ng bawat isa

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-instructor-structured-output&utm_content=page-cta) ·

**Mga source**

-   [Instructor docs, OpenAI at mga OpenAI-compatible na server (sinuri noong 2026-11-15)](https://python.useinstructor.com/integrations/openai/)
-   [PyPI, instructor 1.17.0 (sinuri noong 2026-11-15)](https://pypi.org/project/instructor/)
-   [API reference ng BroadNet Inference (sinuri noong 2026-11-15) (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-guides-instructor-structured-output&utm_content=sources)
