---
title: "LangChain ChatOpenAI dengan base_url kustom | BroadRouter"
description: "Hubungkan ChatOpenAI dari LangChain ke BroadNet Inference dengan base_url dan api_key, dan pahami apa yang disimpan dan dibuang LangChain dari model penalaran."
url: https://broadrouter.com/id/guides/langchain-openai-base-url/
lang: id
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/guides/langchain-openai-base-url/) (diperbarui 2026-11-16).

# Memakai LangChain dengan BroadNet Inference

Diperbarui 2026-11-16

Instal langchain-openai lalu buat ChatOpenAI dengan base\_url https://inference.broadnet.ai/v1, api\_key berisi kunci BroadNet Anda, dan ID model BroadNet seperti broadnet/glm-5.3. Setelah itu chain invoke, stream, dan tool calling berjalan lewat chat completions. Hindari fitur yang hanya ada di Responses API, dan sisakan ruang untuk penalaran di max\_tokens.

`ChatOpenAI` dari LangChain menerima endpoint apa pun lewat `base_url`. Cara ini berfungsi dengan BroadNet Inference karena BroadNet memakai format chat completions standar. Jika Anda ingin memanggil API secara langsung, lihat [panduan Python SDK](https://broadrouter.com/id/guides/openai-python-sdk/).

## Instalasi

Rilis `langchain-openai` terbaru (1.x) membutuhkan Python 3.11 atau yang lebih baru.

```bash
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
```

## Menghubungkan

```python
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
```

`openai_api_base` adalah alias untuk `base_url`. Jika keduanya tidak diisi, LangChain membaca `OPENAI_API_BASE`, lalu klien `openai` di bawahnya membaca `OPENAI_BASE_URL`. (Komentar di kode mengingatkan bahwa penalaran ikut dihitung dalam batas ini.)

## Yang perlu diketahui

-   **Teks penalaran tidak disimpan.** Menurut dokumentasi LangChain, `ChatOpenAI` mengikuti spesifikasi resmi OpenAI dan tidak menyimpan field nonstandar seperti `reasoning_content`. Anda mendapat jawaban akhirnya, dan biasanya hanya itu yang dibutuhkan sebuah chain.
-   **Sisakan ruang untuk penalaran.** GLM 5.3, DeepSeek V4.1 Flash, dan Qwen3.8 27B bernalar lebih dulu. `max_tokens` yang kecil bisa menghasilkan jawaban kosong. [Kenapa jawaban kembali kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).
-   **Usage saat streaming.** Jika endpoint dikonfigurasi lewat `OPENAI_BASE_URL`, LangChain mematikan `stream_usage` secara default. Tambahkan `stream_usage=True` jika Anda ingin jumlah token saat streaming. Menurut dokumentasi BroadNet, usage dikirim di chunk terakhir jika diminta.
-   **Tetap di chat completions.** BroadNet melayani `/v1/chat/completions`, bukan Responses API. Menurut dokumentasi LangChain, `ChatOpenAI` beralih ke Responses API jika Anda memakai tool bawaan OpenAI (web search, file search, code interpreter, dan sejenisnya), state percakapan, atau parameter `reasoning`. Jangan pakai fitur-fitur itu, dan jangan atur `use_responses_api=True`.
-   **Nama batas token.** Menurut dokumentasi LangChain, `max_tokens` diubah secara internal menjadi `max_completion_tokens`. Dokumentasi BroadNet menjelaskan `max_tokens`. Jika sebuah batas tampak diabaikan, periksa permintaan yang dikirim aplikasi Anda.

## Model mana untuk chain apa

| Chain | Model |
| --- | --- |
| Tool calling dan output terstruktur | `broadnet/glm-5.3` |
| Dokumen panjang dan agen, paket unlimited | `broadnet/deepseek-v4.1-flash` |
| Teks atau gambar berbahasa Arab | `broadnet/qwen3.8-27b` |

[Lihat harga semua model](https://broadrouter.com/id/pricing/).

## Pemecahan masalah

-   **401.** Kuncinya salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis. Jika Anda tidak mengisi `api_key`, LangChain memakai `OPENAI_API_KEY`, yang mungkin berisi kunci OpenAI.
-   **404 atau “not found”.** Pastikan `base_url` diakhiri `/v1` dan tidak ada yang mengarahkan panggilan ke Responses API (lihat di atas). Lalu pastikan ID model sama persis dengan milik BroadNet, termasuk prefiks `broadnet/`. Model berbayar memerlukan top up; kredit $5 hanya mencakup `broadnet/gemma-4-26b-a4b`.
-   **`content` kosong.** Penalaran menghabiskan anggaran. Naikkan `max_tokens`. [Kenapa jawaban kembali kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).
-   **Tool call tidak pernah terjadi.** Gunakan `broadnet/glm-5.3` atau `broadnet/qwen3.8-27b`. Dokumentasi BroadNet hanya mencantumkan tools untuk kedua model itu.
-   **429 pada chain batch atau paralel.** Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Atur `max_concurrency` di konfigurasi runnable untuk `batch()`. Lihat [kode error dan percobaan ulang](https://broadrouter.com/id/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Bayar sesuai pemakaian (pay-as-you-go)](https://broadrouter.com/id/glossary/pay-as-you-go/)

Bayar sesuai pemakaian (pay-as-you-go) adalah model harga di mana Anda hanya membayar yang Anda pakai, dihitung per satuan seperti token, permintaan, atau menit audio, tanpa langganan atau komitmen minimum. Sebagian besar API LLM menagih dengan cara ini, dari saldo prabayar atau tagihan berkala.

[Streaming (respons streaming)](https://broadrouter.com/id/glossary/streaming/)

Streaming adalah cara mengembalikan respons model bahasa dalam potongan-potongan kecil selagi masih dihasilkan, bukan sebagai satu balasan utuh di akhir. API yang kompatibel dengan OpenAI melakukan streaming lewat server-sent events jika permintaan mengatur stream ke true.

[Tool calling (function calling)](https://broadrouter.com/id/glossary/tool-calling/)

Tool calling, disebut juga function calling, adalah fitur API LLM di mana model mengembalikan permintaan terstruktur untuk menjalankan fungsi yang didefinisikan developer, lengkap dengan argumen JSON. Aplikasi yang menjalankan fungsi itu dan mengirim hasilnya kembali; model tidak pernah menjalankan kode sendiri.

[Chat Completions API](https://broadrouter.com/id/glossary/chat-completions-api/)

Chat Completions API adalah endpoint HTTP milik OpenAI, POST /v1/chat/completions, yang menerima nama model dan daftar pesan bertanda peran lalu mengembalikan pesan berikutnya dari model. Bentuk request dan response-nya menjadi format umum yang dipakai ulang oleh penyedia dan SDK yang kompatibel dengan OpenAI.

[Konkurensi (concurrency)](https://broadrouter.com/id/glossary/concurrency/)

Konkurensi (concurrency) adalah jumlah permintaan yang sedang berjalan dari sebuah client pada saat yang sama. API LLM sering membatasinya per kunci atau per paket, terpisah dari batas permintaan per menit, karena setiap permintaan yang terbuka menahan kapasitas GPU sampai responsnya selesai.

[Rate limit (batas laju)](https://broadrouter.com/id/glossary/rate-limit/)

Rate limit adalah batas yang diterapkan API pada seberapa banyak client boleh memakainya dalam rentang waktu tertentu, misalnya permintaan per menit atau token per menit. Permintaan yang melebihi batas ditolak, biasanya dengan HTTP 429 Too Many Requests, sampai pemakaian kembali di bawah batas.

[Token](https://broadrouter.com/id/glossary/token/)

Token adalah satuan teks yang dibaca dan ditulis model bahasa: sebuah kata, bagian kata, tanda baca, atau urutan byte yang dihasilkan tokenizer model. API LLM menghitung, membatasi, dan biasanya menagih pemakaian dalam token.

[Context window (jendela konteks)](https://broadrouter.com/id/glossary/context-window/)

Context window adalah jumlah token maksimum yang bisa diolah model bahasa dalam satu permintaan. Cakupannya meliputi prompt, riwayat percakapan, definisi tool, gambar, dan output yang dihasilkan, termasuk token penalaran. Apa pun yang tidak muat harus dipotong, diringkas, atau dibagi ke beberapa permintaan.

## Pertanyaan umum

### Di ChatOpenAI, sebaiknya pakai base\_url atau openai\_api\_base?

Keduanya bisa. openai\_api\_base adalah alias untuk base\_url. Jika keduanya tidak diisi, LangChain memeriksa OPENAI\_API\_BASE, lalu klien openai membaca OPENAI\_BASE\_URL.

### Bisakah endpoint BroadNet diatur hanya dengan environment variable?

Bisa. Atur OPENAI\_BASE\_URL ke https://inference.broadnet.ai/v1 dan OPENAI\_API\_KEY ke kunci BroadNet Anda, lalu buat ChatOpenAI hanya dengan ID model. Tambahkan stream\_usage=True jika Anda ingin jumlah token saat streaming.

### Kenapa LangChain membuang reasoning\_content dari respons BroadNet?

Menurut dokumentasi LangChain, ChatOpenAI mengikuti spesifikasi resmi OpenAI dan tidak mengambil field nonstandar seperti reasoning\_content. Jawaban akhirnya tetap ada di content.

### Apakah ChatOpenAI dengan BroadNet mendukung tool calling?

Ya, lewat bind\_tools, pada model yang dicantumkan BroadNet dengan dukungan tools. Gunakan broadnet/glm-5.3 atau broadnet/qwen3.8-27b untuk tool calling dan with\_structured\_output.

## Panduan terkait

-   [Memakai OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/id/guides/openai-python-sdk/)
-   [Kenapa model reasoning mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/)
-   [Kode error BroadNet Inference dan kapan harus mencoba ulang](https://broadrouter.com/id/guides/errors-and-retries/)
-   [Menjalankan OpenAI Agents SDK di BroadNet Inference](https://broadrouter.com/id/guides/openai-agents-sdk-custom-provider/)
-   [Semua alat yang bisa dipakai dengan BroadNet Inference (bahasa Inggris)](https://broadrouter.com/integrations/): SDK, agen coding, antarmuka chat, dan alat otomatisasi, lengkap dengan pengaturan persis untuk masing-masing

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-langchain-openai-base-url&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi LangChain, integrasi ChatOpenAI (diperiksa 2026-11-14)](https://docs.langchain.com/oss/python/integrations/chat/openai)
-   [PyPI, paket langchain-openai (1.8, Python 3.11+, diperiksa 2026-11-14)](https://pypi.org/project/langchain-openai/)
-   [Kode sumber langchain-openai, resolusi base URL ChatOpenAI (diperiksa 2026-11-16)](https://github.com/langchain-ai/langchain/blob/master/libs/partners/openai/langchain_openai/chat_models/base.py)
-   [Referensi API BroadNet Inference (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-guides-langchain-openai-base-url&utm_content=sources)
