Ipinapadala ng Claude Code ang bawat request sa Anthropic Messages API format, sa /v1/messages ng kung anumang itinuturo ng ANTHROPIC_BASE_URL. Ang karamihan ng open-model provider, kasama ang BroadNet Inference, ay OpenAI format ang sinasalita. Kaya kailangan mo ng proxy na nagsasalin sa pagitan ng dalawa, o ng provider na naglalathala ng sarili nitong Anthropic-format endpoint. Saklaw ng post na ito ang dalawa, pati ang mga limit na nagdedesisyon kung sulit itong gawin.
Bakit hindi direktang matawag ng Claude Code ang OpenAI-compatible API?
Nililista ng gabay sa gateway compatibility ng Claude Code ang mga format na dapat ilantad ng gateway. Para sa simpleng base URL, iyon ay Anthropic Messages: /v1/messages, opsyonal ang /v1/messages/count_tokens, at ipinapasa ang mga header na anthropic-beta at anthropic-version. Ang OpenAI-compatible API ay nagse-serve ng /v1/chat/completions na may ibang hugis ng request at response. Kapag direktang itinuro mo rito ang Claude Code, pumapalya ang mga request.
Isa pang dapat malaman bago ka magsimula. Sabi mismo ng docs ng Claude Code, ang Anthropic ay “doesn’t support routing Claude Code to non-Claude models through any gateway” (salin: hindi sumusuporta sa pag-route ng Claude Code sa non-Claude model sa kahit anong gateway). Marami pa ring gumagawa nito, pero walang taga-Anthropic na magde-debug nito para sa iyo.
Ano ang tatlong opsyon mo?
| Ruta | Paano gumagana | Pinakabagay para sa | Kapalit |
|---|---|---|---|
| Nagsasaling proxy (LiteLLM) | Anthropic format ang gamit ng Claude Code sa isang lokal na proxy; ang proxy ang tumatawag sa OpenAI-compatible provider | Paggamit ng partikular na OpenAI-compatible provider, gaya ng BroadNet | Isa pang process na patatakbuhin at ia-update; may puwang sa pagsasalin |
| Native na Anthropic-format endpoint | Ang provider mismo ang tumatanggap ng /v1/messages |
Mga DeepSeek o GLM model mula sa mga gumawa nito | May mga field na mina-map o ini-ignore ng bawat isa |
| Ibang agent | Gumamit ng agent na tumatanggap ng OpenAI-compatible na base URL | Sinumang hindi talaga kailangan ang Claude Code | Mawawala ang interface at mga feature ng Claude Code |
Paano patakbuhin ang Claude Code sa LiteLLM?
Ganito gumagana ang tutorial ng LiteLLM para sa non-Anthropic na model: i-install ang proxy, i-define ang mga model sa config.yaml, simulan ito, tapos mag-set ng dalawang variable sa Claude Code. Isinasalin ng LiteLLM ang mga format, kaya Anthropic request pa rin ang ipinapadala ng Claude Code.
I-define ang mga BroadNet model sa parehong paraan gaya sa gabay sa LiteLLM, gamit ang openai/ prefix at api_base:
model_list:
- model_name: glm
litellm_params:
model: openai/broadnet/glm-5.3
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
rpm: 30
- model_name: qwen
litellm_params:
model: openai/broadnet/qwen3.8-27b
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
rpm: 30
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY
Simulan ang proxy:
uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml # listens on http://0.0.0.0:4000
Tapos ituro ang Claude Code dito. Lumalabas ang ANTHROPIC_AUTH_TOKEN bilang Authorization: Bearer header, na siyang binabasa ng LiteLLM:
export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm # subagents
claude
Patakbuhin ang /status sa Claude Code. Dapat ipakita ng linyang Anthropic base URL ang address ng proxy.
Mahalaga ang mga model variable. Nagbababala ang Claude Code page ng LiteLLM na kapag pumili ka ng built-in na pangalan ng Claude na hindi naka-define sa config mo, papalya ito nang may “Invalid model name passed in” (salin: maling pangalan ng model ang ipinasa). Sabi ng env-vars reference ng Claude Code, ginagamit din ang ANTHROPIC_DEFAULT_HAIKU_MODEL para sa background na functionality, kaya i-map din ito, kung hindi ay hihingi ang mga background request ng pangalang Haiku na hindi kilala ng proxy. Itinatakda ng CLAUDE_CODE_SUBAGENT_MODEL ang default na model para sa mga subagent, pero ang model na ipinapasa ng Claude kapag gumagawa ito ng subagent, kadalasang alias gaya ng sonnet o haiku, ang nasusunod. Kapag na-map mo rin ang mga alias na sonnet at opus, mapupunta pa rin ang mga request na iyon sa model na kilala ng proxy. Ilagay ang BroadNet key mo sa environment ng proxy, hindi kailanman sa naka-commit na .claude/settings.json ng isang proyekto.
Aling mga endpoint ng DeepSeek at GLM ang gumagana nang walang proxy?
Dalawang gumagawa ng model ang naglalathala ng Anthropic-format na base URL:
| Provider | Base URL | Paghawak sa model (mula sa docs nila, sinuri noong 2026-11-15) |
|---|---|---|
| DeepSeek | https://api.deepseek.com/anthropic |
Ang mga pangalang claude-sonnet* at claude-haiku* ay nagma-map sa deepseek-flash; ang claude-opus* sa deepseek-v4-pro; 400 ang balik sa mga pangalang hindi nagsisimula sa claude |
| Z.ai (GLM Coding Plan) | https://api.z.ai/api/anthropic |
Key sa ANTHROPIC_AUTH_TOKEN; sa manual na halimbawa, naka-map ang Opus at Sonnet sa glm-5.3[1m] at ang Haiku sa glm-5.3-flash[1m] |
Sabi ng release note ng DeepSeek noong Setyembre 10, 2026, DeepSeek-V4.1-Flash ang sine-serve ng deepseek-flash. Nililista rin ng Anthropic API page nito ang mga ini-ignore: cache_control, budget_tokens, disable_parallel_tool_use at ang header na anthropic-version, bukod sa iba pa. Sa deepseek-flash, 400 ang balik ng mga larawan sa assistant message, at pinapalitan ng deepseek-v4-pro ang mga larawan ng “[Unsupported Image]”.
Kung DeepSeek o GLM lang ang gusto mo sa Claude Code, ang mga native endpoint na ito ang pinakamaikling daan. Inihahambing ang presyo at limit ng plan ng dalawa sa page ng mga alternatibo sa Claude API.
Ano ang nasisira o nagbabago sa non-Claude model?
Pinapanatiling dumadaloy ng pagsasalin ang mga request, pero umaasa ang ilang feature ng Claude Code sa mga bagay na puwedeng hindi ipasa ng proxy o ng ibang model. Ito ang pinangangalanan ng docs ng Claude Code:
- Prompt caching. Minamarkahan ng Claude Code ng
cache_controlang mgasystemat message block. Kung tinanggal ito ng gateway o upstream, walang error, pero sisingilin ang bawat turn bilang hindi cached na input. Sa OpenAI-compatible na upstream, sariling patakaran ng provider na iyon ang sinusunod ng caching. Sinisingil ng BroadNet ang cached input sa mas mababang presyo kapag nag-ulat ng cache hit ang usage block nito; tingnan angcached_tokenssa mga log mo. - Pagbilang ng token. Kung walang
/v1/messages/count_tokens, aasa ang Claude Code sa tantiya batay sa bilang ng character, kaya tantiya lang ang/context. - Context window. Inilalapat ng Claude Code ang sarili nitong default na window sa mga pangalan ng model na hindi nito kilala. I-set ang
CLAUDE_CODE_AUTO_COMPACT_WINDOW(100,000 hanggang 1,000,000 token) para tumugma sa model. Para sa Qwen3.8 27B, na may 262,144-token na context, i-set ito nang mas mababa nang malaki roon. - Hindi kilalang field. Ang
400na nagbabanggit ngExtra inputs are not permitted(salin: hindi pinapayagan ang mga dagdag na input) o ng isanganthropic-betavalue ay nangangahulugang may tumanggi sa upstream sa isang pre-release na field. Iminumungkahi ng docs angCLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1. - Thinking. Mga feature ng Claude ang
MAX_THINKING_TOKENSat adaptive thinking. Sa BroadNet, nagre-reason muna bago sumagot ang DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, at binibilang ang mga reasoning token na iyon samax_tokens. Kung walang laman ang mga sagot, itaas ang output limit o ipadala angreasoning_effortna low. Tingnan ang bakit walang laman ang sagot ng mga reasoning model. - Larawan. Text lang ang GLM 5.3 sa BroadNet. Gamitin ang Qwen3.8 27B kung magpe-paste ka ng screenshot.
Subukan ang isang totoong task mula simula hanggang dulo, may pag-edit ng file, shell command at mahabang session, bago ka umasa rito.
Aling BroadNet model ang dapat nasa likod ng Claude Code?
Nagbabasa, nag-e-edit ng file at nagpapatakbo ng command ang Claude Code sa pamamagitan ng mga tool call. Dinodokumento ng API reference ng BroadNet ang tools, structured output at reasoning para sa dalawang model:
| Model | Input / output kada 1M token | Context | Larawan | May dokumentadong tools |
|---|---|---|---|---|
| GLM 5.3 | $0.78 / $3.46 | 1,048,576 | Wala | Oo |
| Qwen3.8 27B | $0.175 / $2.17 | 262,144 | Oo | Oo |
| DeepSeek V4.1 Flash | $0.175 / $0.52 | 1,048,576 | Oo | Hindi dokumentado |
Ang GLM 5.3 ang natural na pangunahing model para sa malalaking repository. Mas mura kada input token ang Qwen3.8 27B at gumagana ito para sa larawan at mas magaang background call. Parehong kailangan ng top-up; hindi sila sakop ng $5 na panimulang credit. Magkatabi ang dalawa sa paghahambing ng GLM 5.3 vs Qwen3.8 27B.
Puwede mo bang gamitin ang flat-rate plan ng BroadNet sa Claude Code?
Hindi ito dokumentadong tugma, at mas mabuting malaman iyan bago bumili. DeepSeek V4.1 Flash lang ang sakop ng mga plan na Full Moon, Orbit at Meteor, at hindi dinodokumento ng BroadNet ang tool calling para dito. Isang request din sa bawat pagkakataon ang bawat plan session. Kayang magpatakbo ng Claude Code ng mga subagent at background task kasabay ng main loop, at mapipila ang mga request na iyon sa iisang session.
Kung flat na presyo ang gusto mo, gumamit ng agent na dinodokumento ng BroadNet kasama ng plan, gaya ng Aider. Para sa Claude Code, gumamit ng pay-as-you-go na GLM 5.3 o Qwen3.8 27B, na nagpapahintulot ng 30 request kada minuto at 4 na sabay-sabay kada key. Mag-back off sa 429 gaya ng nasa errors at retries.
Kailan mas mabuting pumili ng ibang agent?
Kung hindi mo kailangan ang Claude Code mismo, laktawan ang proxy. Direktang tumatanggap ng OpenAI-compatible na base URL, key at model ID ang opencode, Cline, Roo Code, Continue at Aider. Nasa paggamit ng open model sa coding agent ang mga pangalan ng field para sa bawat isa, may setup guide para sa opencode at Cline. Mas kaunting gumagalaw na bahagi, mas kaunting bug sa pagsasalin. Para ihambing ang mga model para sa ganitong trabaho, tingnan ang pinakamahusay na open model para sa coding agent.
Manatili sa mga Claude model kung umaasa ang trabaho mo sa mga feature na pang-Claude lang gaya ng extended thinking, prompt caching ng Anthropic o ang pinakabagong beta ng Claude Code. Sa ganoong kaso, bawasan ang gastos sa loob ng Claude Code sa halip na palitan ang model.
Saan pumupuwesto ang BroadNet Inference
OpenAI-compatible API ang BroadNet Inference, kaya naaabot lang nito ang Claude Code sa pamamagitan ng proxy gaya ng LiteLLM. Sa likod nito, ang GLM 5.3 at Qwen3.8 27B ang dalawang model na may dokumentadong tool calling, sinisingil kada token at walang content na itinatago pagkatapos ng request. Kung gusto mo ng native na Anthropic-format endpoint, mas simple ang DeepSeek at Z.ai. Kung gusto mo ang flat plan ng BroadNet, ipares ito sa agent na OpenAI format ang sinasalita.
