OpenAI 호환 API는 OpenAI API와 같은 요청 형식을 받으므로, base_url과 API 키만 바꾸면 공식 OpenAI SDK가 그대로 동작합니다. 어려운 점은 제공업체마다 엔드포인트 위치가 조금씩 다르다는 것입니다. 아래 표는 14곳을 정리한 것으로, 2026년 11월 15일에 각 제공업체의 공식 문서에서 직접 확인했습니다.
OpenAI 호환 제공업체별 base URL은 무엇인가요?
| 제공업체 | Base URL | OpenAI 호환 문서에 나온 범위 | 문서에 명시된 차이점 |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
전부(기준 구현) | 아무것도 설정하지 않았을 때의 SDK 기본값 |
| Anthropic | https://api.anthropic.com/v1/ |
Chat completions | “Primarily intended to test and compare model capabilities”(번역: 주로 모델 기능을 테스트하고 비교하기 위한 것); strict 무시; 오디오와 파일 입력은 400 반환 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat completions, embeddings, 이미지 생성, models, batch | OpenAI 라이브러리 지원은 “still in beta”(번역: 아직 베타); Responses API는 목록에 없음 |
| DeepSeek | https://api.deepseek.com |
Chat completions | 버전 경로 없음; Anthropic 형식용 URL은 /anthropic에 별도 제공 |
| Groq | https://api.groq.com/openai/v1 |
Chat completions, Responses API; 오디오 전사 관련 안내 | logprobs, logit_bias, top_logprobs, messages[].name은 400 반환; n은 1이어야 함; srt, vtt 전사 형식 없음 |
| Together AI | https://api.together.ai/v1 |
Chat, completions, 이미지, 음성 합성, 전사, models, Responses | 미국 전용 추론은 https://us-api.together.ai/v1; embeddings는 전용 엔드포인트에서만 |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat completions | 모델 ID 형식은 accounts/fireworks/models/…; 별도 지정이 없으면 오류 대신 max_tokens를 컨텍스트에 맞게 낮춤 |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat completions; Responses 클라이언트도 같은 base 사용 | Embeddings, 이미지, 음성은 별도 페이지에 문서화 |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
API 레퍼런스에서 스스로 OpenAI 호환이라고 하지 않음; 의존하기 전에 테스트 필요 |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat completions | 순위 집계용 선택 헤더 HTTP-Referer, X-OpenRouter-Title |
| xAI | https://api.x.ai/v1 |
Responses API | 가이드에 “The Responses API is the preferred way of interacting with our models”(번역: Responses API가 저희 모델과 상호작용하는 권장 방식입니다)라고 명시 |
| Z.ai(GLM) | https://api.z.ai/api/paas/v4/ |
Chat completions | 경로가 v1이 아니라 v4 |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1(싱가포르) |
Chat completions | 호스트에 워크스페이스 ID 포함; 키는 생성한 리전에서만 동작하며, 그 외에는 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat completions, audio transcriptions | 모델 ID는 broadnet/로 시작; 아래 참고 |
Alibaba는 us-east-1의 미국(버지니아) 엔드포인트도 안내합니다. 같은 페이지의 베이징 행에는 싱가포르 호스트가 표시되어 있지만, 페이지의 다른 부분에서는 cn-beijing을 언급하므로 중국 엔드포인트는 콘솔에서 확인하세요. 이 표는 확인 시점의 스냅샷입니다. 엔드포인트는 바뀝니다. 저희가 확인하는 동안에도 Anthropic과 Google의 문서가 모두 새 주소로 리디렉션되었습니다.
이 제공업체들의 가격은 제공업체별 LLM API 가격 페이지에서 볼 수 있습니다.
코드에서 base URL은 어떻게 설정하나요?
Python에서는 클라이언트에 base_url을 전달합니다.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
Node에서는 옵션 이름이 baseURL입니다.
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
공식 SDK를 쓰는 모든 도구에 한 번에 설정할 수도 있습니다. Node SDK 소스는 baseURL의 기본값으로 먼저 process.env['OPENAI_BASE_URL']을, 그다음 https://api.openai.com/v1을 사용합니다. Python README에도 같은 변수가 문서화되어 있습니다.
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
전체 안내: OpenAI Python SDK, OpenAI Node SDK. base URL이 무엇이고 왜 도구들이 이 값을 요구하는지는 용어집을 참고하세요.
새 base URL은 curl로 어떻게 테스트하나요?
애플리케이션 코드를 바꾸기 전에 아주 작은 요청 하나를 먼저 보내 보세요.
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
base URL, 키, 모델을 테스트할 제공업체의 값으로 바꾸세요. choices 배열과 함께 200이 오면 경로, 키, 모델 ID가 모두 맞는 것입니다. 404는 대개 경로가 틀렸다는 뜻이고, 401은 키나 리전이 틀렸다는 뜻이며, 400은 제공업체가 거부한 파라미터를 알려 주는 경우가 많습니다. 더 많은 예시는 curl 빠른 시작에 있고, API 요청 빌더는 curl, Python, Node 버전을 자동으로 작성해 줍니다.
base_url을 바꿀 때 흔히 하는 실수는 무엇인가요?
- 전체 엔드포인트를 붙여 넣기. SDK가
/chat/completions를 덧붙입니다. base URL이 이미 이것으로 끝나 있으면/chat/completions/chat/completions가 되어 404가 납니다. - 습관적으로
/v1을 붙이거나 빼기. DeepSeek의 문서상 base에는/v1이 없고, Z.ai는/v4/, Gemini는/v1beta/openai/로 끝납니다. 제공업체가 제시한 문자열을 정확히 복사하세요. - OpenAI 모델 이름을 그대로 쓰기.
gpt-…이름은 다른 곳에서 실패합니다. 제공업체마다 형식이 있습니다. DeepInfra는deepseek-ai/DeepSeek-V4-Flash-0731, Fireworks는accounts/fireworks/models/…, BroadNet은broadnet/deepseek-v4.1-flash형식입니다. - 제공업체가 거부하거나 무시하는 파라미터 보내기. Groq는
logprobs에 400을 반환하고, Anthropic의 호환 계층은seed,logit_bias,reasoning_effort를 조용히 무시합니다. 조용히 무시되는 파라미터는 오류보다 나쁩니다. 아무것도 알려 주지 않기 때문입니다. - 응답 필드가 같다고 가정하기. Anthropic의 호환 계층은
prompt_tokens_details를 비워서 반환하므로 캐시된 토큰 보고가 빠집니다. Fireworks는 스트리밍 사용량을 마지막 청크에 담는데, SDK 타입에는 선언되어 있지 않을 수 있습니다. - 모든 엔드포인트가 있다고 가정하기. “OpenAI 호환”은 보통 chat completions를 뜻합니다. 표에서 보듯 embeddings, 오디오, 이미지 생성, Responses API는 별개의 문제입니다.
- 리전 혼동. Alibaba 키는 리전에 묶여 있고, Together는 별도의 미국 전용 호스트를 제공합니다. 유효한 키라도 호스트가 틀리면 실패합니다.
전환 전 전체 점검 목록은 OpenAI 호환 마이그레이션 체크리스트에 있습니다.
BroadNet Inference는 어떤 엔드포인트를 지원하나요?
BroadNet의 API 레퍼런스는 https://inference.broadnet.ai/v1 주소에서 모델 엔드포인트 두 개와, 카탈로그 메타데이터용 GET /v1/models를 문서화하고 있습니다.
| 엔드포인트 | 모델 |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe(14개 언어) |
실제로는 다음을 뜻합니다.
- Embeddings, 이미지 생성, Responses API는 문서화되어 있지 않습니다. 이 중 하나가 필요한 도구라면 그 부분은 다른 제공업체가 필요합니다.
- 도구 호출과 구조화된 출력은 GLM 5.3과 Qwen3.8 27B에 대해 문서화되어 있습니다.
- 이미지는
data:URL로image_url콘텐츠 파트 안에 넣으며, DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B에서 지원됩니다. - 추론 모델(DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B)은 추론 토큰을
max_tokens에 포함합니다. 문서의 권고대로 1,000토큰 이상을 남겨 두거나reasoning_effort를low로 설정하세요. 추론 모델이 빈 답변을 반환하는 이유를 참고하세요. - 모델 목록은 2026년 11월 15일에
GET /v1/models를 호출했을 때 응답이 왔지만, 문서화된 엔드포인트 목록에는 없으므로 이에 의존하지 마세요. - 한도: 종량제 키는 분당 요청 30개, 동시 처리 요청 4개입니다.
100만 토큰당 가격: DeepSeek V4.1 Flash는 입력 $0.175, 출력 $0.52, Gemma 4 VL 26B는 입력 $0.10, 출력 $0.22. DeepSeek V4.1 Flash는 세션당 월 $60 요금의 정액 플랜으로도 판매되며, 한 번에 요청 1개를 처리합니다.
여러 제공업체를 base URL 하나로 묶어야 할까요?
앱이 이 중 여러 제공업체를 호출한다면, LiteLLM 같은 프록시를 쓰면 코드에는 base URL 하나만 두고 모델 이름을 각 업스트림에 매핑할 수 있습니다. 매핑은 직접 정합니다. 폴백을 직접 설정하지 않는 한, 제공업체가 자동으로 바뀌지는 않습니다. 클라이언트나 LiteLLM에서 설정하는 방법은 LLM API 페일오버에 있습니다. LiteLLM 프록시 가이드에는 BroadNet 설정 예시가 있습니다. 용어의 배경은 OpenAI 호환 API를 참고하세요.
BroadNet Inference는 어디에 적합한가요?
코드가 이미 chat completions 형식을 쓰고 있고, 오픈 모델, 아랍어 및 다국어 음성 인식, 정액 DeepSeek 세션을 키 하나로 쓰고 싶다면 BroadNet이 잘 맞습니다. 같은 제공업체에서 embeddings, Responses API, 이미지 생성이 필요하다면 맞지 않습니다. Together AI와 Gemini는 OpenAI API의 더 많은 부분을 문서화하고 있습니다. 이 URL과 엔드포인트 목록은 바뀌므로, 배포 전에 저희 표를 각 제공업체의 문서와 대조해 보세요.
