SDK가 보내는 모든 요청은 base URL에 경로를 붙인 주소로 갑니다. base URL만 제대로 설정하면 나머지 클라이언트 코드는 그대로 동작합니다.
작동 방식
클라이언트는 두 부분을 이어 붙입니다.
| 구성 요소 | 예시 |
|---|---|
| base URL | https://inference.broadnet.ai/v1 |
| 엔드포인트 경로 | /chat/completions |
| 전체 요청 URL | https://inference.broadnet.ai/v1/chat/completions |
코드에서 쓰는 파라미터 이름은 라이브러리마다 다릅니다.
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
두 공식 SDK 모두 값이 없으면 OPENAI_BASE_URL 환경 변수를 쓰고, 그것도 설정되지 않았으면 OpenAI 자체 주소를 씁니다. 다른 도구는 api_base나 OPENAI_API_BASE 같은 이름을 씁니다.
왜 중요한가
base URL 덕분에 OpenAI 호환 API로 그대로 갈아 끼울 수 있습니다. base URL은 프롬프트가 어디로 가는지, 누가 요금을 청구하는지도 결정합니다. 값이 틀리면 트래픽과 API 키가 엉뚱한 제공업체로 갈 수 있습니다. 여러 곳에 하드코딩하지 말고 키와 함께 설정에 두세요.
라우터도 같은 원리를 씁니다. base URL을 모델 제공업체 대신 라우터로 지정하면 됩니다.
BroadNet Inference에서는
base URL은 채팅, 비전, 음성 인식 등 모든 모델에서 https://inference.broadnet.ai/v1 주소입니다. 채팅은 /chat/completions로, 전사는 /audio/transcriptions로 보냅니다. curl 빠른 시작에서 첫 요청을 보내는 방법을, LangChain 가이드에서 프레임워크 안의 설정 위치를 확인할 수 있습니다.
흔한 실수
/v1누락./v1없이https://inference.broadnet.ai만 쓰면 SDK에서 404 오류가 발생합니다.- 경로 중복.
.../v1/chat/completions같은 전체 엔드포인트를 base URL에 붙여 넣으면 SDK가.../chat/completions/chat/completions를 호출합니다. - 남아 있는 환경 변수. 셸에 남은 예전
OPENAI_BASE_URL값이 예상한 설정을 덮어씁니다. 요청이 엉뚱한 곳으로 가면 이 값을 출력해 보세요. - 일반 HTTP. 항상
https://를 쓰세요. Bearer 키는 TLS로만 전송해야 합니다. - URL만 바꾸고 모델은 그대로 두는 것. 제공업체마다
broadnet/deepseek-v4.1-flash같은 고유한 모델 ID가 있습니다.
앱 전체를 옮기시나요? 마이그레이션 체크리스트를 차례로 확인하세요.