Spring AI は、Spring プロジェクトによる Java 向けの AI フレームワークです。OpenAI のチャットスターターは base-url を読み込むので、任意の OpenAI 互換サーバーを呼び出せます。BroadNet Inference は https://inference.broadnet.ai/v1 で標準の chat completions を提供しています。BroadRouter は BroadNet 自身のサイトです。このガイドは Spring AI 2.0.2 のリファレンスに基づいています。
スターターを追加する
Spring AI の BOM を設定したうえで(Spring AI の依存関係管理のドキュメントを参照)、次を追加します。
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>
設定する
application.properties:
spring.ai.openai.base-url=https://inference.broadnet.ai/v1
spring.ai.openai.api-key=${BROADNET_API_KEY}
spring.ai.openai.chat.model=broadnet/glm-5.3
spring.ai.openai.chat.max-tokens=2000
export BROADNET_API_KEY='your-broadnet-key'
URL の /v1 は残してください。Spring AI 2.x では、この値はそのまま openai-java クライアントに渡され(OpenAiSetup.calculateBaseUrl がそのまま返します)、クライアントが /chat/completions を付け足します。置き換えられるデフォルト値は https://api.openai.com/v1 です。
呼び出してテストする
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.boot.CommandLineRunner;
import org.springframework.context.annotation.Bean;
@Bean
CommandLineRunner smokeTest(ChatClient.Builder builder) {
return args -> {
ChatClient chat = builder.build();
System.out.println(chat.prompt().user("Say hello in five words.").call().content());
};
}
アプリを起動します。回答が出力されれば、キー、URL、モデル ID は正しく設定されています。
BroadNet で重要な設定
max-completion-tokensではなくmax-tokens。 Spring AI のドキュメントによると、この 2 つは同時に使えず、両方を設定するとエラーになります。BroadNet の API リファレンスが説明しているのはmax_tokensです。DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B は先に推論し、推論はこの上限に含まれます。- 推論のテキスト。 Spring AI は、
reasoning_contentを返す OpenAI 互換サーバーからそれを取り出せます。BroadNet の API リファレンスはusageで推論トークン数を報告しますが、推論のテキストそのものを返すとは約束していないので、それに頼らないでください。 - チャットだけの上書き。 チャットモデルについては、
spring.ai.openai.chat.base-urlとspring.ai.openai.chat.api-keyが共通のプロパティより優先されます。Spring AI のほかの OpenAI モデル(埋め込みなど)を OpenAI のまま使う必要がある場合に使ってください。 - リトライ。
spring.ai.retry.max-attemptsのデフォルトは 10 で、指数バックオフを使います。従量課金のキーでは 1 分あたりの上限をすぐに使い切ってしまうことがあるので、下げることを検討してください。
モデルの選び方
| 用途 | spring.ai.openai.chat.model |
|---|---|
| ツール呼び出し、構造化出力 | broadnet/glm-5.3 |
| 画像やアラビア語のテキスト | broadnet/qwen3.8-27b |
| 長いドキュメント、定額プラン | broadnet/deepseek-v4.1-flash |
| 無料の初回クレジット | broadnet/gemma-4-26b-a4b |
トラブルシューティング
- 401。 キーが間違っているか、期限切れか、利用枠を使い切っています。または JVM に
BROADNET_API_KEYが設定されていません。 - 404。 base URL に
/v1がないか、モデル ID が間違っています。有料モデルにはチャージが必要です。$5 のクレジットで使えるのはbroadnet/gemma-4-26b-a4bと 2 つの Transcribe モデルだけです。 content()が空。 推論が出力の枠を使い切りました。max-tokensを上げてください。回答が空で返ってくる理由。- 両方のトークン上限を設定して 400 になる。
max-completion-tokensを削除してください。 - 429。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。エラーとリトライを参照してください。
