Spring AI è il framework del progetto Spring per l’AI in Java. Il suo starter chat OpenAI legge una base-url, quindi può chiamare qualsiasi server compatibile con OpenAI. BroadNet Inference serve chat completions standard su https://inference.broadnet.ai/v1. BroadRouter è il sito di BroadNet; questa guida segue il riferimento di Spring AI 2.0.2.
Aggiungere lo starter
Con il BOM di Spring AI già configurato (vedi la documentazione di Spring AI sulla gestione delle dipendenze):
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-starter-model-openai</artifactId>
</dependency>
Configurazione
application.properties:
spring.ai.openai.base-url=https://inference.broadnet.ai/v1
spring.ai.openai.api-key=${BROADNET_API_KEY}
spring.ai.openai.chat.model=broadnet/glm-5.3
spring.ai.openai.chat.max-tokens=2000
export BROADNET_API_KEY='your-broadnet-key'
Mantieni /v1 nell’URL. In Spring AI 2.x il valore arriva invariato al client openai-java (OpenAiSetup.calculateBaseUrl lo restituisce così com’è), ed è quel client ad aggiungere /chat/completions. Il default che sostituisci è https://api.openai.com/v1.
Chiamarlo e testarlo
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.boot.CommandLineRunner;
import org.springframework.context.annotation.Bean;
@Bean
CommandLineRunner smokeTest(ChatClient.Builder builder) {
return args -> {
ChatClient chat = builder.build();
System.out.println(chat.prompt().user("Say hello in five words.").call().content());
};
}
Avvia l’app. Se viene stampata una risposta, chiave, URL e ID del modello sono corretti.
Impostazioni che contano per BroadNet
max-tokens, nonmax-completion-tokens. La documentazione di Spring AI dice che si escludono a vicenda e che impostarli entrambi è un errore. Il riferimento API di BroadNet descrivemax_tokens. DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere, e il ragionamento conta nel limite.- Testo del ragionamento. Spring AI può esporre
reasoning_contentdai server compatibili con OpenAI che lo restituiscono. Il riferimento API di BroadNet riporta il conteggio dei token di ragionamento inusagema non garantisce il testo del ragionamento, quindi non farci affidamento. - Override solo per la chat.
spring.ai.openai.chat.base-urlespring.ai.openai.chat.api-keyhanno la precedenza sulle proprietà condivise per il modello di chat. Usale se altri modelli OpenAI di Spring AI (come gli embedding) devono restare su OpenAI. - Retry.
spring.ai.retry.max-attemptsvale 10 per default, con backoff esponenziale. Con una chiave a consumo può esaurire il limite al minuto; valuta di abbassarlo.
Quale modello scegliere
| Uso | spring.ai.openai.chat.model |
|---|---|
| Tool calling, output strutturato | broadnet/glm-5.3 |
| Immagini o testo in arabo | broadnet/qwen3.8-27b |
| Documenti lunghi, piano a prezzo fisso | broadnet/deepseek-v4.1-flash |
| Credito iniziale gratuito | broadnet/gemma-4-26b-a4b |
Risoluzione dei problemi
- 401. La chiave è sbagliata, scaduta o ha esaurito la quota, oppure
BROADNET_API_KEYnon è impostata per la JVM. - 404. Alla base URL manca
/v1, oppure l’ID del modello è sbagliato. I modelli a pagamento richiedono una ricarica; il credito di $5 copre solobroadnet/gemma-4-26b-a4be i due modelli Transcribe. content()vuoto. Il ragionamento ha consumato il budget di output. Alzamax-tokens. Perché le risposte arrivano vuote.- 400 con entrambi i limiti di token impostati. Rimuovi
max-completion-tokens. - 429. Una chiave a consumo consente 30 richieste al minuto e 4 in corso contemporaneamente. Vedi errori e retry.
