O system prompt é a parte da requisição que o usuário final nunca digita. Ele diz ao modelo para quem ele está trabalhando e como deve se comportar.
Como funciona
No formato Chat Completions, messages é uma lista de objetos com um role. O primeiro costuma trazer as instruções fixas:
{"messages": [
{"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
{"role": "user", "content": "Can I change my flight?"}
]}
A referência da API da OpenAI descreve as mensagens system e developer como “developer-provided instructions that the model should follow, regardless of messages sent by the user” (tradução: instruções fornecidas pelo desenvolvedor que o modelo deve seguir, independentemente das mensagens enviadas pelo usuário), e diz que, nos modelos o1 e mais novos, as mensagens developer substituem as system. O guia de texto coloca as mensagens developer “ahead of user messages” (tradução: à frente das mensagens do usuário) na prioridade. A Anthropic recebe o system prompt como um parâmetro system separado, de nível superior, e não como mensagem, e observa que até uma única frase definindo um papel “focuses Claude’s behavior and tone” (tradução: direciona o comportamento e o tom do Claude).
Conteúdo típico: um papel, a tarefa, as regras rígidas, o formato de saída e, às vezes, exemplos (few-shot prompting).
Por que isso importa
- Custo. O system prompt é reenviado em toda chamada como tokens de entrada. Um prompt de 2.000 tokens em 10.000 requisições dá 20 milhões de tokens.
- Cache. Por ser idêntico e vir primeiro, o system prompt é o prefixo mais fácil de colocar em cache. Coloque os dados que mudam, como datas ou nomes de usuário, depois dele. O post sobre estrutura de prompt para cache mostra a ordem.
- Segurança. Ele é uma camada de política, não uma barreira de segurança. Uma prompt injection em documentos ou no texto do usuário ainda pode tirar o modelo do rumo.
Na BroadNet Inference
A BroadNet oferece o formato de chat completions da OpenAI, então uma mensagem system vai em messages, como acima. Os exemplos da documentação usam uma única mensagem de usuário e não descrevem como cada modelo trata o papel system ou developer; teste o seu prompt no modelo que você vai colocar em produção.
A BroadNet informa prompt_tokens_details.cached_tokens em usage e cobra esses tokens pelo preço de entrada em cache. Exemplo de cálculo no DeepSeek V4.1 Flash, com os 20 milhões de tokens acima: 20 × $0.175 se nada estiver em cache, ou 20 × $0.0055 se toda leitura acertar o cache. As taxas reais de acerto ficam entre os dois; confira cached_tokens para ver as suas. O guia rápido com curl mostra uma primeira requisição.
Erros comuns
- Colocar um timestamp no início do system prompt. Ele muda a cada chamada e quebra o cache.
- Guardar segredos no system prompt. Muitas vezes os usuários conseguem fazer o modelo repeti-lo.