BroadRouter

Sistem istemi (system prompt)

Güncellendi

Sistem istemi (system prompt), bir uygulamanın konuşmadan önce dil modeline gönderdiği talimat metnidir; genellikle system veya developer rolündeki bir mesajdır. Modelin rolünü, kurallarını, üslubunu ve çıktı biçimini belirler; model, çelişen kullanıcı mesajlarına karşı buna uymak üzere eğitilir.

Diğer adları: sistem istemi, sistem mesajı, geliştirici mesajı, sistem talimatları, system prompt, system message, developer message, system instructions, system role

Sistem istemi, isteğin son kullanıcının hiç yazmadığı kısmıdır. Modele kimin için çalıştığını ve nasıl davranacağını söyler.

Nasıl çalışır

Chat Completions biçiminde messages, her biri bir role taşıyan nesnelerden oluşan bir listedir. İlki genellikle kalıcı talimatları taşır:

{"messages": [
  {"role": "system", "content": "You are a support agent for an airline. Answer in two sentences. Never quote fares."},
  {"role": "user", "content": "Can I change my flight?"}
]}

(Örnekteki sistem istemi modele bir havayolunun destek temsilcisi olduğunu, iki cümleyle yanıt vermesini ve asla ücret söylememesini; kullanıcı ise uçuşunu değiştirip değiştiremeyeceğini soruyor.)

OpenAI’nin API referansı hem system hem de developer mesajlarını “developer-provided instructions that the model should follow, regardless of messages sent by the user” (çeviri: kullanıcının gönderdiği mesajlardan bağımsız olarak modelin uyması gereken, geliştirici tarafından verilen talimatlar) diye tanımlar ve o1 ile daha yeni modellerde developer mesajlarının system mesajlarının yerini aldığını söyler. Metin rehberi de developer mesajlarını öncelik sırasında “ahead of user messages” (çeviri: kullanıcı mesajlarının önüne) koyar. Anthropic ise sistem istemini bir mesaj olarak değil, üst düzeyde ayrı bir system parametresi olarak alır ve rol belirleyen tek bir cümlenin bile “focuses Claude’s behavior and tone” (çeviri: Claude’un davranışını ve üslubunu odaklar) olduğunu belirtir.

Tipik içerik: bir rol, görev, kesin kurallar, çıktı biçimi ve bazen örnekler (few-shot istem).

Neden önemli

  • Maliyet. Sistem istemi her çağrıda girdi token’ı olarak yeniden gönderilir. 10.000 istekte 2.000 token’lık bir istem 20 milyon token eder.
  • Önbellekleme. Hep aynı olduğu ve en başta durduğu için sistem istemi önbelleğe alınması en kolay önektir. Tarih veya kullanıcı adı gibi değişen verileri onun arkasına koyun. Önbellekleme için istem yapısı yazısı sıralamayı gösterir.
  • Güvenlik. Sistem istemi bir politika katmanıdır, güvenlik sınırı değildir. Belgelerdeki veya kullanıcı metnindeki istem enjeksiyonu modeli yine de yolundan çıkarabilir.

BroadNet Inference’ta

BroadNet, OpenAI chat completions yapısını sunar; bu yüzden system mesajı yukarıdaki gibi messages içine girer. Belgelerdeki örnekler tek bir user mesajı kullanır ve her modelin system veya developer rolünü nasıl ele aldığını anlatmaz; isteminizi yayına alacağınız modelde test edin.

BroadNet, usage içinde prompt_tokens_details.cached_tokens değerini bildirir ve bu token’ları önbellekli girdi fiyatından ücretlendirir. DeepSeek V4.1 Flash’ta yukarıdaki 20 milyon token’la örnek hesap: hiçbiri önbellekten gelmezse 20 × $0.175, her okuma önbelleğe isabet ederse 20 × $0.0055. Gerçek isabet oranları ikisinin arasında olur; kendi oranınızı görmek için cached_tokens değerine bakın. İlk isteği curl hızlı başlangıç rehberi gösterir.

Sık yapılan hatalar

  • Sistem isteminin en üstüne zaman damgası koymak. Her çağrıda değişir ve önbelleği bozar.
  • Sistem isteminde gizli bilgi saklamak. Kullanıcılar çoğu zaman modele onu tekrarlatabilir.

Sık sorulan sorular

System mesajı ile developer mesajı arasındaki fark nedir?

Aynı işi görürler. OpenAI'ye göre o1 ve daha yeni modellerde developer mesajları system mesajlarının yerini alır. Birçok OpenAI uyumlu sunucu hâlâ system rolünü bekler; modelinizin hangisini kabul ettiğini kontrol edin.

Bir kullanıcı sistem istemini geçersiz kılabilir mi?

Model sistem istemini tercih etmek üzere eğitilir, ama bu kusursuz değildir. İstem enjeksiyonu (prompt injection) ve jailbreak girişimleri tam olarak bunu dener; bu yüzden kesin kuralları kodda da uygulayın.

Sistem istemi ücretlendirilir mi?

Evet. Her istekte girdi token'ı sayılır. Hiç değişmiyor ve en başta yer alıyorsa, istem önbelleklemesi sunan bir sağlayıcı onu önbellekli fiyattan ücretlendirebilir.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor