İstem, modele her seferinde ne yapacağını söyler. İnce ayar ise modeli, zaten bilecek şekilde değiştirir.
Nasıl çalışır
Eğitilmiş bir modelden başlar ve kendi örneklerinizle ek eğitim çalıştırırsınız. Denetimli ince ayarda (SFT) her örnek, istediğiniz yanıtı içeren bir sohbettir. OpenAI’ın rehberi sohbet biçiminde JSONL kullanır, yani “one complete JSON structure on every line” (çeviri: her satırda eksiksiz bir JSON yapısı):
{"messages": [{"role": "user", "content": "Classify: 'card charged twice'"}, {"role": "assistant", "content": "billing"}]}
Eğitim işi ağırlıkları bu yanıtları daha olası kılacak şekilde ayarlar ve yeni bir model kimliği döndürür. OpenAI en az 10 örnek şartı koyar ve 50 örnekle başlayıp daha fazlasını eklemeden önce değerlendirmeyi önerir.
Tam ince ayar her ağırlığı günceller; bu, büyük modeller için maliyetlidir. Hu ve arkadaşlarının LoRA makalesi, GPT-3’ün “each with 175B parameters” (çeviri: her biri 175B parametreli) ayrı ince ayarlı kopyalarını dağıtmayı aşırı pahalı bulur. LoRA gibi parametre açısından verimli yöntemler bunun yerine küçük bir eklenti eğitir. Damıtma da ilişkili bir fikirdir: küçük bir modele, daha büyük bir modelin çıktılarıyla ince ayar yapmak.
Neden önemli
- Daha kısa istemler. Uzun bir few-shot istem gerektiren davranış ağırlıklara taşınabilir ve çağrı başına girdi token’larını azaltır.
- Tutarlılık. İyi kullanım alanları sınıflandırma, sabit bir çıktı üslubu, alana özgü çeviri ve talimat izleme hatalarını düzeltmektir.
- Bakım. İnce ayarlı bir model tek bir temel modele bağlıdır. Temel model kullanımdan kaldırıldığında yeniden eğitirsiniz. OpenAI’ın rehberi artık ince ayar platformunu kademeli olarak kapattığını, yeni kullanıcılara kapalı olduğunu ve ince ayarlı modellerin temel modelleri kapanana kadar sunulacağını söylüyor.
- Önce ölçüm. Eğitimden önce bir eval kurun; aksi hâlde ince ayarlı modelin daha iyi olup olmadığını anlayamazsınız.
İnce ayar, değişen bilgileri eklemenin kötü bir yoludur. Getirme (retrieval) onları güncel tutar.
BroadNet Inference’ta
BroadNet’in API referansı bir ince ayar API’si, eğitim işleri veya kendi ağırlıklarınızı yükleme belgelemez. Ancak “our Arabic fine-tunes and other models on request” (çeviri: Arapça ince ayarlı modellerimiz ve talep üzerine diğer modeller) için uç noktayla birlikte verilen özel bir model kimliğiyle erişildiğini söyler. BroadNet talep üzerine böyle bir model listeler: gürültülü seste sayılar, tarihler ve isimler için Cohere Transcribe Arabic’in ince ayarlı bir sürümü. Herkese açık Arapça transkripsiyon modeli için Arapça konuşmadan metne rehberine bakın. Kendi modelinizi eğitmeniz gerekiyorsa, olağan başlangıç noktası bir açık ağırlıklı modeldir; dengeler açık ağırlıklı ve kapalı modeller yazısında anlatılır.