Le prompting dit au modèle quoi faire à chaque fois. Le fine-tuning modifie le modèle pour qu’il le sache déjà.
Comment ça marche
Vous partez d’un modèle entraîné et poursuivez l’entraînement sur vos propres exemples. Dans le fine-tuning supervisé (SFT), chaque exemple est une conversation contenant la réponse voulue. Le guide d’OpenAI utilise le JSONL, « one complete JSON structure on every line » (traduction : « une structure JSON complète sur chaque ligne »), au format chat :
{"messages": [{"role": "user", "content": "Classify: 'card charged twice'"}, {"role": "assistant", "content": "billing"}]}
Le job d’entraînement ajuste les poids pour rendre ces réponses plus probables et renvoie un nouvel ID de modèle. OpenAI fixe le minimum à 10 exemples et recommande de commencer avec 50, puis d’évaluer avant d’en ajouter.
Un fine-tuning complet met à jour tous les poids, ce qui coûte cher pour les grands modèles. L’article sur LoRA de Hu et ses collègues juge prohibitif le déploiement de copies affinées séparées de GPT-3, « each with 175B parameters » (traduction : « chacune avec 175B paramètres »). Les méthodes économes en paramètres comme LoRA entraînent plutôt un petit module complémentaire. La distillation est une idée voisine : affiner un petit modèle sur les sorties d’un plus grand.
Pourquoi c’est important
- Des prompts plus courts. Un comportement qui demandait un long prompt few-shot peut passer dans les poids, ce qui réduit les tokens d’entrée par appel.
- Constance. Les bons cas d’usage sont la classification, un style de sortie fixe, la traduction spécialisée et la correction des défauts de suivi des instructions.
- Maintenance. Un modèle affiné est lié à un modèle de base. Quand la base est retirée, vous réentraînez. Le guide d’OpenAI indique désormais que sa plateforme de fine-tuning est en cours d’arrêt, fermée aux nouveaux utilisateurs, et que les modèles affinés restent servis jusqu’à l’arrêt de leurs modèles de base.
- Mesurer d’abord. Construisez une eval avant l’entraînement, sinon vous ne saurez pas si le modèle affiné est meilleur.
Le fine-tuning est un mauvais moyen d’ajouter des faits qui changent. La récupération les garde à jour.
Sur BroadNet Inference
La référence de l’API de BroadNet ne documente ni API de fine-tuning, ni jobs d’entraînement, ni import de vos propres poids. Elle indique en revanche que « our Arabic fine-tunes and other models on request » (traduction : « nos fine-tunes arabes et d’autres modèles sur demande ») sont accessibles via un ID de modèle privé fourni avec l’endpoint. BroadNet propose un tel modèle sur demande : un fine-tune de Cohere Transcribe Arabic pour les nombres, les dates et les noms dans un audio bruité. Pour le modèle public de transcription arabe, voir le guide speech-to-text en arabe. Si vous devez entraîner votre propre modèle, un modèle open-weight est le point de départ habituel ; les compromis sont détaillés dans modèles open-weight ou fermés.