Fine-Tuner un LLM en 2026 : Quand, Comment et Pourquoi

Le fine-tuning n'est pas toujours la bonne solution. Apprenez quand l'utiliser et comment le faire efficacement.

Quand fine-tuner ?

Besoin	Solution
Format de sortie spécifique	Fine-tuning ✅
Jargon d'entreprise	Fine-tuning ✅
Réponses factuelles	RAG ✅ (pas fine-tuning)
Accès à des données temps réel	RAG ✅ (pas fine-tuning)
Aucun exemple disponible	Prompting few-shot ✅

Règle : essayez le RAG d'abord. Si le format reste mauvais après 3 tentatives, fine-tunez.

Préparer les données

// Format JSONL requis par OpenAI
const trainingData = [
  {
    messages: [
      { role: 'system', content: 'Tu es un support technique expert pour notre API.' },
      { role: 'user', content: 'Comment créer un utilisateur ?' },
      { role: 'assistant', content: "Pour créer un utilisateur, envoyez une requête POST à /api/users avec le body :\n\n```json\n{\n  \"name\": \"string\",\n  \"email\": \"string\",\n  \"role\": \"user\"\n}\n```\n\nRéponse : 201 Created avec l'objet utilisateur." }
    ]
  }
];

// Minimum 10 exemples, idéal 50-200
// Chaque exemple = une conversation complète

Fine-tuning avec OpenAI

import OpenAI from 'openai';

const openai = new OpenAI();

// 1. Upload du dataset
const file = await openai.files.create({
  file: fs.createReadStream('training-data.jsonl'),
  purpose: 'fine-tune'
});

// 2. Lancer le fine-tuning
const job = await openai.fineTuning.jobs.create({
  training_file: file.id,
  model: 'gpt-4o-mini-2024-07-18',
  hyperparameters: {
    n_epochs: 3,
    batch_size: 'auto',
    learning_rate_multiplier: 'auto'
  }
});

console.log(`Job ID: ${job.id}`);
// Attendre ~30min pour 200 exemples

Évaluer les résultats

// Comparer avant / après
const evaluationSet = [
  { input: 'Comment authentifier ?', expected: '...' },
  { input: 'Erreur 429 ?', expected: '...' },
  // 20-50 exemples de test
];

let improved = 0;
for (const test of evaluationSet) {
  const before = await queryBaseModel(test.input);
  const after = await queryFineTunedModel(test.input);

  const scoreBefore = evaluate(before, test.expected);
  const scoreAfter = evaluate(after, test.expected);

  if (scoreAfter > scoreBefore) improved++;
}

console.log(`Amélioration sur ${improved}/${evaluationSet.length} cas`);

Coûts réels (2026)

Étape	Prix estimé
Dataset 100 exemples	$5 de préparation
Fine-tuning gpt-4o-mini	$3-8 (selon taille)
Fine-tuning gpt-4o	$50-200
Inférence fine-tuned	+30% vs base model

Conclusion

Fine-tunez quand le format compte, pas pour les connaissances. Le RAG est votre premier réflexe, le fine-tuning est l'escalier.