Formation Intelligence Artificielle (IA) - Génération de modèles

Méthodologie de construction de modèles

• Démarche expérimentale : formuler une hypothèse, entraîner, mesurer, itérer
• Le cycle de construction : données > architecture > entraînement > évaluation > diagnostic > ajustement
• Préparer un dataset d'entraînement : collecte, nettoyage, split train / val / test, équilibrage des classes
• Baseline : pourquoi toujours commencer par un modèle simple
• Les hyperparamètres clés : learning rate, batch size, nombre d'epochs, taille du modèle, dropout, régularisation - que fait chaque levier
• Outils de suivi : TensorBoard, Weights et Biases - visualiser les courbes de perte, détecter overfitting et underfitting
• Diagnostiquer un modèle qui ne converge pas : checklist des causes fréquentes

Exemple de travaux pratiques (à titre indicatif)

• Mise en place de l'environnement de travail : PyTorch, TensorBoard, dataset synthétique simple. Entraînement d'une baseline, modification systématique des hyperparamètres un par un, observation et documentation des effets

Construire un modèle de langage sur un micro-corpus

• Création d'un micro-langage inventé : grammaire simple, vocabulaire contrôlé, règles de syntaxe définies par les stagiaires
• Génération du dataset d'entraînement à partir de la grammaire
• Construction pas à pas d'un modèle séquence-à-séquence : embeddings, RNN / LSTM puis Transformer minimal
• Entraînement et observation : le modèle apprend-il les règles ? Où échoue-t-il ?
• Expérimentation dirigée sur les hyperparamètres : taille du vocabulaire, dimension des embeddings, nombre de couches, learning rate - mesurer l'impact sur la capacité à apprendre la grammaire
• Limites : complexité du langage vs taille du modèle, données insuffisantes, overfitting sur un petit corpus
• Extension : ajouter des règles plus complexes (accords, dépendances longues) et observer à quel moment le modèle décroche

Exemples de travaux pratiques (à titre indicatif)

• Chaque stagiaire définit un micro-langage, génère son dataset, entraîne son modèle et pousse les hyperparamètres jusqu'aux limites
• Comparaison des résultats entre stagiaires : quels langages sont plus durs à apprendre ? Pourquoi ?

Construire un modèle de reconnaissance d'images

• Problème choisi : classification d'images sur un dataset maîtrisé (ex : objets du quotidien, caractères manuscrits, imagerie médicale simplifiée)
• Construction incrémentale d'un CNN : convolutions, pooling, couches denses - ajouter de la complexité progressivement
• Data augmentation : rotations, recadrage, bruit - impact mesurable sur la généralisation
• Expérimentation dirigée : profondeur du réseau, taille des filtres, dropout, batch normalization - chaque modification est mesurée
• Transfer learning pratique : partir d'un modèle pré-entraîné (ResNet, EfficientNet), geler / dégeler des couches, comparer avec le modèle construit from scratch
• Limites : quand le dataset est trop petit, quand les classes sont ambiguës, quand le modèle mémorise au lieu de généraliser
• Interprétabilité : GradCAM pour visualiser ce que le modèle "regarde" - surprises et diagnostics

Exemple de travaux pratiques (à titre indicatif)

• Construction d'un classifieur d'images de A à Z : dataset personnalisé (photos prises par les stagiaires ou dataset fourni), CNN from scratch, puis transfer learning, comparaison des performances, visualisation GradCAM

Construire un modèle de reconnaissance de sons

• Introduction au traitement audio pour le deep learning : signal temporel, spectrogrammes, melspectrogrammes - transformer du son en "image" exploitable par un réseau
• Problème choisi : classification de sons (commandes vocales, sons d'environnement, bruits machines)
• Préparation des données audio : découpage, normalisation, augmentation (bruit, pitch shift, time stretch)
• Approche CNN sur spectrogrammes : réutiliser les compétences du chapitre image sur une modalité différente
• Approche séquentielle : RNN / LSTM directement sur le signal - comparaison avec l'approche spectrogramme
• Expérimentation dirigée : résolution du spectrogramme, taille de la fenêtre FFT, architecture du réseau - impact sur la capacité à distinguer des sons proches
• Limites : bruit ambiant, variabilité inter-locuteurs, sons similaires - diagnostic et stratégies d'amélioration
• Transversalité : les mêmes réflexes (baseline, hyperparamètres, overfitting, augmentation) s'appliquent aux trois modalités

Exemples de travaux pratiques (à titre indicatif)

• Classification de sons : enregistrement ou dataset fourni, extraction de spectrogrammes, construction d'un classifieur, expérimentation des hyperparamètres.
• Comparaison avec les résultats obtenus sur texte et image : quelles modalités sont plus faciles à modéliser ? Pourquoi ?

Synthèse et passage à l'échelle

• Retour d'expérience transversal : texte, image, son - points communs et différences dans la construction de modèles
• Grille de diagnostic universelle : underfitting, overfitting, déséquilibre des classes, données bruitées - les mêmes causes produisent les mêmes effets quelle que soit la modalité
• Quand un modèle custom suffit vs quand utiliser un pré-entraîné : critères de décision (taille du dataset, spécificité du domaine, budget compute)
• Aller plus loin : fine tuning de modèles pré-entraînés, multimodal (texte + image), modèles génératifs
• Bonnes pratiques de reproductibilité : seeds, versioning des datasets et des expériences, documentation
• Mise en production d'un modèle construit maison : export, optimisation, monitoring de la dérive

Exemple de travaux pratiques (à titre indicatif)

• Projet de synthèse : chaque stagiaire choisit une modalité et un problème, construit un modèle optimisé en appliquant les leçons des chapitres précédents, présente ses résultats et son diagnostic au groupe