Fondamentaux de l'IA générative en Python
Un guide complet pour comprendre et mettre en œuvre l'IA générative et les grands modèles linguistiques (LLM). Ce cours couvre la transition des fondements théoriques au développement pratique en Python, incluant les GAN, les modèles de diffusion, les transformateurs, le fine-tuning et le déploiement en production.
Aperçu du cours
Résumé du contenu
Un guide complet pour comprendre et mettre en œuvre l'IA générative et les grands modèles linguistiques (LLM). Ce cours couvre la transition des fondements théoriques vers un développement pratique basé sur Python, incluant les réseaux antagonistes génératifs (GAN), les modèles de diffusion, les Transformers, le fine-tuning et le déploiement en production.
Maîtrisez les principes fondamentaux et les applications pratiques des LLM modernes et des techniques génératives avec Python.
Auteur : Carlos Rodriguez
Remerciements : Remerciements spéciaux à la femme de l'auteur, Jill, à ses parents, ainsi qu'aux relecteurs techniques Morgan Boyce, Eric Rui et Samira Shaikh (auteure de la préface).
Objectifs d'apprentissage
- Différencier les paradigmes classiques (discriminatifs) de l'apprentissage machine et les modèles d'IA générative.
- Identifier les architectures fondamentales de l'IA générative, notamment les GAN, les modèles de diffusion et les Transformers.
- Expliquer le rôle et l'évolution des grands modèles linguistiques (LLM) dans le paysage plus large de l'intelligence artificielle.
- Différencier les caractéristiques uniques et les paradigmes architecturaux des GAN, des diffuseurs et des Transformers.
- Analyser les progrès et les limites de chaque type de modèle, y compris des problèmes spécifiques comme le « collapse de mode » ou la vitesse d'échantillonnage.
- Mettre en œuvre une chaîne de traitement Stable Diffusion et évaluer les sorties générées à l’aide de logits et de probabilités basés sur CLIP.
- Suivre l’évolution du traitement du langage naturel (NLP) depuis les méthodes basées sur des comptages initiales et les RNN jusqu’aux représentations distribuées modernes et l’apprentissage par transfert.
- Expliquer les mécanismes techniques du Multi-head Attention (MHA), de l’attention self-attention, du masquage et du réseau feed-forward (FFN).
- Implémenter une architecture complète de Transformer, incluant le tokenisation des données, le codage positionnel et les fonctions d’entraînement et d’inférence.
- Adapter les fonctionnalités de prototypage (ex. Google Colab) à des environnements prêts pour la production via Docker et VS Code.