Introduction aux modèles d'IA Générative

📋 Plan du Cours

1. IA Générative et LLM
2. Température et hasard
3. Tokenisation et prédiction
4. IA Discriminative vs Générative
5. Espace latent et concepts
6. Transformers et auto-attention
7. Neurone artificiel et biologiques
8. Apprentissage et fine-tuning
9. Capacités émergentes et hallucinations
10. RAG et récupération de données

📖 1. IA Générative et LLM

🔑 Notions clés & Définitions

• LLM (Large Language Model) : Modèle de langage de grande taille basé sur l'architecture Transformer, capable de générer du texte cohérent en prédisant le prochain token dans une séquence. Exemple : GPT-4, Gemini, Claude.
• IA Générative : Type d'intelligence artificielle conçue pour créer du contenu original (texte, image, audio) en apprenant la distribution sous-jacente des données. AUTEUR (date) : tout LLM appartient à cette catégorie, mais toutes les IA Génératives ne sont pas des LLM.
• Deep Learning : Sous-domaine du Machine Learning utilisant des réseaux de neurones profonds pour apprendre des représentations hiérarchiques à partir de données massives. AUTEUR (date) : fondement des architectures modernes comme Transformer.
• Règle d'or (concept) : Tout LLM fait partie de l'IA Générative, mais toute IA Générative n'est pas un LLM. Par exemple, une IA générant des plans 3D n'est pas un modèle de langage.

📝 Points essentiels