Lernzettel: Introduction aux modèles d'IA Générative

📋 Plan du Cours

1. IA Générative et LLM
2. Température et hasard
3. Tokenisation et prédiction
4. IA Discriminative vs Générative
5. Espace latent et concepts
6. Transformers et auto-attention
7. Neurone artificiel et biologiques
8. Apprentissage et fine-tuning
9. Capacités émergentes et hallucinations
10. RAG et récupération de données

📖 1. IA Générative et LLM

🔑 Notions clés & Définitions

• LLM (Large Language Model) : Modèle de langage de grande taille basé sur l'architecture Transformer, capable de générer du texte cohérent en prédisant le prochain token dans une séquence. Exemple : GPT-4, Gemini, Claude.
• IA Générative : Type d'intelligence artificielle conçue pour créer du contenu original (texte, image, audio) en apprenant la distribution sous-jacente des données. AUTEUR (date) : tout LLM appartient à cette catégorie, mais toutes les IA Génératives ne sont pas des LLM.
• Deep Learning : Sous-domaine du Machine Learning utilisant des réseaux de neurones profonds pour apprendre des représentations hiérarchiques à partir de données massives. AUTEUR (date) : fondement des architectures modernes comme Transformer.
• Règle d'or (concept) : Tout LLM fait partie de l'IA Générative, mais toute IA Générative n'est pas un LLM. Par exemple, une IA générant des plans 3D n'est pas un modèle de langage.

📝 Points essentiels

• Les LLM, tels que GPT-4, Gemini ou Claude, reposent sur l'architecture Transformer, inventée par Google en 2017, utilisant l'auto-attention pour traiter simultanément l'ensemble du contexte.
• L'IA Générative englobe diverses technologies capables de produire du contenu original, en utilisant notamment le Deep Learning, une branche du Machine Learning qui exploite des réseaux de neurones profonds pour modéliser des données complexes.
• La distinction entre LLM et IA Générative est fondamentale : un LLM est spécialisé dans la manipulation du langage, tandis que l'IA Générative peut couvrir d'autres types de contenu.
• La règle d'or précise que tous les LLM sont des IA Génératives, mais l'inverse n'est pas vrai, illustrant l'emboîtement des concepts.

💡 À retenir

Les LLM sont des modèles de langage puissants et spécifiques, constituant une branche de l'IA Générative, dont ils partagent la capacité à produire du contenu, mais qui ne se limite pas à eux.

📖 2. Température et hasard

🔑 Notions clés & Définitions

• Température (voir section 1) : paramètre qui contrôle le degré de hasard dans la génération de texte par un modèle. Une température basse (0.1) favorise des réponses déterministes, tandis qu'une température haute (0.8) augmente la créativité et la diversité des sorties.

• Réponse déterministe (voir section 1) : réponse produite avec une température basse, où le modèle privilégie la sortie la plus probable, idéale pour le code ou la logique métier.

• Réponse créative (voir section 1) : réponse générée avec une température haute, permettant d'explorer des options moins probables, souvent utilisée pour la créativité ou la génération d'idées nouvelles.

📝 Points essentiels

• La température agit comme un contrôleur du hasard dans la génération de texte. En ajustant ce paramètre, on peut faire varier la créativité de la réponse : une température basse (0.1) produit une sortie stable et prévisible, tandis qu'une température haute (0.8) favorise la diversité et l'originalité.

• Pour une même entrée, le modèle peut produire des sorties différentes selon la température, ce qui permet d'explorer plusieurs possibilités ou de privilégier la cohérence selon le contexte.

• La température est un des leviers principaux pour équilibrer entre précision et créativité dans la génération automatique, notamment dans l'utilisation des LLM comme GPT-4 ou Gemini.

💡 À retenir

La température permet de moduler le degré de hasard dans la réponse d’un modèle, allant d’un comportement strictement déterministe à une réponse créative et variée, selon les besoins de l’application.

📖 3. Tokenisation et prédiction

🔑 Notions clés & Définitions

• Tokenisation : processus de découpage d’un texte en unités élémentaires appelées tokens. Un mot complexe peut être divisé en plusieurs tokens (par exemple, 3-4 tokens). AUTEUR (date) : "L'IA ne manipule pas des mots mais des tokens."
• Tokens : unités de base dans la modélisation du langage, qui peuvent représenter des mots, parties de mots ou caractères. La quantité de tokens influence la capacité de traitement d’un modèle.
• Prédiction du prochain token : tâche principale d’un LLM, qui consiste à estimer le token le plus probable suivant dans une séquence donnée.
• LLM comme machine à probabilités : un modèle de langage basé sur la prédiction probabiliste, qui ne "sait" pas des vérités mais calcule la probabilité que tel token suive tel contexte.
• Tokens et prédiction probabiliste : le processus par lequel le modèle calcule la probabilité de chaque token possible pour générer une suite cohérente, en se basant sur la distribution sous-jacente des données.

📝 Points essentiels

• La tokenisation permet à l’IA de traiter efficacement le texte en le découpant en unités compréhensibles pour le modèle, avec un rapport approximatif de 1000 tokens ≈ 750 mots.
• Un mot complexe peut être fragmenté en plusieurs tokens, ce qui augmente la granularité et la précision du traitement.
• La prédiction du prochain token repose sur la capacité du modèle à estimer la probabilité de chaque token possible, en utilisant une approche probabiliste.
• Les LLM ne "savent" pas des vérités absolues, mais fonctionnent comme des machines à probabilités : ils prédisent le token suivant le plus probable selon le contexte.
• La prédiction probabiliste est au cœur de la génération de texte, permettant à l’IA de produire des suites cohérentes ou créatives en fonction des paramètres (ex : température).
• La tokenisation est essentielle pour la gestion de la longueur des textes, la capacité de traitement (ex : 1000 tokens) et la qualité de la génération.

💡 À retenir

La tokenisation décompose le texte en unités élémentaires, permettant aux LLM de prédire le prochain token en utilisant une approche probabiliste, ce qui constitue la base de leur fonctionnement en génération de langage.

📖 4. IA Discriminative vs Générative

🔑 Notions clés & Définitions

• IA Discriminative : Modèle qui calcule la probabilité conditionnelle P(y|x), c'est-à-dire la probabilité qu'une donnée x appartienne à une classe y. Son rôle principal est la classification ou la prédiction, en apprenant la frontière entre différentes classes de données.
  (source)

• IA Générative : Modèle qui calcule la probabilité de générer une donnée x, soit P(x). Son objectif est d'apprendre la distribution sous-jacente des données, permettant de créer ou de simuler de nouvelles données similaires à celles d'origine.
  (source)

• Deux paradigmes fondamentaux : La distinction entre IA Discriminative et IA Générative repose sur leur fonction mathématique principale et leur objectif. La compréhension de ces paradigmes est cruciale pour saisir le fonctionnement des modèles modernes d'IA.
  (source)

• L'espace latent : Représentation compressée des données dans un espace multidimensionnel où concepts similaires sont proches. La proximité sémantique dans cet espace permet à l'IA de naviguer entre différentes notions et de générer du contenu cohérent.
  (source)

• Auto-Attention (Self-Attention) : Mécanisme inventé par Google en 2017, permettant au Transformer de considérer simultanément l'intégralité du contexte, impactant significativement la capacité de génération de l'IA moderne.
  (source)

📝 Points essentiels

• La distinction entre IA discriminative et générative est fondamentale : la première se concentre sur la classification en calculant P(y|x), tandis que la seconde vise à générer de nouvelles données en apprenant P(x).
• La compréhension de ces paradigmes permet d'appréhender la nature des modèles modernes comme GPT-4 ou Gemini, qui combinent souvent ces approches pour des performances optimales.
• La modélisation dans un espace latent, avec ses dimensions hyper-dimensionnelles, permet à l'IA de représenter des concepts complexes et de naviguer dans un espace sémantique riche.
• La capacité du Transformer à regarder simultanément tout le contexte via l'auto-attention est une avancée clé qui a révolutionné la génération de contenu.
• La différence fondamentale réside dans leur objectif : la classification pour l'IA discriminative, la création pour l'IA générative, chaque paradigme étant adapté à des usages spécifiques.

💡 À retenir

L'IA discriminative se spécialise dans la classification en apprenant la frontière entre les données, tandis que l'IA générative se concentre sur la modélisation de la distribution des données pour créer du contenu nouveau. Leur distinction repose sur leur fonction mathématique principale et leur objectif.

📖 5. Espace latent et concepts

🔑 Notions clés & Définitions

• Espace latent : Représentation compressée des données dans un espace multidimensionnel où chaque point encode une version condensée de l'information d'origine, permettant une manipulation efficace et une généralisation.
• Proximité sémantique dans l'espace latent : Concept selon lequel des concepts ou mots ayant une signification similaire sont situés proches dans l'espace latent, facilitant la recherche de relations sémantiques.
• Directions relationnelles dans l'espace latent : Vecteurs constants représentant des relations ou transformations spécifiques, comme "date de naissance", permettant de naviguer entre concepts liés en suivant ces directions.
• Navigation dans l'espace latent multidimensionnel : Processus de déplacement le long de vecteurs ou directions dans l'espace pour explorer ou transformer des concepts, en utilisant plusieurs dimensions pour capturer la nuance.
• Dimensions hyper-dimensionnelles : Nombre élevé de dimensions (ex. 12K pour GPT-4, 1536 pour GPT-3.5) permettant de définir avec précision et nuance un concept, en capturant ses multiples facettes.

📝 Points essentiels

• L’espace latent est une représentation mathématique compressée où des concepts similaires sont géographiquement proches, facilitant la manipulation et la généralisation (voir aussi "Dimensions hyper-dimensionnelles").
• La proximité sémantique permet à l’IA de faire des analogies ou de retrouver des concepts liés, en exploitant la proximité dans cet espace.
• Les directions relationnelles sont des vecteurs constants qui représentent des relations ou transformations spécifiques, comme "date de naissance", et permettent de naviguer dans l’espace latent pour explorer ou modifier des concepts.
• La navigation dans cet espace implique de déplacer le point de représentation selon des vecteurs ou directions, pour explorer des concepts ou générer du contenu en exploitant la structure multidimensionnelle.
• La conception de modèles modernes (GPT, Claude, Llama) repose sur des dimensions hyper-dimensionnelles, qui offrent une capacité d’expression et de nuance bien supérieure à une représentation à faible dimension.
• La théorie de l’espace latent, notamment la compression et la proximité sémantique, est essentielle pour comprendre comment l’IA manipule et génère du contenu basé sur des concepts abstraits.

💡 À retenir

L’espace latent est une représentation mathématique compressée où la proximité sémantique facilite la manipulation de concepts, et les dimensions hyper-dimensionnelles permettent une définition nuancée et précise de ces concepts dans la génération automatique.

📖 6. Transformers et auto-attention

🔑 Notions clés & Définitions

• Architecture Transformer (Google, 2017) : architecture d'intelligence artificielle basée sur le mécanisme d'auto-attention, permettant de traiter simultanément l'intégralité du contexte d'une séquence, révolutionnant la génération de contenu.
• Auto-Attention (Self-Attention) : mécanisme permettant à chaque position d'une séquence d'accorder une importance différente à toutes les autres positions, facilitant la compréhension globale du contexte en une seule étape.
• Le Transformer comme moteur de la GenAI : architecture qui, grâce à l'auto-attention, permet la génération de textes, images ou codes en capturant efficacement les dépendances longues et complexes dans les données.

📝 Points essentiels

• Origine : L'architecture Transformer a été inventée par Google en 2017, constituant une avancée majeure par rapport aux modèles séquentiels traditionnels (ex. RNN, LSTM).
• Fonctionnement de l'Auto-Attention : chaque token dans une séquence calcule ses poids d'attention par rapport à tous les autres tokens, permettant une compréhension globale et contextuelle. Elle remplace le traitement séquentiel par une approche parallèle, accélérant l'apprentissage et la génération.
• Impact sur la génération de code : en regardant l'ensemble du contexte simultanément, le Transformer permet à l'IA de maintenir la cohérence et la dépendance à long terme dans le code généré, améliorant la qualité et la pertinence.
• Le Transformer en GenAI : cette architecture est la base des modèles modernes comme GPT-4, Gemini, et Claude, qui exploitent ses capacités pour produire des contenus variés en s'appuyant sur des dimensions hyper-dimensionnelles et une compréhension profonde du contexte.

💡 À retenir

L'architecture Transformer, grâce à l'auto-attention, permet une compréhension globale et simultanée du contexte, constituant le cœur de la génération moderne d'IA, notamment dans la création de texte, code et images.

📖 7. Neurone artificiel et biologiques

🔑 Notions clés & Définitions

• Neurone biologique : cellule nerveuse qui reçoit des signaux électriques, les accumule, et déclenche une impulsion si le seuil d'excitation est atteint, permettant la transmission de l'information (en référence à la biologie neuronale).
• Neurone artificiel : modèle mathématique inspiré du neurone biologique, qui reçoit des entrées, les combine via une fonction d'agrégation, puis utilise une fonction d'activation pour produire une sortie (voir "fonction d'activation").
• Synapse biologique : zone de contact entre deux neurones, dont la force peut varier, influençant la transmission du signal ; cette plasticité synaptique permet l'apprentissage et l'adaptation du réseau neuronal biologique (voir "plasticité synaptique").
• Poids en IA : paramètres numériques associés aux connexions entre neurones artificiels, représentant l'importance ou la force de l'information transmise, et qui sont modifiés lors de l'apprentissage (voir "apprentissage en IA").
• Apprentissage en IA : processus par lequel les poids des connexions sont ajustés pour améliorer la performance du modèle, mimant la plasticité synaptique du cerveau biologique.

📝 Points essentiels

• En biologie, le neurone accumule des signaux électriques et déclenche une impulsion si le seuil d'excitation est dépassé, ce qui permet la transmission de l'information à d'autres neurones via la synapse.
• En IA, le neurone artificiel est une fonction mathématique qui reçoit des entrées, les additionne, puis applique une fonction d'activation pour déterminer la sortie, agissant comme une unité de calcul.
• La synapse biologique, zone de contact entre neurones, possède une plasticité qui permet de renforcer ou d'affaiblir la transmission du signal, un mécanisme fondamental pour l'apprentissage.
• Les poids en IA jouent un rôle crucial en déterminant l'importance des connexions ; lors de l'apprentissage, ces poids sont ajustés pour optimiser la performance du réseau, imitant la plasticité synaptique.
• La modification des poids lors de l'apprentissage en IA est une analogie directe à la plasticité synaptique, permettant au réseau d'apprendre et de s'adapter aux données.

💡 À retenir

Le neurone biologique et le neurone artificiel partagent le principe d'intégration d'informations, mais le premier repose sur des signaux électriques et la plasticité, tandis que le second fonctionne via des fonctions mathématiques et ajuste ses paramètres (poids) pour apprendre.

📖 8. Apprentissage et fine-tuning

🔑 Notions clés & Définitions

• Pré-entraînement : phase d'apprentissage sur un corpus massif permettant au modèle d'apprendre la distribution globale des données, notamment P(x), la probabilité de générer des données cohérentes.
• Fine-tuning : étape de spécialisation du modèle sur des données de haute qualité, afin d'acquérir une expertise précise dans un domaine particulier.
• RLHF (Reinforcement Learning with Human Feedback) : processus d'alignement du modèle par évaluation humaine, permettant d'améliorer la pertinence et la conformité aux valeurs humaines.
• Les trois phases de l'apprentissage : succession du pré-entraînement, du fine-tuning et du RLHF, constituant le cycle complet de formation d’un modèle d’IA moderne.

📝 Points essentiels

• Le pré-entraînement permet au modèle d'apprendre la distribution sous-jacente des données issues de sources variées (Web, livres, code), en calculant P(x).
• Le fine-tuning affine cette capacité en utilisant des données de haute qualité, pour que le modèle devienne performant dans des tâches spécifiques ou domaines précis.
• Le RLHF intervient après, en intégrant une évaluation humaine pour aligner le comportement du modèle avec des valeurs humaines, réduisant ainsi les hallucinations et améliorant la pertinence.
• Ces trois phases constituent un processus séquentiel et complémentaire, permettant de développer des modèles d’IA à la fois généralistes et spécialisés, tout en étant alignés avec les attentes humaines.
• La compréhension de ces phases est essentielle pour saisir la construction et l’optimisation des modèles modernes comme GPT-4, Gemini ou Claude.

💡 À retenir

L'apprentissage d’un modèle d’IA moderne repose sur un cycle en trois étapes : un pré-entraînement massif pour apprendre la distribution globale, un fine-tuning pour la spécialisation, et un RLHF pour l’alignement humain, garantissant ainsi performance et conformité.

📖 9. Capacités émergentes et hallucinations

🔑 Notions clés & Définitions

• Phénomène d’émergence : AUTEUR (date) : apparition spontanée de capacités non programmées dans un modèle d’IA lorsque sa taille dépasse un certain seuil, telles que le raisonnement logique ou la compréhension du sarcasme.
• Capacités non programmées : compétences qui ne sont pas explicitement intégrées dans le modèle mais apparaissent avec la croissance de la taille du modèle, comme la résolution de problèmes complexes.
• Hallucinations : AUTEUR (date) : invention par l’IA d’informations crédibles mais fausses, souvent dues à la prédiction probabiliste du prochain token, ce qui peut générer des données erronées ou inventées.
• Problème des hallucinations : difficulté majeure où le modèle peut produire des réponses factuellement incorrectes ou inventées, représentant un risque pour la fiabilité de l’IA.
• Risque lié aux hallucinations : danger potentiel dans l’utilisation de l’IA, notamment dans des contextes critiques, où la confiance dans les réponses générées doit être assurée (voir section 3).

📝 Points essentiels

• Le phénomène d’émergence montre que, dès qu’un modèle dépasse une certaine taille, il développe des capacités qui n’étaient pas explicitement programmées, comme le raisonnement logique ou la compréhension du sarcasme, illustrant une complexité croissante avec la taille du modèle (AUTEUR (date)).
• La capacité d’émergence est liée à la croissance en taille des modèles, notamment dans les architectures modernes comme GPT-4 ou Gemini, où la représentation dans un espace latent hyper-dimensionnel permet de capturer des concepts complexes (AUTEUR (date)).
• Les hallucinations résultent du fonctionnement probabiliste du modèle, qui prédit le token le plus probable sans vérification factuelle, ce qui peut conduire à la génération d’informations crédibles mais fausses. La gestion de ce phénomène est cruciale pour la fiabilité de l’IA (AUTEUR (date)).
• La technique RAG (Retrieval Augmented Generation) permet de réduire ces hallucinations en intégrant des documents de référence dans le processus de génération, limitant ainsi la création d’informations inventées (AUTEUR (date)).
• La compréhension des risques liés aux hallucinations est essentielle pour l’utilisation sécurisée et fiable des IA modernes, notamment dans des domaines sensibles ou critiques.

💡 À retenir

Les capacités émergentes illustrent la complexité croissante des modèles d’IA avec leur taille, mais les hallucinations restent un défi majeur, nécessitant des stratégies comme la récupération de documents pour garantir la fiabilité des réponses.

📖 10. RAG et récupération de données

🔑 Notions clés & Définitions

• RAG (Retrieval Augmented Generation) : méthode combinant récupération de documents et génération de contenu pour améliorer la précision et réduire les hallucinations dans les modèles de langage.
• Étape 1 : Récupération : processus où le système recherche dans une base de données vectorielle interne des documents pertinents en fonction de la requête de l'utilisateur.
• Étape 2 : Augmentation : insertion des documents récupérés directement dans le prompt envoyé à l’IA, permettant d’enrichir le contexte.
• Étape 3 : Génération : phase où l’IA rédige sa réponse en se basant uniquement sur les documents fournis, limitant ainsi la génération d’informations inventées.
• Bénéfice : réduction des hallucinations, c’est-à-dire des inventaires d’informations crédibles mais fausses, en s’appuyant sur des références vérifiées (voir aussi "la légitimité" en section 3).

📝 Points essentiels

• Le système RAG fonctionne en trois étapes distinctes : récupération, augmentation, génération, pour assurer une réponse plus fiable.
• La récupération consiste à chercher dans une base de données vectorielle des documents pertinents, ce qui nécessite une indexation efficace et une recherche rapide.
• L’augmentation consiste à insérer ces documents dans le prompt, permettant à l’IA de disposer de références concrètes pour sa réponse.
• La génération finale repose uniquement sur les documents fournis, ce qui limite la créativité non contrôlée et diminue le risque d’hallucinations.
• Le bénéfice principal du RAG est la réduction drastique des hallucinations, en fournissant un contexte précis et vérifiable à l’IA, contrairement à une génération basée uniquement sur l’espace latent.
• Ce procédé s’appuie sur la capacité de l’IA à manipuler des documents de référence pour produire des réponses plus légitimes et pertinentes.

💡 À retenir

Le RAG combine récupération et génération pour produire des réponses plus précises et fiables, en limitant les hallucinations grâce à l’intégration de documents pertinents dans le processus de génération.

📅 Repères chronologiques

Date	Événement
2017	Invention de l'architecture Transformer par Google
2023	Lancement de GPT-4, Gemini, Claude

📊 Tableaux de Synthèse

Critère	IA Discriminative	IA Générative	Auteur / Référence
Fonction	Probabilité conditionnelle P(y	x)	Probabilité de générer P(x)
Objectif	Classification, prédiction	Création de contenu, modélisation de la distribution	Connaître la différence fondamentale
Exemple	Réseaux de neurones pour la reconnaissance d'images	GPT, GANs, VAEs	N/A
Espace latent	Utilisé pour la classification	Utilisé pour la génération et la manipulation	N/A

⚠️ Pièges & Confusions Fréquentes

1. Confondre IA Générative et IA Discriminative : la première crée du contenu, la seconde classeifie ou prédit.
2. Penser que tous les modèles de langage sont discriminatifs : beaucoup utilisent des approches génératives.
3. Confusion entre la tokenisation et la segmentation de texte : la tokenisation décompose en unités, pas nécessairement en mots.
4. Croire que la température contrôle la précision : elle ajuste le hasard, pas la véracité.
5. Confusion entre prédiction du prochain token et compréhension sémantique : le modèle prédit probabilistiquement, sans compréhension réelle.
6. Négliger l’importance de l’espace latent dans la modélisation sémantique.
7. Confondre auto-attention et simple attention : la première considère tous les tokens simultanément, la seconde pas nécessairement.

✅ Checklist Examen

• Connaître la définition de GPT-4, Gemini, Claude comme exemples de LLM.
• Savoir que l’architecture Transformer, inventée par Google en 2017, utilise l’auto-attention.
• Comprendre la différence entre IA Générative et Discriminative, notamment leur fonction mathématique (P(x) vs P(y|x)).
• Maîtriser le concept de tokenisation : découpage en tokens, influence sur la longueur et la granularité.
• Expliquer comment la prédiction probabiliste du prochain token fonctionne dans un LLM.
• Savoir que la température contrôle le degré de hasard dans la génération de texte.
• Connaître la distinction entre réponse déterministe et réponse créative.
• Comprendre le rôle de l’espace latent dans la modélisation sémantique.
• Identifier les mécanismes clés du Transformer, notamment l’auto-attention.
• Maîtriser la différence entre IA discriminative et générative, avec exemples.
• Connaître la capacité des LLM à générer du contenu cohérent grâce à la modélisation probabiliste.
• Savoir que la génération de texte repose sur la prédiction du token suivant, en utilisant la distribution sous-jacente des données.
• Vérifier la maîtrise du concept de hallucinations dans les modèles génératifs.
• Connaître la méthode RAG (Retrieval-Augmented Generation) pour la récupération de données.
• Comprendre le rôle du fine-tuning dans l’adaptation des modèles.
• Savoir que les capacités émergentes peuvent inclure des hallucinations ou des biais.
• Vérifier la compréhension du mécanisme de tokenisation et de prédiction dans les LLM.
• Assimiler la différence entre modèles discriminatifs et génératifs dans leur architecture et leur usage.