Lernzettel: Esprit critique et vigilance épistémique

📋 Plan du Cours

1. Esprit critique et vigilance épistémique
2. Hétéronomie et responsabilité cognitive
3. Système 1 et système 2
4. Biais de confirmation
5. LLM : prédiction probabiliste et corpus
6. Hallucinations et fiabilité des réponses
7. Prompting et LLM grooming
8. Externalisation cognitive et dette cognitive
9. Dépendance cognitive et encodage profond
10. Pensée assistée versus pensée déléguée

📖 1. Esprit critique et vigilance épistémique

🔑 Notions clés & Définitions

• Esprit critique : Capacité à analyser et évaluer des informations ou des arguments avant de les tenir pour vrais.
• Vigilance épistémique : Mécanisme mental de filtrage qui évalue la fiabilité d’une source et la plausibilité d’une information.

📝 Points essentiels

• L’esprit critique sert de rempart contre la manipulation en ralentissant l’acceptation automatique des contenus.
• La vigilance épistémique s’appuie sur une évaluation de fiabilité et de plausibilité, pas seulement sur la cohérence apparente.
• Une information peut paraître convaincante sans être fiable, d’où l’intérêt d’un contrôle épistémique.
• L’esprit critique implique de remettre en question des arguments, pas seulement de les comprendre.
• La vigilance épistémique vise à réduire l’impact des erreurs de jugement sur la croyance finale.

💡 Astuce mémo

Esprit critique = je teste; vigilance épistémique = je filtre.

📖 2. Hétéronomie et responsabilité cognitive

🔑 Notions clés & Définitions

• Hétéronomie : État où une personne reçoit ses lois, pensées ou jugements de l’extérieur plutôt que de décider par elle-même.
• Responsabilité cognitive : Devoir moral et intellectuel de rester maître de ses raisonnements, vérifier ses sources et éviter la délégation aveugle.

📝 Points essentiels

• En contexte d’IA, l’hétéronomie correspond à laisser la machine penser à notre place.
• La responsabilité cognitive impose un contrôle personnel des sources avant d’adopter une conclusion.
• Déléguer sans vérification transforme un outil en autorité de fait sur le jugement.
• La responsabilité cognitive protège contre l’acceptation de résultats non contrôlés.
• L’hétéronomie s’oppose à l’autonomie, ce qui rend la question du contrôle central.

💡 Astuce mémo

Hétéronomie = je laisse dehors; responsabilité = je garde la main.

📖 3. Système 1 et système 2

🔑 Notions clés & Définitions

• Système 1 : Mode de pensée rapide, instinctif, émotionnel et automatique, souvent vulnérable aux biais.
• Système 2 : Mode de pensée lent, réfléchi et logique, nécessitant un effort conscient.

📝 Points essentiels

• Le Système 1 produit des réponses rapides et peut favoriser des erreurs sans contrôle.
• Le Système 2 demande un effort, ce qui le rend moins spontané que le Système 1.
• L’esprit critique nécessite d’activer le Système 2 pour évaluer et corriger les intuitions.
• Quand le Système 1 domine, les biais ont plus de chances d’influencer la croyance.
• Le passage vers le Système 2 correspond à un contrôle plus rationnel des arguments.

💡 Astuce mémo

Système 1 = automatique; Système 2 = contrôle.

📖 4. Biais de confirmation

🔑 Notions clés & Définitions

• Biais de confirmation : Tendance à ne rechercher, retenir et privilégier que les informations qui confirment ses croyances, en ignorant celles qui les contredisent.

📝 Points essentiels

• Le biais de confirmation réduit la recherche d’arguments opposés.
• Il affecte la sélection de l’information, pas seulement l’interprétation finale.
• Il conduit à ignorer les éléments qui contredisent une croyance préexistante.
• Le biais peut rendre une conclusion plus “cohérente” subjectivement tout en étant moins fiable.
• La vigilance épistémique et l’activation du Système 2 servent à contrer ce biais.

💡 Astuce mémo

Confirmation = je garde ce qui me ressemble; je jette le contraire.

📖 5. LLM : prédiction probabiliste et corpus

🔑 Notions clés & Définitions

• LLM : Modèle de langage de grande taille entraîné à prédire le mot suivant le plus probable dans un contexte donné.
• Corpus d’entraînement : Base de données textuelles utilisée pendant l’apprentissage pour fournir des exemples au modèle.

📝 Points essentiels

• Un LLM n’est pas présenté comme une intelligence au sens humain, mais comme une prédiction probabiliste.
• Le modèle produit une suite de mots en fonction du contexte, en choisissant ce qui est le plus probable.
• Des exemples variés dans le corpus influencent la qualité des réponses.
• La qualité du corpus détermine la qualité des sorties produites.
• Le comportement du LLM dépend de ce qu’il a “vu” pendant l’entraînement, via le corpus.

💡 Astuce mémo

LLM = prédire; corpus = matière première.

📖 6. Hallucinations et fiabilité des réponses

🔑 Notions clés & Définitions

• Hallucination : Production d’une information factuellement fausse par un LLM, présentée de façon cohérente et persuasive.

📝 Points essentiels

• Une hallucination peut être très convaincante, ce qui augmente le risque d’acceptation sans vérification.
• Le caractère cohérent du texte ne garantit pas la vérité des faits.
• Le risque majeur pour la fiabilité vient du décalage entre apparence persuasive et exactitude.
• La vigilance épistémique sert à repérer les contenus plausibles mais faux.
• Le contrôle humain des sources reste nécessaire face à des réponses potentiellement erronées.

💡 Astuce mémo

Hallucination = faux mais “bien écrit”.

📖 7. Prompting et LLM grooming

🔑 Notions clés & Définitions

• Prompting : Technique consistant à formuler des instructions (prompts) pour obtenir un résultat spécifique de l’IA.
• LLM Grooming : Mise en condition via des interactions répétées ou le cadrage des instructions, pouvant orienter le comportement de l’IA et/ou l’utilisateur.

📝 Points essentiels

• Le prompting vise à guider la production de l’IA par des instructions explicites.
• Les interactions répétées peuvent modifier la dynamique de réponse au fil du temps.
• Le grooming peut orienter le comportement de l’IA, ou façonner la manière dont l’utilisateur interagit.
• Le cadrage des instructions agit comme un levier sur le résultat obtenu.
• Le risque est de croire que la sortie reflète une vérité plutôt qu’un effet de formulation et de contexte.

💡 Astuce mémo

Prompting = je dirige; grooming = je conditionne la relation.

📖 8. Externalisation cognitive et dette cognitive

🔑 Notions clés & Définitions

• Externalisation cognitive : Confier à un outil extérieur une tâche mentale comme la mémoire, le calcul ou la rédaction.
• Dette cognitive : Coût caché de l’externalisation : la perte progressive de compétences quand on n’exerce plus certaines facultés.

📝 Points essentiels

• Externaliser réduit l’effort immédiat en déléguant des tâches mentales à l’outil.
• La dette cognitive apparaît quand on répète l’externalisation au point de ne plus pratiquer certaines capacités.
• La dette cognitive concerne notamment des compétences comme écrire, synthétiser ou calculer.
• Le coût est “caché” car il se manifeste par une baisse de compétence plutôt que par une erreur visible immédiate.
• Le confort technique peut s’accompagner d’une diminution de la force mentale autonome.

💡 Astuce mémo

Externaliser = déléguer; dette = payer plus tard en compétence.

📖 9. Dépendance cognitive et encodage profond

🔑 Notions clés & Définitions

• Dépendance cognitive : État où une personne devient incapable d’accomplir une tâche intellectuelle sans l’assistance de la technologie.
• Encodage profond : Mémorisation et compréhension qui exigent un effort de réflexion.

📝 Points essentiels

• La dépendance cognitive se traduit par l’impossibilité de faire sans l’outil.
• L’usage trop rapide d’une IA favorise un traitement superficiel plutôt qu’un encodage profond.
• L’encodage profond nécessite un effort de réflexion, donc il est incompatible avec une délégation immédiate.
• Quand l’IA produit trop vite, l’utilisateur risque de ne pas traiter en profondeur.
• La prévention passe par un contrôle du rythme et une implication cognitive réelle.

💡 Astuce mémo

Dépendance = sans IA je bloque; encodage profond = je réfléchis vraiment.

📖 10. Pensée assistée versus pensée déléguée

🔑 Notions clés & Définitions

• Pensée assistée : Approche où l’IA sert d’outil pour structurer ou enrichir la réflexion de l’utilisateur.
• Pensée déléguée : Approche où l’on laisse l’IA produire le raisonnement et le résultat final sans intervention critique.

📝 Points essentiels

• La pensée assistée vise à renforcer votre propre raisonnement plutôt qu’à le remplacer.
• La pensée déléguée supprime le contrôle critique sur le raisonnement et la conclusion.
• Le risque central de la pensée déléguée est la paresse cognitive liée à la domination du Système 1.
• La solution proposée repose sur la vigilance épistémique et le maintien d’une pensée assistée.
• Le contraste assistée/déléguée détermine qui “porte” la responsabilité du jugement final.

💡 Astuce mémo

Assistée = l’IA aide; déléguée = l’IA décide.

📊 Tableaux de synthèse

Assistée vs déléguée

Aspect	Pensée assistée	Pensée déléguée
Rôle de l’IA	Outil d’aide	Producteur du raisonnement et du résultat
Contrôle humain	Intervention critique maintenue	Contrôle critique absent
Effet cognitif	Renforce la réflexion personnelle	Favorise la paresse cognitive

⚠️ Pièges & confusions fréquents

1. Confondre hallucination et simple erreur : une hallucination peut être très cohérente et persuasive.
2. Croire qu’une réponse “bien écrite” d’un LLM est fiable sans vérification des sources.
3. Penser que l’esprit critique se limite à comprendre le texte, alors qu’il exige une évaluation et une remise en question.
4. Prendre le prompting pour une garantie de vérité, alors qu’il influence surtout la production selon les instructions.
5. Confondre externalisation et autonomie : externaliser peut créer une dette ou une dépendance si on cesse de pratiquer.

✅ Checklist Examen

1. Définir esprit critique et expliquer son rôle de rempart contre la manipulation.
2. Définir vigilance épistémique et décrire ce qu’elle filtre (fiabilité et plausibilité).
3. Définir hétéronomie et donner l’équivalent en contexte d’IA (laisser la machine penser à notre place).
4. Définir responsabilité cognitive et préciser ce qu’elle impose (vérifier sources, ne pas déléguer aveuglément).
5. Distinguer Système 1 et Système 2 et relier l’esprit critique à l’activation du Système 2.
6. Définir le biais de confirmation et identifier ce qu’il fait ignorer (informations contraires).
7. Définir LLM comme prédiction probabiliste et expliquer le rôle du corpus d’entraînement dans la qualité des réponses.
8. Définir hallucination et expliquer pourquoi la cohérence persuasive ne suffit pas pour la fiabilité.
9. Définir prompting et LLM grooming et préciser comment ils orientent la production ou la relation d’interaction.
10. Définir externalisation cognitive et dette cognitive et relier la dette à la perte de compétences par manque de pratique.
11. Définir dépendance cognitive et encodage profond et expliquer l’effet d’un usage trop rapide de l’IA.
12. Distinguer pensée assistée et pensée déléguée et relier la pensée déléguée à la paresse cognitive et la solution à la vigilance épistémique.