Lernzettel: Introduction à l'Intelligence Artificielle et Biais

📋 Plan du Cours

1. Algorithmes et intelligence artificielle
2. Algorithmes de prédiction
3. Biais de données
4. Bulle de filtre
5. Réduire biais et filtres

📖 1. Algorithmes et intelligence artificielle

🔑 Notions clés & Définitions

• Algorithme : Un algorithme est une suite d’instructions qui permet de résoudre un problème ou d’exécuter une tâche.
• Intelligence artificielle : L’intelligence artificielle est un programme capable d’effectuer des tâches qui ressemblent à des capacités humaines.

📝 Points essentiels

• Une IA fonctionne grâce à des algorithmes qui traitent des données pour produire des résultats.
• Les capacités citées pour l’IA sont la reconnaissance d’images, la compréhension de texte et la réalisation de prédictions.
• Les trois types d’IA mentionnés sont la reconnaissance, la prédiction et la génération de contenu.
• Les limites indiquées sont l’erreur possible, la dépendance aux données et la reproduction de biais.

💡 Astuce mémo

Algorithme = recette d’instructions ; IA = recette + données pour faire comme l’humain.

📖 2. Algorithmes de prédiction

🔑 Notions clés & Définitions

• Algorithme de prédiction : Un algorithme de prédiction tente d’estimer un résultat futur à partir de données passées, sans connaître le futur.
• Modèle : Un modèle est la structure que l’algorithme cherche à repérer dans les données passées pour faire une estimation.

📝 Points essentiels

• Un algorithme de prédiction utilise des données du passé pour repérer des modèles.
• Le résultat produit est une estimation, donc une erreur reste possible.
• Plus les données d’entrée sont bonnes, plus la prédiction devient fiable.
• Des exemples donnés sont Netflix (recommandations), la météo (prévision) et les sites de vente (suggestions).

💡 Astuce mémo

Prédiction = passé → modèle → estimation : le futur reste incertain donc l’erreur existe.

📖 3. Biais de données

🔑 Notions clés & Définitions

• Biais de données : Un biais de données est un déséquilibre ou un préjugé présent dans les données d’entraînement d’une IA.
• Données non représentatives : Des données non représentatives sont des données qui ne reflètent pas correctement la réalité attendue pour l’IA.
• Stéréotypes dans les données : Les stéréotypes dans les données désignent des idées fausses ou préjugées apprises car elles sont présentes dans l’ensemble d’entraînement.

📝 Points essentiels

• Si les données d’entraînement sont biaisées, l’IA peut apprendre des choses fausses ou injustes.
• Les biais peuvent venir de stéréotypes, d’erreurs et de déséquilibres entre groupes dans les données.
• L’exemple donné associe un biais de genre au recrutement et au concept « médecin = homme » si les données sont surtout masculines.
• Les conséquences listées sont des résultats injustes, la reproduction de stéréotypes et des décisions de l’IA de mauvaise qualité.

💡 Astuce mémo

Biais de données = données “de travers” → IA “décale” ses décisions.

📖 4. Bulle de filtre

🔑 Notions clés & Définitions

• Bulle de filtre : Une bulle de filtre est une situation où les plateformes en ligne montrent surtout des contenus correspondant à ce que l’utilisateur aime déjà.
• Algorithmes de recommandation : Les algorithmes de recommandation sont des mécanismes qui analysent le comportement pour proposer des contenus similaires.

📝 Points essentiels

• Les contenus dominants sont ceux liés à ce que tu regardes, likes, recherches et sur quoi tu cliques.
• La conséquence directe indiquée est une vision limitée du monde avec moins d’informations différentes ou contradictoires.
• Le lien avec l’IA est l’usage d’IA pour prédire ce que tu veux voir et te garder plus longtemps.
• Les moyens de protection proposés sont consulter plusieurs sources, chercher des opinions différentes, varier ses habitudes et suivre des contenus variés.

💡 Astuce mémo

Bulle de filtre = “tu vois surtout ce qui te ressemble” à cause du comportement analysé.

📖 5. Réduire biais et filtres

🔑 Notions clés & Définitions

• Données variées et équilibrées : Des données variées et équilibrées sont des données qui couvrent différents groupes de façon plus homogène pour entraîner une IA.
• Vérification des résultats : La vérification des résultats consiste à contrôler les sorties de l’IA pour repérer des erreurs ou des effets injustes.

📝 Points essentiels

• Pour réduire les biais, il est proposé d’utiliser des données variées et équilibrées.
• Réduire les biais passe aussi par la correction des données problématiques et le test sur différents groupes.
• Se protéger de la bulle de filtre consiste à rechercher des opinions différentes et sortir de ses habitudes de recherche.
• Le risque mis en avant pour la bulle de filtre est le renforcement des idées déjà présentes et celui de désinformation.

⚠️ Pièges & confusions fréquents

1. Confondre IA et algorithme : l’IA fonctionne grâce à des algorithmes, mais l’algorithme seul n’est pas forcément une IA.
2. Croire qu’un algorithme de prédiction connaît le futur : il produit une estimation, donc une erreur est possible.
3. Penser que les données biaisées n’ont pas d’impact : elles peuvent conduire à des décisions injustes et à des stéréotypes.
4. Raisonner que la bulle de filtre est un simple “choix personnel” : elle est produite par des plateformes via l’analyse du comportement.
5. Opposer à tort biais de données et bulle de filtre : le premier vient des données d’entraînement de l’IA, le second vient des contenus proposés par les plateformes.

✅ Checklist Examen

1. Définir un algorithme et donner sa fonction générale pour résoudre un problème.
2. Définir l’intelligence artificielle et citer au moins deux capacités humaines mentionnées.
3. Expliquer le lien entre IA et algorithmes via le traitement de données.
4. Citer les trois types d’IA mentionnés dans le cours.
5. Définir un algorithme de prédiction et dire pourquoi l’erreur est possible.
6. Décrire le mécanisme général de la prédiction : données du passé, recherche de modèles, proposition d’estimation.
7. Donner au moins deux exemples d’usages de prédiction cités (météo, Netflix, sites de vente).
8. Définir le biais de données et expliquer le rôle des données d’entraînement.
9. Identifier trois sources possibles de biais mentionnées (stéréotypes, erreurs, déséquilibres).
10. Donner deux conséquences du biais de données sur les résultats de l’IA (injustices, reproduction de stéréotypes).
11. Définir la bulle de filtre et expliquer sa conséquence sur la diversité des informations.
12. Lister au moins trois signaux de comportement utilisés pour proposer des contenus (regarde, likes, recherche, clics).
13. Expliquer le lien entre bulle de filtre et IA via prédiction de ce que tu veux voir ou durée d’exposition.
14. Citer au moins deux stratégies de réduction des biais (données équilibrées, correction, tests).