Introduction à k-NN et Distance en Apprentissage Machine

📋 Plan du Cours

1. Problème et notion de modèle ML
2. k-NN : apprentissage supervisé et régression
3. Raisonnement par cas et absence d’étape d’apprentissage
4. Principe de prédiction par k voisins
5. Algorithme k-NN et vote majoritaire
6. Distance : axiomes et rôle dans k-NN
7. Distances euclidienne, Manhattan et Minkowski
8. Choix de k et compromis biais variance
9. Limitations et coût de k-NN

📖 1. Problème et notion de modèle ML

🔑 Notions clés & Définitions

• Features : Les features sont les propriétés des données utilisées pour produire une prédiction.
• Label : Le label est la valeur cible associée à un point de données pour l’apprentissage supervisé.
• Classification : La classification est une tâche qui consiste à prédire une classe (un label discret) pour une nouvelle donnée.
• Régression : La régression est une tâche qui consiste à prédire une valeur numérique à la place d’une classe.
• Modèle ML : Un modèle ML combine des features, une mesure de similarité et une règle de décision pour prédire le label d’un nouvel exemple.

📝 Points essentiels