Introduction aux réseaux neuronaux et leur optimisation

📋 Plan du Cours

1. Réseaux neuronaux & architecture
2. Fonction d'activation & rôle
3. Propagation & calculs
4. Fonction de perte & optimisation
5. Rétropropagation & ajustement
6. Entraînement & algorithmes
7. Surapprentissage & régularisation
8. Validation & généralisation

📖 1. Réseaux neuronaux & architecture

🔑 Notions clés & Définitions

• Neurone artificiel : unité de base du réseau, simulant le comportement d’un neurone biologique, effectuant une somme pondérée des entrées suivie d’une fonction d’activation.
• Couches (layers) : ensembles de neurones ; la couche d’entrée reçoit les données, la ou les couches cachées traitent l’information, et la couche de sortie fournit la réponse.
• Fonction d’activation : fonction appliquée à la sortie d’un neurone pour introduire de la non-linéarité (ex. ReLU, sigmoid, tanh).
• Réseau feedforward : réseau où l’information circule dans une seule direction, de l’entrée vers la sortie.
• Réseau récurrent : réseau avec des connexions rétroactives permettant de traiter des séquences et d’intégrer une mémoire.
• Apprentissage supervisé : entraînement du réseau avec des exemples étiquetés pour ajuster les poids via la rétropropagation.