Lernzettel: Principes de la régression linéaire

Fiche de révision : Régression linéaire

1. 📌 L'essentiel

• Estime la relation entre une ou plusieurs variables indépendantes (VI) continues et une variable dépendante (VD) continue.
• Modèle : $Y = \beta_0 + \beta_1 X + \epsilon$.
• Méthode d’estimation : moindres carrés (minimise \sum (Y_i - (\beta_0 + \beta_1_i))^2).
• Hypothèses clés : linéarité, normalité des résidus, homoscédasticité, indépendance, absence de multicolinéarité.
• La significativité globale du modèle est testée via la statistique F.
• La valeur $R^2$ indique la part de variance expliquée par le modèle.
• Les coefficients ($\beta$) mesurent l’impact de chaque VI sur la VD.
• La régression hiérarchique permet de voir l’effet additionnel de groupes de VI.
• La modalité expérimentale distingue modération (interaction) et médiation (variable intermédiaire).

2. 🧩 Structures & Composants clés

• Modèle linéaire — relation prédictive entre VI et VD.
• Coefficient $\beta_0$ — intercept (valeur de VD quand VI=0).
• Coefficient $\beta_1$ — pente, impact d’une unité de VI.
• Résidus — différences entre valeurs observées et prédites.
• Hypothèses de validité — linéarité, normalité, homoscédasticité, non auto-corrélation.
• Test F — validité globale du modèle.
• VIF (Variance Inflation Factor) — vérifie multicolinéarité.
• R² ajusté — précision dans le contexte multiple.

3. 🔬 Fonctions, Mécanismes & Relations

• La méthode minimise $SCE = \sum (Y_i - (\beta_0 + \beta_1 X_i))^2$.
• La relation est considérée significative si p < 0,05 pour $\beta_1$.
• La différence entre modèle simple et multiple réside dans le nombre de VI intégrées.
• La significativité globale évaluée par F compare la variance expliquée versus erreur.
• La normalité et l’homoscédasticité vérifient la fiabilité des coefficients.
• La multicolinéarité (VIF>5) fausse l’estimation des coefficients.
• La modulation (interaction) modifie la force/direction de la relation VI-VD.
• La médiation explique comment une VI influence une VD via une variable médiatrice.

4. Tableau comparatif : Hypothèses et contrôles

Hypothèse	Contrôle	Impact si violation
Linéarité	Graphique de dispersion, trace résidus	Résultats biaisés, invalides
Normalité des résidus	QQ-plot, test de Shapiro-Wilk	Estimations peu fiables
Homoscédasticité	Graphique des résidus vs valeurs prédites	Variance non constante, biais
Indépendance des résidus	Test Durbin-Watson (< 2)	Corrélation résidus, erreur type biaisé
Multicolinéarité	VIF < 5, tolérance > 0.10	Régressions instables

5. 🗂️ Diagramme hiérarchique

Régression linéaire
 ├─ Modèle
 │    └─ Y = β0 + β1X + ε
 ├─ Vérification des hypothèses
 │    ├─ Linéarité
 │    ├─ Normalité
 │    ├─ Homoscédasticité
 │    ├─ Indépendance
 │    └─ Multicolinéarité
 ├─ Analyse du modèle
 │    ├─ Significativité globale (F, p)
 │    ├─ Signification des coefficients (t, p)
 │    └─ R², R² ajusté
 └─ Interprétation
     └─ Impact des VI, rôle des interactions

6. ⚠️ Pièges & confusions

• Confondre corrélation et causalité.
• Négliger la vérification des hypothèses.
• Interpréter $\beta$ sans tenir compte de sa signification (p-value).
• Ignorer la multicolinéarité (VIF > 5).
• Confondre modération (interaction) et médiation.
• Utiliser un modèle linéaire quand la relation est non linéaire.
• Ne pas vérifier la normalité des résidus.
• Se fier uniquement à R² sans regarder la significativité.

7. ✅ Checklist pour l’examen

• Savoir écrire et interpréter le modèle linéaire.
• Vérifier la signification globale avec F et p.
• Comprendre l’impact des coefficients ($\beta$) et leur significativité.
• Interpréter le R² ajusté.
• Vérifier la validité des hypothèses principales.
• Savoir distinguer modération et médiation.
• Connaître la méthode d’estimation : moindres carrés.
• Interpréter graphiques de résidus et QQ-plot.
• Maîtriser VIF et tests pour multicolinéarité.
• Comprendre l’impact de chaque hypothèse sur la fiabilité du modèle.
• Connaître le lien entre F et t dans la signification des coefficients.
• Connaître la différence entre modèle simple, multiple, hiérarchique.