Lernzettel: Introduction à la modélisation statistique

📋 Plan du Cours

1. Plans expérimentaux et variables
2. Régression simple et corrélation
3. Inférence sur la pente
4. Puissance statistique
5. Ordonnée à l’origine et intervalle
6. Chi carré d’indépendance
7. Régression multiple
8. Tests de prédicteurs et coefficients partiels
9. Variables catégorielles et contrastes
10. Contrastes polynomiaux et comparaisons
11. Régression avec plusieurs facteurs
12. Interactions et effets simples

📖 1. Plans expérimentaux et variables

🔑 Notions clés & Définitions

• Variable indépendante : La variable indépendante est la(s) variable(s) manipulée(s) pour tester son influence sur une autre variable mesurée.
• Variable dépendante : La variable dépendante est la variable mesurée qui réagit aux changements de la variable indépendante.
• Plan inter-sujets : Le plan inter-sujets compare des groupes indépendants où chaque groupe reçoit une modalité différente de la variable indépendante.
• Plan intra-sujets : Le plan intra-sujets teste les mêmes participants dans plusieurs conditions, ce qui crée une dépendance des observations mais réduit la variabilité.
• Plan mixte : Le plan mixte combine des composantes inter-sujets et intra-sujets en utilisant à la fois des comparaisons entre groupes et dans le temps sur les mêmes groupes.

📝 Points essentiels

• En inférence, l’objectif d’une expérience est d’évaluer l’influence d’une ou plusieurs variables indépendantes sur une variable dépendante mesurée.
• Dans un plan inter-sujets, la comparaison entre groupes ajoute une source de variabilité inter-groupe comme des différences d’assimilation entre groupes.
• Dans un plan intra-sujets, chaque individu est testé au moins deux fois, ce qui augmente la puissance et réduit le nombre de sujets nécessaires.
• Un plan mixte réunit des comparaisons inter-groupe et une répétition ultérieure sur les mêmes groupes.
• Une quasi-expérience correspond à des groupes préexistants (pseudo-variables) et n’autorise pas d’attribuer un effet avec certitude à ces pseudo-variables.

💡 Astuce mémo

Inter = groupes différents (plus variable), Intra = mêmes sujets (plus puissant), Mixte = les deux + du temps.

📖 2. Régression simple et corrélation

🔑 Notions clés & Définitions

• Modèle de régression : Un modèle de régression simple relie une variable dépendante à une variable continue par une droite et un terme d’erreur.
• Covariance : La covariance mesure la direction et l’intensité de la liaison entre $X$ et $Y$, en indiquant si les variations vont plutôt ensemble ou à l’opposé.
• Coefficient de corrélation r : Le coefficient de corrélation $r$ standardise la covariance en utilisant les écarts-types pour donner une liaison interprétable entre $X$ et $Y$.
• Valeurs aberrantes : Les valeurs aberrantes sont des points qui peuvent déplacer la droite et modifier fortement les estimations de régression, surtout via leur position sur l’axe de $X$.

📝 Points essentiels

• Le modèle à deux paramètres de la régression simple s’écrit $Y_i=\beta'_0+\beta'_1X_i+E_i$, avec $\beta'_0$ terme indépendant et $\beta'_1$ pente.
• Pour utiliser la régression simple, les variables doivent être à l’échelle d’intervalle, distribuées normalement et présenter une homoscédasticité.
• La covariance se calcule à partir des moyennes $\bar X$ et $\bar Y$ et son signe renseigne sur le sens de la liaison entre $X$ et $Y$.
• Le coefficient de corrélation $r$ varie entre -1 et +1 et vaut -1 ou +1 seulement en liaison parfaitement négative ou parfaitement positive.
• La part de variance expliquée par la régression simple est donnée par $\text{PRE}=r^2$.
• Le point moyen $G(\bar X,\bar Y)$ appartient toujours à la droite et l’impact sur $\beta'_1$ dépend de l’écart à $\bar X$, alors qu’un point à $X=\bar X$ modifie surtout $\beta'_0$.

💡 Astuce mémo

Pensez au duo standardisation : covariXy non interprétable → corrélation r dans [-1;1] et variance expliquée PRE = r².

📖 3. Inférence sur la pente

🔑 Notions clés & Définitions

• Pente β’1 : La pente est le coefficient du prédicteur dans le modèle de régression, qui mesure l’évolution de la valeur prédite de Y quand X augmente d’une unité.
• Modèle augmenté : Le modèle augmenté est la régression qui inclut l’information de X pour prédire Y, via le terme β’1X dans l’équation.
• Modèle compact : Le modèle compact est le modèle de référence qui ne tient pas compte de X et prédit Y uniquement avec sa moyenne, ce qui revient à une pente nulle.
• Hypothèse nulle sur la pente : L’hypothèse nulle affirme que la pente n’apporte pas d’information car le coefficient de pente vaut 0 dans la population.
• Comparaison de modèles : La comparaison de modèles vérifie si le modèle augmenté réduit suffisamment l’erreur résiduelle par rapport au modèle compact pour conclure à un effet de X sur Y.

📝 Points essentiels

• Pour tester l’effet de X, on pose H0: β’1 = 0, ce qui revient à demander si la pente apporte plus d’information que la simple moyenne de Y.
• En régression simple, le modèle compact correspond à Yi = B’0 + Eci car on impose β’1 = 0, tandis que le modèle augmenté est Yi = β’0 + β’1Xi + Eai.
• On juge la significativité en combinant la proportion de réduction de l’erreur PRE et la statistique F, en rejetant H0 si F observée est plus grande que la F théorique et en ne la rejetant pas sinon.
• Dans ce test pour la pente, les degrés de liberté du modèle compact valent PC = 1 et ceux du modèle augmenté valent PA = 2, car on passe d’une estimation de moyenne à deux estimations (moyenne de Y et pente via X).
• Dans Jamovi, le test principal de la pente s’affiche via la statistique t de Student, et pour la F avec 1 ddl au numérateur on a la relation F = t^2, donc les conclusions convergent.

💡 Astuce mémo

Pente = lien: tester β’1 revient à vérifier si β’1 est différent de 0 (donc si X aide vraiment à prédire Y).

📖 4. Puissance statistique

🔑 Notions clés & Définitions

• Puissance statistique : La puissance statistique est la probabilité de détecter un effet réel lorsque cet effet existe réellement dans la population.
• Proportion de réduction de l’erreur PRE : La PRE mesure la fraction de l’erreur expliquée en ajoutant l’information du modèle par rapport au modèle de référence.
• Risque alpha : Le risque alpha est la probabilité de rejeter à tort l’hypothèse nulle lorsque celle-ci est vraie.
• Puissance a priori : La puissance a priori est calculée avant l’étude pour déterminer l’effectif nécessaire afin de détecter la taille d’effet visée.
• Puissance a posteriori : La puissance a posteriori est calculée après l’étude pour estimer, a posteriori, la capacité de l’échantillon à détecter l’effet supposé.

📝 Points essentiels

• La puissance dépend de la PRE, de la taille de l’écart-type (erreur), de la taille d’échantillon et du risque alpha.
• Après avoir fait l’étude, on ne peut pas vraiment modifier l’erreur ni alpha, donc on ajuste surtout la taille d’échantillon et la PRE ciblée.
• Avant une étude, on calcule la puissance a priori pour fixer un effectif minimum capable de détecter une taille d’effet donnée.
• Après une étude, une absence de significativité peut s’expliquer par un effet réel mais trop peu détectable (puissance trop faible).
• Répéter des tests non significatifs en ajoutant des sujets augmente le risque réel au-delà du 5% car alpha devient 1-0,95^k avec k le nombre de tests.
• Pour calculer la puissance dans les régressions simples, on s’appuie sur des tables associant une F à une PRE et un seuil à 5% (ex. F(1,7) et détection d’une PRE=0,3).

💡 Astuce mémo

PRE (taille d’effet) + n (taille d’échantillon) ⇒ puissance : vise une PRE réaliste et augmente n pour “monter” la puissance.

📖 5. Ordonnée à l’origine et intervalle

🔑 Notions clés & Définitions

• Centrage des prédicteurs : Un centrage consiste à remplacer chaque prédicteur par ses valeurs moins sa moyenne, ce qui aligne 0 avec la valeur moyenne du prédicteur.
• Ordonnée à l’origine : L’ordonnée à l’origine est la valeur prédite de la variable dépendante lorsque les prédicteurs valent 0 dans le modèle.
• Résidus du modèle de la moyenne : Les résidus correspondent aux écarts à la prédiction par la moyenne, et sont reliés au centrage puisque centrer produit des écarts autour de 0.
• Intervalle de confiance du coefficient : Un intervalle de confiance donne une plage plausible de la valeur du coefficient de régression, et son contenu sert à décider si l’effet diffère de 0.

📝 Points essentiels

• En régression simple, si le prédicteur est centré, l’ordonnée à l’origine devient la valeur prédite au niveau moyen du prédicteur, donc la moyenne de la variable dépendante.
• En régression multiple, si tous les prédicteurs sont centrés, l’ordonnée à l’origine correspond à la moyenne générale de la variable dépendante.
• Le coefficient partiel b_j s’interprète comme la variation attendue de la variable dépendante quand le prédicteur augmente de 1 unité, à condition que tous les autres prédicteurs soient à 0.
• Si 0 sur un prédicteur correspond à une valeur peu crédible (ou impossible), centrer rend l’ordonnée à l’origine interprétable avec des valeurs réalistes.
• Pour un coefficient, si l’intervalle de confiance ne contient pas 0, alors le coefficient est significativement différent de 0 et on conclut à une différence compatible non nulle (ex. différence entre deux moyennes).

💡 Astuce mémo

Centrer = faire de 0 la moyenne, donc l’ordonnée à l’origine devient une moyenne prédite.

📖 6. Chi carré d’indépendance

📖 7. Régression multiple

🔑 Notions clés & Définitions

• Régression multiple : Analyse où une variable dépendante est modélisée par plusieurs prédicteurs pour expliquer et prédire ses variations.
• Méthode pas à pas : Procédure qui construit progressivement des modèles en ajoutant (ou en retirant) des prédicteurs afin de retenir ceux qui apportent réellement de l’information.
• SCE et SCR : Le SCE mesure la variabilité expliquée par le modèle, et la SCR correspond à la variabilité des résidus restant après extension du modèle.

📝 Points essentiels

• Mettre tous les prédicteurs possibles dans une seule régression est souvent une mauvaise idée car la redondance baisse la puissance et brouille les résultats.
• Dans une comparaison de modèles, l’amélioration de prédiction se lit via la différence de SCE entre modèle augmenté et modèle compact, liée à la SCR du modèle compact.
• Le test F vérifie si le modèle augmenté réduit significativement l’erreur résiduelle par rapport au modèle compact, donc s’il y a un gain réel de prédiction.
• L’analyse peut montrer qu’un ajout de prédicteur est utile (au moins un coefficient associé n’est pas nul) même si on ne sait pas encore lequel, ce qui motive ensuite l’examen des coefficients.

💡 Astuce mémo

Modèle compact = base, modèle augmenté = boost : si F est grand, la SCR baisse, donc le nouveau prédicteur aide vraiment.

📖 8. Tests de prédicteurs et coefficients partiels

🔑 Notions clés & Définitions

• Contraste : Un contraste est une combinaison linéaire des moyennes des niveaux d’une variable catégorielle, codée pour tester une structure précise des différences entre moyennes.
• Contrastes polynomiaux : Des contrastes polynomiaux sont des codes qui testent des formes ordinales (linéaire, quadratique, etc.) en assignant aux niveaux des coefficients associés à un degré n.
• Modèle compact et modèle augmenté : Le modèle compact ne contient que le terme de base (moyenne générale), tandis que le modèle augmenté ajoute un ou plusieurs contrastes à tester.
• Plus-value de prédiction : La plus-value de prédiction mesure le gain de précision quand on passe du modèle compact au modèle augmenté, en comparant les sommes des carrés d’erreur.
• Hypothèse a priori : Une hypothèse a priori fixe le sens attendu des différences, ce qui permet d’effectuer un test unilatéral pour le contraste le plus directement lié à l’attente.

📝 Points essentiels

• Pour k modalités, on obtient k−1 questions indépendantes, donc k−1 contrastes indépendants permettent de couvrir les comparaisons pertinentes.
• Un contraste doit vérifier que la somme de ses coefficients vaut 0 pour tester le fait que la différence entre moyennes codées est nulle.
• Deux contrastes indépendants vérifient aussi que la somme des produits des coefficients correspondants vaut 0, ce qui rend leurs contributions distinctes.
• Avec 3 conditions, les contrastes polynomiaux linéaire et quadratique valent respectivement (-1,0,1) et (-1,2,-1) et on juge la forme via leur significativité.
• En tests de coefficients partiels, on compare un modèle compact (moyenne générale) à un modèle augmenté (moyenne générale + contraste) à l’aide d’un test F basé sur les SCE correspondantes, puis on conclut sur le contraste ajouté.

💡 Astuce mémo

k niveaux → k−1 contrastes indépendants : assez pour “couvrir” k−1 questions.

📖 9. Variables catégorielles et contrastes

🔑 Notions clés & Définitions

• Contraste linéaire : Un contraste linéaire teste une tendance monotone entre niveaux d’une variable catégorielle ordonnée en comparant des moyennes selon un poids propre à la tendance attendue.
• Contraste quadratique : Un contraste quadratique teste une tendance en forme de courbe (courbure) entre niveaux ordonnés d’une variable catégorielle en comparant des moyennes avec des coefficients adaptés.
• Hypothèses a priori : Des hypothèses a priori fixent avant l’analyse le sens attendu des différences, ce qui impose de vérifier à la fois la significativité et le sens des coefficients bj.
• Correction de Dunn-Bonferroni : Une correction de Dunn-Bonferroni ajuste le seuil alpha en le divisant par le nombre de comparaisons pour limiter le risque d’erreur de multiplications de tests.
• Contrastes d’Helmert : Des contrastes d’Helmert permettent de comparer systématiquement des conditions deux à deux ou via des comparaisons successives, en utilisant des coefficients de pondération pour chaque comparaison.

📝 Points essentiels

• Si un contraste est significatif en unilatéral, il doit à la fois dépasser le seuil via F et aller dans le sens prévu par l’hypothèse (signe des bj cohérent).
• Avec une variable à 3 conditions, un contraste du type (-1;0;1) compare la 1re à la 3e, tandis que (-1;1;0) compare la 1re à la 2e et (0;-1;1) compare la 2e à la 3e.
• Quand on enchaîne plusieurs comparaisons deux à deux, le risque total d’au moins une erreur passe de 0,05 à 1-(0,95)^n où n est le nombre de comparaisons.
• La correction de Dunn-Bonferroni fixe un nouveau seuil alpha corrigé égal à 0,05 divisé par le nombre de comparaisons, par exemple 0,005 si 10 comparaisons.
• Quand l’analyse n’a pas d’hypothèse spécifique (a posteriori), le résultat omnibus indique une différence quelque part entre moyennes mais ne localise pas quelles conditions diffèrent sans recourir à des contrastes ciblés.

💡 Astuce mémo

Alpha cumulé : 1-(0,95)^n (plus il y a de comparaisons n, plus le risque grimpe).

📖 10. Contrastes polynomiaux et comparaisons

🔑 Notions clés & Définitions

• Contrastes de Helmert : En analyse de contrastes, ce sont des comparaisons construites en opposant certains niveaux à la moyenne de niveaux précédents ou suivants, selon une logique par étapes.
• Contrastes de comparaison : En ANOVA factorielle, ce sont des contrastes définis par des coefficients choisis pour tester des questions précises sur effets principaux et interaction.

📝 Points essentiels

• Quand on code des contrastes pour interpréter effets principaux et interaction, on évite les contrastes polynomiaux et de Helmert, car il existe de meilleures options pour ce type d’analyse.
• Avec 6 conditions expérimentales, on peut poser jusqu’à 5 questions indépendantes via 5 contrastes indépendants.
• Après un test omnibus de type MA vs MC, si l’interaction est significative, on approfondit avec des comparaisons d’effets simples pour comprendre où se situe la différence.
• Les contrastes sont choisis pour répondre à des questions distinctes (ex : médicament vs placebo, séparation des deux médicaments, effet de la psychothérapie, puis contrastes d’interaction).
• Pour chaque contraste Cj, on évalue sa significativité et son apport par rapport au modèle compact MC qui ne tient pas compte du contraste étudié.

💡 Astuce mémo

Polynômes/Helmert = tendance générale; pour lire effets principaux + interaction, choisis des contrastes “faits pour la question”.

📖 11. Régression avec plusieurs facteurs

🔑 Notions clés & Définitions

• Interaction entre facteurs : Une interaction décrit que l’effet d’un prédicteur sur la variable à expliquer change selon les valeurs prises par un autre prédicteur.
• Effets simples : Les effets simples sont les effets d’une variable étudiée dans une condition précise (fixer l’autre variable à un niveau) pour comprendre une interaction.
• Modèle augmenté MA : Le modèle augmenté est le modèle complet qui inclut l’ensemble des contrastes/termes correspondant aux effets qu’on veut tester.
• Modèle compact MC : Le modèle compact est le modèle sans le(s) terme(s) de la comparaison, servant de référence pour juger l’apport d’un facteur ou d’une interaction.

📝 Points essentiels

• Pour conclure sur un effet (facteur principal ou interaction), on compare un modèle augmenté MA à un modèle compact MC via une statistique F dont la p-valeur dépend du test de significativité.
• Si l’interaction est significative, les conclusions de type « effet moyen global » ne suffisent pas et il faut analyser les effets simples dans chaque condition de l’autre variable.
• Les degrés de liberté inter-groupe d’une comparaison MA vs MC correspondent au nombre de paramètres ajoutés par MA par rapport à MC, puis les ddl du dénominateur valent $n-\text{(ddl total de MA)}$.
• Pour interpréter une interaction, le choix du sous-modèle pour tester les effets simples dépend de la question de recherche (comparer les prédicteurs entre eux ou l’effet d’une variable entre conditions).
• Après avoir identifié les contrastes significatifs, on interprète toujours aussi les résultats globaux (effets principaux et interaction) pour situer où se trouvent les différences entre conditions.

📖 12. Interactions et effets simples

🔑 Notions clés & Définitions

• Interaction variable–variable : Une interaction désigne une situation où l’effet d’un prédicteur dépend des valeurs de l’autre prédicteur ou du niveau de l’autre variable.
• Effet simple : Un effet simple décrit la différence ou la pente d’un facteur à l’intérieur d’une condition précise de l’autre facteur (par exemple avec vs sans thérapie, ou MD à −1/ +1 écart-type).
• Modèle avec interaction : Un modèle avec interaction autorise la modification conjointe de la prédiction selon les valeurs des deux variables, via un terme d’interaction.
• Modèle sans interaction : Un modèle sans interaction impose un effet d’un prédicteur constant quel que soit le niveau de l’autre variable, ce qui réduit le nombre de paramètres.

📝 Points essentiels

• Pour analyser un effet simple issu d’une interaction, on choisit le réarrangement des contrastes selon la QDR, par exemple en fonction de C2 pour comparer les deux médicaments séparément dans les conditions avec et sans thérapie.
• Dans l’exemple, en présence de thérapie la comparaison MS vs MD donne aucune différence significative, alors qu’en absence de thérapie la comparaison montre une différence apparente (bien-être 22 vs 15).
• Pour tester la signification d’un effet simple en ANOVA, on compare un modèle en tension à l’intérieur des conditions et on calcule une statistique F à partir d’un carré moyen de l’effet simple et d’un carré moyen intra.
• Dans une régression avec interaction, on étudie l’effet de MS sur la VD en regardant la pente simple de MS quand MD vaut −1 écart-type puis +1 écart-type.
• Dans l’exemple, l’interaction MS×MD améliore significativement la prédiction (F(3,16)=7.13, p<0.05) et le terme d’interaction est aussi significatif (p<0.001), conduisant à des pentes simples différentes selon le niveau de MD.

💡 Astuce mémo

Interaction = même pente? Non : la pente d’un facteur change quand l’autre bouge (effet simple = pente/différence pour une condition donnée).

📊 Tableaux de synthèse

Plans expérimentaux : inter / intra / mixte

Modèles compact vs augmenté (logique générale de comparaison)

⚠️ Pièges & confusions fréquents

1. Confondre variable indépendante (manipulée) et variable dépendante (mesurée) : on teste l’effet des VI sur la VD, pas l’inverse.
2. Croire qu’un plan inter-sujets est « équivalent » à un plan intra-sujets : l’un ajoute une variabilité inter-groupe, l’autre teste les mêmes sujets.
3. Interpréter un résultat de régression/corrélation comme causal : un lien statistique ne prouve pas la cause (bon sens et contexte restent nécessaires).
4. Oublier que les valeurs aberrantes influencent b1 surtout via leur distance à X : déplacer verticalement un point avec X égal à X̄ modifie surtout b0.
5. Tester plusieurs comparaisons sans correction : le risque alpha cumulé augmente (alpha cumulé = 1−(0,95)^n) et peut rendre des conclusions fragiles.
6. En régression multiple, supposer que les coefficients partiels sont juste les corrélations simples : ils mesurent le lien « résiduel » une fois les autres VI contrôlées (après centrage et/ou modèle à résidus).
7. Penser que « interaction non significative » autorise à conclure « pas d’effets » : l’omnibus ne localise pas ; en cas d’interaction significative seulement on examine les effets simples selon la QDR.

✅ Checklist Examen

1. Définir une hypothèse de recherche : prédiction de l’influence d’une/plusieurs VI (manipulées) sur une VD (mesurée), et distinguer variable manipulée vs pseudo-variable (quasi-expérience).
2. Choisir le bon plan : décrire inter-sujets, intra-sujets et mixte, et citer la conséquence sur la dépendance des observations et la variabilité.
3. En régression simple, écrire Yi = β’0 + β’1Xi + Ei, identifier terme indépendant (β’0) et pente (β’1), et rappeler les conditions d’échelle et d’homoscédasticité.
4. Calculer/relier PRE et corrélation : PRE = r^2 et r = √PRE (et interpréter la part de variance expliquée).
5. Tester l’effet de la pente : formuler H0: β’1=0, comparer MC (pente nulle) vs MA, calculer/justifier l’usage de F et/ou t, et conclure à partir de la F observée vs F théorique.
6. Interpréter l’influence des valeurs aberrantes : dire quand b1 est affecté (distance à X̄) et quand b0 change surtout (X=X̄).
7. Maîtriser l’inférence par intervalle de confiance : rappeler que si l’IC de β’1 ne contient pas 0 alors β’1 est significativement différent de 0 (et relier à la compatibilité avec 0).
8. Utiliser la puissance correctement : rappeler ses déterminants (PRE, erreur/écart-type, n, alpha), distinguer puissance a priori vs a posteriori, et l’idée des tables F liées à la PRE au seuil 5%.
9. Expliquer ordonnée à l’origine et centrage : si prédicteur centré alors β’0 correspond à la prédiction à la valeur moyenne (en régression simple) ; en multiple avec prédicteurs centrés, β’0 correspond à la moyenne générale de la VD.
10. Pour le chi-carré d’indépendance, poser H0 (indépendance), calculer/raisonner des effectifs théoriques via P(A∩B)=P(A)·P(B), interpréter χ² observé vs seuil, et expliquer l’usage des résidus et de V de Cramer.
11. En régression multiple, écrire le modèle Yi = β’0 + Σ β’jXij + εi, décrire le coefficient partiel (lien résiduel après contrôle), et maîtriser la procédure d’inférence MA vs MC avec PRE et F ainsi que l’idée de redondance.
12. En ANOVA/contrastes, relier variable catégorielle à des contrastes (somme des coefficients nulle ; indépendance via sommes de produits = 0), distinguer linéaire vs quadratique (polynomiaux) et bilatéral vs unilatéral selon hypothèses a priori.
13. Sur interactions (ANOVA factorielle ou régression avec interaction), définir interaction vs effets principaux, puis après une interaction significative sélectionner et interpréter les effets simples conformément à la QDR (pentes simples dans régression ; comparaisons de moyennes par conditions).
14. En régression non linéaire et auto-interaction, construire le modèle linéaire + terme quadratique (X et X²), puis comparer la pertinence via SCE/PRE et la logique F, en précisant l’ambition (jamais d’erreur résiduelle nulle en pratique).