Lernzettel: Introduction aux concepts fondamentaux en probabilités

📋 Plan du Cours

1. Ensembles et opérations
2. Tribus et tribu borélienne
3. Applications mesurables et mesures
4. Axiomes et propriétés de probabilité
5. Variables aléatoires et lois
6. Espaces Lp et moments
7. Fonctions caractéristiques et vecteurs gaussiens
8. Convergences de variables aléatoires
9. Probabilités conditionnelles et espérance conditionnelle
10. Simulation de variables aléatoires

📖 1. Ensembles et opérations

🔑 Notions clés & Définitions

• Complémentaire : Le complémentaire d’un sous-ensemble A de E est l’ensemble des éléments de E qui n’appartiennent pas à A.
• Différence symétrique : La différence symétrique AΔB regroupe les éléments qui appartiennent à exactement un des deux ensembles A ou B.
• Cardinal d’un ensemble fini : Le cardinal d’un ensemble fini est le nombre d’éléments qu’il contient, noté Card(A)=|A|.
• Ensemble des parties : L’ensemble des parties P(E) est la collection de tous les sous-ensembles de E.
• Fonction indicatrice : La fonction indicatrice 1A est la fonction qui vaut 1 sur A et 0 sur le complémentaire de A.

📝 Points essentiels

• A∩B, A∪B et Ac vérifient les identités de De Morgan (A∪B)c=Ac∩Bc et (A∩B)c=Ac∪Bc.
• Pour montrer A=B, on utilise la double inclusion : x∈A ⇒ x∈B et x∈B ⇒ x∈A.
• A et B sont disjoints si et seulement si A∩B=/0.
• Si f:E→F est injective, alors f(x)=f(x’) implique x=x’, et si elle est surjective alors tout y∈F admet au moins un antécédent x∈E.
• L’image directe et l’image réciproque s’écrivent f(A)={f(x):x∈A} et f^{-1}(B)={x∈E:f(x)∈B} et l’image réciproque existe pour n’importe quelle application.
• Pour une suite (An) de parties de E, limsupn An est l’ensemble des éléments appartenant à une infinité de An, tandis que liminfn An est l’ensemble des éléments appartenant à tous les An sauf au plus un nombre fini.

💡 Astuce mémo

De Morgan : passer au complément change ∪ en ∩ (et réciproquement) : (∪)c→(∩) et (∩)c→(∪).

📖 2. Tribus et tribu borélienne

🔑 Notions clés & Définitions

• Tribu : Une tribu sur Ω est une famille d’ensembles de Ω contenant Ω, stable par complémentaire et par réunions dénombrables.
• Tribu engendrée : La tribu engendrée par une famille A est la plus petite tribu (au sens de l’inclusion) contenant A, notée σΩ(A) ou σ(A).
• Tribu trace : La tribu trace d’une tribu F sur un sous-ensemble F⊂Ω est la classe {A∩F : A∈F} et c’est une tribu sur F.
• Tribu borélienne : La tribu borélienne B(Ω) est la plus petite tribu sur Ω qui contient tous les ouverts de Ω, notée B(Ω)=σ(O).

📝 Points essentiels

• Si F est une tribu, alors ∅∈F, toute réunion finie et toute intersection finie d’éléments de F restent dans F, et aussi AΔB∈F et B\A∈F pour A,B∈F.
• Il existe une erreur fréquente : de A∈F et B⊂A n’implique pas B∈F, même quand F est une tribu (exemple F2={∅,{1,3,5},{2,4,6},Ω}).
• L’intersection de toutes les tribus contenant A définit σΩ(A), et si F est une tribu alors σ(F)=F.
• Pour f:E→F et une tribu G sur F, la famille f−1(G)={f−1(B):B∈G} est une tribu sur E.
• Dans un espace métrique (ou topologique) Ω, B(Ω)=σ(O) et aussi B(Ω)=σ(Fermés) ; tout borélien est donc engendré par les fermés ou les ouverts.
• Sur R, B(R) est engendrée par les intervalles d’une des familles suivantes : {]a,b[} (intervalles ouverts bornés) ou {[a,b]} (intervalles compacts) ou {]a,+∞[} ou {[−∞,a]} (et trois autres variantes équivalentes listées au cours).

💡 Astuce mémo

Tribu = fermeture : complémentaire + réunions dénombrables ; Borélienne = σ des ouverts (ou σ des fermés) sur l’espace métrique.

📖 3. Applications mesurables et mesures

🔑 Notions clés & Définitions

• Mesurabilité : La mesurabilité d’une application entre espaces mesurables signifie que l’image réciproque de tout ensemble mesurable dans le but appartient bien à la tribu de départ.
• Mesure positive : Une mesure positive associe à chaque ensemble mesurable un réel dans [0,+∞] tout en respectant la stabilité par σ-additivité et la valeur nulle sur l’ensemble vide.
• Masse de Dirac : La masse de Dirac δa est une mesure qui vaut 1 sur les ensembles contenant le point a et 0 sinon.

📝 Points essentiels

• Une application f : (Ω1,F1)→(Ω2,F2) est (F1,F2)-mesurable si et seulement si pour tout B∈F2, l’ensemble f−1(B) appartient à F1.
• Si S engendre F2 (σ(S)=F2), alors f est (F1,F2)-mesurable si et seulement si f−1(B)∈F1 pour tout B∈S.
• Pour f : Ω1→R, la mesurabilité équivaut au fait que pour tout a∈R, l’ensemble {f<a}∈F1 (ou encore {f≤a},{f>a},{f≥a}∈F1).
• Pour f : Ω1→R, la mesurabilité équivaut aussi à l’un des tests sur intervalles, par exemple {a≤f<b}∈F1 pour tout a≤b.
• Une mesure positive μ sur (Ω,F) vérifie μ(∅)=0 et σ-additivité : si (An) est disjointe, alors μ(∪n An)=∑n μ(An).
• La mesure de Dirac δa sur (Ω,P(Ω)) est définie par δa(A)=1 si a∈A et δa(A)=0 sinon, ce qui implique δa σ-additive.

💡 Astuce mémo

Test simple : pour prouver la mesurabilité, vérifie seulement les images réciproques des ensembles d’une famille génératrice (pas tous les B∈F2).

📖 4. Axiomes et propriétés de probabilité

🔑 Notions clés & Définitions

• Mesure de probabilité : Une mesure de probabilité attribue à chaque évènement une probabilité comprise entre 0 et 1 et vérifie l’additivité sur les unions dénombrables d’évènements disjoints.
• Mesure image PX : La mesure image PX est la probabilité « transportée » par une variable aléatoire X, définie par PX(A)=P(X∈A) pour tout borélien A.
• Fonction de répartition : La fonction de répartition F d’une variable aléatoire X est définie par F(x)=P(X≤x) pour tout réel x.
• Saut de la fonction de répartition : Le saut de F en a est la différence F(a)−F(a−), où F(a−) est la limite à gauche de F en a.

📝 Points essentiels

• Pour une variable aléatoire X, on a pour tout borélien B : PX(B)=P(X∈B).
• Si (An)n∈N est une famille d’évènements deux à deux disjoints, alors P(⋃n∈N An)=∑n∈N P(An).
• La fonction de répartition F vérifie 0≤F≤1, est croissante et continue à droite, avec limx→−∞F(x)=0 et limx→+∞F(x)=1.
• Pour tout a∈R, on a PX({a})=P(X=a)=F(a)−F(a−), ce qui relie sauts et masses ponctuelles.
• La fonction de répartition caractérise la loi : FX=FY si et seulement si PX=PY.
• Une fonction de répartition admet au plus un nombre dénombrable de points de discontinuité.

💡 Astuce mémo

Saut en a : masse ponctuelle = F(a) − F(a−).

📖 5. Variables aléatoires et lois

🔑 Notions clés & Définitions

• Indépendance de variables : Deux variables aléatoires sont dites indépendantes quand les événements de la forme [X ≤ x] et [Y ≤ y] ont une probabilité produit pour tout (x,y) ∈ R².
• Covariance : La covariance mesure la dépendance linéaire entre deux variables aléatoires à carré intégrable via Cov(X,Y)=E(XY)−E(X)E(Y).
• Variance : La variance quantifie la dispersion d’une variable aléatoire à carré intégrable par Var(X)=E(X²)−(E(X))².
• Indépendance = produit des espérances : L’indépendance entraîne que l’espérance d’un produit f(X)g(Y) factorise en E(f(X))E(g(Y)) sous les conditions d’intégrabilité requises.

📝 Points essentiels

• Si X et Y sont indépendantes et discrètes, alors pour tout (x,y) on a P(X=x,Y=y)=P(X=x)×P(Y=y).
• Si X et Y sont indépendantes, alors Cov(X,Y)=0, mais la réciproque n’est pas vraie en général.
• Si X1,…,Xn sont de carré intégrable et indépendantes, alors Var(X1+⋯+Xn)=∑_{i=1}^n Var(Xi).
• Pour tout a,b réels, Var(aX+bY)=a²Var(X)+b²Var(Y)+2abCov(X,Y).
• Si X et Y sont indépendantes, alors pour fonctions intégrables f(X) et g(Y), E(f(X)g(Y))=E(f(X))E(g(Y)).
• Réciproquement, si pour toutes fonctions bornées f et g on a E(f(X)g(Y))=E(f(X))E(g(Y)), alors X et Y sont indépendantes.

💡 Astuce mémo

Indépendance = produit : (X,Y) indépendants ⇒ P(X=x,Y=y)=P(X=x)P(Y=y) et E(f(X)g(Y))=E(f(X))E(g(Y)).

📖 6. Espaces Lp et moments

🔑 Notions clés & Définitions

• Espace Lp : L’espace $L^p(\Omega)$ regroupe les variables aléatoires $X$ dont $E(|X|^p)$ est fini.
• Norme $\|\cdot\|_p$ : La norme $\|X\|_p$ mesure la taille de $X$ via $\|X\|_p=(E(|X|^p))^{1/p}$.
• Moment d’ordre p : Un moment d’ordre $p$ d’une variable $X$ est la quantité $E(|X|^p)$, quand elle est finie.

📝 Points essentiels

• Pour $1\le p<r\le\infty$, si $X\in L^r$ alors $X\in L^p$ et $\|X\|_p\le\|X\|_r$.
• Si $X\in L^p$ et $Y\in L^q$ avec $1/p+1/q=1$ alors $E(|XY|)\le \|X\|_p\|Y\|_q$.
• Pour $p\ge 1$, si $X,Y\in L^p$ alors $\|X+Y\|_p\le \|X\|_p+\|Y\|_p$.
• Pour $X\in L^p$ et $p\ge 1$, on a $\inf_x\|X-x\|_p\le \|X-E(X)\|_p\le 2\inf_x\|X-x\|_p$.
• Si $X\in[a,b]$ p.s. (avec $a<b$) alors pour tout $p\ge 1$, $\inf_x\|X-x\|_p\le (b-a)/2$.
• Si $X\in[a,b]$ p.s. alors pour tout $s\ge 0$, $E\big(e^{s(X-E(X))}\big)\le \exp\big(s^2(b-a)^2/8\big)$.

💡 Astuce mémo

Inflation d’intégrabilité: $r$ grand $\Rightarrow$ $p$ petit (et $\|\cdot\|_p\le\|\cdot\|_r$), puis Hölder pour produire un produit $XY$.

📖 7. Fonctions caractéristiques et vecteurs gaussiens

🔑 Notions clés & Définitions

• Fonction caractéristique : La fonction caractéristique d’un vecteur aléatoire est l’attente de l’exponentielle complexe $e^{i\langle t,X\rangle}$ en fonction de $t\in\mathbb{R}^d$.
• Vecteur gaussien : Un vecteur gaussien est un vecteur aléatoire tel que toute combinaison linéaire de ses composantes suit une loi normale réelle.
• Matrice de dispersion : La matrice de dispersion (ou matrice de covariance) d’un vecteur gaussien encode les variances et covariances de ses combinaisons linéaires via $t^\top C t$.

📝 Points essentiels

• Pour un vecteur aléatoire $X\in\mathbb{R}^d$, la fonction caractéristique est $\Phi_X(t)=\mathbb{E}(e^{i\langle t,X\rangle})$.
• Pour tout $t\in\mathbb{R}^d$, on a $\Phi_X(0)=1$, $|\Phi_X(t)|\le 1$ et $\Phi_X(-t)=\overline{\Phi_X(t)}$.
• La fonction caractéristique est uniformément continue sur $\mathbb{R}^d$ et dépend uniquement de la loi $P_X$ de $X$.
• Si $Y=a+AX$ (avec $A$ réelle), alors $\Phi_Y(t)=e^{i\langle t,a\rangle}\,\Phi_X(A^\top t)$ pour tout $t\in\mathbb{R}^m$.
• Si $X=(X_1,\dots,X_d)$ a des composantes indépendantes, alors $\Phi_X(t_1,\dots,t_d)=\prod_{j=1}^d \Phi_{X_j}(t_j)$, et si $X,Y$ sont indépendants alors $\Phi_{X+Y}=\Phi_X\,\Phi_Y$.
• Si $X\sim\mathcal{N}_d(\mu,C)$, alors pour tout $t\in\mathbb{R}^d$ : $\Phi_X(t)=\exp\big(i\langle t,\mu\rangle-\tfrac12 t^\top C t\big)$.

💡 Astuce mémo

Pensez à la formule exponentielle : gaussien = Fourier qui se ferme en exponentielle quadratique $i\langle t,\mu\rangle-\tfrac12 t^\top C t$.

📖 8. Convergences de variables aléatoires

🔑 Notions clés & Définitions

• Convergence presque sûre : Convergence des réalisations $X_n(\omega)$ vers $X(\omega)$ sur un ensemble d’issues de probabilité $1$.
• Convergence en probabilité : Convergence où, pour tout $\varepsilon>0$, la probabilité que $|X_n-X|>\varepsilon$ tend vers $0$.
• Convergence dans $L^p(\Omega)$ : Convergence où $\mathbb{E}(|X_n-X|^p)\to 0$ (équivalemment $\|X_n-X\|_p\to 0$) et les variables sont dans $L^p$.
• Convergence en loi : Convergence où, pour toute fonction continue bornée $f$, on a $\mathbb{E}[f(X_n)]\to \mathbb{E}[f(X)]$.

📝 Points essentiels

• Si $X_n\to X$ presque sûrement alors $X$ est unique à une égalité près $P$-p.s.
• Fatou (pour $X_n\ge 0$) : $\mathbb{E}(\liminf_{n\to\infty}X_n)\le\liminf_{n\to\infty}\mathbb{E}(X_n)$.
• Convergence dominée : si $X_n\to X$ p.s. et $|X_n|\le Y$ p.s. avec $Y\in L^1$, alors $X\in L^1$ et $\mathbb{E}(|X_n-X|)\to 0$, donc $\mathbb{E}(X_n)\to\mathbb{E}(X)$.
• Critère p.s. : $X_n\to X$ p.s. ssi, pour tout $\varepsilon>0$, $\mathbb{P}(\limsup_{n\to\infty}\{|X_n-X|>\varepsilon\})=0$.
• Implication $L^p\Rightarrow$ probabilité : si $p\ge 1$ et $X_n\to X$ dans $L^p$, alors $X_n\to X$ en probabilité.
• Convergence en loi via fonctions caractéristiques : $X_n\Rightarrow X$ ssi, pour tout $u$, $\Phi_{X_n}(u)\to \Phi_X(u)$.

💡 Astuce mémo

Hiérarchie utile : $L^p\Rightarrow$ probabilité $\Rightarrow$ en loi, et $p.s.$ implique en probabilité; pour les espérances : dominée $\Rightarrow \mathbb{E}(X_n)\to\mathbb{E}(X)$.

📖 9. Probabilités conditionnelles et espérance conditionnelle

🔑 Notions clés & Définitions

• Probabilité conditionnelle : La probabilité conditionnelle d’un événement A sachant une tribu G est une variable G-mesurable qui vérifie P(A∩G)=∫_G P(A/G)dP pour tout G∈G.
• Espérance conditionnelle : L’espérance conditionnelle de X sachant une tribu G est la variable G-mesurable notée E(X/G) qui vérifie ∫_G E(X/G)dP=∫_G X dP pour tout G∈G.
• Espérance conditionnelle par un événement : L’espérance conditionnelle d’une variable X sachant que B est réalisé, avec P(B)>0, est définie par E(X/B)=E(X1_B)/P(B).
• Espérance conditionnelle par une variable : L’espérance conditionnelle de X sachant une variable aléatoire Y est E(X/Y)=E(X/σ(Y)), où σ(Y) est la tribu engendrée par Y.

📝 Points essentiels

• Existence-unicité : pour X∈L1(Ω) il existe une unique variable E(X/G) (p.s.) vérifiant qu’elle est G-mesurable et que ∫_G E(X/G)dP=∫_G XdP pour tout G∈G.
• Conditionnement sur un événement : si B∈F et P(B)>0, alors E(X/B)=E(X1_B)/P(B), et cela correspond à l’espérance de X sous la probabilité P(·/B).
• Propriété de tour (transitivité) : si G1⊂G2, alors E(E(X/G2)/G1)=E(X/G1) (p.s.).
• Indépendance : si X est indépendante de G, alors E(X/G)=E(X) (p.s.).
• Mesurabilité : si X est G-mesurable, alors E(X/G)=X (p.s.).
• Probabilité conditionnelle comme cas particulier : P(A/G) est défini par P(A/G)=E(1_A/G).

💡 Astuce mémo

Tour → espérance : conditionner sur G2 puis “redescendre” sur G1 ne change pas l’issue (E[E(X/G2)/G1]=E(X/G1)).

📖 10. Simulation de variables aléatoires

🔑 Notions clés & Définitions

• Loi uniforme U[0,1] : La loi uniforme U[0,1] fournit une source centrale de hasard pour générer d’autres lois par transformations adaptées.
• Pseudo-inverse de la fonction de répartition : La pseudo-inverse $F^{-1}(u)=\inf\{x\in\mathbb R: F(x)\ge u\}$ généralise l’inverse quand la fonction de répartition n’est pas bijective.
• Méthode d’inversion : La méthode d’inversion simule $X$ en remplaçant l’argument $U\sim U[0,1]$ par $F^{-1}(U)$, ce qui donne une variable de loi de fonction de répartition $F$.
• Méthode Box-Muller : La méthode Box-Muller transforme deux uniforms i.i.d. en deux gaussiennes standard, évitant l’inversion explicite de la fonction de répartition normale.
• Méthode d’acceptation-rejet : L’acceptation-rejet génère une proposition selon une densité instrumentale $g$ puis l’accepte avec une probabilité proportionnelle à $f/(Mg)$ pour obtenir la densité $f$.

📝 Points essentiels

• Si $U\sim U[0,1]$ et $X$ a pour fonction de répartition $F$, alors $F^{-1}(U)$ a aussi pour fonction de répartition $F$.
• Pour $U\sim U[0,1]$, la variable $\tilde U=F(F^{-1}(U))$ suit une loi uniforme sur $[0,1]$.
• Algorithme Box-Muller : si $U,V\stackrel{iid}{\sim}U[0,1]$, alors $(\sqrt{-2\ln U}\cos(2\pi V),\sqrt{-2\ln U}\sin(2\pi V))$ est un couple gaussien centré de covariance $I_2$.
• Acceptation-rejet : si $f\le Mg$ et $\alpha(y)=f(y)/(Mg(y))$, alors en acceptant quand $U\le\alpha(Y)$, la variable obtenue a densité $f$ et le nombre d’essais $\tau$ est géométrique de paramètre $1/M$.
• Condition de Poisson-Exponentielle : si $T_k$ sont exponentielles i.i.d. de paramètre $\lambda$, alors le premier $n$ tel que la somme dépasse 1 définit une variable de loi $P(\lambda)$.
• Simulation gaussienne $N_d(\mu,C)$ : générer $Z$ avec composantes i.i.d. $N(0,1)$ puis poser $X=ZA+\mu$ pour une matrice $A$ telle que $C=AA^\Gamma$.

💡 Astuce mémo

Uniforme→quantile : $U\to F^{-1}(U)$ ; Gaussienne→Box-Muller : $\sqrt{-2\ln U}(\cos,\sin)(2\pi V)$ ; Rejet : accepter avec $f/(Mg)$.

📅 Repères chronologiques

Date	Événement
1933	Axiomatization moderne des probabilités (Kolmogorov) mentionnée
29 avril 1901	Article de Lebesgue « Sur une généralisation de l’intégrale définie »
1906	Démonstration du théorème de convergence monotone (Beppo Levi)
1702 − 1761	Formule de Bayes (Thomas Bayes)
10 juin 2025	Datation du document (Dakar, le 10 juin 2025)

📊 Tableaux de synthèse

Liens entre modes de convergence

Mode	Caractérisation	Conséquence
Presque sûre	P({ω: Xn(ω)→X(ω)})=1	Impliqe en probabilité et en loi
En probabilité	∀ε>0, P(|Xn−X|>ε)→0	Impliqe en loi
Convergence dans Lp	E(|Xn−X|p)→0 (donc ||Xn−X||p→0)	Impliqe en probabilité
En loi	∀f continue bornée, E[f(Xn)]→E[f(X)]	Plus faible que les autres

⚠️ Pièges & confusions fréquents

1. Confondre tribu avec stabilité par sous-ensemble : si A∈F et B⊂A, alors B∈F est faux en général (même si F est une tribu).
2. Mélanger limsup/liminf : limsup = « infinitement souvent », liminf = « tous les An sauf au plus un nombre fini ».
3. Croire que la mesurabilité exige de vérifier f−1(B)∈F1 pour tout B∈F2 ; en pratique on teste une famille génératrice S avec σ(S)=F2.
4. Pour une fonction de répartition F, confondre continuité et masse ponctuelle : P(X=a)=F(a)−F(a−) (saut).
5. Indépendance : Cov(X,Y)=0 ne suffit pas ; la réciproque est fausse en général.
6. En gaussien, décorrélation ≠ indépendance hors du cadre gaussien : l’équivalence « décorrélé ⇔ indépendant » requiert que le vecteur soit gaussien.
7. Pour la convergence en loi, ne pas supposer la convergence en probabilité : marginalement, on peut avoir la convergence en loi sans que le couple (ou même la suite) converge en probabilité.

✅ Checklist Examen

1. Montrer une identité ensembliste (complément, intersection, union, différence symétrique) et relier aux lois de De Morgan demandées.
2. Définir une tribu sur Ω, expliquer la tribu engendrée σ(A) comme intersection des tribus contenant A, et utiliser la tribu trace F|F pour obtenir une tribu sur F.
3. Définir la tribu borélienne B(Ω)=σ(O) et rappeler que sur R, B(R) est engendrée par des familles d’intervalles (ouverts bornés, compacts, demi-infinis).
4. Prouver la mesurabilité d’une application f : (Ω1,F1)→(Ω2,F2) via tests sur une famille génératrice S (σ(S)=F2), et utiliser les critères ensemblistes {f<a},{f≤a},{f>a},{f≥a}.
5. Vérifier que μ est une mesure positive (μ(∅)=0 et σ-additivité) et calculer la mesure image f∘−1 comme μf(B)=μ(f−1(B)); traiter le cas Dirac δa.
6. Définir espace de probabilité (Ω,F,P) et appliquer les propriétés : P(Ac)=1−P(A), formule de Poincaré P(A∪B)=P(A)+P(B)−P(A∩B), et inégalité de Boole/P σ-sous-additivité.
7. Pour une variable aléatoire X : définir PX, définir la fonction de répartition FX(x)=P(X≤x), et retrouver P(X=a)=FX(a)−FX(a−) ; caractériser la loi par la fonction de répartition.
8. Utiliser les notions discrètes/continues : pour discrètes, écrire P(X=x) et calculer E(X), Var(X) ; pour continues, vérifier que f est une densité (f≥0 et ∫f=1) et exprimer F(x)=∫_{−∞}^x f.
9. Définir fonction caractéristique ΦX(t)=E(e^{i⟨t,X⟩}), citer ses propriétés (ΦX(0)=1, |ΦX(t)|≤1, indépendante ⇒ produit) et conclure que Φ caractérise la loi.
10. Expliquer la définition d’un vecteur gaussien et la caractérisation par la fonction caractéristique (forme exponentielle quadratique), puis utiliser la transformation affine et le cas « gaussien : indépendance ⇔ décorrélation ».
11. Maîtriser les modes de convergence (p.s., en probabilité, dans Lp, en loi) et leurs implications clés (Lp⇒probabilité⇒loi, p.s.⇒probabilité) ainsi que le critère p.s.
12. Simuler une loi via les méthodes vues : inversion (F−1(U)), Box-Muller pour normales, rejet (f≤Mg avec acceptation f/(Mg)), et composition/mélange ; et simuler un vecteur gaussien par Cholesky (C=AA⊤) puis X=μ+AZ.