Ficha de revisão: Introduction aux probabilités et variables aléatoires

📋 Plan du Cours

1. Principes fondamentaux de la probabilité et propriétés des ensembles d'événements
2. Probabilité conditionnelle et loi des probabilités totales
3. Indépendance conditionnelle et inconditionnelle des événements
4. Formulation et application de la règle de Bayes
5. Variables aléatoires discrètes : définitions, propriétés et distributions classiques
6. Espérance mathématique et propriétés des variables aléatoires
7. Variables aléatoires continues : fonctions de densité, fonctions de répartition et distributions normales
8. Mélanges de distributions normales : caractéristiques et applications

📖 1. Principes fondamentaux de la probabilité et propriétés des ensembles d'événements

🔑 Notions clés & Définitions

• Probability : La probabilité est une mesure qui quantifie la chance qu’un événement se produise. Elle est représentée par un nombre compris entre 0 et 1, où 0 indique qu’un événement ne se produit jamais, et 1 indique qu’il se produit toujours. La probabilité est souvent interprétée comme la fréquence relative d’un événement si une série d’expériences indépendantes était répétée à l’infini. Elle est définie sur un espace d’événements, appelé espace échantillon ou espace d’événements, auquel elle associe une valeur numérique pour chaque événement. La probabilité de l’espace total 𝛺 est toujours égale à 1, ce qui reflète le fait que l’un quelconque des résultats possibles doit se produire dans une expérience.

• Discrète Random Variables : Variable aléatoire discrète qui prend un nombre fini ou dénombrable de valeurs possibles. La fonction de masse de probabilité (PMF) associe à chaque valeur une probabilité précise, et la somme de ces probabilités sur toutes les valeurs possibles est égale à 1. La fonction de distribution cumulative (CDF) d’une variable discrète mesure la probabilité que la variable prenne une valeur inférieure ou égale à un certain seuil. Elle est une fonction en escalier, augmentant par sauts aux valeurs possibles de la variable.

• Continuous Random Variables : Variable aléatoire continue qui peut prendre n’importe quelle valeur dans un intervalle donné. La fonction de densité de probabilité (PDF) associe à chaque valeur une densité, dont l’intégrale sur un intervalle donne la probabilité que la variable prenne une valeur dans cet intervalle. La somme ou l’intégrale de la PDF sur tout l’espace est égale à 1. La fonction de distribution cumulative (CDF) d’une variable continue indique la probabilité que la variable soit inférieure ou égale à une valeur donnée. La PDF peut être dérivée de la CDF par différentiation, et la probabilité que la variable prenne une valeur précise est nulle, seule la probabilité sur un intervalle étant significative.

📝 Points essentiels

• La probabilité de l’espace total 𝛺 est égale à 1, soit Pr(𝛺) = 1. Cela signifie que la somme ou l’intégrale des probabilités de tous les résultats possibles dans l’espace d’échantillonnage doit toujours être égale à 1, garantissant que l’un des résultats doit nécessairement se produire lors d’une expérience aléatoire.

• La probabilité de l’union de deux événements A et B, notée Pr(A ∪ B), se calcule en additionnant leurs probabilités respectives, puis en soustrayant la probabilité de leur intersection pour éviter le double comptage :

• Pr(A ∪ B) = Pr(A) + Pr(B) - Pr(A ∩ B).

• Cette formule est fondamentale pour gérer la probabilité de la survenue d’au moins un des deux événements, en tenant compte du fait que certains résultats peuvent appartenir aux deux événements simultanément.

💡 À retenir

La probabilité, définie sur un espace d’événements, quantifie la chance qu’un événement se produise, en respectant la règle que la somme des probabilités de tous les résultats possibles est toujours égale à 1. La formule de l’union évite le double comptage en soustrayant la probabilité de l’intersection, ce qui est essentiel pour calculer la probabilité qu’au moins un événement parmi plusieurs se réalise.

📖 2. Probabilité conditionnelle et loi des probabilités totales

🔑 Notions clés & Définitions

• Probabilité conditionnelle : mesure de la probabilité qu’un événement A se produise, sachant qu’un autre événement B s’est déjà produit. Elle est définie par la formule Pr(A|B) = Pr(A ∩ B) / Pr(B), où Pr(A ∩ B) représente la probabilité que A et B se produisent simultanément, et Pr(B) la probabilité que B se produise. La condition que Pr(B) soit strictement positive est essentielle pour que cette définition soit valable. La probabilité conditionnelle permet d’évaluer la chance de A dans un espace restreint, celui où B est réalisé, en restreignant l’espace d’événements à B.

• Mutuellement exclusive : caractérise deux événements qui ne peuvent pas se produire simultanément. Leur intersection est vide, notée ∅. En d’autres termes, si A et B sont mutuellement exclusifs, alors Pr(A ∩ B) = 0. La propriété fondamentale est que la réunion de deux événements mutuellement exclusifs, A et B, a pour probabilité la somme de leurs probabilités respectives : Pr(A ∪ B) = Pr(A) + Pr(B). Cette propriété s’étend à toute collection d’événements mutuellement exclusifs, ce qui signifie qu’aucun de ces événements ne peut coïncider avec un autre.

📝 Points essentiels

• La probabilité conditionnelle de A sachant B, notée Pr(A|B), se calcule en divisant la probabilité de leur intersection, Pr(A ∩ B), par la probabilité de B, Pr(B). La formule précise est :

• Pr(A|B) = Pr(A ∩ B) / Pr(B).

• Cette formule suppose que Pr(B) > 0, ce qui garantit que l’espace d’événements considéré est restreint à B. La probabilité conditionnelle permet ainsi d’évaluer la probabilité de A dans un contexte où B est déjà réalisé, en se concentrant sur l’espace restreint B.

• La loi des probabilités totales exprime que la probabilité d’un événement A peut être décomposée en fonction d’une partition mutuellement exclusive de l’espace. Si (B₁, B₂, ..., Bₙ) est une partition de l’espace, c’est-à-dire que ces événements sont mutuellement exclusifs et que leur union couvre tout l’espace, alors la probabilité de A s’écrit :

• Pr(A) = ∑ Pr(A|Bᵢ) × Pr(Bᵢ).

• Ce résultat permet de calculer une probabilité complexe en la décomposant en probabilités conditionnelles plus simples, pondérées par la probabilité de chaque événement de la partition. La loi des probabilités totales est fondamentale pour analyser des situations où l’espace est naturellement divisé en sous-ensembles disjoints.

💡 À retenir

La probabilité conditionnelle permet d’évaluer la chance qu’un événement se produise dans un espace restreint, en tenant compte de la réalisation d’un autre événement. La loi des probabilités totales facilite la décomposition d’une probabilité complexe en une somme de probabilités conditionnelles, en utilisant une partition mutuellement exclusive de l’espace.

📖 3. Indépendance conditionnelle et inconditionnelle des événements

🔑 Notions clés & Définitions

L’indépendance en probabilité désigne une relation entre deux événements dans laquelle la survenue de l’un n’affecte pas la probabilité de l’autre. Plus précisément, deux événements A et B sont considérés comme indépendants si la probabilité que les deux se produisent simultanément, notée Pr(A ∩ B), est égale au produit de leurs probabilités individuelles, Pr(A) × Pr(B). Cette relation implique que la connaissance du résultat de l’un n’apporte aucune information sur la probabilité de l’autre.

L’indépendance conditionnelle étend cette notion en la situant par rapport à un troisième événement C. Deux événements A et B sont alors dits conditionnellement indépendants si, lorsque l’on sait que C s’est produit, la probabilité que A et B se produisent simultanément, notée Pr(A ∩ B | C), est égale au produit des probabilités conditionnelles Pr(A | C) × Pr(B | C). En d’autres termes, une fois que l’on connaît C, la survenue de A n’influence pas la probabilité que B se produise, et vice versa.

📝 Points essentiels

• Deux événements A et B sont indépendants si et seulement si leur probabilité conjointe est le produit de leurs probabilités individuelles :

• Pr(A ∩ B) = Pr(A) × Pr(B).

• Ce critère doit être vérifié pour établir leur indépendance inconditionnelle, c’est-à-dire sans condition supplémentaire.

• Il est possible que deux événements soient dépendants globalement, c’est-à-dire que Pr(A ∩ B) ≠ Pr(A) × Pr(B), mais qu’ils deviennent indépendants lorsqu’on conditionne sur un troisième événement C. La condition d’indépendance conditionnelle s’écrit alors :

• Pr(A ∩ B | C) = Pr(A | C) × Pr(B | C).

• Ce type d’indépendance ne garantit pas l’indépendance inconditionnelle, et inversement, deux événements indépendants inconditionnellement peuvent devenir dépendants lorsqu’on conditionne sur un autre événement.

• Un exemple illustratif : si A et B ont chacun une probabilité de 40 %, leur intersection, si elles sont indépendantes, aura une probabilité de 16 %, correspondant au produit 0,4 × 0,4. Si cette relation est vérifiée, cela confirme leur indépendance. En revanche, si A et B sont dépendants, leur probabilité conjointe sera différente de ce produit, sauf si l’on considère un événement C qui, une fois connu, rend A et B indépendants conditionnellement.

💡 À retenir

L’indépendance inconditionnelle concerne la relation directe entre deux événements sans condition, tandis que l’indépendance conditionnelle se réfère à leur indépendance une fois qu’un troisième événement est connu. La distinction est essentielle pour analyser des relations probabilistes complexes, notamment en statistique et en économétrie.

📖 4. Formulation et application de la règle de Bayes

🔑 Notions clés & Définitions

• Variables aléatoires continues : catégories de variables qui peuvent prendre une infinité de valeurs dans un intervalle continu, sans valeurs discrètes distinctes. Elles modélisent des phénomènes où la quantité peut varier de manière fluide, par exemple la température ou la durée.

• Variables aléatoires discrètes : catégories de variables qui prennent un nombre fini ou dénombrable de valeurs, souvent des entiers. Elles représentent des comptages ou des événements avec des résultats distincts, comme le nombre de défauts dans un lot ou le résultat d’un dé.

📝 Points essentiels

• La règle de Bayes s’exprime par la formule Pr(B|A) = [Pr(A|B) × Pr(B)] / Pr(A), qui établit un lien entre probabilités conditionnelles inverses. Elle permet de calculer la probabilité qu’un événement B se produise en tenant compte d’une observation A, en utilisant la probabilité de A sachant B, la probabilité a priori de B, et la probabilité totale de A.

• Cette règle facilite la mise à jour des croyances concernant une hypothèse B à partir de nouvelles données A. En d’autres termes, elle permet d’actualiser la probabilité initiale de B en intégrant l’information fournie par A, ce qui est essentiel dans des contextes où l’on doit ajuster ses estimations face à des nouvelles observations.

💡 À retenir

La règle de Bayes est un outil puissant pour inverser des probabilités conditionnelles et actualiser nos croyances en fonction de nouvelles données, en reliant probabilités inverses et probabilités a priori pour une meilleure compréhension ou prédiction d’un phénomène.

📖 5. Variables aléatoires discrètes : définitions, propriétés et distributions classiques

🔑 Notions clés & Définitions

• Définitions : Les définitions précisent les caractéristiques fondamentales des concepts étudiés, notamment les variables aléatoires discrètes et continues, ainsi que leurs propriétés associées.
• 0 and y : Note that the mass is heavily concentrated around y

📝 Points essentiels

• La somme des probabilités dans la PMF d'une variable aléatoire discrète est égale à 1.
• Une variable aléatoire discrète prend un nombre dénombrable de valeurs, chacune associée à une probabilité via la PMF.

💡 À retenir

La somme des probabilités dans la PMF d'une variable aléatoire discrète est égale à 1.

📖 6. Espérance mathématique et propriétés des variables aléatoires

🔑 Notions clés & Définitions

Moments :
Les moments d'une variable aléatoire sont des quantités qui caractérisent sa distribution en intégrant ou en sommant ses valeurs pondérées par leurs probabilités. Le premier moment, appelé espérance mathématique, correspond à la moyenne théorique de la variable. Les moments d'ordre supérieur, tels que le second, le troisième, etc., sont définis par des expressions qui diffèrent uniquement par un paramètre d'ordre r, représentant le rang du moment. Ces moments sont appelés moments centraux lorsqu'ils sont calculés autour de la première étape, c'est-à-dire l'espérance. La définition formelle pour un moment d'ordre r est : $\mathbb{E}[(X - \mathbb{E}[X])^r]$.
Les moments non centraux, en revanche, sont calculés directement à partir des valeurs de la variable sans soustraction de l'espérance, et contiennent la même information que les moments centraux, puisqu'il est possible de construire l'un à partir de l'autre.

Variables aléatoires :
Une variable aléatoire est une fonction qui associe à chaque résultat d'une expérience aléatoire une valeur numérique. Elle peut être discrète ou continue, selon que ses valeurs possibles forment un ensemble fini ou dénombrable, ou un intervalle continu. La distinction principale réside dans la nature de leur support et dans la façon dont leur probabilité est distribuée.

📝 Points essentiels

• L'espérance mathématique, notée $\mathbb{E}[X]$, représente la moyenne pondérée des valeurs possibles d'une variable aléatoire discrète, calculée par la somme :

• $\mathbb{E}[X] = \sum x \Pr(X = x)$

• pour une variable discrète.

• Elle possède une propriété fondamentale : la linéarité. Cela signifie que pour deux variables aléatoires $X$ et $Y$, et pour tous scalaires $a$ et $b$, l'espérance de la combinaison linéaire est :

• $\mathbb{E}[aX + bY] = a \mathbb{E}[X] + b \mathbb{E}[Y]$

• Cette propriété est valable indépendamment de l'indépendance des variables.

• La variance, notée $\operatorname{Var}(X)$, mesure la dispersion de la variable autour de son espérance. Elle est définie par :

• $\operatorname{Var}(X) = \mathbb{E}[(X - \mathbb{E}[X])^2]$

• Elle quantifie la moyenne des carrés des écarts par rapport à la moyenne, ce qui reflète la variabilité ou l'étalement des valeurs possibles. La variance n'est pas sensible à la direction de l'écart, car elle utilise le carré.

💡 À retenir

L'espérance mathématique est la moyenne théorique d'une variable aléatoire, fondamentale pour analyser sa tendance centrale. Sa propriété de linéarité facilite le calcul de l'espérance de combinaisons linéaires de variables, tandis que la variance fournit une mesure précise de leur dispersion autour de cette moyenne.

📖 7. Variables aléatoires continues : fonctions de densité, fonctions de répartition et distributions normales

🔑 Notions clés & Définitions

📝 Points essentiels

• La distribution normale est caractérisée par sa moyenne et sa variance, avec une PDF en forme de cloche.
• La distribution normale standard est une normale centrée réduite avec moyenne 0 et variance 1.

💡 À retenir

Les variables aléatoires continues sont définies par leur fonction de densité de probabilité, qui permet de calculer les probabilités sur des intervalles, et la loi normale, caractérisée par sa moyenne et sa variance, est une distribution fondamentale avec une PDF en forme de cloche.

📖 8. Mélanges de distributions normales : caractéristiques et applications

🔑 Notions clés & Définitions

• Moments : Les moments d'une variable aléatoire sont des mesures qui caractérisent sa distribution. Le premier moment correspond à l'espérance mathématique ou moyenne, qui indique la tendance centrale de la distribution. Les moments d'ordre supérieur (deuxième, troisième, etc.) sont définis comme l'espérance de la puissance correspondante de la variable, centrée ou non. Les moments centraux, en particulier, sont calculés par rapport à la moyenne, en soustrayant cette dernière à chaque valeur avant de l'élever à la puissance r. Les moments non centraux, eux, sont calculés directement sur la variable sans décalage. La relation entre ces deux types de moments permet de reconstruire l'information contenue dans la distribution. La moyenne, ou premier moment, est aussi appelée l'espérance, et elle sert de repère pour la localisation de la distribution.

📝 Points essentiels

• Un mélange de normales combine plusieurs distributions normales en leur attribuant des probabilités de mélange, ce qui permet d’obtenir une distribution globale plus flexible. La construction de ces mélanges repose sur la combinaison pondérée de plusieurs normales, chacune caractérisée par ses propres paramètres de moyenne et de variance, ainsi que par un poids représentant sa contribution dans le mélange. La forme résultante de la distribution est fortement influencée par ces paramètres : en particulier, la moyenne et la variance globales dépendent des moyennes, variances et poids de chaque composante. La capacité de ces mélanges à produire des distributions asymétriques (skewness) et à queues épaisses (kurtosis élevée) en fait des outils puissants pour modéliser des phénomènes complexes. La présence de plusieurs composantes avec des paramètres distincts peut générer des formes de distribution variées, notamment bimodales ou multimodales, où plusieurs pics apparaissent dans la densité de probabilité. La forme finale de la distribution est ainsi déterminée par la combinaison de ces paramètres, permettant d’ajuster précisément la modélisation aux données observées.

💡 À retenir

Les mélanges de normales offrent une méthode efficace pour modéliser des distributions complexes, notamment celles présentant une asymétrie ou des queues épaisses, en combinant plusieurs normales dont les paramètres et poids déterminent la forme globale. Leur flexibilité provient de la capacité à ajuster ces paramètres pour représenter fidèlement la réalité des données.

📊 Tableaux de Synthèse

Comparaison des variables aléatoires discrètes et continues

Caractéristique	Variable discrète	Variable continue
Support	En ensemble dénombrable ou fini	Intervalle ou ensemble continu
PDF / PMF	Fonction de masse de probabilité	Fonction de densité de probabilité
CDF	Fonction en escalier	Fonction continue et non décroissante
Probabilité d'une valeur précise	Positive uniquement pour valeurs spécifiques	Nulle pour une valeur précise, significative sur un intervalle

⚠️ Pièges & Confusions Fréquentes

1. Confondre la PDF et la PMF, en pensant que la PDF donne des probabilités pour des valeurs précises.
2. Supposer que la somme des PDF sur tout l'espace est égale à 1, alors que c'est la somme ou l'intégrale de la PMF ou PDF qui doit l'être.
3. Confondre l'indépendance inconditionnelle et conditionnelle, en pensant qu'elles impliquent la même chose.
4. Utiliser la formule de Bayes sans vérifier que Pr(A) > 0.
5. Confondre la propriété de mutuellement exclusifs avec l'indépendance.
6. Oublier que la probabilité d'une valeur précise pour une variable continue est nulle.
7. Confondre moments et espérance, ou ne pas distinguer moments centraux et non centraux.

✅ Checklist Examen

1. Vérifier la définition d'une variable discrète et continue.
2. S'assurer de la propriété que la somme des PMF est 1.
3. Savoir calculer l'espérance et les moments d'une variable.
4. Maîtriser la formule de la probabilité conditionnelle.
5. Savoir appliquer la loi des probabilités totales.
6. Connaître la formule de Bayes et ses conditions d'application.
7. Identifier une distribution normale et ses paramètres.
8. Comprendre le concept de mélange de distributions normales.