Probabilités

Sommes de variables aléatoires et loi des grands nombres

Linéarité de l’espérance, Bienaymé-Tchebychev et concentration

Tout est gratuit et lisible sans compte. Crée ton compte gratuit pour garder ta progression.

Ce que tu dois savoir faire

Utiliser la linéarité de l'espérance : $E (X + Y)$ , $E (a X + b)$
Calculer la variance de $a X + b$ et d'une somme de variables aléatoires indépendantes
Retrouver l'espérance et la variance d'une loi binomiale en la décomposant en somme de variables de Bernoulli
Calculer l'espérance et la variance de la moyenne $M_{n}$ d'un échantillon
Appliquer l'inégalité de Bienaymé-Tchebychev et l'inégalité de concentration
Déterminer une taille d'échantillon $n$ pour obtenir une précision donnée avec un risque donné

1. Somme de variables aléatoires et linéarité de l’espérance

Rappel : si $X$ prend les valeurs $x_{1}, \dots, x_{r}$ avec les probabilités $p_{1}, \dots, p_{r}$ , alors $E (X) = \sum p_{i} x_{i}$ (la moyenne « à long terme ») et $V (X) = \sum p_{i} (x_{i} - E (X))^{2} = E (X^{2}) - E (X)^{2}$ (la dispersion), avec $σ (X) = V (X)$ .

Propriété — Linéarité de l’espérance

Pour toutes variables aléatoires $X$ et $Y$ définies sur le même univers, et tous réels $a$ et $b$ :

E (X + Y) = E (X) + E (Y) E (a X + b) = a E (X) + b

Ces égalités sont vraies même si $X$ et $Y$ ne sont pas indépendantes.

Propriété — Variance d’une transformation affine

V (a X + b) = a^{2} V (X) σ (a X + b) = ∣ a ∣ σ (X)

Ajouter une constante $b$ décale toutes les valeurs sans changer leur dispersion ; multiplier par $a$ multiplie les écarts par $∣ a ∣$ , donc la variance par $a^{2}$ .

Exemple — Un jeu de dés

On lance un dé équilibré ; on gagne $3$ € par point obtenu, mais la partie coûte $10$ €. Le gain est $G = 3 X - 10$ , où $X$ est le résultat du dé.
$E (X) = \frac{1 + 2 + \dots + 6}{6} = 3, 5$ et $V (X) = \frac{35}{12}$ .
$E (G) = 3 \times 3, 5 - 10 = 0, 5$ € et $V (G) = 9 \times \frac{35}{12} = 26, 25$ .

Piège fréquent

$V (a X + b) \neq = a V (X) + b$ : la constante $b$ disparaît et $a$ est au carré. En particulier $V (- X) = V (X)$ , jamais $- V (X)$ : une variance est toujours positive.

2. Variance d’une somme de variables indépendantes

Définition — Variables aléatoires indépendantes

$X$ et $Y$ sont indépendantes si, pour toutes valeurs $x$ et $y$ , les événements ${X = x}$ et ${Y = y}$ sont indépendants : $P (X = x et Y = y) = P (X = x) \times P (Y = y)$ . C'est le cas quand elles décrivent des expériences qui ne s'influencent pas.

Propriété — Variance d’une somme

Si $X$ et $Y$ sont indépendantes :

V (X + Y) = V (X) + V (Y)

Plus généralement, si $X_{1}, \dots, X_{n}$ sont indépendantes : $V (X_{1} + \dots + X_{n}) = V (X_{1}) + \dots + V (X_{n})$ .

Piège fréquent

Pour des variables indépendantes, $V (X - Y) = V (X) + V (- Y) = V (X) + V (Y)$ : les variances s'additionnent aussi pour une différence. Et ce sont les variances qui s'additionnent, pas les écarts-types : $σ (X + Y) = V (X) + V (Y)$ .

Démonstration exigible — Espérance et variance de la loi binomiale

Soit $X$ de loi $B (n, p)$ , qui compte les succès dans un schéma de Bernoulli. Pour $i$ de $1$ à $n$ , on note $X_{i}$ la variable qui vaut $1$ si la $i$ -ème épreuve est un succès, $0$ sinon.
Chaque $X_{i}$ suit la loi de Bernoulli de paramètre $p$ : $E (X_{i}) = p$ et $V (X_{i}) = p (1 - p)$ . Et $X = X_{1} + X_{2} + \dots + X_{n}$ (on compte $1$ par succès).

Par linéarité de l'espérance : $E (X) = E (X_{1}) + \dots + E (X_{n}) = n p$ .
Les épreuves étant indépendantes, les $X_{i}$ le sont, donc $V (X) = V (X_{1}) + \dots + V (X_{n}) = n p (1 - p)$ .

Exemple — Somme de deux dosages

Un patient reçoit deux injections préparées indépendamment ; la dose de chacune (en mg) a pour espérance $50$ et pour écart-type $2$ . La dose totale $D = X + Y$ vérifie $E (D) = 100$ mg et $V (D) = 4 + 4 = 8$ , donc $σ (D) = 8 \approx 2, 83$ mg, et pas $2 + 2 = 4$ mg : les erreurs se compensent en partie.

3. Échantillon et moyenne

Définition — Échantillon d’une loi

Un échantillon de taille $n$ d'une loi de probabilité est une liste $(X_{1}, \dots, X_{n})$ de variables aléatoires indépendantes suivant toutes cette loi (par exemple, $n$ mesures répétées dans les mêmes conditions).
On lui associe la somme $S_{n} = X_{1} + \dots + X_{n}$ et la moyenne $M_{n} = \frac{S _{n}}{n}$ .

Propriété — Espérance et variance de S_n et de M_n

Si chaque $X_{i}$ a pour espérance $μ$ et pour variance $V$ :

E (S_{n}) = n μ V (S_{n}) = nV E (M_{n}) = μ V (M_{n}) = \frac{V}{n} σ (M_{n}) = \frac{σ}{n}

Démonstration — Pourquoi V/n ?

Par indépendance, $V (S_{n}) = V + \dots + V = nV$ . Puis $M_{n} = \frac{1}{n} S_{n}$ , donc $V (M_{n}) = \frac{1}{n ^{2}} V (S_{n}) = \frac{nV}{n ^{2}} = \frac{V}{n}$ . De même $E (M_{n}) = \frac{1}{n} \times n μ = μ$ .

L'écart-type de la moyenne décroît comme $\frac{1}{n}$ : pour diviser l'incertitude par $2$ , il faut $4$ fois plus de mesures ; pour la diviser par $10$ , $100$ fois plus.

Conseil bac

C'est la raison pour laquelle un laboratoire répète ses mesures et en fait la moyenne : la moyenne de $n$ mesures est aussi juste en moyenne ( $E (M_{n}) = μ$ ) et plus précise ( $σ$ divisé par $n$ ).

4. L’inégalité de Bienaymé-Tchebychev

Théorème — Inégalité de Bienaymé-Tchebychev

Soit $X$ une variable aléatoire d'espérance $μ$ et de variance $V$ . Pour tout réel $δ > 0$ :

P (∣ X - μ ∣ \geq δ) \leq \frac{V}{δ ^{2}}

La probabilité que $X$ s'écarte de sa moyenne d'au moins $δ$ est contrôlée par la variance.

Démonstration — L’idée de la preuve

$V = \sum p_{i} (x_{i} - μ)^{2}$ est une somme de termes positifs. Si l'on ne garde que les valeurs $x_{i}$ telles que $∣ x_{i} - μ ∣ \geq δ$ , la somme diminue, et chaque terme gardé vaut au moins $p_{i} δ^{2}$ :

V \geq ∣ x_{i} - μ ∣ \geq δ \sum p_{i} (x_{i} - μ)^{2} \geq δ^{2} ∣ x_{i} - μ ∣ \geq δ \sum p_{i} = δ^{2} P (∣ X - μ ∣ \geq δ)

On divise par $δ^{2} > 0$ .

Propriété — Avec δ = kσ

En prenant $δ = kσ$ : $P (∣ X - μ ∣ \geq kσ) \leq \frac{1}{k ^{2}}$ . Donc, pour n'importe quelle loi :

au moins $75 %$ des valeurs sont dans $] μ - 2 σ; μ + 2 σ [$ ;
au moins $\frac{8}{9} \approx 89 %$ sont dans $] μ - 3 σ; μ + 3 σ [$ .

Exemple — Pile ou face, 100 lancers

$X$ , le nombre de « pile », suit $B (100; 0, 5)$ : $μ = 50$ , $V = 25$ , $σ = 5$ .
$P (∣ X - 50∣ \geq 10) \leq \frac{25}{1 0 ^{2}} = 0, 25$ , donc $P (40 < X < 60) \geq 0, 75$ .
La valeur exacte est $P (∣ X - 50∣ \geq 10) \approx 0, 057$ : l'inégalité est vraie, mais grossière. Sa force est de ne rien supposer sur la loi.

Loi $B (100; 0, 5)$ : presque toutes les barres sont entre $40$ et $60$ (pointillés).

Piège fréquent

L'inégalité porte sur $∣ X - μ ∣ \geq δ$ (inégalité large, écart à la moyenne). Pour un intervalle « $40 < X < 60$ », passe à l'événement contraire : $P (∣ X - 50∣ < 10) = 1 - P (∣ X - 50∣ \geq 10) \geq 1 - 0, 25$ .

5. Inégalité de concentration et loi des grands nombres

Théorème — Inégalité de concentration

Soit $M_{n}$ la moyenne d'un échantillon de taille $n$ d'une variable aléatoire d'espérance $μ$ et de variance $V$ . Pour tout $δ > 0$ :

P (∣ M_{n} - μ ∣ \geq δ) \leq \frac{V}{n δ ^{2}}

Démonstration exigible — Démonstration à partir de Bienaymé-Tchebychev

On a vu que $E (M_{n}) = μ$ et $V (M_{n}) = \frac{V}{n}$ . On applique l'inégalité de Bienaymé-Tchebychev à la variable $M_{n}$ :

P (∣ M_{n} - μ ∣ \geq δ) \leq \frac{V ( M _{n} )}{δ ^{2}} = \frac{V}{n δ ^{2}}

Théorème — Loi (faible) des grands nombres

Pour tout $δ > 0$ :

n \to + \infty lim P (∣ M_{n} - μ ∣ \geq δ) = 0

Quand la taille de l'échantillon grandit, la moyenne observée se concentre autour de l'espérance. C'est ce qui justifie d'estimer une probabilité par une fréquence observée.

Méthode — Trouver une taille d’échantillon suffisante

On veut $P (∣ M_{n} - μ ∣ \geq δ) \leq α$ (précision $δ$ , risque $α$ ).
Il suffit que $\frac{V}{n δ ^{2}} \leq α$ , c'est-à-dire $n \geq \frac{V}{α δ ^{2}}$ . On prend le premier entier qui convient.

Exemple — Estimer une couverture vaccinale

Dans une région, $30 %$ des habitants sont vaccinés contre la grippe. On interroge $n$ personnes ; $X_{i} = 1$ si la $i$ -ème est vaccinée. Les $X_{i}$ suivent la loi de Bernoulli de paramètre $0, 3$ : $μ = 0, 3$ et $V = 0, 3 \times 0, 7 = 0, 21$ .
Pour que la fréquence observée $M_{n}$ soit à moins de $0, 05$ de $0, 3$ avec une probabilité d'au moins $0, 95$ ( $α = 0, 05$ ), il suffit que $n \geq \frac{0 , 21}{0 , 05 \times 0 , 0 5 ^{2}} = 1680$ .

Méthode — Le voir par simulation

from random import random

def frequence(n, p):
    """Simule n épreuves de Bernoulli de paramètre p et renvoie la fréquence des succès."""
    succes = 0
    for i in range(n):
        if random() < p:
            succes = succes + 1
    return succes / n

for n in [10, 100, 1000, 100000]:
    print(n, frequence(n, 0.3))
# Les fréquences obtenues se resserrent autour de 0.3 quand n grandit.

Conseil bac

Au bac, la question « déterminer une taille d'échantillon » se résout toujours par la même inéquation $\frac{V}{n δ ^{2}} \leq α$ . Écris d'où viennent $μ$ , $V$ et $δ$ avant de calculer, et précise que la condition trouvée est suffisante (l'inégalité ne donne qu'une majoration).

L’essentiel à retenir

$E (X + Y) = E (X) + E (Y)$ et $E (a X + b) = a E (X) + b$ , toujours.
$V (a X + b) = a^{2} V (X)$ : la constante disparaît, $a$ passe au carré.
Si $X$ et $Y$ sont indépendantes, $V (X + Y) = V (X) + V (Y)$ (et aussi $V (X - Y) = V (X) + V (Y)$ ).
Une loi binomiale est une somme de $n$ Bernoulli indépendantes : $E = n p$ , $V = n p (1 - p)$ .
Moyenne d'un échantillon : $E (M_{n}) = μ$ , $V (M_{n}) = \frac{V}{n}$ , $σ (M_{n}) = \frac{σ}{n}$ .
Bienaymé-Tchebychev : $P (∣ X - μ ∣ \geq δ) \leq \frac{V}{δ ^{2}}$ .
Concentration : $P (∣ M_{n} - μ ∣ \geq δ) \leq \frac{V}{n δ ^{2}}$ , qui tend vers $0$ (loi des grands nombres).
Taille d'échantillon suffisante : $n \geq \frac{V}{α δ ^{2}}$ .

Et pour t’entraîner : 10 QCM corrigés et 4 exercices type bac, avec indices et corrections rédigées.