Loi des grands nombres

Loi des grands nombres : encyclopédie mathématiques

Cet article est issu de l'encyclopédie libre Wikipedia.
Vous pouvez consulter l'article ici ainsi que son historique.
Les textes et les images sont disponibles sous les termes de la Licence de documentation libre GNU.

Aller à : Navigation, Rechercher

Cet article est une ébauche concernant les probabilités et les statistiques.

Vous pouvez partager vos connaissances en l’améliorant (comment ?) selon les recommandations des projets correspondants.

En statistiques, la loi des grands nombres indique que lorsque l'on fait un tirage aléatoire dans une série de grande taille, plus on augmente la taille de l'échantillon, plus les caractéristiques statistiques de l'échantillon se rapprochent des caractéristiques statistiques de la population. La taille de l'échantillon à prendre pour approcher les caractéristiques de la population initiale ne dépend que faiblement, voire pas du tout, de la taille de la série initiale : pour un sondage au Luxembourg ou aux États-Unis, il suffit, pour obtenir une précision égale, de prendre un échantillon de même taille.

Elle a été formalisée au XVII^e siècle lors de la découverte de nouveaux langages mathématiques.

C'est sur cette loi que reposent la plupart des sondages^{[note 1]}. Ils interrogent un nombre suffisamment important de personnes pour connaître l'opinion (probable) de la population entière. De même, sans la formalisation de cette loi, l'assurance n'aurait jamais pu se développer avec un tel essor. En effet, cette loi permet aux assureurs de déterminer les probabilités que les sinistres dont ils sont garants se réaliseront ou non.

La loi des grands nombres sert aussi en statistique inférentielle, pour déterminer une loi de probabilité à partir d'une série d'expériences.

Les mathématiciens distinguent deux énoncés, appelés respectivement « loi faible des grands nombres » et « loi forte des grands nombres ».

La loi des grands nombres soulève une question d'ordre métaphysique : personne ne s'étonne que des événements considérés de façon isolée soient soumis au hasard (il n'est pas impossible d'obtenir 1 000 fois pile en lançant une pièce de monnaie 1 000 fois, mais cette probabilité est extrêmement faible). Et pourtant, si l'on fait l'expérience, on constate qu'on obtient 50% de pile et 50% de face, comme s'il existait une loi d'équilibre naturelle, comme si le chaos était impossible et les catastrophes improbables.

Il ne faut toutefois pas confondre la moyenne des gains et le gain absolu. Si deux joueurs jouent très longtemps à pile ou face, celui qui perd donnant un euro à celui qui gagne, la moyenne des gains de chaque joueur tendra effectivement vers 0 (la moyenne étant définie comme le gain divisé par le nombre de parties jouées), mais le gain de chaque joueur passera alternativement par des hauts et des bas d'amplitude croissante.

Sommaire

[modifier] Loi faible des grands nombres

La loi faible des grands nombres est également appelée théorème de Khintchine (rarement utilisé).

Si l'on considère n variables aléatoires indépendantes définies sur un même espace probabilisé, ayant même variance finie et même espérance notée E(X), la loi faible des grands nombres stipule que, pour tout réel $ε$ strictement positif, la probabilité que la moyenne empirique $Y_n \equiv \bar x= \frac{1}{n} \sum_{i=1}^{n} x_i$ s'éloigne de l'espérance de plus de $\varepsilon$ , tend vers 0 pour les grandes valeurs de n.

Théorème — $\forall\varepsilon>0,\quad \lim_{n \to +\infty} P\left(\left|\frac{X_1+X_2+...+X_n}{n} -E(X)\right| \geq \varepsilon\right) = 0$

Autrement dit, $Y n$ converge en probabilité vers E(X). Ce résultat est très important en statistique puisqu'il assure que la moyenne empirique est un estimateur convergent de l'espérance.

La loi faible des grands nombres se démontre en utilisant l'inégalité de Tchebychev :

Démonstration

$P(|Y - E(Y)|\geq \epsilon) \leq \frac{V(Y)}{\epsilon^2}$

Et en remarquant que la variable $Y_n = \frac{X_1+X_2+...+X_n}{n}$ a pour espérance E(X) et pour variance $\frac{V(X)}{n}$ donc

$P\left(\left|\frac{X_1+X_2+...+X_n}{n} -E(X)\right| \geq \epsilon\right) \leq \frac{V(X)}{n\epsilon^2}$

[modifier] Loi forte des grands nombres

Article détaillé : Loi forte des grands nombres.

Considèrons n variables aléatoires indépendantes qui suivent la même loi de probabilité, intégrables (i.e. $E(|X|)<\infty$ ). En reprenant les notations ci-dessus, la loi forte des grands nombres précise que $Y_n\,$ converge vers E(X) « presque sûrement ».

C’est-à-dire que :

Théorème — $P\left(\lim_{n \to +\infty} Y_n(\omega) = E(X)\right)=1$

Autrement dit, selon la loi forte des grands nombres, la moyenne empirique est un estimateur fortement convergent de l'espérance.

[modifier] Convergence vers une loi de probabilité

La même loi des grands nombres permet de dire que la répartition de la population de l'échantillon peut être approchée par la loi de probabilité de X pour n assez grand.

Pour prouver que la fréquence $f n (i)$ de la valeur $x i$ converge vers la probabilité $p i$ , il suffit d'utiliser la variable aléatoire qui prend la valeur 1 si $X (ω) = x i$ et la valeur 0 sinon.