Loi de probabilité (encyclopédie mathématiques)

Pour les articles homonymes, voir Loi (homonymie).

Représentation de trois lois de probabilité. En rouge, fonction de densité d'une loi à densité : la loi normale, dite courbe de Gauss. En bleue, fonction de masse d'une loi discrète : la loi géométrique. En verte, loi mixte avec une partie discrète donnée par un atome en -5 et une partie à densité donnée par une loi normale tronquée.

En théorie des probabilités et en statistique, une loi de probabilité décrit le comportement aléatoire d'un phénomène dépendant du hasard. L'étude des phénomènes aléatoires a commencé avec l'étude des jeux de hasard. Jeux de dés, tirage de boules dans des urnes, jeu de pile ou face, ont été des motivations pour comprendre et prévoir les expériences aléatoires. Ces premières approches sont des phénomènes discrets, c'est-à-dire dont le nombre de résultats possibles est fini, ou au plus dénombrable. Certaines questions ont cependant fait apparaitre des lois à support infini non dénombrable, par exemple lorsque l'on effectue un nombre infini de tirages de pile ou face, la répartition du nombre de pile obtenu se conduit comme une loi normale.

Le concept de loi de probabilité se formalise mathématiquement par des mesures, ainsi que des variables aléatoires discrètes ou continues. Le cas continu correspond à la théorie de l'intégration, alors que le cas discret fait apparaitre des calculs de sommes et de séries. Des fonctions particulières permettent de caractériser les lois de probabilité, par exemple la fonction de répartition, la fonction caractéristique, etc. Il existe également une théorie plus générale des lois de probabilité en tant que mesures finies de masse unitaire.

Des fluctuations ou de la variabilité sont présentes dans presque toute valeur qui peut être mesurée dans un phénomène ; de plus presque toutes les mesures ont une part d'erreur intrinsèque. Les lois de probabilités permettent de modéliser ces incertitudes et de décrire des phénomènes physiques, biologiques, économiques, etc. Le domaine de la statistique permet de trouver des lois de probabilités adaptées aux phénomènes aléatoires.

Il existe beaucoup de lois de probabilités différentes. Une loi importante est la loi normale, elle approche le comportement asymptotique de nombreuses lois de probabilités puisque qu'elle apparait dans le théorème central limite. D'autres lois sont plus complexes, certaines lois réelles sont ni discrètes, ni continues.

Sommaire

[modifier] Définition informelle

Une loi de probabilité décrit de manière théorique le caractère aléatoire d'une expérience qui est considéré comme aléatoire^[1]^,^[2]. « La notion d'"expérience aléatoire" est dégagée pour désigner un processus réel de nature expérimentale, où le hasard intervient, avec des issues possibles bien identifiées^[3]. ». Par exemple, lors d'un jeté de dé (c'est l'évènement aléatoire), le résultat est un chiffre de 1 à 6, et il est généralement admis que chaque résultat a la même chance d'apparaître, la loi de probabilité est donc : chacun des 6 chiffres est équiprobable avec probabilité 1/6.

Historiquement, les lois de probabilité ont été étudiées dans les jeux de hasard : jeux de dés, jeux de cartes, etc. Les résultats possibles de ces phénomènes sont en nombre fini, la loi de probabilité est dite discrète. Donner la loi de probabilité revient à donner la liste des valeurs possibles avec leurs probabilités associées^[4]. Elle est alors donnée sous forme de formule, de tableau de valeurs, d'arbre de probabilité, ou de fonctions (détaillées dans les sections suivantes).

Dans un contexte plus général, c'est-à-dire dans le cas où le nombre de valeurs possibles du phénomène aléatoire n'est pas fini mais infini (dénombrable ou non), la loi de probabilité décrit toujours la répartition des chances pour des résultats possibles mais est caractérisée par des fonctions (densité de probabilité, fonction de répartition, entre autres) ou plus généralement par des mesures.

[modifier] Historique

La planche de Galton, imaginée en 1889, permet de visualiser la courbe de Gauss comme loi limite.

Article détaillé : Probabilité.

L'utilisation du hasard existe depuis l'antiquité notamment dans les jeux de hasard, les paris sur les risques des transports maritimes ou les rentes viagères^[5]. Cependant une des premières références connues à des calculs de probabilités est un calcul élémentaire sur La Divine Comédie qui n'apparait qu'au XV^e siècle pendant la Renaissance^[6]. Les premiers traités commencent à former le début de la théorie des probabilités, principalement basée sur des probabilités combinatoires. les problèmes se posent ainsi, à propos de la durée d'un jeu de carte :

« Sur la durée des parties que l'on joue en rabattant... On demande combien il y a à parier que la partie qui peut durer à l'infini sera finie en un certain nombre déterminé de coups au plus. »

— Essay, de Montmort, 1713^[7]

On reconnait ici la probabilité (à parier) qu'une variable (la durée de la partie) soit plus petite qu'une valeur (certain nombre déterminé), il s'agit de la fonction de répartition de la loi de probabilité de la durée d'une partie.

C'est dans la thèse de Nicolas Bernoulli, publiée en 1711, qu'apparait pour la première fois la loi uniforme^[8]. Certaines autres lois font alors leurs apparition comme la loi binomiale ou la loi normale même si leurs approches ne sont pas complètement rigoureuses^[8]. Par exemple, la loi normale est construite par Abraham de Moivre grâce à la courbe de Gauss par une approximation numérique^[9]. Au XVIII^e siècle, d'autres idées liées aux lois de probabilité émergent également^[8] comme l'espérance d'une variable aléatoire discrète avec Jean le Rond D'Alembert ou les probabilités conditionnelles avec Thomas Bayes. Quelques lois de probabilités continues sont énoncées dans un mémoire de Joseph-Louis Lagrange en 1770^[8].

La définition formelle des mesures de probabilités commence en 1896 avec une publication de Émile Borel^[10] et va continuer avec plusieurs autres mathématiciens tels que Henri-Léon Lebesgue, Maurice René Fréchet, Paul Lévy et notamment Andreï Kolmogorov qui formula les axiomes des probabilités en 1933.

L'utilisation rigoureuse des lois de probabilités a pu alors se développer au début du XX^e siècle dans des sciences appliquées telles que la biométrie avec Karl Pearson par exemple^[11] ou la physique statistique avec Ludwig Boltzmann^[12].

[modifier] Définition mathématique

En théorie des probabilités, une loi de probabilité est une mesure positive $\scriptstyle\ \mathbb{P}\$ sur un espace mesurable $\scriptstyle\ (\Omega, \mathcal A)\$ , telle que $\scriptstyle\ \mathbb{P}(\Omega) = 1$ . Le triplet $\scriptstyle\ (\Omega, \mathcal A,\, \mathbb{P})\$ est appelé espace probabilisé. Une loi de probabilité est également appelée mesure de probabilité dans le cas d'une approche plutôt théorique, ou distribution de probabilité pour une étude plus appliquée^[13].

Une manière usuelle d'expression d'une loi est l'utilisation d'une variable aléatoire puisque, pour toute loi de probabilité $\scriptstyle\ \mathbb{P}\$ sur $\scriptstyle\ (\Omega, \mathcal A)\$ , il existe^[14] une variable aléatoire X définie sur un espace probabilisé (potentiellement différent de $\scriptstyle\ (\Omega, \mathcal A)\$ ) et de loi $\scriptstyle\ \mathbb{P}\$ .

Les lois les plus couramment étudiées en théorie des probabilités sont les lois à valeurs réelles ; elles peuvent être représentées à l'aide d'une variable aléatoire réelle par la définition suivante.

Définition^[15] — Soit une variable aléatoire réelle sur l'espace probabilisé $\scriptstyle\ (\Omega, \mathcal A,\, \mathbb{P})$ , c'est-à-dire une fonction mesurable $\scriptstyle\ X : (\Omega,\mathcal A) \to (\mathbb R,\mathcal B_{\mathbb R})$ .
La loi de probabilité de la variable aléatoire $\scriptstyle\ X\$ est la mesure de probabilité, notée $\ \scriptstyle\mathbb{P}_X\$ , définie sur l'espace mesurable $\ \scriptstyle(\R,\, \mathcal B_\R)$ par :

$\mathbb{P}_X(B) = \mathbb{P}\left(X^{-1}(B)\right) = \mathbb{P}\left(X\in B\right),$

pour tout borélien $\ \scriptstyle B\in \mathcal B_{\mathbb R}$ . Autrement dit, $\ \scriptstyle\mathbb{P}_X\$ est la mesure image (en) de $\scriptstyle\ \mathbb{P}\$ par $\scriptstyle\ X\$ .

Ainsi, pour définir la loi d'une variable aléatoire, on transporte la loi de probabilité $\scriptstyle \mathbb P$ sur $\scriptstyle \Omega$ en une mesure $\scriptstyle \mathbb P_X$ sur $\scriptstyle \mathbb R$ .

La représentation d'une loi par une variable aléatoire n'est pas unique^[16]. Autrement dit, deux variables aléatoires différentes, ou même définies sur des espaces différents, peuvent avoir la même loi. Deux variables aléatoires réelles $\scriptstyle\ X\$ et $\scriptstyle\ Y\$ ont même loi si $\ \scriptstyle\mathbb{P}_X\ =\ \scriptstyle\mathbb{P}_Y\$ (en terme d'égalité de mesures). C'est-à-dire : $\scriptstyle \mathbb{P}_X(B)\ = \mathbb{P}_Y(B)$ pour tout borélien B. Le théorème suivant permet d'utiliser une autre caractérisation :

Théorème de transfert^[14] (ou de transport^[17]) — Soit une variable aléatoire réelle $\scriptstyle\ X : \Omega \to\R.\$ Alors,

$\mathbb{E}\left[\phi(X)\right] \stackrel{def}{=} \int_\Omega~\phi(X(\omega))~\mathbb{P}(d\omega) = \int_\R~\phi(x)~\mathbb{P}_X(dx),$

pour toute fonction $\scriptstyle\ \phi\$ de $\scriptstyle\ \R\$ dans $\scriptstyle\ \R\$ telle qu'au moins une des deux intégrales ait un sens.

L'intégrale apparaissant dans le dernier terme est l'intégrale, au sens de la théorie de la mesure, de la fonction φ par rapport à la mesure $\scriptstyle\mathbb{P}_X.\$ Cette intégrale prend la forme d'une somme ou d'une intégrale dans les deux cas classiques de lois discrètes et de lois à densité, voir les sections ci-dessous.

Ainsi, deux variables aléatoires réelles $\scriptstyle\ X\$ et $\scriptstyle\ Y\$ ont même loi si : $\scriptstyle \mathbb{E}\left[\phi(X)\right]\ = \mathbb{E}\left[\phi(Y)\right]$ pour toute fonction $\scriptstyle\ \phi:\mathbb R \rightarrow \mathbb R$ telle qu'au moins un des deux termes de l'égalité ait un sens.

[modifier] Loi multidimensionnelle

Loi normale bidimensionnelle, ou produit de deux lois normales unidimensionnelles.

Article détaillé : Distribution marginale.

Intuitivement, une loi de probabilité est dite multidimensionnelle, ou n-dimensionnelle^[18], lorsque la loi décrit plusieurs valeurs (aléatoires) d'un phénomène aléatoire. Par exemple lors du jet de deux dés, la loi de probabilité des deux résultats obtenus est une loi bidimensionnelle. Le caractère multidimensionnel apparait ainsi lors du transfert, par une variable aléatoire, de l'espace probabilisé $\scriptstyle (\Omega,\mathcal A)$ vers un espace numérique $\scriptstyle E^n$ de dimension n. Dans l'exemple des deux dés, la dimension est n=2 et l'espace $\scriptstyle E^2$ est $\scriptstyle \{1,\dots,6\}\times \{1,\dots,6\}$ . La loi est également appelée loi jointe^[19].

Un exemple important de loi multidimensionnelle est la loi de probabilité produit $\scriptstyle \mathbb P=\mathbb P_1\otimes \mathbb P_2$ où $\scriptstyle \mathbb P_1$ et $\scriptstyle \mathbb P_2$ sont deux lois unidimensionnelles. Cette loi de probabilité est la loi d'un couple de variables aléatoires indépendantes^[20], c'est le cas de l'exemple des deux dés.

Définition — Soit une variable aléatoire X sur l'espace probabilisé $\scriptstyle\ (\Omega, \mathcal A,\, \mathbb{P})$ , à valeurs dans $\scriptstyle\mathbb{R}^n$ muni de la tribu borélienne produit $\scriptstyle\ \mathcal B_{\mathbb R}^{\otimes n}$ . La loi de la variable aléatoire $\scriptstyle\ X\$ est la mesure de probabilité $\ \scriptstyle\mathbb{P}_X\$ définie par :

$\mathbb{P}_X(B) = \mathbb{P}\left(X^{-1}(B)\right) = \mathbb{P}\left(X\in B\right),$

pour tout $\ \scriptstyle B\in \mathcal B_{\mathbb R}^{\otimes n}$ .

La variable aléatoire X est alors identifiée^[21] à un vecteur aléatoire à n dimensions : $\scriptstyle X=(X_1,X_2,\dots,X_n)$ . Le théorème de Cramer-Wold^[22] assure que la loi (n-dimensionnelle) de ce vecteur aléatoire est entièrement déterminée par les lois (unidimensionnelles) de toutes les combinaisons linéaires de ces composantes : $\scriptstyle \sum_{i=1}^na_iX_i$ pour tous $\scriptstyle a_1,a_2,\dots,a_n$ .

Les deux coordonnées (dimension 1 et dimension 2) des points s'approchent chacune d'une loi normale. C'est-à-dire qu'il s'agit d'une simulation de loi bidimensionnelle dont les deux lois marginales sont normales.

Cas d'une loi à densité

Une loi bidimensionnelle (ou n-dimensionnelle) est dite^[23] à densité sur $\scriptstyle \mathbb R^2$ si la loi est absolument continue par rapport à la mesure de Lebesgue sur $\scriptstyle \mathbb R^2$ , c'est-à-dire si la loi de la variable aléatoire correspondante s'écrit sous la forme :

$\mathbb P(X\in B)=\iint_B f_X(x_1,x_2)dx_1 \, d x_2$ pour tout borélien $\scriptstyle A\in \mathcal B_{\mathbb R^2}$ .

Lois marginales

Intuitivement, la loi marginale d'un vecteur aléatoire est la loi de probabilité d'une de ses composantes. Pour l'obtenir, on projette la loi sur l'espace unidimensionnel de la coordonnée recherchée. La loi de probabilité de la i-ème coordonnée d'un vecteur aléatoire est appelée la i-ème loi marginale^[24]. La loi marginale $\scriptstyle \mathbb P_i$ de $\scriptstyle \mathbb P$ s'obtient par la formule :

$\mathbb P_i(A) = \mathbb P_{X_i}(A) = \iint { 1}_{\omega_i\in A} \mathbb P(\mathrm{d}(\omega_1,\dots,\omega_n))$ pour tout borélien $\scriptstyle A\in \mathcal B_{\mathbb R}$ .

Les lois marginales d'une loi à densité s'expriment à l'aide de leurs densités marginales.

[modifier] Loi conditionnelle

Exemple d'utilisation d'une loi conditionnelle : + signifie que l'individu est positif au test de drogue, U signifie que l'individu est consommateur de drogue. Ainsi $\scriptstyle \mathbb P(+|U)$ est la probabilité que le test soit positif sur un individu consommateur de drogue.

Articles détaillés : Probabilité conditionnelle et Espérance conditionnelle.

Intuitivement, une loi de probabilité conditionnelle permet de décrire le comportement aléatoire d'un phénomène lorsque l'on connait une information sur ce processus. Autrement dit, la probabilité conditionnelle permet d'évaluer le degré de dépendance stochastique entre deux évènements^[25]. Par exemple, lors d'un lancer de dés, la loi conditionnelle permet de donner la loi de la somme des résultats sachant que l'un des deux dés a donné un résultat d'au moins quatre.

Définition sur les évènements

La probabilité conditionnelle se définit^[26], de manière la plus intuitive, sur les évènements par la probabilité $\scriptstyle \mathbb P_B$ d'un évènement A conditionnellement à un autre évènement B : $\scriptstyle \mathbb P_B(A) := \mathbb P(A\cap B)/\mathbb P(B)$ , pour tout A et B de la tribu sous-jacente tels que $\scriptstyle \mathbb P(B)\neq 0$ . La loi de probabilité^[27] $\scriptstyle \mathbb P_B(\cdot)$ est utilisée dans les probabilités et statistique élémentaires, pour la formule des probabilités totales ou le théorème de Bayes par exemple.

Définition pour les variables aléatoires

La probabilité conditionnelle est également définie pour les variables aléatoires. On étudie alors la loi d'une variable X conditionnellement à une variable Y. Lorsque $\scriptstyle\mathbb P(Y=y)>0$ , la loi de X sachant Y=y est définie par^[27] :

$\mathbb P(X\in A|Y=y)=\frac{\mathbb P(X\in A , Y=y)}{\mathbb P(Y=y)}$ .

Cependant cette définition n'est pas valide si la loi de Y est à densité puisque $\scriptstyle\mathbb P(Y=y)=0$ , pour tout y. La définition suivante est valide pour tout couple de variables aléatoires.

Définition^[28] — Soit $\scriptstyle(X,Y)$ un couple de variables aléatoires réelles. Il existe une loi de probabilité $\scriptstyle \mathbb P^Y$ , appelée loi conditionnelle de $\scriptstyle X$ sachant $\scriptstyle Y$ , ou sachant $\scriptstyle Y=y$ , définie par, pour toute fonction borélienne bornée $\scriptstyle\phi$ :

$\mathbb E(\phi(X)|Y) = \int \phi(x) \mathbb P^Y(d\,x)$ , presque sûrement.

La loi est également notée $\scriptstyle \mathcal L(X|Y)$ ou $\scriptstyle \mathcal L(X|Y=y)$ . L'égalité précédente est une égalité entre variables aléatoires^[29].

Définition pour les tribus

De manière plus générale, la loi de probabilité se définit à partir de l'espérance conditionnelle d'une variable aléatoire X sachant une tribu $\scriptstyle \mathcal G$ . Cette espérance conditionnelle est l'unique variable aléatoire $\scriptstyle \mathcal G$ -mesurable, notée $\scriptstyle \mathbb E(X|\mathcal G)$ et vérifiant^[26] : $\scriptstyle \mathbb E[Z\mathbb E(X|\mathcal G)]=\mathbb E[ZX]$ pour toute Z, variable $\scriptstyle \mathcal G$ -mesurable. La loi conditionnelle est alors définie par^[30] :

$\mathbb P(A|\mathcal G)=\mathbb E[1_A|\mathcal G]$ où $1_A$ est la fonction indicatrice.

Définition pour les lois à densité

Dans le cas des lois à densité, il existe une densité conditionnelle d'une loi par rapport à l'autre, et inversement. Si $\scriptstyle (x,y)\mapsto f(x,y)$ est la densité de la loi bidimensionnelle, les deux densités conditionnelles sont alors données par^[31] :

$f(x|y)=\frac{f(x,y)}{f_Y(y)}=\frac{f(x,y)}{\int f(x,y)dx}$ et $f(y|x)=\frac{f(x,y)}{f_X(x)}=\frac{f(x,y)}{\int f(x,y)dy}$ .

Ici, $\scriptstyle f_X$ et $\scriptstyle f_Y$ sont les deux lois marginales de X et Y respectivement. En remplaçant les intégrales par des sommes, on obtient des formules similaires dans le cas où les lois marginales sont discrètes ou lorsque la loi marginale de X est discrète et celle de Y est à densité, ou inversement^[32].

[modifier] Loi à valeurs dans un espace de Banach

Puisque $\scriptstyle \mathbb R$ est un espace de Banach, les lois à valeurs dans un espace de Banach généralisent les lois à valeurs réelles. La définition est alors similaire^[33].

Définition — Soit une variable aléatoire sur l'espace probabilisé $\scriptstyle\ (\Omega, \mathcal A,\, \mathbb{P})$ et à valeurs dans un espace de Banach $\scriptstyle E$ muni de la tribu $\scriptstyle \mathcal B$ engendrée par les ensembles ouverts de $\scriptstyle E$ . La loi de probabilité de la variable aléatoire $\scriptstyle\ X\$ est la mesure de probabilité $\ \scriptstyle\mathbb{P}_X\$ définie sur l'espace mesurable $\ \scriptstyle(E, \mathcal B)$ par :

$\mathbb{P}_X(B) = \mathbb{P}\left(X^{-1}(B)\right) = \mathbb{P}\left(X\in B\right),$

pour tout $\ \scriptstyle B\in\mathcal B$ .

Pour obtenir de bonnes propriétés, il est courant de considérer des mesures de probabilités tendues (en), c'est-à-dire qui intuitivement sont concentrées sur un ensemble compact, et de supposer que l'espace de Banach est séparable^[34].

Un exemple possible d'espace de Banach est l'espace des fonctions continues $\scriptstyle \mathcal C(\mathbb R^+,\mathbb R)$ . Un processus stochastique est une famille de variables aléatoires $\scriptstyle (X_t)_{t\in T}$ indexées par un ensemble d'indices T. Une définition possible de la loi de probabilité d'un tel processus est la donnée des lois finies-dimensionnelles^[35], c'est-à-dire la loi de probabilité multidimensionnelle des vecteurs $\scriptstyle (X_{t_1},X_{t_2},\dots,X_{t_n})$ lorsque $\scriptstyle t_1,t_2,\dots,t_n\in T$ . La loi peut alors être étendue par le théorème d'extension de Carathéodory pour le processus entier. Prenons l'exemple du mouvement brownien $\scriptstyle (B_t)_{t\in \mathbb R_+}$ qui est à trajectoires continues, sa loi de probabilité est la mesure de Wiener^[36], généralement notée W :

$W(A)=\mathbb P((B_t)_{t\geq0}\in A)$ , pour tout A sous-ensemble de $\scriptstyle \mathcal C(\mathbb R^+,\mathbb R)$ .

[modifier] Espace des lois de probabilité

Une loi de probabilité est une mesure de masse totale unitaire. L'ensemble des lois de probabilité est donc un sous-espace de l'espace des mesures finies. Cet espace est souvent noté^[37] $\scriptstyle \mathcal P(\mathbb R)$ ou $\scriptstyle \mathcal M_1(\mathbb R)$ pour les lois de probabilité réelles. Dans la suite de cette section, les propriétés de cet espace sont détaillées pour les lois de probabilités réelles ; elles sont cependant vraies sur les espaces de Banach.

On peut munir cet espace d'une topologie appelée la topologie faible^[37]. Cette topologie définit donc une convergence faible des lois de probabilité : une suite de lois de probabilité $\scriptstyle (\mathbb P_n,n=1,2\dots)$ converge faiblement (weakly en anglais) vers une loi de probabilité $\scriptstyle \mathbb P$ si :

$\lim_{n\rightarrow \infty}\int\phi(\omega)\mathbb P_n(d\omega)=\int \phi(\omega)\mathbb P(d\omega)$ pour toute fonction $\phi$ continue bornée.

La convergence est notée^[37] : $\scriptstyle \mathbb P_n \xrightarrow{w} \mathbb P$ . Cette convergence se répercute, par le théorème de transfert, sur les variables aléatoires $\scriptstyle (\mathbb X_n,n=1,2\dots)$ de lois respectives $\scriptstyle (\mathbb P_n,n=1,2\dots)$ ; la convergence de variables aléatoires est alors appelée convergence en loi (ou en distribution ou faible) et est notée $\scriptstyle X_n \xrightarrow{\mathcal{L}} X$ ou $\scriptstyle X_n \xrightarrow{\mathcal{D}} X$ . Si la convergence faible des variables aléatoires est souvent utilisée, elle ne concerne en fait que leur loi.

L'espace des lois de probabilités muni de cette topologie faible est^[38] un espace métrique, complet et séparable (dans le cas d'un espace de Banach également séparable), ce qui en fait un espace polonais.

[modifier] Classification des lois de probabilité sur la droite réelle

Les lois de probabilités les plus courantes dans les applications sont les lois dites discrètes, c'est-à-dire à support fini ou dénombrable, et les lois dites à densité. Il existe cependant des lois de probabilité ni discrètes ni à densité.

[modifier] Lois discrètes

[modifier] Définition

Le support de cette loi discrète est composé des singletons {1}, {3} et {7}, les probabilités associées sont respectivement 0,2, 0,5 et 0,3.

Une loi est dite discrète si son support est un ensemble fini ou infini dénombrable : $\scriptstyle \operatorname{supp}(\mathbb P)=\{x_1,x_2,\dots\}$ . Dans ce cas, il suffit de définir la liste des masses $\scriptstyle \mathbb P(\{x_i\})=p_i$ sur les singletons pour définir la loi^[15] : $\scriptstyle\left((x_1,p_1), (x_2,p_2), \dots \right)$ . La mesure de probabilité discrète est alors, par définition, une combinaison linéaire finie ou dénombrable de masses de Dirac^[16]^,^[23] : $\displaystyle \mathbb P=\sum_{i\in I}p_i\delta_{x_i}$ .

Une loi discrète peut être représentée par un diagramme en bâtons^[13].

Dans le cas où la loi est définie à partir d'une variable aléatoire X, un critère suffisant pour que la loi soit discrète est que l'image $\scriptstyle X(\Omega)$ de X soit un ensemble au plus dénombrable, la loi discrète $\scriptstyle \mathbb P_X$ est alors la loi d'une variable aléatoire discrète^[13]^,^[15].

D'un point de vue pratique, les calculs de probabilités liées à une variable aléatoire $\scriptstyle\ X\$ de loi discrète font alors intervenir des calculs de sommes finies ou de séries : $\scriptstyle \mathbb{P}\left(X\in A\right)=\sum_{x\in A\cap S}\ \mathbb{P}\left(X=x\right)$ , où $\scriptstyle\ S\$ est le support de X, c'est-à-dire l'ensemble des réels $\scriptstyle\ a\$ tels que $\scriptstyle\ \mathbb{P}\left(X=a\right)>0$ . Ceci vient du fait que, dans le cas des variables discrètes, le théorème de transfert s'exprime sous la forme : $\scriptstyle\int_{\mathbb{R}}\phi(x)\mathbb{P}_X(dx)=\sum_{x\in S}\phi(x)\mathbb{P}\left(X=x\right)$ .

[modifier] Exemples

Voici une liste non exhaustive de lois de probabilités discrètes à support fini ou dénombrable.

Masse de Dirac

Article détaillé : Distribution de Dirac.

La masse de Dirac est la plus simple des lois discrètes au sens où le support de la loi ne contient qu'une valeur^[39]. Si une variable aléatoire est de loi de Dirac $\scriptstyle \delta_x$ , alors X vaut x avec une probabilité égale à 1. Cette loi modélise un phénomène déterministe (non aléatoire) puisque le résultat de l'expérience est (presque sûrement) égal à la valeur connue x.

Loi uniforme discrète

Article détaillé : Loi uniforme discrète.

La loi uniforme discrète modélise un phénomène aléatoire dont les résultats sont équiprobables. C'est le cas,par exemple, d'un lancer d'un dé. Si le support de la loi est l'ensemble à n éléments $\scriptstyle \{x_1,x_2,\dots, x_n\}$ , alors la loi est définie par : $\scriptstyle \mathbb P(X = x_1) = \mathbb P(X = x_2) = ... =\scriptstyle \mathbb P(X = x_n)=1/n$ . Cette loi ne dépend que du cardinal fini n du support.

La mesure de probabilité s'écrit : $\scriptstyle \mathbb P=\frac{1}{n}\delta_{x_1}+\frac{1}{n}\delta_{x_2}+ \dots + \frac{1}{n}\delta_{x_n}$ , où $\scriptstyle\delta$ est la mesure de Dirac.

Loi de Bernoulli

Article détaillé : Loi de Bernoulli.

La loi de Bernoulli correspond à une expérience à deux issues (succès–échec), généralement codées respectivement par les valeurs 1 et 0. La loi est définie par $\scriptstyle \mathbb P(X = 1) = 1-\mathbb P(X=0) = p$ où $\scriptstyle p\in[0,1]$ est la probabilité de succès. Cette loi est ^[16] $\scriptstyle \mathbb P=(1-p)\delta_0 + p\delta_1$ et ne dépend que du paramètre p.

Loi binomiale

Article détaillé : Loi binomiale.

C'est la loi du nombre de succès obtenus à l'issue de n épreuves de Bernoulli indépendantes de paramètre $\scriptstyle p \in [0,1]$ , autrement dit c'est la somme de n variables aléatoires de loi de Bernoulli. Cette loi à support fini est définie par : $\scriptstyle \mathbb P(X = k)={n\choose k} p^k(1-p)^{n-k}$ pour tout $\scriptstyle k=0,\dots ,n$ .

Loi géométrique

Article détaillé : Loi géométrique.

C'est la loi qui modélise le temps du premier succès dans une série d'épreuves de Bernoulli indépendantes à probabilité de succès $\scriptstyle p \in [0,1]$ . Cette loi à support infini dénombrable est donnée par : $\scriptstyle \mathbb P(X = n)=(1-p)^{n-1}p, \ n\in \mathbb{N}^*$ . Cette loi est l'unique loi discrète à posséder la propriété de perte de mémoire.

Loi de Poisson

Article détaillé : Loi de Poisson.

La loi de Poisson est la loi qui décrit le comportement du nombre d'évènements se produisant dans un laps de temps fixé. Cette loi à support infini dénombrable dépend d'un paramètre souvent noté $\scriptstyle \lambda > 0$ ; elle est définie par : $\scriptstyle \mathbb P(X = k) = \frac{\lambda ^ k}{k!} \exp (-\lambda), \, \text{ pour tout } k \in \mathbb{N}$ .

Loi hypergéométrique

Article détaillé : Loi hypergéométrique.

La loi hypergéométrique modélise un tirage simultané de n boules dans une urne contenant une proportion pA de boules gagnantes et une proportion (1-p)A de boules perdantes, pour un nombre total A de boules. La loi décrit le nombre de boules gagnantes extraites. Cette loi à support fini dépend des trois paramètres $\scriptstyle n\in \mathbb N^*$ , $\scriptstyle p\in [0,1]$ et $\scriptstyle A^\in \mathbb N^*$ , et est définie par : $\scriptstyle \mathbb P(X = k) = \frac{{pA\choose k}{(1-p)A\choose n-k}}{{A\choose n}} \, \text{ pour tout } k \in \{0,1,\dots n\}$ .

[modifier] Lois à densité

[modifier] Définition

Article détaillé : Densité de probabilité.

La courbe rouge, est la densité de probabilité de la loi normale centrée réduite. Elle est appelée courbe de Gauss ou courbe en cloche.

Lorsque la loi de probabilité est absolument continue par rapport à la mesure de Lebesgue sur $\ \scriptstyle\mathbb{R}\$ , la loi, ainsi qu'une variable aléatoire associée, sont dites continues, ou à densité^[23]. Dans ce cas, en vertu du Théorème de Radon-Nikodym, la mesure $\scriptstyle\ \mathbb{P}_X\$ possède une densité de probabilité, généralement notée $\scriptstyle\ f_X\$ , par rapport à la mesure de Lebesgue. Autrement dit, la formule suivante définit la loi $\scriptstyle\ \mathbb{P}_X\$ :

$\mathbb{P}\left(X\in A\right)=\int_{A}\ f_X(x)\,dx \;$ , pour tout borélien $\scriptstyle A\in \mathcal B_{\mathbb R}$ .

L'égalité ci-dessus est la spécialisation du théorème de transfert, mais cette fois, au cas particulier des variables à densité, puisque dans ce cas particulier, on a : $\scriptstyle \int_{\mathbb{R}}\phi(x)\mathbb{P}_X(dx)=\int_{\mathbb{R}}\phi(x)f_X(x)dx$ . Pour étudier les propriétés de ces lois à densité (moments, fonction caractéristique, transformée de Laplace, etc), il faut alors utiliser la théorie de l'intégration^[40].

Une loi à densité s'annule sur les singletons^[41], c'est-à-dire que la loi vérifie $\scriptstyle\ \mathbb{P}\left(X=a\right)=0\$ pour tout nombre réel $\scriptstyle\ a.\$ Toutefois, cette dernière propriété, qui oppose les variables à densité aux variables discrètes, n'est pas caractéristique des variables à densité.

[modifier] Exemples

Loi uniforme

Article détaillé : Loi uniforme continue.

La loi uniforme sur un intervalle indique, intuitivement, que toutes les valeurs de l'intervalle ont les mêmes chances d'apparaître. Plus formellement, chaque sous-intervalle $\scriptstyle [c,d] \subset [a,b]$ a une probabilité égale à la mesure de Lebesgue de [c,d] (multipliée par une constante) d'apparaître. La loi uniforme ne dépend que de l'intervalle, son support est compact et sa densité est donnée par : $\scriptstyle f_X (x) = \frac{1}{b-a}$ pour tout $\scriptstyle x\in [a,b]$ .

Loi exponentielle

Article détaillé : Loi exponentielle.

La loi exponentielle est la loi communément utilisée pour modéliser le temps de vie d'un phénomène puisque c'est l'unique loi à densité possédant la propriété de perte de mémoire. En ce sens elle est l'analogue continu de la loi géométrique. Cette loi à support semi-infini ne dépend que d'un paramètre (parfois appelé l'intensité), sa densité est donnée par : $\scriptstyle f_X (x) = \lambda \exp(-\lambda x)$ pour tout $\scriptstyle x>0$ .

Loi normale

Article détaillé : Loi normale.

La loi normale, ou loi gaussienne, est une loi centrale en théorie des probabilités et en statistique. Elle décrit le comportement des séries d'expériences aléatoires lorsque le nombres d'essais est très grand. C'est la loi limite dans le théorème central limite, elle est également l'unique loi stable de paramètre 2. La loi normale est caractérisée par sa moyenne (qui est également sa médiane) et par son écart-type, son support est la droite réelle. Sa densité est symétrique et sa forme est communément appelée la courbe de Gauss ou courbe en cloche : $\scriptstyle f_X (x) = \frac{1}{\sigma\sqrt{2\pi}} \exp{ \left ( - \frac{(x-m)^2}{2 \sigma^2} \right )}$ .

Loi de Cauchy

Article détaillé : Loi de Cauchy.

La loi de Cauchy est la loi stable de paramètre 1, ce qui lui donne de bonnes propriétés. Elle est cependant un exemple typique de loi n'admettant pas de moments, en particulier ni moyenne, ni variance. Son support est la droite réelle et sa densité est symétrique et définie par : $\scriptstyle f_X(x)=\frac{1}{\pi}\frac{1}{1+x^2}\,$ .

Loi de Tukey-Lambda

Article détaillé : Loi de Tukey-Lambda.

La loi de Tukey-Lambda est une loi à densité mais cette dernière n'a pas d'expression analytique. Cette loi dépend d'un paramètre, son support est soit un intervalle borné centré à l'origine, soit la droite réelle (en fonction du paramètre). La loi de Tuckey-Lambda est définie à partir de ses quantiles : $\scriptstyle G(p) = {p^\lambda - (1-p)^\lambda\over \lambda}$ .

[modifier] Familles de lois

Certaines lois sont regroupées par famille par rapport à certaines propriétés. Une loi est dite de la famille exponentielle à un paramètre^[42] si sa densité de probabilité ou sa fonction de masse ne dépend que d'un paramètre $\scriptstyle \theta$ et est de la forme :

$f(y)=\begin{cases} a(\theta)b(y)e^{-c(\theta)d(y)} & \text{ si }\alpha<y<\beta \\ 0 & \text{ sinon.} \end{cases}$

Cette famille regroupe beaucoup de lois classiques : loi normale, loi exponentielle, loi gamma, loi du χ², loi bêta, loi de Bernoulli, loi de Poisson, etc.

Une loi est dite de la famille puissance à deux paramètres^[42] $\scriptstyle \alpha$ et $\scriptstyle \theta$ si sa densité est de la forme :

$f(y)=\begin{cases}\displaystyle \alpha \frac{y^{\alpha-1}}{\theta^\alpha} & \text{ si }0 \leq y \leq \theta \\ 0 & \text{ sinon.} \end{cases}$

[modifier] Autres cas

Il existe des lois de probabilité qui ne sont ni discrètes, ni à densité, elles sont parfois appelées lois mixtes^[43] ou lois singulières^[44].

Fonction de répartition d'une loi mixte.

Un premier exemple est une loi de probabilité obtenue en "mélangeant" une loi discrète et une loi à densité. Par exemple en considérant la loi de la somme de deux variables aléatoires, l'une discrète, l'autre à densité^[44] :

$\mathbb P(dx)=\lambda f(x)dx+(1-\lambda)\sum p_k \delta_{x_k}(dx)$ où $\lambda\in ]0,1[$ .

La présence de $\scriptstyle \lambda$ assure de garder $\scriptstyle \mathbb P(\Omega)=1$ . La fonction de répartition est une fonction continue par morceaux^[45], mais non constante par morceaux qui est le cas des fonctions de répartition des lois discrètes.

Intuitivement, cela correspond à un phénomène aléatoire dont la loi est à densité. Cependant l'appareil de mesure ne peut mesurer les données qu'à partir d'un certain seuil c. toutes les mesures non détectées par l'appareil seront assignées à c, ainsi la loi est nulle sur toute partie "plus petite" que c alors qu'un saut apparait au singleton c. Les mesures suivent la loi à densité pour les valeurs plus grandes que c^[43]. Dans cet exemple la fonction de répartition est discontinue en c.

Fonction de répartition de la loi de Cantor.

Le deuxième exemple est une loi singulière dont la fonction de répartition est continue mais non absolument continue. La loi de Cantor est définie à partir de l'ensemble de Cantor : $\scriptstyle \left\{ \sum_{n=1}^{\infty} \frac{x_n}{3^n} \ | \,x_n \in \{ 0,2 \} \right\}$ . Lorsque $\scriptstyle X_n$ sont des variables indépendantes et identiquement distribuées de loi uniforme discrète sur $\scriptstyle \{0,2\}$ , alors

$X=\sum_{n=1}^{\infty} \frac{X_n}{3^n}$

est une variable aléatoire de loi de Cantor^[46]. Cette loi de probabilité^[47] s'écrit sous la forme $\scriptstyle \mathbb P=(\frac{1}{2}\delta_0+\frac{1}{2}\delta_2)^{\otimes \mathbb N}$ , c'est la loi uniforme sur l'ensemble de Cantor. Sa fonction de répartition est l'escalier de Cantor, elle est dérivable presque partout et de dérivée nulle presque partout^[46].

Ce type de loi n'est pas très courant dans les applications, les lois continues ne contiennent pas de partie singulière^[44]. L'ensemble de Cantor apparait toutefois dans certains exemples bien connus : l'ensemble des zéros du mouvement brownien est un ensemble de type Cantor.

D'un point de vue plus général, toute loi de probabilité $\scriptstyle \mathbb P$ peut se décomposer en une somme de trois lois de probabilité^[44], une loi discrète $\scriptstyle \mathbb P_{d}$ , une loi absolument continue (ou à densité) $\scriptstyle \mathbb P_{ac}$ et une loi singulière $\scriptstyle \mathbb P_{sing}$ :

$\mathbb P=\alpha \mathbb P_d+\beta \mathbb P_{ac}+\gamma \mathbb P_{sing}$ , où $\scriptstyle \alpha+\beta+\gamma=1$ .

[modifier] Caractérisation de la loi de probabilité d'une variable aléatoire réelle

Il existe plusieurs fonctions à variables réelles ou complexes qui caractérisent les lois de probabilités. Les propriétés de certaines de ces fonctions permettent de déduire des propriétés pour les lois comme les moments ou une caractérisation de la convergence en loi.

[modifier] Caractérisation à l'aide de la fonction de répartition

Fonction de répartition de la loi normale centrée réduite.

Article détaillé : Fonction de répartition.

D'après le lemme de classe monotone, les ensembles $\scriptstyle ]-\infty,x]$ (appelés pavés) engendrent^[48] la tribu borélienne $\scriptstyle \mathcal B_{\mathbb R}$ , il suffit alors de définir une loi de probabilité sur les pavés. La fonction $\scriptstyle F:x\mapsto \mathbb P(]-\infty,x])$ est appelée la fonction de répartition de la loi $\scriptstyle \mathbb P$ , elle en est caractéristique, c'est-à-dire : deux lois de probabilités sont égales si et seulement si les fonctions de répartitions sont égales^[48].

Plus généralement, toute fonction F croissante, continue à droite en tout point et telle que $\scriptstyle F(x)\underset{x\rightarrow -\infty}{\longrightarrow}0$ et $\scriptstyle F(x)\underset{x\rightarrow +\infty}{\longrightarrow}1$ , est appelée fonction de répartition et définit^[49], de manière unique, une loi de probabilité sur $\scriptstyle \mathbb R$ .

Dans le cas où la loi de probabilité est définie à partir d'une variable aléatoire, le théorème de transfert (voir ci-dessus) assure^[50] qu'il est suffisant de définir la loi par la fonction $\scriptstyle \mathbb E[\phi(X)]$ pour les fonctions indicatrices $\scriptstyle \phi=1_{]-\infty,x]}$ .

Un des avantages de cette fonction est qu'elle existe pour toute loi de probabilité, elle n'a cependant pas toujours d'expression analytique comme pour la loi normale par exemple. Cette caractérisation permet de pourvoir effectuer des calculs plus aisément et permet également de caractériser^[51] la convergence des lois de probabilités via le théorème porte-manteau.

[modifier] Caractérisation à l'aide de la fonction caractéristique

Fonction caractéristique de la loi uniforme continue sur [-1,1].

Articles détaillés : Fonction caractéristique d'une variable aléatoire et Transformée de Fourier.

La fonction caractéristique d'une loi de probabilité $\scriptstyle \mathbb P$ est la transformée de Fourier de la mesure : $\scriptstyle \phi(\lambda)= \int e^{i\lambda x}\mathbb P(dx)$ . Comme son nom l'indique, la fonction caractéristique caractérise la loi^[51]^,^[52], c'est-à-dire : deux lois de probabilité sont égales si et seulement si leurs fonctions caractéristiques sont égales.

Dans le cas où la loi de probabilité est définie à partir d'une variable aléatoire, la fonction caractéristique est en fait la fonction du théorème de transfert (voir ci-dessus) lorsque la fonction intégrée est $\scriptstyle x\mapsto e^{i\lambda x}$ .

Un des avantages de la fonction caractéristique est qu'elle existe pour toute loi de probabilité^[51] De plus, en utilisant la formule d'inversion de la transformée de Fourier^[52], la loi de probabilité s'obtient à partir de la fonction caractéristique. Cette caractérisation permet également de caractériser^[51] la convergence des lois de probabilités via le théorème porte-manteau.

[modifier] Caractérisation à l'aide de la fonction génératrice des moments

Fonction génératrice des moments de la loi uniforme continue sur [-1,1].

Articles détaillés : Fonction génératrice des moments et Transformée de Laplace.

La fonction génératrice des moments d'une loi de probabilité $\scriptstyle \mathbb P$ est la "symétrie" de la transformée de Laplace de la mesure^[46]^,^[53] : $\scriptstyle m(t) = \mathcal L(\mathbb P)(-t) = \int e^{tx}\mathbb P(dx)$ ; lorsque la fonction $\scriptstyle e^{tx}$ est intégrable par rapport à $\scriptstyle \mathbb P$ . La fonction génératrice des moments caractérise la loi de probabilité si elle existe sur un intervalle contenant l'origine^[51].

Un des avantages de cette fonction génératrice des moments est qu'elle permet de retrouver les moments de la loi de probabilité par les dérivées^[53] : $\scriptstyle m^{(n)}(0)=\mu_n$ . De plus, pour des lois définies à partir de variables aléatoires, cette fonction permet aisément de montrer l'indépendance des variables^[53]. Cette caractérisation permet également de caractériser^[51] la convergence des lois de probabilités via le théorème porte-manteau.

Article détaillé : Fonction génératrice des probabilités.

Il existe un cas particulier pour le cas des lois discrètes. La fonction génératrice des probabilités d'une loi de probabilité discrète $\scriptstyle \mathbb P=\sum p_k\delta_k$ est définie^[53] comme l'espérance de la série génératrice : $\scriptstyle g(t)=\sum t^k p_k$ , sous réserve d’existence de cette série. Cette fonction génératrice caractérise la loi de probabilité^[53].

[modifier] Autres caractérisations

Exemple de quantiles.

Articles détaillés : Quantile et Méthode de la transformée inverse.

Certaines lois de probabilité sont plus faciles à définir, via leur fonction quantile. La fonction quantile est^[54] la fonction $\scriptstyle F^\leftarrow$ qui donne le p-quantile de la loi pour toute valeur $\scriptstyle u\in [0,1]$ . Intuitivement, $\scriptstyle F^\leftarrow(u)$ est la valeur telle qu'une proportion u des valeurs possibles de la loi lui soient inférieures. Pour $\scriptstyle u=1/2$ , $\scriptstyle F^\leftarrow(1/2)$ est la médiane de la loi. Plus formellement^[55] :

$F^\leftarrow(u)=\inf\{x \ |\ \mathbb P(X\leq x)>u\}$ , pour $\scriptstyle u\in ]0,1[$ et où X est une variable aléatoire de loi $\scriptstyle \mathbb P$ .

C'est l'inverse continue à droite de la fonction de répartition de la loi. Lorsque la loi est à densité, la fonction quantile est la fonction réciproque de la fonction de répartition^[54].

Cette fonction est caractéristique de la loi associée^[55] $\scriptstyle \mathbb P$ au sens où, si U est une variable aléatoire de loi uniforme continue sur [0,1], alors $\scriptstyle F^\leftarrow(U)$ est une variable aléatoire de loi $\scriptstyle \mathbb P$ initiale.

Cette caractérisation est particulièrement utile pour simuler des lois de probabilité^[56] puisqu'il suffit alors de simuler une loi uniforme continue (voir la section ci-dessous sur la simulation des lois de probabilités). De plus certaines lois n'ont pas de fonction de répartition explicite mais sont définies à partir de leurs quantiles, c'est le cas de la loi de Tukey-Lambda.

[modifier] Utilisations

La répartition statistique d'une variable au sein d'une population est souvent voisine des modèles mathématiques des lois de probabilités^[57]. Il est souvent intéressant, pour des raisons théoriques et pratiques, d'étudier le modèle probabiliste, dit théorique^[58]. L'étude commence alors par une sélection au hasard de plusieurs valeurs ou individus. Si la méthode utilisée est parfaite, c'est-à-dire que ces valeurs observées sont issues d'une sélection équiprobable^[57], alors elles sont des variables aléatoires et l'étude du phénomène revient à étudier la loi de probabilité.

[modifier] Simulation d'une loi de probabilité

Simulation de la loi uniforme continue sur le carré unitaire. On remarque ici l'imperfection des 10000 valeurs pseudo-aléatoires par la présence de zones moins denses.

Article détaillé : Générateur de nombres pseudo-aléatoires.

Afin d'étudier les lois de probabilité, il est important de pouvoir les simuler, ceci est dû notamment à l’utilisation de l'informatique dans les sciences. Comme indiqué ci-dessus, les lois de probabilité sont caractérisées par la fonction quantile via une variable aléatoire de loi uniforme continue. Cette méthode générale comprend deux étapes^[59] : la génération de valeurs dites pseudo-aléatoires de loi uniforme et l'inversion de la fonction de répartition de la loi étudiée. Cette deuxième étape n'a pas évidente à réaliser pour toutes les lois, d'autres méthodes sont alors utilisées.

« Quiconque considère des méthodes arithmétiques pour produire des nombres aléatoires est, bien sûr, en train de commettre un péché. »

— John von Neumann

Simulation de la loi uniforme

Pour obtenir des valeurs suivant la loi uniforme continue, l'ordinateur simule des valeurs de la loi uniforme discrète. Plusieurs méthodes ont été utilisées^[60] : l'utilisation de tables de données qui pouvaient en contenir plus d'un million est de moins en moins utilisée ; l'utilisation de processus physique comme la création d'un bruit électronique est assez couteuse pour la récupération des données ; l'utilisation d'algorithmes arithmétiques est la méthodes la plus simple. Ces algorithmes étant déterministes (non-aléatoires), les valeurs obtenues sont appelées pseudo-aléatoires. De nombreux algorithmes ont été créés pour améliorer l'indépendance entre les valeurs et leur répartition dans l'intervalle [0,1].

Simulation des autres lois

Lorsque la fonction de répartition est inversible, on utilise la caractérisation par la fonction quantile. Donnons quelques exemples dans le cas où cette fonction n'est pas inversible : la méthode de Box-Muller permet de simuler la loi normale^[61], la méthode de rejet de von Neumann est fondé sur un test statistique et est applicable pour plusieurs lois^[62], d'autres méthodes spécifiques aux lois existent^[63].

Exemple

Un exemple célèbre d'utilisation d'une simulation de loi de probabilité est la méthode de Monte-Carlo, par exemple pour approcher la valeur de π. La méthode consiste a simuler un grand nombre de valeurs suivant une loi uniforme continue sur [0,1] et de compter la proportion des couples $\scriptstyle (x,y)$ d'entre eux qui vérifient $\scriptstyle x^2+y^2\leq 1$ . Cette proportion se rapproche de π/4 lorsque le nombre de point tend vers l'inifni^[64].

[modifier] Approximation d'une loi de probabilité

Illustration du théorème central limite. Les données empiriques sont les valeurs possibles de la somme de n dés. Lorsque n augmente, les histogrammes convergent vers la courbe de Gauss qui est la densité de la loi normale.

Plusieurs approximations d'une loi de probabilité existent en utilisant les différentes caractérisations détaillées ci-dessus. C'est généralement les techniques utilisées dans les cas pratiques. La première étape est la récolte des données, ce qui permet de construire les objets empiriques comme la fonction de répartition empirique. Ces derniers sont parfois appelés, par abus de langage, des lois de probabilité mais ce sont en fait des lois empiriques appelées distributions statistiques^[57]. Des théorèmes limites ou des tests statistiques permettent finalement d'identifier la meilleure loi de probabilité qui modélise le phénomène aléatoire initial^[58].

« Les probabilités doivent être regardées comme analogues à la mesure des grandeurs physiques, c'est-à-dire qu'elles ne peuvent jamais être connues exactement mais seulement avec une certaine approximation »

— Émile Borel^[65]

Par la fonction de répartition

Le test statistique de Kolmogorov-Smirnov, basée sur le théorème porte-manteau, permet d'identifier la fonction de répartition empirique calculée à partir des données à une fonction de répartition d'une loi de probabilité, en fonction d'un taux de rejet. L'avantage de la convergence des fonctions de répartition est que ces fontions existent pour toutes lois de probabilités. Cette convergence permet en particulier d'approcher une loi à densité par une suite de lois discrètes^[66].

Convergence des autres fonctions caractéristiques

Différents théorèmes de convergence de variables aléatoires permettent de construire une suite de lois de probabilité qui converge vers une loi donnée, ou inversement de construire une loi comme limite de lois de probabilité. Le théorème central limite concerne la loi normale pour loi limite. Le théorème de continuité de Paul Lévy concerne la convergence des fonctions caractéristiques.

Exemple de droite de Henry dans un diagramme Quantile-Quantile qui permet de comparer visuellement les quantiles empiriques aux quantiles théoriques. Ici la loi normale n'est pas adéquat.

Régression quantile

La régression quantile permet d'approcher les quantiles de la loi par les quantiles empiriques, c'est-à-dire calculés à partir d'éventuelles données. On peut utiliser un test statistique pour comparer les quantiles empiriques (observés) avec les quantiles de la loi qui est supposée modéliser le phénomène.

Cette approche est particulièrement utile pour étudier certaines lois qui ne sont pas connues explicitement par leur densité ou leur fonction de répartition mais par leurs quantiles, c'est le cas de la loi de Tukey-Lambda.

Tests statistiques

Plusieurs tests statistiques existent pour comparer deux lois. Plus précisément, les tests d'adéquation permettent de comparer une loi empirique (c'est-à-dire calculée à partir des données issue d'échantillons) à une loi de probabilité dite a priori qui est censée modéliser le phénomène étudié. Les deux principaux tests sont : le test de Kolmogorov-Smirnov mentionné ci dessus qui compare les fonctions de répartition, et le test d'adéquation du χ² qui compare les effectifs observés avec une loi du χ². Parmi ces tests, ceux qui concernent la loi normale sont dits tests de normalité.

D'autres tests, les tests d’homogénéité, permettent de comparer deux lois empiriques pour savoir si elles sont issues du même phénomène, ou de manière équivalente, si elles peuvent être modélisées par la même loi de probabilité a priori. Ces tests comparent certaines propriétés des lois empiriques par rapport à la propriété de la loi a priori. Ce sont des tests utilisés dans la pratique puisqu'ils permettent de comparer non pas des lois entières mais des valeurs issues des lois^[67] : le test de Fisher estime le rapport des variances empiriques via la loi de Fisher^[67], le test de Student estime la moyenne empirique via la loi de Student^[68], etc.

[modifier] Maximum d'entropie

Les lois de probabilité permettent de représenter des phénomènes aléatoires. L'entropie de Shannon d'une loi de probabilité a été introduite en thermodynamique pour quantifier l'état de désordre moléculaire d'un système^[69]. Le but est de représenter par une fonction la quantité d'information de la loi de probabilité. L'entropie a d'abord été définie pour les lois discrètes puis étendue pour les lois à densité. Pour une loi discrète $\scriptstyle \mathbb P_1=\sum_{i\leq n}p_i\delta_{x_i}$ et une loi $\scriptstyle \mathbb P_2$ de densité $\scriptstyle f$ , l'entropie H est définie respectivement par^[69]^,^[70] :

$H(\mathbb P_1)=-\sum_{i=1}^n p_i \log_2(p_i)$ et $H(\mathbb P_2)=-\int_{\mathbb R}f(x)\ln(f(x))dx$ .

La loi normale est celle d'entropie maximale parmi toutes les lois possibles ayant même moyenne et même écart-type^[12].
La loi géométrique est celle d'entropie maximale parmi toutes lois discrètes de même moyenne^[12].
La loi uniforme est celle d'entropie maximale parmi les lois à support borné.
La loi exponentielle est celle d'entropie maximale parmi les lois portées par $\ \scriptstyle\mathbb{R}_+\$ et ayant la même moyenne^[12].
Les lois de la famille puissance comme celle de Zipf sont d'entropie maximale parmi celles auxquelles on impose la valeur du logarithme d'une moyenne.

En quelque sorte, ces lois ne contiennent pas plus d'information que ce qui est obligatoire. Ce sont les moins prévenues de toutes les lois compatibles avec les observations ou les contraintes, et donc les seules admissibles objectivement comme distributions de probabilités a priori lorsque ces valeurs sont imposées et seules connues. Cette propriété joue un grand rôle dans les méthodes bayésiennes.

[modifier] Exemples de modélisation

Les lois de probabilité sont utilisées pour représenter les phénomènes observés. Une loi de probabilité, dite a priori, est supposée modéliser les données récupérées, des tests statistiques sont alors réalisés pour affirmer ou infirmer la concordance de la loi de probabilité avec les données.

Dans bien des domaines, les méthodes ont évoluées et de meilleures lois de probabilité ont été créées afin de mieux correspondre au problème posé. Voici une liste non exhaustive d'exemples concrets qui proposent des modélisations.

En économie

La bourse est une institution qui permet d'échanger des biens ou des titres. Afin de mieux estimer le prix futur d'un bien ou d'un titre, une étude de l'évolution historique de son prix est réalisée, notamment par la modélisation des variations des cours des prix. Ces variations ont d'abord été modélisées par une loi normale (Bachelier, 1900), puis une amélioration a été faite avec les lois stables de Pareto (Mandelbrot, 1963). Depuis, de nouveaux modèles sont toujours recherchés pour améliorer la perception des risques^{[a 1]}.

En jeux de hasard

Pour jouer au loto français, il faut choisir six numéros parmi les quarante neuf possibles. Si les joueurs choisissent leurs numéros au hasard, c'est-à-dire avec une loi uniforme, alors le nombre de gagnant suit une loi de Poisson. Grâce à cette considération, une étude peut être réalisée puisque le nombre de gagnants est une donnée connue. Il apparait que le choix n'est pas uniforme mais que les petits numéros ont été plus choisis^{[a 2]}.

En maintenance

Une bonne compréhension de la dégradation permet d'améliorer la performance de la maintenance. Plusieurs lois a priori ont été utilisées pour modéliser l'évolution de la fissure des chaussées : la loi exponentielle, la loi de Weibull, la loi log-normale, la loi log-logistique, etc. Cette dernière semble convenir le mieux en utilisant une méthode de maximum de vraisemblance^{[a 3]}.

En médecine

Pour tester l'efficacité des médicaments, un essai clinique est réalisé auprès de d'un échantillon d'utilisateurs. Cette méthode fait partie de la théorie de la décision. Une des méthodes est de sélectionner un malade de réaliser un test avec deux issues (succès ou échec), c'est-à-dire de modéliser par une loi de Bernoulli, puis de recommencer le plus de fois possibles ; c'est la méthode des urnes de Bernoulli. Une meilleure méthode est d'utiliser la loi hypergéométrique, ce choix permet de ne considérer qu'une population d'individus de taille fixée préalablement^{[a 4]}.

En météorologie

En hydrologie, la pluviométrie est l'étude de la quantité d'eau issue de la pluie tombée en un point du sol pendant une durée de temps fixée. Le choix de la loi a priori ne fait pas consensus au sein de la communauté scientifique internationale. Certains auteurs préconisent l'utilisation de la loi log-normale qui s'ajuste bien pour les petites valeurs. D'autres proposent la loi gamma qui s'ajuste bien sur les valeurs expérimentales. L'utilisation de la loi de Pareto a son intérêt pour représenter les valeurs moyennes^{[a 5]}.

[modifier] Notes et références

↑ Wackerly, Mendenhall et Schaeffer 2008, p. 20
↑ Barbé et Ledoux 2007, p. 41
↑ Henry 2001, p. 163
↑ Wackerly, Mendenhall et Schaeffer 2008, p. 86
↑ Henry 2001, p. 14
↑ Dalang 2008, p. 127
↑ Henry 2001, p. 34
↑ ^{a, b, c et d} Dalang 2008, p. 128
↑ Henry 2001, p. 42
↑ Henry 2001, p. 55
↑ Henry 2001, p. 54
↑ ^{a, b, c et d} Caumel 2011, p. 137
↑ ^{a, b et c} .Ruegg 1994, p. 35
↑ ^{a et b} Ducel 1996, p. 8
↑ ^{a, b et c} Saporta 2006, p. 16
↑ ^{a, b et c} Barbé et Ledoux 2007, p. 45
↑ Barbé et Ledoux 2007, p. 54
↑ Yaglom 2004, p. 1
↑ Saporta 2006, p. 69
↑ Saporta 2006, p. 22
↑ Saporta 2006, p. 85
↑ Saporta 2006, p. 87
↑ ^{a, b et c} Ducel 1996, p. 9
↑ Barbé et Ledoux 2007, p. 51
↑ Ruegg 1994, p. 20
↑ ^{a et b} Klebaner 2005, p. 44
↑ ^{a et b} Barbé et Ledoux 2007, p. 150
↑ Barbé et Ledoux 2007, p. 162
↑ Barbé et Ledoux 2007, p. 160
↑ Klebaner 2005, p. 46
↑ Saporta 2006, p. 77
↑ Saporta 2006, p. 80
↑ Ledoux et Talagrand 2002, p. 37
↑ Ledoux et Talagrand 2002, p. 38
↑ Klebaner 2005, p. 47
↑ Klebaner 2005, p. 139
↑ ^{a, b et c} Ledoux et Talagrand 2002, p. 39
↑ Ledoux et Talagrand 2002, p. 40
↑ Barbé et Ledoux 2007, p. 13
↑ Ducel 1996, p. 7
↑ Ruegg 1994, p. 52
↑ ^{a et b} Wackerly, Mendenhall et Schaeffer 2008, p. 463
↑ ^{a et b} Bogaert 2006, p. 71
↑ ^{a, b, c et d} Klebaner 2005, p. 36
↑ Bogaert 2006, p. 72
↑ ^{a, b et c} Klebaner 2005, p. 37
↑ Ledoux et Talagrand 2002, p. 22
↑ ^{a et b} Barbé et Ledoux 2007, p. 52
↑ Saporta 2006, p. 17
↑ Klebaner 2005, p. 34
↑ ^{a, b, c, d, e et f} Klebaner 2005, p. 38
↑ ^{a et b} Saporta 2006, p. 57
↑ ^{a, b, c, d et e} Saporta 2006, p. 60
↑ ^{a et b} Bogaert 2006, p. 88
↑ ^{a et b} Barbé et Ledoux 2007, p. 50
↑ Barbé et Ledoux 2007, p. 49
↑ ^{a, b et c} Saporta 2006, p. xxviii
↑ ^{a et b} Ruegg et 1994 p37
↑ Jedrzejewski 2009, p. 187
↑ Jedrzejewski 2009, p. 182
↑ Jedrzejewski 2009, p. 188
↑ Jedrzejewski 2009, p. 189
↑ Jedrzejewski 2009, p. 191
↑ Jedrzejewski 2009, p. 215
↑ Henry 2001, p. 194
↑ Bogaert 2006, p. 70
↑ ^{a et b} Saporta 2006, p. 340
↑ Saporta 2006, p. 342
↑ ^{a et b} Caumel 2011, p. 135
↑ Caumel 2011, p. 136

Articles

↑ Michel Albouy et A. Sinani, « L'efficience des bourses de province françaises », dans Journal de la société statistique de Paris, vol. 122, n^o 4, 1981, p. 200-214 [texte intégral (page consultée le 14/05/12)]
↑ P. Roger et M.-H. Broihanne, « Les joueurs de loto français choisissent-ils leurs numéros au hasard? », dans Revue de statistique appliquée, vol. 54, n^o 3, 2006, p. 83-98 [texte intégral (page consultée le 13/05/12)]
↑ E. Courilleau et J. M. Marion, « Comparaison de modèles d'estimation de la fonction de survie appliquée à des données routières. », dans Revue de statistique appliquée, vol. 47, n^o 1, 1999, p. 81-97 [texte intégral (page consultée le 13/05/12)]
↑ F. Boutros-Toni, « L'analyse séquentielle exhaustive. Application en médecine. », dans Revue de statistique appliquée, vol. 29, n^o 4, 1981, p. 31-50 [texte intégral (page consultée le 13/05/12)]
↑ J. de Reffye, « Étude phénoménologique des précipitations pluvieuses. Modélisation mathématiques des intensités de pluie en un point du sol. », dans Revue de statistique appliquée, vol. 30, n^o 3, 1982, p. 39-63 [texte intégral (page consultée le 13/05/12)]

[modifier] Voir aussi

[modifier] Bibliographie

(fr) Alan Ruegg, Autour de la modélisation en probabilités, Presses Polytechniques et universitaires romandes, 1994, 4^e éd., 157 p. (ISBN 2-88074-286-2) [lire en ligne] .

(fr) Yves Ducel, Les probabilités à l'agrégation externe de mathématiques : Guide pour une révision, Presses Univ Franche-Comté, 1996, 42 p. (ISBN 2-909963-08-X) [lire en ligne] .

(fr) Michel Henry, Probabilités et statistique, Presses Univ Franche-Comté, 2001, 262 p. [lire en ligne] .

(en) Michel Ledoux et Michel Talagrand, Probability in Banach spaces, Springer, 2002, 485 p. (ISBN 3-540-52013-9) [lire en ligne] .

(en) A.M. Yaglom, An Introduction to the Theory of Stationary Random Functions, Dover Phoenix Editions, 2004, 205 p. (ISBN 0-486-49571-X) [lire en ligne] .

(en) Fima Klebaner, Introduction to Stochastic Calculus With Applications, Imperial College Press, 2005, 416 p. (ISBN 1-86094-555-4) [lire en ligne] .

(fr) Gilbert Saporta, Probabilités, Analyse des données et Statistiques, Paris, Editions Technip, 2006, 622 p. (ISBN 978-2-7108-0814-5) [lire en ligne] .

(fr) Patrick Bogaert, Probabilités pour scientifiques et ingénieurs, Paris, Editions De Boeck, 2006, 387 p. (ISBN 2-8041-4794-0) [lire en ligne] .

(fr) Philippe Barbé et Michel Ledoux, Probabilité, EDP Sciences, 2007, 241 p. (ISBN 978-2-86883-931-2) [lire en ligne] .

(en) Wackerly, Mendenhall et Schaeffer, Mathematical Statistics with applications, Brooks Cole, 2008, 7^e éd., 922 p. [lire en ligne] .

(fr) Dalang et Conus, Introduction à la théorie des probabilités, Presses polytechniques et universitaires romandes, 2008, 204 p. (ISBN 978-2-88074-794-7) [lire en ligne] .

(fr) Jedrzejewski, Modèles Aléatoires et Physique Probabiliste, Springer, 2009, 572 p. (ISBN 978-2-287-99307-7) [lire en ligne] .

(fr) Caumel, Probabilités et processus stochastiques, Springer, 2011, 303 p. (ISBN 978-2-8178-0162-9) [lire en ligne] .

[modifier] Articles connexes

Variable aléatoire
Distribution (mathématiques)
Mesures secondaires
Densité de probabilité

v · d · m

Lois de probabilité

Lois discrètes à support fini
Benford • Bernoulli • bêta-binomiale • binomiale • hypergéométrique • Poisson binomiale • Rademacher • uniforme • Zipf

Lois discrètes à support infini
bêta-binomiale négative • binomiale négative • binomiale négative étendue • Conway-Maxwell-Poisson • Delaporte • Gauss-Kuzmin • géométrique • logarithmique • Poisson • Skellam • Yule-Simon • Zeta

Lois à densité à support compact
arc sinus • Bates • bêta • bêta décentrée • bêta rectangulaire • cosinus surélevé • demi-cercle • Irwin-Hall • Kumaraswamy • logit-normale • parabolique • triangulaire • uniforme

Lois à densité à support semi-infini

Benktander • bêta prime • Burr • χ • χ non centrée • χ² • χ² non centrée • Dagum • Davis • demi-logistique • demi-normale • Erlang • exponentielle • Fisher • Fréchet • Gamma • Gompertz • hyper-exponentielle • hypo-exponentielle • inverse-χ² • inverse-gamma • inverse-gaussienne • inverse-gaussienne généralisée • Lévy • log-Cauchy • log-Laplace • log-logistique • log-normale • Nakagami • normale repliée • normale tronquée • Pareto • Rayleigh • Rice • Weibull

Lois à densité à support infini
normale asymétrique • Cauchy • Gumbel • Laplace • logistique • normale • slash • stable • Student

Autres types de lois

Lois à densité à support mixte continue-discret

normale rectifiée

Lois à densité à support variable

Tukey-Lambda

Lois à densité jointe (multivariable)

Discrète : Ewens
Continue : Dirichlet
Matricielle : Wishart inverse

Lois directionnelles

Univariante : Tukey-Lambda
Bivariante (sphérique) : Kent, Bivariante (toroïdale) : Von Mises bivariante
Multivariante : Bingham

Lois à densité dégénérée et singulières

Dégénérée : discrète dégénérée
Singulière : Cantor

Familles de lois

elliptique • fractale parabolique • tronquée

v · d · m

Probabilités et statistiques

Théorie des probabilités

Axiomes des probabilités · Espace probabilisable · Probabilité · Événement · Tribu · Indépendance

Probabilités élémentaires	Moyenne · Espérance · Médiane · Variance · Écart type
Loi de probabilité	Variable aléatoire · Loi de Bernoulli · Loi de Poisson · Loi uniforme · Loi normale · Loi de Student · Loi de Fisher · Variables iid
Convergence de lois	Théorème central limite · Loi des grands nombres · Théorème de Borel-Cantelli
Calcul stochastique	Marche aléatoire · Chaîne de Markov · Processus stochastique · Processus de Markov · Martingale · Mouvement brownien · Équation différentielle stochastique

Statistique

Statistique descriptive	Échantillon · Quantile · Intervalle de confiance · Représentations de données · Histogramme · Diagramme circulaire · Boîte à moustaches · Régression linéaire · Méthode des moindres carrés · Analyse des données
Statistique mathématique	Une statistique · Fonction de répartition empirique · Théorème de Glivenko-Cantelli · Inférence bayésienne
Tests statistiques	Test d'hypothèse · Hypothèse statistique (Hypothèse nulle) · Estimateur · Test du χ² · Test t · Test de Fisher · Signification statistique · Valeur p

Applications

Économétrie · Mécanique statistique · Jeu de hasard · Biomathématique · Mathématiques financières

Loi de probabilité

Sommaire

[modifier] Définition informelle

[modifier] Historique

[modifier] Définition mathématique

[modifier] Loi multidimensionnelle

[modifier] Loi conditionnelle

[modifier] Loi à valeurs dans un espace de Banach

[modifier] Espace des lois de probabilité

[modifier] Classification des lois de probabilité sur la droite réelle

[modifier] Lois discrètes

[modifier] Définition

[modifier] Exemples

[modifier] Lois à densité

[modifier] Définition

[modifier] Exemples

[modifier] Familles de lois

[modifier] Autres cas

[modifier] Caractérisation de la loi de probabilité d'une variable aléatoire réelle

[modifier] Caractérisation à l'aide de la fonction de répartition

[modifier] Caractérisation à l'aide de la fonction caractéristique

[modifier] Caractérisation à l'aide de la fonction génératrice des moments

[modifier] Autres caractérisations

[modifier] Utilisations

[modifier] Simulation d'une loi de probabilité

[modifier] Approximation d'une loi de probabilité

[modifier] Maximum d'entropie

[modifier] Exemples de modélisation

[modifier] Notes et références

[modifier] Voir aussi

[modifier] Bibliographie

[modifier] Articles connexes

Rechercher

Menu

Espace membre

Changer d'île