logo

Test du ?²


Test du ?² : encyclopédie mathématiques

wikipediaCet article est issu de l'encyclopédie libre Wikipedia.
Vous pouvez consulter l'article ici ainsi que son historique.
Les textes et les images sont disponibles sous les termes de la Licence de documentation libre GNU.
Page d'aide sur les redirections Pour la loi de probabilité, voir Loi du χ².
Densité du χ² en fonction du nombre de degrés de liberté

Le test du χ²[1] est un test statistique permettant de tester l'adéquation d'une série de données à une famille de loi de probabilités ou de tester l'indépendance entre deux variables aléatoires.

Il a été proposé par le statisticien Karl Pearson en 1900[2].

Sommaire

[modifier] Histoire

[modifier] Principe

À la base d'un test statistique il y a la formulation d'une hypothèse appelée hypothèse zéro (H0). Dans le cas présent, elle suppose que toutes les données considérées dérivent de la même loi de probabilité (ou, dit différemment, la distribution observée n'est pas différente de la distribution supposée d'après la loi que l'on souhaite tester).

Ces données ayant été réparties en classes, il faut

  • dĂ©terminer le nombre de degrĂ©s de libertĂ© du problème Ă  partir du nombre de classes ;
  • se donner a priori un risque de se tromper (la valeur 5 % est souvent choisie par dĂ©faut, mais il s'agit plus souvent d'une coutume que du rĂ©sultat d'une rĂ©flexion) ;
  • Ă  l'aide d'une table de χ², dĂ©duire en tenant compte du nombre de degrĂ©s de libertĂ© la distance critique qui a une probabilitĂ© de dĂ©passement Ă©gale Ă  ce risque ;
  • calculer algĂ©briquement la distance entre les ensembles d'informations Ă  comparer.

Si cette distance est supérieure à la distance critique, on conclut que le résultat n'est pas dû seulement aux fluctuations d'échantillonnage et que l'hypothèse nulle H0 doit donc être rejetée. Le risque choisi au départ est celui de donner une réponse fausse lorsque les fluctuations d'échantillonnage sont seules en cause. Le rejet est évidemment une réponse négative dans les tests d'adéquation et d'homogénéité mais il apporte une information positive dans les tests d'indépendance. Pour ceux-ci, il montre le caractère significatif de la différence, ce qui est intéressant en particulier dans les tests de traitement d'une maladie.

[modifier] Utilisations possibles

[modifier] Test du χ² d'adéquation

[modifier] Généralités

Il s'agit de juger de l'adéquation entre une série de données statistiques et une loi de probabilité définie a priori (comme une loi uniforme ou une loi de Poisson par exemple).

Exemple concret : Soit un nombre donnĂ© de cultures cellulaires rigoureusement identiques. Chacune comporte un certain nombre de colonies. Toutes les cultures sont en fait des cultures de cellules cancĂ©reuses et on cherche Ă  dĂ©terminer dans quelle mesure l'action d'un produit empĂŞche leur division. PrĂ©cisĂ©ment on veut savoir si le nombre de colonies dont la croissance sera interrompue par le produit suit une loi de Poisson de paramètre λ.

Après avoir exposé les cellules au produit, on obtient des résultats précis: X1 colonies de la première culture ont subi l'influence du produit, X2 pour la deuxième culture... Xn pour la n-ième culture. On effectuera un test du χ² sur ces valeurs pour juger l'hypothèse selon laquelle leur distribution suit une loi de Poisson.

[modifier] Description

La statistique mathématique a pour but la description d'une population dont on ne connaît qu'un nombre relativement petit d'individus. Pour cela on associe une loi de probabilité à cette population. Mis à part certains problèmes de physique fondamentale et, à l'opposé, certains problèmes élémentaires (jeux de hasard équitables, par exemple), cette loi de probabilité est en toute rigueur inconnue. L'hypothèse selon laquelle la population suit une loi de probabilité donnée a priori peut être testée par la méthode décrite ci-après.

Lorsqu'on découvre un élément de la population, celui-ci est considéré comme une réalisation d'une variable aléatoire correspondant à la loi de probabilité choisie. Plus généralement, un ensemble d'éléments est une réalisation de ce qu'on appelle un échantillon aléatoire.

Les valeurs connues doivent être réparties entre diverses classes. En supposant l'indépendance des n\, valeurs considérées regroupées dans m\, classes, l'effectif de chaque classe i\, est une variable aléatoire définie par la loi multinomiale. La loi de probabilité testée permet de définir également pour chaque classe la probabilité p_i\,.

Les effectifs mesurés étant n_i\,, la quantité \sum_{i=1}^m \frac {(n_i - n \times p_i)^2} {n \times p_i} représente, d'une certaine manière, la distance entre les données et la loi de probabilité supposée. C'est une réalisation d'une variable aléatoire qui dérive d'une loi du χ² à (m-1) degrés de liberté. La probabilité donnée par les tables de dépassement de la valeur calculée donne alors une indication sur le réalisme de l'hypothèse.

Il est peu vraisemblable que les paramètres qui caractérisent la loi de probabilité (moyenne, variance, ...) soient connus au moment du test. Les données sont donc utilisées pour estimer ceux-ci, ce qui facilite l'adéquation. Il faut alors diminuer le nombre de degrés de liberté du nombre de paramètres estimé.

[modifier] Choix des classes

Celles-ci doivent ĂŞtre assez nombreuses pour ne pas perdre trop d'information mais, Ă  l'inverse, pour satisfaire les conditions requises par la mĂ©thode, elles ne doivent pas ĂŞtre trop petites. En thĂ©orie, il faudrait que les effectifs soient infinis pour que la loi normale s'applique mais il est gĂ©nĂ©ralement admis qu'il faut 5 Ă©lĂ©ments dans chaque classe. Cette règle a Ă©tĂ© très discutĂ©e et celle qui semble recueillir le plus de suffrages est due Ă  Cochran : 80 % des classes doivent satisfaire la règle des cinq Ă©lĂ©ments tandis que les autres doivent ĂŞtre non vides. On peut utiliser le crière de Yates pour dĂ©terminer ce nombre  C = 1 + 3.33 Log (n)\, .

Le critère porte sur les np_i\, déduits de la distribution de référence et non sur les n_i\, des données analysées. Il est souvent satisfait sans difficulté car, à la différence de la construction d'un histogramme, il est possible de jouer sur la largeur des classes.

[modifier] Test du χ² d'homogénéité

Il s'agit alors de se demander si deux listes de nombres de même effectif peuvent dériver de la même loi de probabilité. La méthode précédente s'applique en remplaçant le terme n p_i\, relatif à la loi de probabilité par n'_i\, relatif à la seconde liste et le \chi^2\, est donné par \sum_{i=1}^m \frac {(n_i - n'_i)^2} {n'_i}.

Cette notation s'inspire de celle utilisée pour le test d'adéquation, elle-même déduite de la notation classique de la loi multinomiale. Ici, comme dans le test d'indépendance, la notion de probabilité n'apparaît plus de manière explicite. De nombreux utilisateurs préfèrent donc adopter la notation qui utilise les symboles O_i\, pour les valeurs observées et E_i\, pour les valeurs espérées, ce qui conduit à l'expression \sum_{i=1}^m \frac {(O_i - E_i)^2} {E_i}.

[modifier] Test du χ² d'indépendance

[modifier] Exemple

[modifier] Problème

Lorsqu'on considère plusieurs populations auxquelles on associe le même ensemble de critères qualitatifs, l'hypothèse à tester est l'indépendance entre la population d'appartenance de l'individu et la valeur des critères. L'hypothèse affirme donc que le fait de connaître la population d'un individu n'influence pas la valeur des critères.

Pour ce problème, il est commode de partir d'un exemple concret, comme la relation entre le revenu et le sexe d'un individu. La distribution du revenu des hommes est-elle diffĂ©rente de celui des femmes ? Une reprĂ©sentation sur une table de contingence des occurrences des variables permet d'illustrer la question.

Salaire 1000-2000 2000-3000 3000-4000 4000-5000 Total
Hommes 50 70 110 60 290
Femmes 60 75 100 50 285
Total 110 145 210 110 575

Dans cet exemple fictif on remarque que les femmes sont plus nombreuses dans les classes Ă  bas salaires et moins nombreuses dans celles Ă  haut salaire que les hommes. Cette diffĂ©rence (c’est-Ă -dire cette dĂ©pendance entre les variables) est-elle statistiquement significative ? Le test du χ² aide Ă  rĂ©pondre Ă  cette question.

[modifier] Préparation

On peut constater que pour chaque ligne, il y a 4-1 = 3 variables indépendantes, et pour chaque colonne il y a 2-1 = 1 variable indépendante, ce qui conduit à 3 x 1 = 3 degrés de liberté.

Si on se donne un risque de se tromper (rejeter Ă  tort l'hypothèse nulle) Ă©gal Ă  5 %, la valeur critique trouvĂ©e dans les tables est 7,81.

[modifier] Hypothèse

Il faut bâtir l'hypothèse nulle qui, dans ce cas, ne dépend ni d'une loi de probabilité, ni d'une distribution de référence. On suppose qu'il n'y a pas de différence entre les salaires des hommes et ceux des femmes, les proportions des différentes catégories de salaires étant donc conservées d'une ligne à l'autre.

Les données correspondantes sont obtenues en remplaçant la valeur de chaque cellule par le produit du total de sa colonne, divisé par le total général, et multiplié par le total de sa ligne. On vérifie que les totaux sont inchangés.

Hypothèse 1000-2000 2000-3000 3000-4000 4000-5000 Total
Hommes 55,5 73,1 105,9 55,5 290,0
Femmes 54,5 71,9 104,1 54,5 285,0
Total 110,0 145,0 210,0 110,0 575,0
[modifier] Calcul

Le calcul du χ² des données s'effectue en remplaçant le terme relatif à chaque cellule par la quantité \frac {(O-E)^2} E\, indiquée pour le test d'homogénéité et calculée à partir des deux tableaux précédents.

\chi^2\, 1000-2000 2000-3000 3000-4000 4000-5000 Total
Hommes 0,54 0,13 0,16 0,37 1,20
Femmes 0,55 0,14 0,16 0,38 1,23
Total 1,09 0,27 0,32 0,75 2,43
[modifier] Conclusion

La distance calculée (2,43) étant inférieure à la distance critique (7,81), il n'y a pas lieu de mettre en cause l'égalité des salaires, avec un risque de se tromper égal à 5%.

Il convient de rappeler que ce résultat repose sur des données choisies arbitrairement qui ont... peu de chance de représenter une réalité quelconque.

De manière plus profonde, les classes choisies, à la différence de ce qui se passait dans les tests d'adéquation et d'homogénéité, bien que présentant ici un aspect numérique, pourraient fort bien être associées à des notions qualitatives sans que le raisonnement soit modifié.

[modifier] Test utilisé

Le test utilisé, le Chi-carré de Pearson, s'intéresse à la différence entre la valeur observée Oij (ou valeur empirique) et la valeur attendue s'il y avait indépendance Eij; (ou valeur théorique).

 \chi^2 = \sum_{i,j} \frac{(O_{ij} - E_{ij})^2}{E_{ij}}

avec

  • Oij la valeur observĂ©e
  • Eij la valeur attendue sous l'hypothèse d'indĂ©pendance.

On a :

 E_{i,j} = \frac{O_{i+} \times O_{+j}}{N}

oĂą

  O_{i+}=\sum_{j=1}^{J}{O_{ij}}

et

  O_{+j}=\sum_{i=1}^{I}{O_{ij}}

[modifier] Formulation du test

H0 : p(\mathrm{A \cap B})=p(\mathrm{A})\times p(\mathrm{B}) : les variables sont indĂ©pendantes (Hypothèse nulle).

H1 : p(\mathrm{A \cap B}) \ne p(\mathrm{A}) \times p(\mathrm{B}) : les variables ne sont pas indĂ©pendantes, l'Ă©cart entre valeur observĂ©e et attendue n'est pas dĂ» au hasard).

[modifier] Distribution du test

Cette statistique suit asymptotiquement une Loi du χ² à (I-1)(J-1) degrés de liberté, avec I le nombre de modalités de la première variable et J les nombre de modalités de la seconde variable.

[modifier] Conditions du test

Plusieurs auteurs proposent des critères pour savoir si un test est valide, voir par exemple [PDF] The Power of Categorical Goodness-Of-Fit Test Statistics p. 19 (p. 11 du ch. 2), Michael C. Steele. On utilise en gĂ©nĂ©ral le critère de Cochran de 1954 selon lequel toutes les classes i, j doivent avoir une valeur thĂ©orique non nulle (E i, j ≥ 1), et que 80 % des classes doivent avoir une valeur thĂ©orique supĂ©rieure ou Ă©gal Ă  5 :

E i,j ≥ 5

Lorsque le nombre de classes est petit, cela revient à dire que toutes les classes doivent contenir un effectif théorique supérieur ou égal à 5.

D'autres valeurs ont Ă©tĂ© proposĂ©es pour l'effectif thĂ©orique minimal : 5 ou 10 pour tous (Cochran, 1952), 10 (CramĂ©r, 1946) ou 20 (Kendall, 1952). Dans tous les cas, ces valeurs sont arbitraires.

Certains auteurs ont proposĂ© des critères basĂ©s sur des simulations, par exemple :

  • effectif thĂ©orique supĂ©rieur Ă  5r/k pour chaque classe, oĂą r est le nombre de classes ayant un effectif supĂ©rieur ou Ă©gal Ă  5 et k est le nombre de catĂ©gories (Yarnold, 1970) ;
  • N²/k ≥ 10, oĂą N est l'effectif total et k est toujours le nombre de catĂ©gories (Koehler et Larntz, 1980). Pour voir recommedations plus rĂ©centes on peut regarder, par exemple, P. Greenwood and M. Nikulin "A Guide to Chi-Squared Testing", (1996), John Wiley and Sons.

[modifier] Tests apparentés

Il existe un test asymptotique très semblable, le test du rapport de vraisemblance (likelihood ratio test), ainsi qu'un test exact, le test de Fisher.

[modifier] Justification

Le développement des méthodes bayésiennes - seules utilisables lorsqu'on n'a que peu de données sous la main - a dégagé un test de vraisemblance nommé le psi-test, dont Myron Tribus fait remarquer qu'il devient asymptotiquement identique au χ² à mesure que le nombre de données augmente[3].

[modifier] Indépendance

Soient A et B les deux variables dont on souhaite tester l'indépendance.

Pour rappel, si A et B sont indĂ©pendantes on a la relation suivante :

p(A\cap B) = p(A) \times p(B)

ou pour la fonction de densitĂ© conjointe :

 f_{X,Y}(x,y)=\ f_X(x) \times f_Y(y)

Soit ici

E_{ij} = p(\mathrm{A} = i \cap \mathrm{B} = j) \times N = p(\mathrm{A} = i) \times p(\mathrm{B} = j) \times N
[modifier] Estimation des valeurs attendues (théoriques)

Que vaut p(A=i ) ?

Ă€ partir de la table de contingence, on prendra simplement la somme de toutes les valeurs oĂą A = 1, soit, dans notre notation

O1+

Ainsi

E_{ij} = \frac{O_{i+}}{N} \times \frac{O_{+j}}{N} \times N = \frac{O_{i+} \times O_{+j}}{N}
[modifier] Distribution du test

Pour la preuve que le test suit une loi Chi-carrĂ©, on en donnera ici que quelques « pistes Â».

Si on suppose que chaque xij suit une loi de Poisson, on peut montrer que les valeurs standardisées

z_{ij}=(x_{ij}-\bar x_{ij})/\sqrt {\bar x_{ij}}

suivent asymptotiquement une loi normale. Alors

\sum_{i} \sum_{j} z_{ij}^2

suit asymptotiquement une loi Chi-carré à IJ-1 degrés de liberté

Quant aux degrĂ©s de libertĂ©s, comme on doit estimer les \bar x_{ij}, on perd (I-1)+(J-1) degrĂ©s de libertĂ© (et non pas I+J car \sum O_{i+} = \sum O_{+j} =1  : le dernier paramètre se dĂ©duit des autres). On a alors au final

IJ-1-(I-1)-(J-1) = I(J-1)-(J-1) = (I-1)Ă—(J-1)

[modifier] Remarque

Les phénomènes quantifiables au sein d'une population sont soumis à des fluctuations statistiques. Considérons par exemple le taux de chômage dans un état donné, ou bien le taux de croissance.

D'une annĂ©e sur l'autre, des variations dans ces taux sont systĂ©matiquement enregistrĂ©es (baisse ou hausse) pour autant elles ne signifient pas en elle-mĂŞme, contrairement Ă  une croyance trop rĂ©pandue, que la variable considĂ©rĂ©e (taux de croissance ou de chĂ´mage) a bel et bien changĂ© (rigoureusement qu'elle a changĂ© de loi, c’est-Ă -dire que des procĂ©dĂ©s mis en place sont venus influencer sa distribution). Lorsque l'on considère une variable, il faut distinguer l'impact causal de la fluctuation statistique alĂ©atoire. Ainsi, une baisse du taux de chĂ´mage de 2% d'une annĂ©e Ă  l'autre peut très bien n'ĂŞtre imputable qu'au caractère alĂ©atoire de la variable « taux de chĂ´mage Â» et ne rien signifier sur le plan causal. Cette baisse ne signifie pas d'elle-mĂŞme que des mesures efficaces ont influencĂ© la loi de distribution du chĂ´mage. Seuls les tests statistiques sont connus actuellement pour faire foi et dĂ©terminer (Ă  un seuil donnĂ©) si cette variation est le fruit du hasard ou non. Ă€ cet Ă©gard les tests du χ² sont exceptionnellement utiles.

[modifier] Notes et références

  1. ↑ prononcez « khi-deux Â» ou « khi carrĂ© Â»
  2. ↑ (en) Stephen Stigler, « Karl Pearson’s theoretical errors and the advances they inspired Â», dans Statistical Science, no 23, 2008, p. 261–271 [texte intĂ©gral (page consultĂ©e le 28 dĂ©cembre 2011)] 
  3. ↑ Myron Tribus, Décisions rationnelles dans l'incertain, Traduction française de Jacques Pézier, Masson, 1974

[modifier] Voir aussi

[modifier] Articles connexes

  • Loi du χ²
  • Valeur p

[modifier] Liens externes


wikipediaCet article est issu de l'encyclopédie libre Wikipedia.
Vous pouvez consulter l'article ici ainsi que son historique.
Les textes et les images sont disponibles sous les termes de la Licence de documentation libre GNU.


maths haut de pagehaut Retrouvez cette page sur ilemaths l'île des mathématiques
© Tom_Pascal & Océane 2012