bonsoir,
tu as la formule donnant l'entropie de X?
H(X )=-₁ⁿp_ilogp_i
tu as étudié les logarithmes?
X ne prend que deux valeurs 0 et 1 d'aprés la loi conjointe p(X=0)=1/2 et p(X=1)=1/2
H(X)=-(1/2log(1/2)+1/2log(1/2))=-log(1/2)=log(2)
même technique pour l'entropie de Y

Merci veleda pour ta réponse,
Tu as fait comme pour trouver P(X=0)=1/2 ?
P(X=0)=P(X=0,Y=0)+P(X=0,Y=1) ?
J'ai également la formule pour calculer l'entropie jointe H(X,Y) et les deux entropies conditionnelles H(X/Y) et H(Y/X). Est ce normal que le calcul de ces 2 entropies soient si long?
Quoi à propos de H(X:Y)?
Merci encore

bonjour,
avec la loi conjointe tu peux trouver la loi de X et la loi de Y
(X=0)=(X=0Y=0)(X=0Y=1)
en passant aux probabilités
p(X=0)=p(X=0Y=0)+p(X=0Y=1)=1/4+1/4=1/2

pour Y p(Y=0)=1/4+1/2=3/4  et p(Y=1)=1/4

tu parles du calcul des entropies conditionnelles? je n'ai pas encore eu le temps de chercher

remarque:si tu utilises le logarithme de base 2 H(X)=1

je viens de calculer H(X,Y),je trouve 3/2(log2)
pour H(Y/X) je trouve 1/2(log2)
on doit avoir H(X,Y)=H(X)+H(Y/X)=log(2)+1/2(log2)=3/2(log2)   ça a l'air d'être ça
qu'est ce que tu trouves?

sauf erreur
H(Y)=-3/4log3+log2
H(X/Y)=3/4log3 -1/2log2
H(Y)+H(X/Y)=3/2log2=H(X,Y)

Merci tjrs pour ta réponse veleda
Je donnerai ici H(X) et H(X):
Pour H(X), on a,

Ce qui donne

Concernant H(Y), on a,

Ainsi

Pour l'entropie conjointe, on a,

Pour l'entropie conditionnelle, on a, H(X/Y)=H(X,Y)-H(Y).
Ainsi,




Et H(Y/X)=H(X,Y)-H(X).
D'où,

bonsoir,
je ne trouve pas comme toi pour H(Y)
on a bien p(Y=0)=3/4 et p(Y=1)=1/4
donc H(Y)=-(3/4log(3/4)+1/4log(1/4)=-1/4(3log(3/4)+log(1/4))=-1/4(3log3+3log(1/4)+log(1/4))=-1/4(3log3+4log(1/4))=-3/4log(3)+log4=-3/4log3 +2log2

je ne comprends pas ton 2/3??par contre j'avais  du perdre un log2 en route ,j'en trouve 2
il faudra recompter

Erf, j'ai mal fait les calculs. J'ai pris P(Y=0)=3/2 au lieu de 3/4 ce qui est faut (déjà p est tjrs < ou = à 1) enfin bon, tes calculs sont justes.

veleda, c'est quoi ta spécialité?

les maths pourquoi?

Rien, moi je fais de la gymnastique avec la théorie de l'information. Je vais foutre un autre exo, j'espère te voir dessus