Bonjour,

Quelqu'un s'y connait-il en théorie de l'information ? Sur cet article de wiki : on définit l'information mutuelle entre 2 variables aléatoires et on remarque que cela s'exprime avec la divergence de Kullback-Leibler. Il est écrit que la divergence de Kullback-Leibler s'interpréte comme un apport de bits d'information. J'aimerais comprendre mieux cela. Quelqu'un a des explications ou des références ?

Merci pour votre attention