Informatique II

Informatique II - Partie 3



Partie III - Qu'est-ce que l'information? 

Peut-on quantifier le contenu d'une information à transmettre ? Combien d'information est perdue lors d'une transmission ? Comment peut-on minimiser cette perte ? Jusqu'à quel point peut-on compresser un document sans perdre d'information ? Voici le genre de questions auxquelles tente de répondre la théorie de l'information.

Codes de correction d'erreur

Au cours de la transmission d'un document au travers d'un canal bruité, il y a toujours une probabilité p pour qu'un bit soit transmis incorrectement. Ce "bit flip" est dû au bruit dans le canal. Le nombre de bits mal transmis sur un message de longueur N est N*p.

L'information reçue peut donc être sensiblement différente de celle envoyée.

Il existe différents moyens de coder une information afin de récupérer celle-ci intacte après transmission. Nous allons voir quelques-uns de ces codes.

Comparons désormais un code de répétition et deux codes de Hamming.

L'entropie

L'entropie est en quelque sorte l'incertitude existante et appariée à un problème, à une question. Prenons l'exemple d'un chocolat qu'il s'agit de retrouver dans N boîtes fermées et considérons que la probabilité d'être dans chaque boîte est identique.
Si N=1, alors l'entropie est nulle, car on est srs de savoir o se trouve le chocolat (pas d'incertitude).
Si N=2, nous avons une chance sur deux de trouver le chocolat du premier coup, on dit que la probabilité de trouver le chocolat est de 1/2. L'incertitude augmente, et l'entropie avec.
Si N=4, une chance sur quatre, la probabilité est alors de 1/4, entropie encore augmentée, etc. L'entropie augmente donc avec N et suit un comportement logarithmique. On note l'entropie H = f(N) = log2N comme fonction de N.
Dans notre exemple, la probabilité d'être dans chaque boîte était identique, mais il arrive dans de nombreux problèmes que la distribution de probabilité ne soit pas homogène. L'entropie se comporte alors différemment.

Ici, nous avons 3 cas de figure :
1: une distibution équiprobable. Dans ce cas, l'incertitude est maximale : on ne sait pas à priori dans quelle "boîte" commencer pour trouver le chocolat.
2: une distribution inhomogène : l'incertitude est plus faible, car l'on aura tendance, par exemple, à chercher d'abord dans les boîtes aux probabilités les plus hautes (les 2 plus hautes barres).
3: une distribution sur un pic : l'incertitude est nulle : on a toutes les chances de trouver le chocolat dans la boîte dont la probabilité est 1.

La somme des probabilités liées à un évènement vaut 1, quelle que soit la distribution des probabilités.

L'entropie H est très importante, car elle nous donne de nombreuses informations. Elle nous donne par exemple le nombre minimal de questions qu'il est nécessaire de poser pour répondre à une énigme, une borne inférieure pour la compression d'un document, etc. Prenons l'exemple d'une séquence composée de N différents éléments. Il existe 2NH séquences significatives et chacune de ces séquences a une probabilité 2-NH d'apparaître. Les autres séquences n'ont qu'une probabilité négligeable d'apparaître.
Une autre information précieuse est l'information mutuelle I. L'information mutuelle est donnée par la différence entre l'entropie de départ et d'arrivée.

Cette information est à la base de la théoriede Shannon. Celui-ci nous dit qu'une communication fiable peut être effectuée en présence d'un canal bruité et ceci à un taux de transmission fini r pour autant que l'information transmise soit suffisamment importante. Dans ce cas, r=I.

Calcul des probabilités

Le calcul des probabilités est très utile. Familiarisez-vous avec les formules importantes et leur maniement.


Codes de compression

Afin de gagner du temps lors de la transmission d'une information, il est intéressant de pouvoir compresser un document, un texte, une image. L'entropie prend ici toute son importance. Elle nous donne une borne inférieure pour la compression. En effet, la compression d'une séquence de N bits nécessite au moins NH bits à émettre et H est le nombre moyen de bits à émettre. Nous allons voir différents codes de compression.


Pour visualiser l'algorithme, le lien ci-dessous est intéressant : http://www.data-compression.com/lempelziv.shtml