Exercices sur la théorie de l'information 3, Exercices de Applications des sciences informatiques
Christophe
Christophe3 March 2014

Exercices sur la théorie de l'information 3, Exercices de Applications des sciences informatiques

PDF (133.5 KB)
2 pages
140Numéro de visites
Description
Exercices d’informatique sur la théorie de l'information - 3 Les principaux thèmes abordés sont les suivants: exercices.
20points
Points de téléchargement necessaire pour télécharger
ce document
Télécharger le document

Année 20Il-2012 1èt" session

Notvt DU MoDUr,E : Théorie de I'information Coop DU MoDUr,p : IS103

Norr,r DU RESPoNSABLE : Nasser SAHEB

Filière : Informatique Année : 2012 Semestre : 1

Date de I'examen : 19/0112012 Durée de l'examen : 2h

Documents autorisés X sans document n Calculatrice autorisée X non autorisée !

Autre :

Barème

Questions : 7 points Exercices 5, 6, 6 points

NB : N'oubliez pas que le logarithme est à base 2 !

Questions - Justifiez vos réponses

1. Dire et justifier par une ou deux phrases si les propositions suivantes sont vraies :

o H(xlY) : H(2xlY). o H ( X 1 , . . . , X n ) S D r . o . " , H ( X o ) .

o Soit M Ie cardinal de I'alphabet .4. Soient les mots 'trr,, . . . ,'rDk € A* tels gue Dr<, ap M-l-nl < 1. Alors {.t,.. .,wk} est un code déchiffrable.

. H(p t ,p2 . . . ,pn) : H(p t I pz ,ps , . . . ,pn) * (p , + pz)H(#A, #* ) . o Un canal est de capacité nulle ssi son entrée et sa sortie sont indépendantes.

o Un canal est de capacité nulle ssi toutes les lignes de sa matrice sont identiques.

o Un canal est de capacité 1 ssi fI(Xly) : 0 pour toute distribution d'entrée.

o Si trZ : {ur,.. . ,un} et W' : {ur,. . . ,ut} sont des codes préfrxes sur un alphabet A, alors i l en est de même pour WW' (leur concaténation).

2. o Dans quelle condition a-t-on I(XIY) : H(X) + H(Y) ?

o Quelle est la valeur maximale de I(X,Y) pour H(X) fixée ?

o Étant donnée une distribution de probabilité p1,...,pte, existe-t-il un code binaire déchiffrable de mots de longueurs respect ives /1 , . . . , lk avecl i : l log( l lpo)] ,1 < i < k?

Exercice L. On dispose d'un dé authentique et un dé pipé. Pour le premier on a IF(l) : P(6) : $, alors que pour le deuxième tr(6) : â,P(1) : P(2) :...: P(5) : +. On choisit un des dés avec la même probabil ité Il2. Le dé choisi sera lancé. La v.a. X désigne le dé choisi, 1 pour Ie dé authentique et 2 pour le pipé; Y désigne la face obtenue par le lancer.

1. Calculer H(X),H(Y) et f / (YlX).

2. En déduire I(XlY).

3. Soit la v.a. Z désignant la parité de Y. Calculer I(X\Z).

docsity.com

Exercice 2. Soit une source d'information qui émet à chaque microseconde un des 6 signaux a,b, c, d, e, f . On suppose qu'elle est sans mémoire et que les occurrences de ces signaux sont de probabilités 0.4,0.1, 0.06,0.1,

0.3, 0.04 respectivement.

1. Calculer le débit d'information engendrée par ,S.

2. Si l'on veut coder ces signaux avec les mots binaires de même longueur, quelle est la longueur minimale que I'on peut proposer ? calculer l'efficacité d'un tel code.

3. Peut-on construire un code binaire de longueur moyenne 2.I ?

4. {0, 100, 1100, 101,111,1101} est-i l un code déchiffrable ? Si oui, calculer son efficacité et sa redondance.

5. Construire un code de Huffman et calculer son efficacité.

Exercice 3. Soit un canal bruité d'alphabet commun d'entrée-sortie A : { 1, 2,3} et de matrice :

/o.e 0.4 o \ l o . 4 o 0 . 6 l \ 0 0.6 0.4/

Désignons par X et Y I'entrée et Ia sortie du canal.

1. Pour la distribution d'entrée (0.6,0.3,0.1), trouver :

o H(x)

o H(Y)

o I ( X , Y ) .

2. Quelle est la capacité du canal ?

3. Pour la distribution (If2,ll4,1,l+) d'entrée, quel est le schéma de décision de décodage de I'observateur idéal ?

docsity.com

commentaires (0)
Aucun commentaire n'a été pas fait
Écrire ton premier commentaire
Ceci c'est un aperçu avant impression
Chercher dans l'extrait du document
Docsity n'est pas optimisée pour le navigateur que vous utilisez. Passez à Google Chrome, Firefox, Internet Explorer ou Safari 9+! Téléchargez Google Chrome