Informationstheorie (fragen zu Aufgabe)
Verfasst: Sonntag 17. Juli 2016, 17:56
Hallo ,
habe paar fragen zu der aufgabe:
Stimmt die aufgabe?
Und was muss ich bei der b beachten ? wie solle ich die 4 unterschiedliche werte rechnen?
Diese Quelle habe das Alpahbet A{a;b;c;d;e;f} mit den entsprechenden Wahrscheinlichkeiten p(A)=(0,1;0,15;0,20;0,25;0,15;0,15)
a) Ermitteln sie die Entropie dieser Quelle.
b) nun sollen nur noch 4 unterschiedliche Werte übertragen werden. Dabei soll die Entropie möglichst groß werden. Welche Werte würden sie wie zusammenfassen? Geben sie die entsprechenden Wahrscheinlichkeiten für die neune Werte an und berechnen sie die neue Entropie.
c)
Welche quelle nutzt ihre maximale verfügbare Entropie besser aus, die aus Aufgabeteil (a) oder die aus teil (b)
Lösung:
a)
[ATTACH]10828[/ATTACH]
b)
0,1+0,15+0,15=0,4
0,2
0,25
0,15
[ATTACH]10829[/ATTACH]
c)
a.H_max=ld(von a)=ld(6)=2,585 bit
2,585-2,528=0,06
b.H_max=ld(von b)=ld(4)=2 bit
2-1,903 =0,097
Die Aufgabe a nutzt die maximale Entropie besser aus.
Danke
habe paar fragen zu der aufgabe:
Stimmt die aufgabe?
Und was muss ich bei der b beachten ? wie solle ich die 4 unterschiedliche werte rechnen?
Diese Quelle habe das Alpahbet A{a;b;c;d;e;f} mit den entsprechenden Wahrscheinlichkeiten p(A)=(0,1;0,15;0,20;0,25;0,15;0,15)
a) Ermitteln sie die Entropie dieser Quelle.
b) nun sollen nur noch 4 unterschiedliche Werte übertragen werden. Dabei soll die Entropie möglichst groß werden. Welche Werte würden sie wie zusammenfassen? Geben sie die entsprechenden Wahrscheinlichkeiten für die neune Werte an und berechnen sie die neue Entropie.
c)
Welche quelle nutzt ihre maximale verfügbare Entropie besser aus, die aus Aufgabeteil (a) oder die aus teil (b)
Lösung:
a)
[ATTACH]10828[/ATTACH]
b)
0,1+0,15+0,15=0,4
0,2
0,25
0,15
[ATTACH]10829[/ATTACH]
c)
a.H_max=ld(von a)=ld(6)=2,585 bit
2,585-2,528=0,06
b.H_max=ld(von b)=ld(4)=2 bit
2-1,903 =0,097
Die Aufgabe a nutzt die maximale Entropie besser aus.
Danke