Detta ger oss att kanalkapaciteten för den ursprungliga kanalen är C = q 1 C 1 + q 2 C C =1 h ( ) 0.30.

Transkript

1 Lösning på problem a) Kanalen är symmetrisk och vi gör nedanstående uppdelning av den. Vi får två starkt symmetriska kanaler vilkas kanalkapacitet ges av C och C 2. Kanalerna väljes med sannolikheterna q = = 0.46 och q 2 = = q =0.46 q 2 =0.54 X 0 C = h ( ) Y X 0 C 2 = h Detta ger oss att kanalkapaciteten för den ursprungliga kanalen är C = q C + q 2 C b) Väljer vi att göra hård avkodning får vi en kanal med kanalkapaciteten C = h ( ) ( ) c) Det ovanstående visar att kanalkapaciteten ökar då vi har en kanal med fler utsymboler än insymboler, dvs. då vi nyttjar det som kallas mjuk avkodning. Givetvis finns det en övre gräns för vad som är möjligt att uppnå med kanalkapaciteten. För vår kanal med två insymboler kan kanalkapaciteten aldrig bli mer än bit per tidsenhet. Y 2 Bedömning av de olika delarna vid rättning Poängfördelningen är Endast en helt korrekt lösning ger 0 poäng.

2 Lösning på problem 2 Enligt problemställningen skall kodorden v väljas från koden B, dvs. v B= {0000, 0, 00, 0}. Koden är lineär, dvs. om v Boch v 2 Bså är v + v 2 = v 3 B. Vi har fyra kodord varför vi skall koda insekvenser av längden två (= x i x i+ )påkodord....x i x }{{ i+... Kodare } u v BSC r Avkodare û a) En lineär kodare kan specificeras på 6 olika sätt. Med hjälp av en generatormatris kan vi utföra kodningen. Nedan finns de möjliga matriserna. ( ) ( ) ( ) ( ) ( ) ( ) G =,G 00 2 =,G 0 3 =,G 0 4 =,G 0 5 = och G 0 6 = 00 Anmärkning: Totalt kan vi specificera 24 olika kodare varav 8 är olineära. b) Oberoende av hur kodningen sker är 0000 och 00 två kodord. Antag att mottagaren erhåller r = 000. Enligt problemställningen har vi att Pr(utsymbol insymbol) =0., dvs. ett fel är mer troligt än två fel. En ML-avkodare kan då välja något av kodorden 0000 och 00. Hur valet än sker, dvs. hur avkodaren specificeras, har det skett ett enkelfel. Slutsats: Vi kan ej specificera en ML-avkodare entydigt. c) En MAP-avkodare väljer det meddelande û som maximerar f(r, û) = Pr(r v)pr(û) där v är det kodord som skickas om meddelandet är û och r är den mottagna symbolen. För att vi skall kunna specificer an MAP-avkodare entydigt måste vi undvika att f(r, û )=f(r, û 2 ) för två olika meddelanden û och û 2. Om vi betecknar antalet fel vid en tänkt överföring med #fel och samtidigt låter #ettor beteckna antalet ettor i ett meddelande kan ovanstående uttryck skrivas som f(r, û) =0. #fel #fel 0.8 #ettor #ettor = #fel #ettor. En förutsättning för att f(r, û )=f(r, û 2 ) är att både û och û 2 innehåller lika många ettor, dvs. att de är meddelanden 0 och 0. En annan förutsättning för att f(r, û )=f(r, û 2 ) är att kodorden v och v 2 båda ligger lika långt från r, dvs. att#fel är lika för de båda fallen. Kan vi undvika detta kan vi specificera en unik MAP-avkodare. Vi skall undvika att meddelanden 0 och 0 avbildas på kodorden 0000 och 00 (olineär kodning). Vidare skall vi undvika att 0 och 0 avbildas på 0 och 0. Detsenare betyder att vi inte kan använda kodarna G 2 och G 5. Ej heller kan vi använda två av de olineära (Följdfråga: Vilka?).

3 Poängfördelningen är Endast en helt korrekt lösning ger 0 poäng.

4 Lösning på problem 3 Från tabellen i problemet får vi att totala försäljningsvolymen är 844 m 3. Vi sorterar tabellens innehåll efter sjunkande volym. Namn Volym Ödåkra Taffelaqvavit 7 Överste Brännvin 2 Gammal Norrlands Akvavit 34 Herrgårds Aquavit 62 Nyköpings Brännvin 05 O.P. Anderson 24 Skåne Akvavit 40 a) En optimal testalgoritm erhålles om vi först Huffmankodar objekten (=de kryddade brännvinssorterna) och därefter till varje nod associerar ett test som skiljer på de olika grenarna i trädet. För att koda objekten behövs deras relativa frekvens. Väl medvetna om den totala försäljningsvolymen räknar vi med de specificerade försäljningsvolymerna. Kodträdet ges nedan. 7 Ödåkra Taffelaqvavit 9 2 Överste Brännvin Gammal Norrlands Akvavit 5 62 Herrgårds Aquavit Nyköpings Brännvin O.P. Anderson Skåne Akvavit För att bestämma medelvärdet av antalet test använder vi path length lemma. E [antalet test] = I medel måste det drickas 2 snapsar. Är det fyror eller sexor? b) För att med hjälp av sällskapets personer att förverkliga en testalgoritm som avgör vilken av brännvinsorterna det är som avsmakas är vi i den lyckliga sitationen att det finns en person som kan besvara den första frågan som skall ställas i en optimal testalgoritm. Nisse kan, om han är närvarande, besvara frågan "Är det Skåne?". Därefter måste vi kunna skilja på de återstående sorterna om det nu inte är Skåne. Vi gör en beslutstabell.

5 Ödåkra Taffelaqvav Överste Brännvin Gammal Norrlands Herrgårds Aquavit Nyköpings Brännvin O.P. Anderson Innehåller snapsen kummin? ja ja ja ja nej ja Innehåller snapsen anis? nej nej ja nej ja ja Innehåller snapsen fänkål? ja nej ja ja nej ja Innehåller snapsen sherry? nej nej ja ja nej nej Tabellen visar att sällskapet kan bestämma brännvinssorten kolumnerna i tabellen är distinkta. För att göra en testalgoritm väljer vi att göra en första ordningens optimal testalgoritm. Frågan "Innehåller snapsen fänkål?" ger maximal entropi varför vi väljer denna. Om svaret är "nej" på frågan "Innehåller snapsen fänkål?" har vi det följande. Överste Brännvin Nyköpings Brännvin Innehåller snapsen kummin? ja nej Innehåller snapsen anis? nej ja Innehåller snapsen sherry? nej nej Meningslöst test Att testa efter kummin eller anis betämmer brännvinssorten. Om svaret är "ja" på frågan "Innehåller snapsen fänkål?" har vi det följande. Ödåkra Taffelaqvavit Gammal Norrlands Akvavit Herrgårds Aquavit O.P. Anderson Innehåller snapsen kummin? ja ja ja ja Meningslöst test Innehåller snapsen anis? nej ja nej ja Innehåller snapsen sherry? nej ja ja nej Frågan "Innehåller snapsen sherry?" ger maximal entropi varför vi väljer denna. Denna fråga måste i båda utfallen följas av frågan "Innehåller snapsen anis?", dvs. frågeordningen spelar ingen roll. Kommentar: Vi behöver aldrig ställa frågan "Innehåller snapsen kummin?".

6 testas. ja nej Skåne Skåne Akvavit Gammal Norrlands Akvavit Anis Sherry Herrgårds Aquavit O.P. Anderson Anis Fänkål Ödåkra Taffelaqvavit Nyköpings Brännvin Anis Överste Brännvin Antalet snapsar som sällskapet måste testa ges av: E [antalet test] = Bedömning av de olika delarna vid rättning Poängfördelningen är 6+4. Endast en helt korrekt lösning ger 0 poäng.

7 Lösning på problem 4 a) In- och utalfabeten är binära, dvs. X = X 2 = Y = {0, }. Kanalen ges av Y = X + X 2 mod 2. Enligt sats 6.4 är kapacitetsområdet R = co{(r,r 2 ); f X X 2 (x,x 2 )=f X (x ) f X2 (x 2 ) sådan att 0 R I(X ; Y X 2 )=H(Y X 2 ) }{{} =H(X ) H(Y X X 2 ) }{{} =0 = H(X ), 0 R 2 I(X 2 ; Y X )=H(X 2 ), R + R 2 I(X X 2 ; Y )=H(Y) H(Y X X 2 )=H(Y) } = = {(R,R 2 ); 0 R, 0 R 2,R + R 2 }, där den optimala funktionen för ingångssannolikheterna är f X X 2 (x,x 2 )= 4 R 2 för alla (x,x 2 ). R + R 2 betyder att det inte finns några bättre koder än vad vi kan uppnå med tidsdelning. R b) Vi har att Y = X + X 2 mod 2. Antag att vi är den vänstra sidan i figuren i problemformuleringen. Då känner vi utfallet av X samtidigt som vi observerar Y. X 2 beräknar vi enligt: Y = X + X 2 mod 2 X 2 = Y X mod 2 = Y + X mod 2 R 2 Allt i högerledet är känt för mottagaren varför vi alltid kan avkoda det som sändare 2 (högra sidan) skickar till mottagare (vänstra sidan). Kapacitetsområdet visas i figuren härintill till höger. R c) Nu har vi X {, }, X 2 {, } och Y = X X 2. Låt oss göra en multiplikationstabell, dvs. en tabell över kanalen. Som en jämförelse ger vi också tabellen för kanalen i deluppgift b). X X 2 Y X 2 X + X 2 mod 2 0 X Kanalerna visar att en omkodning, 0 och, överför den vänstra till den högra varför kapacitetsområdet är detsamma som i b). Bedömning av de olika delarna vid rättning Poängfördelningen är Endast en helt korrekt lösning ger 0 poäng.

8 Lösning på problem 5 Vi inför en hjälpvariabel Z för signalen mellan modulerna i respektive system. System X modul Z modul 2 Y a) Här utfördes först kodning och därefter kryptering. Systemet kan beskrivas av nedanstående tabell. X Z Y K =0 K = Från tabellen konstaterar vi att Y kan anta alla möjliga kombinationer av tre binära variabler, dvs. Y {000, 00,...,}. Vidare ser vi att varje värde förekommer endast en gång. Slutsats: Den funktion som systemet realiserar Y = f(x) är inverterbar varför H(X Y )=0. Här råder ingen osäkerhet. Enligt problemformuleringen är "Alla meddelanden är lika sannolika" vilket ger att I(X; Y )=H(X) =log4=2. b) Här utfördes först kryptering och därefter kodning. Systemet kan beskrivas av nedanstående tabell. K =0 K = X Z Y Z Y För detta system ges Y av koden (dvs. mängden av kodord), dvs. Y {000, 0, 0, 0}. För varje värde på Y finns två olika värden på X. Detta ger att H(X Y )=H(K) =log2= ty nyckeln K är "likafördelad". Vi erhåller I(X; Y )=H(X) H(X Y )=2 =. c) Kryptering skall givetvis genomföras före kanalkodning. System är kass ur sekretessynpunkt ty genom att observera kryptotexten kan vi med lätthet beräkna klartexten. Bedömning av de olika delarna vid rättning Poängfördelningen är Endast en helt korrekt lösning ger 0 poäng.