Kodning med distorsion

Transkript

1 Kodning med distorsion Vi har en signal x n, n = 1... N som ska kodas. Alfabetet är en delmängd av de reella talen A R. Alfabetet kan vara kontinuerligt. Om vi inte har kravet att den avkodade signalen ska vara exakt densamma som originalsignalen kan vi få en lägre datatakt än om vi har distorsionsfri kodning. Typiskt så beskriver man signalen med ett mindre alfabet än vad originalsignalen har (kvantisering). I de fall man har ett kontinuerligt alfabet skulle det generellt krävas ett oändligt antal bitar för att beskriva signalen exakt. Ju fler bitar som kan användas, desto mer lik originalsignalen kommer den avkodade signalen ˆx n vara.

2 Distorsionsmått Vi behöver ett mått på hur mycket signalen har förstörts, den s.k. distorsionen. Det allra vanligaste är att man använder ett kvadratisk felmått och att man medelvärdesbildar över hela sekvensen D = 1 N N (x n ˆx n ) 2 n=1 Detta är medelkvadratfelet (mean square error) för sekvensen. I vissa sammanhang händer det att man istället använder absolutvärdet av felet istället för kvadraten.

3 SNR Ofta vill man betrakta distorsionen (bruseffekten) i förhållande till signaleffekten, det s.k. signal-brus-förhållandet (SNR) N σ 2 x = 1 N n=1 x 2 n SNR anges nästan alltid i db SNR = σ2 x D SNR = 10 log 10 σ 2 x D

4 PSNR Vid kodning av stillbilder och video används ofta peak-to-peak signal to noise ratio (PSNR) PSNR = 10 log 10 x 2 pp D där x pp är skillnaden mellan signalens största och minsta värde. Till exempel, om datat man kodar är en gråskalebild kvantiserad till 8 bitar innebär det att insignalen kan ta värden mellan 0 och 255. PSNR blir då PSNR = 10 log D

5 Stokastiska signalmodeller En signal kan modelleras som en amplitudkontinuerlig stationär stokastisk process X n, med fördelningsfunktion F X (x) och täthetsfunktion f X (x). F X (x) = Pr(X x) f X (x) = d dx F X (x) f X (x) 0, x f X (x)dx = 1 Pr(a X b) = F X (b) F X (a) = b a f X (x)dx

6 Stokastiska signalmodeller, forts. Medelvärde Kvadratiskt medelvärde Varians m X = E{X n } = E{X 2 n } = x f X (x)dx x 2 f X (x)dx σ 2 X = E{(X n m x ) 2 } = E{X 2 n } m 2 x I de flesta fall kommer vi att använda signalmodeller med medelvärde 0, och då är variansen lika med det kvadratiska medelvärdet. Variansen (egentligen det kvadratiska medelvärdet) är ett mått på hur mycket signaleffekt det finns.

7 Vanliga fördelningar Likformig fördelning f X (x) = { 1 b a a x b 0 annars Medelvärde m = a+b 2, varians σ2 = (b a)2 12 Gaussisk fördelning (normalfördelning) f X (x) = 1 e (x m)2 2σ 2 2πσ Laplacefördelning f X (x) = 1 e 2 x m σ 2σ

8 Stokastiska signalmodeller, forts. Beroendet mellan signalens värde i två olika tidpunkter n och m ges av den tvådimensionella täthetsfunktionen f XnX m (x n, x m ). Om man kan skriva den som en produkt f X (x n ) f X (x m ) säger vi att signalen i de två tidpunkterna är oberoende. En signal där alla tidpunkter är oberoende av varandra är en minnesfri signal eller en vit signal. I de flesta fall beskriver man istället beroendet med hjälp av korrelationen E{X n X m }. Om E{X n X m } = E{X n } E{X m } säger vi att signalen i de två tidpunkterna är okorrelerade. Oberoende signaler är okorrelerade, men omvändningen är inte nödvändigtvis sann.

9 Minneskällor Markovkälla av ordning k f (x n x n 1 x n 2...) = f (x n x n 1... x n k ) Linjära modeller, ɛ n vitt (minnesfritt) brus. AR(N) N x n = a i x n i + ɛ n MA(M) M x n = b i ɛ n j + ɛ n j=1 ARMA(N, M) N M x n = a i x n i + b i ɛ n j + ɛ n i=1 i=1 j=1

10 Stokastiska signalmodeller, forts. Signalens korrelationsegenskaper uttrycks normalt med hjälp av autokorrelationsfunktionen, som för en stationär process ges av R XX (k) = E{X n X n+k } Autokorrelationsfunktionen är symmetrisk: R XX ( k) = R XX (k). Det gäller även att: R XX (k) R XX (0). För en minnesfri (vit) process är För en AR(1)-process är R XX (k) = σ 2 X δ(k) = { σ 2 X k = 0 0 annars R XX (k) = a k σ 2 X ( a < 1)

11 Flerdimensionella signaler Autokorrelationsfunktionen kan förstås också definieras för flerdimensionella signaler. Till exempel, för en tvådimensionell stationär stokastisk process X i,j ges autokorrelationsfunktionen av R XX (k, l) = E{X i,j X i+k,j+l } Autokorrelationsfunktionen är symmetrisk: R XX ( k, l) = R XX (k, l) Vi har även: R XX (k, l) R XX (0, 0) = E{X 2 i,j }

12 Stokastiska signalmodeller, forts. För en stokastisk signal X n som kodas och avkodas till ˆX n ges distorsionen av D = E{(X ˆX ) 2 } = Signaleffekten är (givet medelvärde noll) (x ˆx) 2 f X (x)dx och SNR ges som tidigare av E{X 2 } = σ 2 X (E{X }) 2 = σ 2 X SNR = 10 log 10 σ 2 x D

13 Teoretisk gräns Rate-distortion-funktionen R(D) för en källa ger den teoretiskt lägsta datatakt R vi kan använda för att koda källan, givet att den maximalt tillåtna distorsionen är D. Jämför med entropigränsen vid källkodning. Exempel: Vit gaussprocess med varians σ 2 R(D) = { 1 2 log σ2 D 0 < D σ 2 0 annars Dvs, om vi tillåter en distorsion som är större än processens varians, behöver vi inte överföra några bitar alls. Avkodaren kan sätta den avkodade signalen lika med medelvärdet i varje tidpunkt, vilket ger en distorsion som är lika med signalens varians. Vi ser också att R då D 0

14 Kvantisering Avbildning från ett kontinuerligt alfabet till ett diskret (även avbildning från ett stort diskret alfabet till ett mindre). Efter kvantisering har vi en diskret signal, som vi kan använda våra källkodningsmetoder på (huffman, aritmetisk kodning, et c.) En generell M-nivåers kvantiserare specificeras av M + 1 stycken beslutsgränser b i ; i = 0... M och M stycken rekonstruktionsnivåer (eller -punkter) y i ; i = 1... M. Kvantiseringsoperatorn Q(x) ges av Q(x) = y i om b i 1 < x b i och den rekonstruerade signalen är alltså ˆx n = Q(x n )

15 Kvantisering Ibland kan det vara praktiskt att se kvantisering och rekonstruktion som två separata operationer istället för en enda. Kvantisering: x j så att y j är den rekonstruktionspunkt som ligger närmast x. Rekonstruktion: ˆx = y j En sekvens av x ger alltså en sekvens av index j som till exempel kodas med en källkodare. Avkodaren avkodar indexsekvensen och avbildar sen index på de motsvarande rekonstruktionspunkterna.

16 Kvantisering, forts. Givet en stokastisk signalmodell blir distorsionen D = E{(X ˆX ) 2 } = = = bi M i=1 (x Q(x)) 2 f X (x)dx = b i 1 (x y i ) 2 f X (x)dx Om ingen källkodning används, dvs om vi använder ett kodord av fix längd för varje kvantiseringsnivå, så blir datatakten R = log 2 M

17 Likformig kvantisering Avståndet mellan två rekonstruktionspunkter är konstant y j y j 1 = kallas för kvantiserarens steglängd. Rekonstruktionspunkterna ligger i mitten av sina intervall, vilket innebär att även alla beslutsområden (eventuellt förutom ändintervallen) är lika stora b i b i 1 =

18 Likformig kvantisering, forts. För enkelhets skull antar vi att antalet rekonstruktionspunkter ges av M = 2 R för att förenkla beräkningarna. Följande resultat kan dock enkelt generaliseras för godtyckligt M. Antag även att kvantiseraren ligger symmetriskt kring origo. Rekonstruktionspunkten som hör till intervallet [(j 1), j ] är då y j = 2j 1 2 Det enklaste fallet får vi om fördelningen är likformig på intervallet [ A, A]: = 2A M

19 Likformig kvantisering, forts. Distorsion för likformig kvantisering av en likformig fördelning: D = M/2 i= M/2+1 i (i 1) (x 2i 1 ) A dx = M 1 2A 3 12 = 2 12 σ 2 X = (2A)2 12 = 2 M 2 12 SNR = σx 2 10 log 10 D = 10 log 10 M 2 = = 10 log R = 20 R log R Varje extra bit vi använder i kvantiseringen ger alltså cirka 6 db högre SNR.

20 Likformig kvantisering, forts. För obegränsade fördelningar (t.ex. gauss) blir de två yttersta beslutsområdena oändligt stora (i beräkningarna nedan antas att M är jämn och att kvantiseraren är placerad symmetriskt kring origo). D = + + M/2 i= M/2+1 (M/2) (M/2) i (i 1) (x 2i 1 ) 2 f X (x)dx + 2 (x M 1 ) 2 f X (x)dx + 2 (x M + 1 ) 2 f X (x)dx 2 De två sista termerna brukar kallas för kvantiserarens överstyrningsdistorsion.

21 Likformig kvantisering, forts. För att hitta det som minimerar distorsionen måste vi lösa D = 0 vilket generellt sett är svårt. Normalt får man hitta en numerisk lösning. Om antalet kvantiseringsnivåer är stort och väljs så att överstyrningsdistorsionen är tillräckligt liten i förhållande till den totala distorsionen, så blir distorsionen approximativt D 2 12

22 Midrise vs midtread ˆx ˆx x x När man kodar bild- och ljuddata vill man oftast ha en kvantiserare som har en rekonstruktionsnivå i 0.

23 Likformig kvantisering, exempel Likformig kvantisering (midtread) av en talsignal Originalsignal Kvantiserad med = 0.1 Uppmätt distorsion: D (Jämför med 2 / )

24 Lloyd-Max-kvantisering Hur ska beslutsgränser och rekonstruktionspunkter väljas för att distorsionen ska bli så liten som möjligt? Detta kommer naturligtvis bero av signalens utseende. För en generell kvantiserare har vi D = M i=1 bi b i 1 (x y i ) 2 f X (x)dx Vi vill hitta den kvantiserare som minimerar distorsionen D. bj b D = 0 y j = j 1 x f X (x)dx y bj j b j 1 f X (x)dx Den optimala placeringen av rekonstruktionspunkterna är alltså i sannolikhetsmassans tyngdpunkt i varje intervall.

25 Lloyd-Max-kvantisering, forts. D = 0 b j = y j+1 + y j b j 2 Den optimala placeringen av beslutsgränserna är mitt emellan rekonstruktionspunkterna, vilket innebär att man ska kvantisera till den närmaste rekonstruktionspunkten. Notera att dessa krav är nödvändiga men ej tillräckliga. Notera också att y j beror av b j 1 och b j och att b j beror av y j+1 och y j. Normalt är det bara möjligt att hitta slutna lösningar för ganska enkla fördelningar (t.ex. likformig fördelning eller laplacefördelning) och när man har få rekonstruktionspunkter. För övriga fördelningar får man hitta lösningen numeriskt. Ett sätt att göra detta är Lloyds algoritm.

26 Lloyds algoritm 1. Börja med en startuppsättning rekonstruktionspunkter y (0) i, i = 1... M. Sätt k = 0, D ( 1) = och välj en tröskel ɛ. 2. Beräkna optimala beslutsgränser b (k) j 3. Beräkna distorsionen D (k) = M i=1 b (k) i b (k) i 1 4. Om D (k 1) D (k) < ɛ sluta, annars fortsätt = y (k) j+1 + y (k) j 2 (x y (k) i ) 2 f (x)dx 5. k = k + 1. Beräkna nya optimala rekonstruktionspunkter y (k) j = b (k 1) j b (k 1) j 1 b (k 1) j b (k 1) j 1 6. Repetera från 2 x f (x)dx f (x)dx

27 Exempel Lloyd-Max-kvantiserare för en gaussisk fördelning. R = 3, d.v.s. M = 2 3 = 8.

28 Kvantisering med kompander Kompressorfunktion: c(x) Expanderfunktion: c 1 (x) Kvantisera c(x) istället för x. Kvantiseringen är likformig. Mottagaren applicerar expanderfunktionen på mottagna data. c(x) väljs så att kvantiseringen blir finare för små värden på x. Exempel på kompander: µ-law ln(1 + µ x x c(x) = x max ) max sgn(x) ln(1 + µ) c 1 (x) = x x max ((1 + µ) xmax 1) sgn(x) µ Används i det amerikanska telenätet för kodning av talsignaler med µ = 255. För det europeiska telenätet finns en motsvarande standard specificerad som kallas A-law.

29 Kvantisering med källkodning Sannolikheten P(j) att hamna i intervall j är P(j) = bj b j 1 f X (x)dx Typiskt så är dessa sannolikheter olika för olika intervall. Vi skulle alltså kunna få en lägre datatakt än log M genom någon form av källkodning. Att hitta en optimal kvantiserare givet en tillåten datatakt R efter källkodning är ett svårt problem. Det går dock att visa att för tillräckligt stora R (fin kvantisering) så är den optimala kvantiseringen en likformig kvantisering. Om vi ändå ska göra källkodning räcker det alltså med den enklaste formen av kvantisering.

30 Fin kvantisering Om man har fin kvantisering, dvs om antalet kvantiseringsnivåer är stort, så ges distorsionen approximativt av D c σ 2 X 2 2R där σx 2 är signalens varians, R är datatakten och c är en konstant som beror av typen av kvantisering och signalens fördelning. Gaussfördelning, Lloyd-Max-kvantisering: c = π 3 2 Gaussfördelning, likformig kvantisering, perfekt entropikodning (R = H( ˆX )): c = πe 6

31 Fin kvantisering För fin kvantisering har vi approximationerna D (x)f (x)dx M 1 (x) dx där (x) är en funktion som beskriver storleken av kvantiseringsintervallet vid x och M är det resulterande antalet rekonstruktionspunkter. För fin Lloyd-Max-kvantisering ska man välja (x) = k (f (x)) 1 3 och den resulterande datatakten blir R = log 2 M.

32 Approximation vs riktiga värden SNR [db] Real Approximation Rate [bits/sample] Likformig kvantisering av gaussisk signal, följt av perfekt källkodning (R = H( ˆX )). Riktiga värden jämfört med approximationen D πe 6 σ2 X 2 2R.

33 Approximation vs riktiga värden SNR [db] Real Approximation Rate [bits/sample] Lloyd-Max-kvantisering av gaussisk signal. Riktiga värden jämfört med approximationen D π 3 2 σ 2 X 2 2R.

34 Exempel Musiken i heyhey.wav kodas med likformig kvantisering (midtread), följt av huffmankodning. Datatakten varieras genom att kvantiserarens steglängd varieras. Ingen begränsning av antalet nivåer görs. Som jämförelse har även den kvantiserade signalens entropi mätts Huffman entropy SNR [db] R [bits/sample]

35 Vektorkvantisering Närliggande sampel i en signal är oftast starkt korrelerade. Exempel: 4000 sampel från en talsignal, plotta [x i, x i+1 ]

36 Vektorkvantisering, forts. För att utnyttja beroendet mellan sampel kan vi använda någon form av källkodning som tar hänsyn till flera sampel i taget, t.ex. utvidgad huffmankodning, eller aritmetisk kodning där intervalluppdelningen är beroende av föregående symbol(er). Man kan även utnyttja korrelationen mellan sampel direkt vid kvantiseringen, genom att kvantisera flera sampel i taget, vektorkvantisering. Betrakta L sampel från källan som en L-dimensionell vektor. x 1 x 2 x =. x L

37 Vektorkvantisering, forts. Kvantiseraren bestäms av sina rekonstruktionsvektorer y i och beslutsområden V i Exempel: I två dimensioner kan det se ut som

38 Vektorkvantisering, forts. Mängden av rekonstruktionspunkter {y i }, i = 1... M brukar kallas för kodbok. Distorsion D = 1 L M i=1 V i x y i 2 f (x) dx Jämför med distorsionen vid skalär kvantisering D = M i=1 bi b i 1 (x y i ) 2 f (x)dx En skalär kvantiserare är en endimensionell vektorkvantiserare.

39 Datatakt För att koda de M nivåerna med en fixlängds kod krävs log M bitar, och eftersom vi kodar L sampel i taget, blir datatakten R = log M L [bitar/sampel] Alternativt, givet dimension L och datatakt R M = 2 RL Man kan förstås även använda någon källkodningsmetod även vid vektorkvantisering, men det görs oftast inte.

40 Minnes- och tidsåtgång Både på kodar- och avkodarsidan måste vi lagra kodboken. Den kan även behöva överföras som sidoinformation. Om vi använder L dimensioner, har en datatakt på R bitar per sampel och de enskilda elementen i vektorerna lagras med b bitar, så krävs det alltså 2 RL L b bitar för att lagra hela kodboken. Minnesåtgången växer alltså väldigt snabbt när vi går upp i dimension. Om det inte finns någon struktur i kodboken måste vi jämföra vektorn som ska kvantiseras med alla vektorer i kodboken för att hitta den närmaste. Detta kommer att ta mycket tid för stora dimensioner L.

41 Lloyd-Max i flera dimensioner Vi vill hitta en kvantiserare som minimerar distorsionen Nödvändiga villkoren för minimal distorsion: Gränserna mellan beslutsområdena ska ligga mitt mellan rekonstruktionspunkterna, dvs vi ska kvantisera till den rekonstruktionspunkt som ligger närmast. Rekonstruktionspunkterna ska ligga i beslutsområdenas tyngdpunkter, de s.k. centroiderna V y i = i x f (x)dx V i f (x)dx Jämför med Lloyd-Max-kvantisering i en dimension

42 Lloyds generaliserade algoritm 1. Börja med en startkodbok y (0) i, i = 1... M. Sätt k = 0, D ( 1) = och välj en tröskel ɛ. 2. Beräkna optimala beslutsområden 3. Beräkna distorsionen V (k) i = {x : x y i 2 < x y j 2 j i} D (k) = M i=1 V (k) i x y (k) i 2 f (x)dx 4. Om D (k 1) D (k) < ɛ sluta, annars fortsätt 5. k = k + 1. Beräkna nya optimala rekonstruktionspunkter som är centroiderna i varje V (k 1) i. 6. Repetera från 2

43 Träningsdata Oftast vet man inte källans täthetsfunktion f (x). Man skulle då kunna skatta täthetsfunktionen från en lång sekvens från källan (träningsdata). Istället för att göra det kan man modifera Lloyds algoritm, så att man använder träningsdatat direkt i algoritmen Algoritmen brukar då kallas LBG-algoritmen eller K-means.

44 LBG-algoritmen 1. Börja med en startkodbok y (0) i, i = 1... M och en uppsättning träningsvektorer x n, n = 1... N. Sätt k = 0, D ( 1) = och välj en tröskel ɛ. 2. Beräkna optimala beslutsområden V (k) i = {x n : x n y i 2 < x n y j 2 j i} 3. Beräkna distorsionen D (k) = M i=1 x n V (k) i 4. Om D (k 1) D (k) < ɛ sluta, annars fortsätt x n y (k) i 2 5. k = k + 1. Beräkna nya optimala rekonstruktionspunkter som är medelvärdet av vektorerna i varje V (k 1) i. 6. Repetera från 2

45 Hur välja startkodboken i LBG? Beroende på hur startkodboken väljs kan man få olika resulterande kodböcker. Några varianter: Välj M stycken godtyckliga vektorer. Välj M stycken vektorer slumpmässigt ur träningsmängden. Generera flera startkodböcker slumpmässigt och välj den som ger lägst distorsion. PNN (Pairwise Nearest Neighbour). Starta med att varje träningsvektor är en rekonstruktionspunkt. Slå i varje steg ihop de två vektorer som är närmast varandra och ersätt dem med medelvärdet av de två vektorerna. Repetera tills bara M vektorer återstår.

46 Variant av LBG: Splitting 1. Börja med bara en rekonstruktionspunkt som är medelvärdet av all träningsvektorer. 2. Skapa ny kodbok genom att till varje vektor i kodboken addera en liten förskjutningsvektor δ. 3. Optimera kodboken med LBG-algoritmen. 4. Om vi har M vektorer i kodboken är vi klara, annars går vi till steg 2.

47 Tomma områden Vad gör man om något område blir tomt under ett steg i LBG-algoritmen? Ersätt den rekonstruktionsvektor som har ett tomt beslutsområde med en ny vektor. Några varianter: 1. Välj den nya rekonstruktionspunkten slumpmässigt från det område som har flest träningsdata. 2. Välj den nya rekonstruktionspunkten slumpmässigt från det område som har störst distorsion. 3. Optimera en tvåpunkters kvantiserare i det område som har störst distorsion. Metod 3 är mer beräkningsintensiv, men har inte visat sig ge några speciella fördelar gentemot metod 1 eller 2.

48 För- och nackdelar För- och nackdelar med vektorkvantisering jämfört med skalär kvantisering. + Kan utnyttja eventuellt minne i källan + Distorsionen vid en given datatakt kommer alltid att minska när vi ökar antalet dimensioner i kvantiseringen, även för minnesfria källor. Både det minnesutrymme som krävs för att lagra kodboken och den tid det tar att genomföra kvantiseringen växer exponentiellt med antalet dimensioner. Eftersom det inte finns någon struktur i kodboken, så måste vi vid kvantiseringen jämföra vår vektor med alla rekonstruktionspunkter för att hitta den närmaste.

49 LBG, exempel Vi optimerar en skalär kvantiserare med datatakten 2 bitar/sampel (dvs 2 2 = 4 nivåer) för vår talsignal. Om vi betraktar denna kvantiserare i två dimensioner, där vi kvantiserar varje dimension separat, så ser beslutsgränser och rekonstruktionspunkter ut som nedan SNR är ungefär 8.6 db.

50 LBG, exempel Om vi istället optimerar en tvådimensionell vektorkvantiserare för vår talsignal med datatakten 2 bitar/sampel (dvs = 16 vektorer i kodboken), så ser beslutsområden och rekonstruktionspunkter ut som nedan SNR är ungefär 14.4 db.

51 LBG, exempel Vi vill koda denna bild ( bildpunkter, 8 bitar/bildpunkt). Träningsdata: bildpunkter som dimensionella vektorer Önskad datatakt är 2 bitar/bildpunkt, vilket ger att att vi ska ha M = 2 RL = = 16 rekonstruktionspunkter.

52 LBG, exempel Figurerna visar träningsdata i grönt, samt rekonstruktionspunkter med tillhörande beslutsområden Startkodbok 1 iteration 10 iterationer

53 LBG, exempel Kodas bilden med den erhållna kvantiseraren blir resultatet Original Kvantiserad Det resulterande signal-brusförhållandet är db. Sidoinformationen (kodboken) kräver bitar.

54 Tree-Structured Vector Quantization Placera rekonstruktionsvektorerna som löv i ett binärt träd. I varje inre nod i trädet lagrar vi två testvektorer. När man ska kvantisera en vektor, börjar man med att jämföra den med de två testvektorerna i trädets rot. Beroende på vilken testvektor som är närmast så går vi ner i den ena eller andra grenen. Fortsätt så i varje nod tills vi når ett löv, dvs en rekonstruktionspunkt. Fördelarna är att vi bara behöver göra 2 log 2 M istället för M jämförelser. Nackdelarna är att vi inte kan garantera att vi väljer den rekonstruktionspunkt som ligger närmast, dvs distorsionen blir lite större än vid fullständig sökning. Minnesåtgången ökar också eftersom vi även måste lagra testvektorerna. En TSVQ kan designas med en variant av splitting-algoritmen

55 Gain-shape VQ En vektor x kan beskrivas som x = x x x Vi konstruerar en skalär kvantiserare för längden ( gain ) av vektorn x och en vektorkvantiserare för den normerade vektorn ( shape ) Lägre komplexitet jämfört med en full vektorkvantiserare, men distorsionen kan bli lite högre. x x.

56 Multistage VQ Istället för att ha en enda L-dimensionell kvantiserare med datatakten R bitar/sampel, så har man k stycken L-dimensionella kvantiserare med datatakterna R 1, R 2,..., R k, så att R = R 1 + R R k. Man kvantiserar först x med kvantiserare 1. Kvantiseringsfelet x 1 = x Q 1 (x) kvantiseras sedan med kvantiserare 2. Kvantiseringsfelet x 2 = x 1 Q 2 (x 1 ) kvantiseras sedan med kvantiserare 3, och så vidare. Man får en kvantiserare med lägre komplexitet (mindre kodbok och färre jämförelser) till priset av att distorsionen blir högre.

57 Gitterkvantisering (Lattice VQ) Generalisering av likformig kvantisering till flera dimensioner. Rekonstruktionspunkterna placeras ut i den L-dimensionella rymden i ett regelbundet mönster. Komplexiteten låg, eftersom man inte behöver lagra alla rekonstruktionspunkter utan bara en beskrivning av hur mönstret ser ut. Snabba metoder finns för att hitta den närmaste rekonstruktionspunkten, så man behöver inte heller göra en fullständig sökning när man kvantiserar. Ger bättre prestanda än en skalär kvantiserare, men sämre än en generell vektorkvantiserare.

58 Gitterkvantisering, forts. Exempel på gitterkvantiserare i två dimensioner: Hexagonalt gitter Vid fin kvantisering ger det hexagonala gittret en vinst på cirka 0.17 db, jämfört med likformig skalär kvantisering. Det bästa kända gittret är ett 24-dimensionellt gitter som ger en vinst på 1.03 db.