Skalárne kvantovanie delíme na:
- Optimálne lineárne skalárne kvantovanie
- Optimálne nelineárne skalárne kvantovanie
- Suboptimálne skalárne kvantovanie
O optimálnom kvantovaní hovoríme vtedy ak rozhodovacie a kvantizačné úrovne sú rozložené najlepšie ako je vzhľadom na obmedzujúce parametre možné. Suboptimálne kvantovanie nemusí byť daný vstupný signál/obraz najvhodnejšie ale vzhľadom na požiadavky je prijateľné.
Kvantovanie je ireverzibilný t. z. nevratný proces. Kvantovaním vždy dochádza k strate informácie. Čim je menšia množina kvantizačných hodnôt tým je táto informačná strata je tým väčšia. Z matematického hľadiska sa skalárnym kvantovaním transformuje postupnosť náhodných premenných na postupnosť diskrétnych náhodných premenných . Vyššie spomínanú chybu budeme nazývať kvantizačný šum, ktorý je daný ako rozdiel medzi vstupnou hodnotou vzorky a jej kvantizačnej hodnoty.
Pre účely neskoršieho vyhodnocovania kvantizačného šumu nás bude zaujímať jeho výkon daný štatistickou strednou hodnotou, ktorý potom v pomere k strednej kvadratickej hodnote (disperzie) vstupných náhodných vzoriek predstavuje parameter odstup signálu od šumu.
Pre strednú hodnotu výkonu kvantizačného šumu platí:
Pres strednú hodnotu výkonu pôvodného signálu môžeme písať:
Nakoniec hodnota odstupu signálu od šumu S/Š alebo v anglosaskej literatúre SNR daná v dB je definovaná takto:
Hodnotu kvantizačného šumu je možné ovplyvňovať troma spôsobmi:
1. Voľba počtu kvantizačných úrovní
- Čím viac kvantizačných úrovní tým bude kvantizačná úroveň bližšie k hodnote vstupnej vzorky.
2. Rozložením rozhodovacích a kvantizačných úrovní
- Niekedy je vhodnejšie ak je kvantizačný krok pre rôzne úrovne iný. Vstupný signál sa pre rôzne úrovne môže chovať inak. Niekedy v istej oblasti je zmena hodnoty vzorky jemnejšia ako v inej. Vhodné rozloženie rozhodovacích a kvantizačných úrovni vo veľkej miere závisí aj od štatistických vlastností obrazu.
3. Využitím štatistických vlastnosti vstupnej premennej
Optimálne lineárne skalárne kvantovanie (OLSK)
Lineárny N-úrovňový kvantizátor má rozhodovacie a kvantizačné úrovne rozložené rovnomerne. Teda kvantizačný krok ∆ e rovnaký pre každú úroveň. Prevodová charakteristika N-úrovňového kvantizátora je zobrazená na nasledujúcom obr. 1. a obr. 2 Lineárny skalárny kvantizátor môže mať začiatok rozhodovacej oblasti rozložený dvojako.
Tieto dva rozloženia rozhodovacích a kvantizačných úrovní sa líšia v začiatku súradnicového systému. Prvý variant je využiteľný tam kde nie je potrebné uvažovať kvantizačnú úroveň s hodnotou 0. Prie tomto type kvantizátora kvantizačné úrovne sú posunuté od hodnoty 0 o ∆/2. Pri druhom variante sa uvažuje aj kvantizačná úroveň s hodnotou 0. Kvantizačné úrovne sú od začiatku súradnicového systému rozložené prirodzene s krokom ∆. Rozhodovacie úrovne sú posunuté o ∆/2.
Návrh OLSK
Pri návrhu OLSK je potrebné vychádzať zo štatistických vlastnosti vstupnej postupnosti. V zásade keďže vstupný signál uvažujeme ako diskrétne hodnoty spojitého signálu symetricky rozdelené okolo nulovej strednej hodnoty, za hlavný štatistický parameter budeme uvažovať spojité rozdelenie pravdepodobnosti f(x), pričom x sú možné hodnoty vstupnej postupnosti. Z uvedeného je jasné, že OLSK spravidla navrhujeme pre kvantovanie špecifických signálov resp. obrazov. Optimálnosť kvantizátora logicky spočíva v minimalizácii strednej kvadratickej chyby resp. v minimalizácii kvantizačného šumu, o ktorom sme pojednávali vyššie. Problematiku kvantizačného šumu ešte rozvinieme. Kvantizačný šum ma dvojakú povahu, teda skladá sa z dvoch zložiek. Prvá zložka je takzvaný granulačný šum (q1), ktorý vzniká ako rozdiel medzi vstupnou hodnotou vzorky a jej priradenej kvantizačnej hladiny. Tento šum sa uplatňuje pre všetky kvantizačné hladiny okrem poslednej. Podstata druhej zložky kvantizačného šumu je tvorená rozdielom vzorky a jej priradenej maximálnej kvantizačnej hodnoty. To si je možné predstaviť tak, že ak máme kvantizátor, ktorý priradzuje kvantizačné hodnoty od -5V do 5V a tieto sú odstupňované s krokom 1V tak ak na vstup privedieme vzorku s hodnotou 15V tejto sa priradí hodnota 10V. V tomto prípade hovoríme o šume z preťaženia (q2). Pre strednú kvadratickú hodnotu kvantizačného šumu môžeme písať (pre zjednodušenie budeme uvažovať 1. variant OLSK):
Pričom:
Z uvedených vzťahov je pre zadané N a známu f(x) možné usúdiť nasledovné:
- Hodnota jednotlivých stredných kvadratických chýb je závislá len od zvoleného kroku ∆
- Ak sa ∆ bude zväčšovať granulačný šum bude narastať a šum z preťaženia sa bude znižovať.
- Optimálnosť teda bude spočívať v nájdení takej hodnoty kvantizačného kroku pri, ktorom je hodnota σq minimálna.
Hodnotu optimálneho kvantizačného kroku je možné nájsť vyjadrením ∆ z nasledujúcej rovnice:
Analytický výpočet optimálneho kvantizačného kroku s ohľadom na minimalizáciu strednej kvadratickej chyby je pomerne zložitý a často je výhodnejšie použiť tabuľky resp. softvérové prostriedky.
Spravidla je možné uvažovať, že rozloženie pravdepodobnosti poznáme. Môžeme uvažovať napríklad Gaussove alebo Laplaceove rozdelenie pravdepodobnosti s nulovou strednou hodnotou. Vtedy je výhodné uvažovať normovanú strednú kvadratickú chybu šumu, t.z. stredná kvadratická hodnota šumu pre uvažované rozloženie je delená disperziou vstupného signálu.
Potom aj kvantizačný krok budeme uvažovať v jeho normovanej hodnote:
Toto má hlavnú výhodu v tom, že pre zvolené rozloženie pravdepodobnosti a zvolený počet kvantizačných úrovní je možné optimálny kvantizátor navrhnúť pomocou už existujúcich tabuliek. Tieto tabuľky udávajú hodnotu normovaného kvantizačného kroku pre dané rozloženie pravdepodobnosti. Hodnotu optimalného kvantizačného kroku pre uvažovaný signál je daná nasledovne:
Optimálne nelineárne sklalárne kvantovanie (ONSK)
Nelineárny N-úrovňový kvantizátor nemá rozhodovacie a kvantizačné úrovne rozložené rovnomerne. Teda kvantizačný kroky a kvantizačné úrovne sa nemenia s rovnakým krokom. Prevodová charakteristika N-úrovňového kvantizátora je zobrazená na nasledujúcom obr. 3. Výhodou ONSK je, že v porovnaní s OLSK pre rovnaký počet úrovní dosahje lepší pomer odstupu signálu od šumu.