Vzorkovací formáty

Vzorky se dají ukládat do různých formátů a s různou přesností. Nejběžnější jsou formáty celočíselné (s pevnou desetinnou čárkou), které ukládají hodnoty s pevným kvantováním. V závislosti na tom, kde je určena nulová čára, musí se rozlišovat mezi celočíselnými formáty jsoucí bez znaménka (pouze kladné hodnoty), "nulová čára" je v polovině číselného rozsahu), a se znaménkem (kladné a záporné hodnoty)

Formát se znaménkem

Formát se znaménkem

Formát bez znaménka

Formát bez znaménka

Protože kvantování ztrácí určitou přesnost, vytváří šum, tzv. šum z kvantování. Tento druh šumu má větší účinek na nízké rozkmity, proto tento způsob ukládání vzorků není nejlepší, ale je docela snadný a velmi rychlý na zvládnutí (počítače jsou rychlé při výpočtech s čísly s pevnou desetinnou čárkou).

Druhým způsobem je zakódování vzorků s čísly v pohyblivé desetinné čárce. S čísly v pohyblivé desetinné čárce je šum rozprostřen téměř rovnoměrně po všech rozsazích rozkmitů a výhodně obzvláště u nízkých rozkmitů. Avšak tento formát je mnohem pomalejší, je-li použit při zpracovávání (počítače jsou mnohem pomalejší při výpočtech s hodnotami s pohyblivou desetinnou čárkou, srovnáme-li je s výpočty s čísly s pevnou desetinnou čárkou).

Note

Kwave vnitřně používá formát celého čísla se znaménkem s přesností 24 bitů ukládaný v 32 bitových celých číslech. Nevýhodou je větší spotřeba paměti při zpracování souborů s nižší přesností (např. 8 bitových), ale zpracování 32 bitových čísel je velmi rychlé a také ponechává určité zálohy pro vnitřní výpočty, protože obyčejně se používá pouze 24 bitů.