Formatos de muestreo

Las muestras pueden ser almacenadas en diferentes formatos y precisiones. Los más comunes son en formatos enteros (coma fija), los cuales almacenan valores con cuantificación fija. Dependiendo de dónde se defina la línea cero se tiene que distinguir entre formatos enteros sin signo (solo valores positivos, la "línea cero" se encuentra en la mitad del rango numérico) y con signo (valores positivos y negativos).

Formato con signo

Formato con signo

Formato sin signo

Formato sin signo

Ya que la cuantificación pierde algo de precisión acaba produciendo ruido, también conocido como ruido de cuantificación. Este tipo de ruido tiene más efecto en bajas frecuencias por lo que este método de almacenamiento de muestras no es optimo aunque si sencillo y muy rápido de procesar ( los ordenadores son rápidos en calculos con números de coma fija).

La segunda manera de codificar muestras es con números de coma flotante. Con números de coma flotante el ruido es casi propagado de igual manera en todas los rangos de amplitud y tiene ventajas especialmente en bajas amplitudes. Sin embargo, este formato es mucho más lento de procesar (los ordenadores son mucho más lentos con calculos con valores de coma flotante que con valores de coma fija).

Note

Kwave internamente usa enteros con signo con 24 bits de precisión almacenados en enteros de 32 bits. Esto tiene la desventaja de mayor consumo de memoria al procesar archivos de baja precisión ( esto es, 8 bits) pero procesando números de 32 bits es muy rápido, además reserva para cálculos internos por lo que lo usado normalmente suelen ser 24 bits.