Шум квантування виникає при перетворенні аналогового сигналу в цифровий. Тоді коли аналоговий сигнал — безперервний і в ідеалі може мати нескінченну точність, точність цифрового сигналу залежить від частоти квантування та бітової розрядності аналого-цифрового перетворювача.
Різниця між вихідним аналоговим сигналом та оцифрованим обумовлена «окргугленнями», які іменуються терміном похибки квантуванняангл.quantization error.
Модель
Шум квантування можна представити як адитивний дискретний сигнал, що враховує помилки квантування. Якщо — вхідний сигнал для квантування, а — його передаточна функція, то маємо наступну лінійну модель шуму квантування:
Лінійна модель використається для аналітичного дослідження властивостей шуму квантування.
Детерміновані оцінки
Детерміновані оцінки дозволяють визначити абсолютні границі шуму квантування:
,
де — число розрядів квантування (сигналу ,
— крок квантування
— при округленні
— при усіканні.
Імовірнісні оцінки
Імовірнісні оцінки засновані на представленні похибок квантування (сигналу ) як випадкового шумоподобного процесу. Допущення, що вводять щодо шуму квантування:
В аудіо-технологіях шумом квантування називається різниця між відповідними значеннями вихідного й квантованого за рівнем аудіо сигналу. Вважається, що при роботі зі звуком у 24-бітній та 32-х бітній розрядності, яка застосовується в сучасних аудіоредакторах шум квантування незначний. Проте в 16-бітовій розрядності, яка використовується в стандартному audio CD форматі шум квантування є небажаним — цей шум корелюється з корисним сигналом і робить звучання «штучним», «пластмасовим».
Для боротьби із цим негативним явищем існують прийоми дизеринг і нойзейшпінг.
Ди́зеринг (англ.dithering) — це підмішування до корисного сигналу до зниження розрядності дуже слабкого специфічного шуму. Цей шум так само, як і сам шум квантування, дуже слабкий, але він забиває шум квантування і фонограма звучить а більш природно і «тепло».
Нойзше́йпінг (англ.noiseshaping) являє собою особливий алгоритм округлення звукових відліків при зниженні розрядності. У такий спосіб досягається максимальне наближення до оригінального звучання. Після нойзшейпинга більша частина енергії шуму квантування зосереджена в області високих частот, до яких людське вухо майже нечутливе. Застосування дитерингу й нойзшейпінгу одночасно дає максимально позитивний результат. Ці функції доступні в сучасних аудіоредакторах, таких як наприклад Adobe Audition.