Квантование сообщений. Ошибки квантования. Энтропия источника сообщений

БЕЛОРУССКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ИНФОРМАТИКИ И РАДИОЭЛЕКТРОНИКИ

кафедра РЭС

реферат на тему:

"Квантование сообщений. Ошибки квантования. Энтропия источника сообщений"

МИНСК, 2009

Квантование сообщений. Ошибки квантования

Итак, показано, что передачу практически любых сообщений λ(t) ({λ(x,y) }) можно свести к передаче их отсчетов, или чисел λi = λ(i Dt), следующих друг за другом с интервалом дискретности Dt £ 1/2Fm (Δx ≤ 1/2fx, Δy ≤ 1/2fy). Тем самым непрерывное (бесконечное) множество возможных значений сообщения λ(t) заменяется конечным числом его дискретных значений {λ(i Dt) }. Однако сами эти числа имеют непрерывную шкалу уровней (значений), то есть принадлежат опять же континуальному множеству. Для абсолютно точного представления таких чисел, к примеру, в десятичной (или двоичной) форме, необходимо теоретически бесконечное число разрядов. Вместе с тем на практике нет необходимости в абсолютно точном представлении значений λi, как и любых чисел вообще.

Во-первых, сами источники сообщений обладают ограниченным динамическим диапазоном и вырабатывают исходные сообщения с определенным уровнем искажений и ошибок. Этот уровень может быть большим или меньшим, но абсолютной точности воспроизведения достичь невозможно.

Во-вторых, передача сообщений по каналам связи всегда производится в присутствии различного рода помех. Поэтому принятое (воспроизведенное) сообщение (оценка сообщения l*(t) или L*) всегда в определенной степени отличается от переданного, то есть на практике невозможна абсолютно точная передача сообщений при наличии помех в канале связи.

Наконец, сообщения передаются для их восприятия и использования получателем. Получатели же информации - органы чувств человека, исполнительные механизмы и т.д. - также обладают конечной разрешающей способностью, то есть не замечают незначительной разницы между абсолютно точным и приближенным значениями воспроизводимого сообщения. Порог чувствительности к искажениям также может быть различным, но он всегда есть.

С учетом этих замечаний процедуру дискретизации сообщений можно продолжить, а именно подвергнуть отсчеты λiквантованию.

Процесс квантования состоит в замене непрерывного множества значений отсчетов liÎ (lmin, lmax) дискретным множеством { l(1),...,l(m) } из алфавита A{ λi }. Тем самым точные значения чисел li заменяются их приблизительными (округленными до ближайшего разрешенного уровня) значениями. Интервал между соседними разрешенными уровнями li, или уровнями квантования, D = l(i+1) - l(i) называется шагом квантования.

Различают равномерное и неравномерное квантование. В большинстве случаев применяется и далее подробно рассматривается равномерное квантование (рис.1), при котором шаг квантования постоянный: D = λi - λi-1 = = const; однако иногда определенное преимущество дает неравномерное квантование, при котором шаг квантования Diразный для различных λi(рис.2).

Рис. 1. Рис. 2.

Квантование приводит к искажению сообщений. Если квантованное сообщение, полученное в результате квантования отсчета li = l(iΔt), обозначить как λiq, то

(1)

где xi - разность между квантованным сообщением (ближайшим разрешенным уровнем) λiq и истинным значением элементарного сообщения li, называемая ошибкой квантования, или шумом квантования. Шум квантования оказывает на процесс передачи информации по существу такое же влияние, как и помехи в канале связи. Помехи, так же как и квантование, приводят к тому, что оценки λ*i, получаемые на приемной стороне системы связи, отличаются на некоторую величину от истинного значения li.

Поскольку квантование сообщений приводит к появлению ошибок и потере некоторой части информации, можно определить цену таких потерь d(l, λq) и среднюю величину ошибки, обусловленной квантованием:

(2)

Чаще всего в качестве функции потерь (цены потерь) используется квадратичная функция вида

(3)

В этом случае мерой ошибок квантования служит дисперсия этих ошибок. Для равномерного N-уровневого квантования с шагом D дисперсия ошибок квантования определяется следующим образом:

. (4)

Абсолютное значение ошибки квантования не превосходит половины шага квантования D/2, и тогда при достаточно большом числе уровней квантования Nи малой величине Dплотность распределения вероятностей ошибок квантования f(xi) можно считать равномерной на интервале +D/2 … - D/2:

(5)

В результате величина ошибки квантования D(q) = σq2 определится соотношением

(6)

и соответствующим выбором шага квантования Dможет быть сделана сколь угодно малой или сведена к любой наперед заданной величине.

Относительно требуемой точности передачи отсчетов сообщений можно высказать те же соображения, что и для ошибок временной дискретизации: шумы квантования или искажения, обусловленные квантованием, не имеют существенного значения, если эти искажения меньше ошибок, обусловленных помехами и допустимых техническими условиями.

Так, например, при передаче речи и музыки искажения практически не заметны, если все отсчеты случайным образом изменить на 0,1…1%, при передаче изображений - на 1% и т.д. Даже профессиональный эксперт не может заметить искажений в музыкальном произведении, если квантование про

Внимание, отключите Adblock

Вы посетили наш сайт со включенным блокировщиком рекламы!
Ссылка для скачивания станет доступной сразу после отключения Adblock!

Скачать