Расчет оптимального кода по методике Шеннона Фано

СОДЕРЖАНИЕ
Содержание
Аннотация
Введение
Содержание задания
Теоретическая часть
Практическая часть
а) расчеты
б) программа
Заключение
а) результаты работы программы
б) блок-схема
Литература

АННОТАЦИЯ
В этой работе по данному числу символов в алфавите рассчитываются их вероятности, количество информации, если символы встречаются с равными вероятностями и с разными вероятностями, недогруженность символов, скорость передачи сообщений и избыточность сообщений. Кроме того, в данной работе строится оптимальный двоичный код по методике Шеннона – Фано. Выполнение этой курсовой работы закрепляет наши знания по дисциплине «Теория информации».
К работе прилагается программа, написанная на языке программирования высокого уровня (Turbo Pascal).
SUMMARY
In this work on the given numbeof symbols in the alphabet their probabilities, amount of the information if symbols meet equal probabilities and with different probabilities, speed of message transfer and redundancy of messages pay off. Besides in the given work the optimum binary code by technique of Shennon and Fano is under construction. Performance of this course work fixes our knowledge on discipline «The Theory of the Information».

ВВЕДЕНИЕ
Информатика и вычислительная техника – это область науки и техники, которая включает совокупность средств, способов и методов человеческой деятельности, направленных на создание и применение устройств связи, систем сбора, хранения и обработки информации.
Во многих случаях хранимая и передаваемая информация может представлять интерес для лиц, желающих использовать ее в корыстных целях.
Одним из методов защиты является кодирование.
Кодирование – это отображение сообщений кодом по определенному правилу присвоения символов.
Код – это правило, описывающее отображение одного набора знаков в другой набор знаков (или слов). Кодом также называют и множество образов при этом отображении.
Оптимальный код – это наиболее эффективный случай кодирования с нулевой избыточностью. При устранении избыточности существенно снижается количество символов, требуемых для кодируемых сообщений. Вследствие этого уменьшается время передачи, снижается требуемый объем памяти.
Таким образом, знание методов обработки информации является базовым для инженеров, работа которых связана с вычислительными системами и сетями. Избыточность - дополнительные средства, вводимые в систему для повышения ее надежности и защищенности.
Таким образом, информатика занимается изучением обработки и передачи информации.
В работе отражается применение базовых понятий информатики.

СОДЕРЖАНИЕ ЗАДАНИЯ
Для проведения расчетов разработать программу на языке ПАСКАЛЬ.
1.1. Число символов алфавита k = m (номер варианта задания) + 10. Определить количество информации на символ сообщения, составленного из этого алфавита:
а) если символы алфавита встречаются с равными вероятностями;
б) если символы алфавита встречаются в сообщении с вероятностями:
р1 = 0,15; p2 = p1 /(k-1); p3 = (p1 + p2 )/(k-2) ...
k-1
pk = ∑ pn /(k – k + 1).
n=1
Сумма всех вероятностей должна быть равой единице, поэтому:
pi
рi = -----
k
∑ pj
j=1
Определить, насколько недогружены символы во втором слу­чае.
1.2. Число символов алфавита = m (номер варианта задания). Вероятности появления символов равны соответственно
р1 = 0,15; p2 = p1 /(k-1); p3 = (p1 + p2 )/(k-2) ...
k-1
pk = ∑ pn /(k – k + 1).
n=1
Длительности символов τ1 = 1 сек; τ2 = 2 сек;
τk = τk -1 + 1.
Чему равна скорость передачи сообщений, составленных из таких символов?
Определить количество информации на символ сообщения, составленного из этого алфавита:
а) если символы алфавита встречаются с равными вероятностями;
Определить, насколько недогружены символы во втором случае.
1.3. Сообщения составляются из алфавита с числом символов = m. Вероятность появления символов алфавита равна соответственно:
р1 = 0,15; p2 = p1 /(k-1); p3 = (p1 + p2 )/(k-2) ...
k-1
pk = ∑ pn /(k – k + 1).
n=1
Найти избыточность сообщений, составленных из данного алфавита.
Построить оптимальный код сообщения.

ТЕОРЕТИЧЕСКАЯ ЧАСТЬ
КОЛИЧЕСТВЕННАЯ ОЦЕНКА ИНФОРМАЦИИ
Общее число неповторяющихся сообщений, которое может быть составлено из алфавита m путем комбинирования по n символов в сообщении,
N = mn
Неопределенность, приходящаяся на символ первичного (кодируемого) алфавита, составленного из равновероятных и взаимонезависимых символов,
H = log2 m
Так как информация есть неопределенность, снимаемая при получении сообщения, то количество информации может быть представлено как произведение общего числа сообщений k на среднюю энтропию H, приходящуюся на одно сообщение:
I = k*H бит
Для случаев равновероятных и взаимонезависимых символов первичного алфавита количество информации в k сообщениях алфавита m равно:
I = k*log2 m бит
Для неравновероятных алфавитов энтропия на символ алфавита:
m m
H =∑ pi *log2 (1/2pi )=-∑pi *log2 pi бит/символ
i=1 i=1
А количество информации в сообщении, составленном из k неравновероятных символов,
m
I = -k*∑ pi *log2 pi бит
i=1

Внимание, отключите Adblock

Вы посетили наш сайт со включенным блокировщиком рекламы!
Ссылка для скачивания станет доступной сразу после отключения Adblock!

Скачать полную версию