Основные разделы


Количество информации и избыточность ДС.

Если сравнить код Морзе и МТК, то Морзе мене экономичен, т.к. при передаче одинаковых сообщений он требует в 2 раза больше времени. Но и МТК - 2 также не экономичен. Для того чтобы сравнивать информационную способность кода используется понятие энтропии - среднее количество информации в длинном источнике сообщения.

Если передавать к сообщений и они равновероятны, то , и тогда максимальная интерполяция:

Если все символы русского алфавита были равномерны, то энтропия была бы 5 бит/символ и тогда каждый элемент кода МТК-2 передавал бы максимальное количество информации - эффективное безизбыточное кодирование. Реально вероятность букв не одинакова :

бит/символ;

В связи с этим вводится понятие коэффициент избыточности - какая часть информации можно было бы предсказать заранее с учётом статистических свойств источника и не передавать её:

Для кода МТК-2 .

Для этого сообщение стараются кодировать так, чтобы в достаточно длинной последовательности кодовой комбинации символы 1 и 0 встречались с равной вероятностью. От избыточности стараются избавиться:

1) Метод: код Шенноно-Фано - алфавит источника строят в порядке уменьшения вероятности. Затем алфавит разбивается на группы и подгруппы, таким образом, чтобы обеспечить при каждом разбиении обеспечить одинаковую суммарную вероятность групп и подгрупп.

РазбиениеКод

0,250000

0,25101

0,25100100

0,251101

0,06251001100

0,062511101

0,0625101110

0,062511111

Перейти на страницу: 1 2

Прочитайте еще и эти статьи:

Информационные устройства и системы управления автосигнализацией
Современный термин “Мехатроника” (”Mechatronics”), согласно японским источникам, был введен фирмой Yaskawa Electric в 1969 году и зарегистрирован как торговая марка в 1972 году. Это название получено комбинацией слов “МЕХАника” и “элекТРО ...

Исследование методов повышения производительности в Ad-Hoc сетях
Беспроводные сети позволяют людям связываться и получать доступ к приложениям и информации без использования проводных соединений. Это обеспечивает свободу передвижения и возможность использования приложений, находящихся в других частях дома, г ...

© Copyright 2021 | www.techattribute.ru