Основные разделы


Количество информации и избыточность ДС.

Если сравнить код Морзе и МТК, то Морзе мене экономичен, т.к. при передаче одинаковых сообщений он требует в 2 раза больше времени. Но и МТК - 2 также не экономичен. Для того чтобы сравнивать информационную способность кода используется понятие энтропии - среднее количество информации в длинном источнике сообщения.

Если передавать к сообщений и они равновероятны, то , и тогда максимальная интерполяция:

Если все символы русского алфавита были равномерны, то энтропия была бы 5 бит/символ и тогда каждый элемент кода МТК-2 передавал бы максимальное количество информации - эффективное безизбыточное кодирование. Реально вероятность букв не одинакова :

бит/символ;

В связи с этим вводится понятие коэффициент избыточности - какая часть информации можно было бы предсказать заранее с учётом статистических свойств источника и не передавать её:

Для кода МТК-2 .

Для этого сообщение стараются кодировать так, чтобы в достаточно длинной последовательности кодовой комбинации символы 1 и 0 встречались с равной вероятностью. От избыточности стараются избавиться:

1) Метод: код Шенноно-Фано - алфавит источника строят в порядке уменьшения вероятности. Затем алфавит разбивается на группы и подгруппы, таким образом, чтобы обеспечить при каждом разбиении обеспечить одинаковую суммарную вероятность групп и подгрупп.

РазбиениеКод

0,250000

0,25101

0,25100100

0,251101

0,06251001100

0,062511101

0,0625101110

0,062511111

Перейти на страницу: 1 2

Прочитайте еще и эти статьи:

Исследование режимов автоматического управления
Автоматика - это область науки и техники, охватывающая теорию и принципы построения систем управления, действующих без непосредственного участия человека. Первые автоматические устройства промышленного назначения были разработаны в связи ...

Разработка и исследование аналого-цифровой управляемой системы
Развитие современного мира невозможно без ЭВМ и автоматизированных систем управления. Технический прогресс прочно связан с развитием систем анализа и обработки данных об объектах. АСУТП находят своё применение практически во всех сферах произво ...

© Copyright 2022 | www.techattribute.ru