Реферат на тему Предмет и методы теории информации
Работа добавлена на сайт bukvasha.net: 2015-01-07Поможем написать учебную работу
Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
от 25%
договор
Реферат
Тема: «ПРЕДМЕТ И МЕТОДЫ ТЕОРИИ ИНФОРМАЦИИ»
Введение
Теория информации – наука о проблемах сбора, преобразования, передачи, хранения, обработки и отображения информации.
Теория информации базируется на методах теории вероятности, математической статистики, линейной алгебры и других разделах математики. Теория информации и ее методы широко используются для анализа процессов в различных информационных системах, т.е. системах, основой функционирования которых является процесс преобразования информации (системы связи, телевидения, вычислительные системы и т.д.).
В компьютерной технике методы теории информации широко используются для оценки быстродействия, точности и надежности систем, сжатия и защиты информации, согласования сигналов и каналов в компьютерных сетях передачи данных и т.д.
1. Основные понятия и определения
Понятие «информация» (лат. information – разъяснение) принадле-жит к исходным неопределяемым понятиям науки, т. к. оно является многозначным. Не существует единого определения этого понятия, которое охватывало бы все аспекты: количественную, содержательную, прагматическую и др. стороны. Существует целый ряд определений, например: информация – отражение реального мира; информация – устраненная неопределенность и др.
Информация – в общем случае, совокупность сведений о каких-либо событиях, явлениях, предметах, получаемых в результате взаимодействия с внешней средой. Формой представления информации является сообщение.
Сообщение – любые сведения или данные, поступающие от отправителя (источника) сообщений на вход системы связи для передачи получателю. Для представления информации (хранения, обработки, преобразования и т.д.) используют различные символы, позволяющие выразить ее в определенной форме (текст, речь, рисунок, колебания, цифры, числа, символы, жесты и т.д.).
Информация от источника к приемнику передается с помощью сигнала. Сигнал – физический процесс, отображающий сообщение. Носителем информации может быть только такой сигнал, изменение которого во времени точно предсказать нельзя. Априорно известный сигнал не содержит информации. Информация – лишь те сведения в сообщении, которые неизвестны получателю, т.е. не всякое сообщение несет информацию. Информация характеризуется рядом показателей: количеством, скоростью передачи, надежностью передачи, достоверностью и т.д.
2. Системы передачи информации
Система передачи информации – совокупность технических средств для передачи информации от источника к приемнику информации.
Для того чтобы представить содержание курса и его основные проблемы рассмотрим блок-схему системы передачи информации, предложенную Шенноном (см. рис. 1).
Рис. Схема системы передачи информации
Любая ЭВМ также представляет собой информационную систему, которую можно рассматривать как канал преобразования информации (см. рис. 2). На схеме введены обозначения: ИИ и ПИ – соответствен-но источник и приемник информации; ЦП – центральный процессор; ОП – оперативная память; Вх. У и Вых. У – соответственно входное и выходное устройства, которые осуществляют функции кодирования и декодирования.
Рис. 2. Структура ЭВМ
Задачей системы передачи информации является воспроизведение с заданной точностью наиболее экономичным методом сообщения выработанного источником информации.
Источником сообщений может быть человек или различного рода устройства (датчики, автомат, ЭВМ, и т.д.). Источник информации выдает сообщение или последовательность сообщений. Сообщения могут иметь непрерывный или дискретный характер.
Дискретными называются сообщения, которые представляются последовательностью из конечного числа отдельных, резко различимых элементов, между которыми нет промежуточных значений, т.е. дискретная информация представляется в виде конечной совокупности символов (печатные тексты и документы, состояния цифровых автоматов и т.д.).
Непрерывные сообщения характеризуются тем, что два нетождественных сообщения могут отличаться сколь угодно мало друг от друга (музыка, речь, изображения объемов, телеметрические данные). Непрерывные сообщения можно преобразовать в дискретные.
Для передачи на расстояние сообщение преобразуется в сигнал. Процесс преобразования сообщения в сигнал состоит из трех этапов (операций): преобразование, кодирование, модуляция. В процессе преобразования сообщение, которое может иметь любую физическую природу (изображение, звук и т.д.), преобразуется в первичный сигнал. В телефонии микрофон преобразует звуковые волны (давление) в электрический ток микрофона. В телеметрии датчики преобразуют изменение физических величин (температура, давление и т.д.) в электрические.
Кодирование – преобразование сообщения в сигнал, т.е. отображение сообщений сигналами в виде определенного сочетания элементарных дискретных символов, называемых кодовыми комбинациями (кодовыми словами).
Код – правило, согласно которому каждому сообщению однозначно ставится в соответствие некоторая кодовая комбинация. Кодер – устройство, осуществляющее кодирование.
Кодер источника (КИ) – кодер, использование которого позволяет путем устранения избыточности существенно снизить среднее число символов на букву сообщения (такое кодирование называется оптимальным или эффективным). При отсутствии помех это дает выигрыш во времени передачи или в объеме ЗУ, т.е. повышает эффективность системы передачи данных.
Кодер канала (КК) – позволяет путем внесения избыточности обеспечить достоверность передачи данных при наличии помех (такое кодирование называется помехоустойчивым).
Канал – совокупность средств, предназначенных для передачи сигнала от передатчика к приемнику информации (передатчик, приемник, линия связи и т.д.). Канал связи может быть односторонний (симплексный) и двухсторонний (дуплексный).
Передатчик – служит для преобразования электрического сигнала в сигнал, пригодный для передачи по линии связи.
Модуляцией называется изменение параметров переносчика сигнала в соответствии с функцией, отображающей сообщение. Несущим сигналом может быть ток (телеграфия), гармонические низкочастотные или высокочастотные колебания (телефония и т.д.), высокочастотные импульсы (радиорелейная связь и т.д.). Модулируемые параметры называются информативными и могут быть амплитудой, частотой, фазой и т.д. Модулятор – устройство, осуществляющее модуляцию.
При передаче по каналу связи происходит ослабление и искажение передаваемого сигнала, вносимых каналом и действием помех.
Линейные искажения – определяются частотными и временными характеристиками канала. Нелинейные искажения – определяются нелинейностью звеньев канала и видом модуляции.
Линия связи (ЛС) – это среда, используемая для передачи сигнала от передатчика к приемнику. Существуют различные типы линий связи:
Проводные линии связи. Проводные линии связи могут быть воздушными, кабельными, коаксиальными, оптико-волоконными, линиями электропередачи (ЛЭП). Они используются:
– в телефонии – 300–3400 Гц (тональный диапазон);
– в телеграфии – 0–300 Гц (под тональный диапазон);
– в телевидении – 300–3000 мГц;
– ЛЭП – 500–1000 кГц.
Проводные линии связи характеризуются: помехозащищенностью и волновым сопротивлением r= L/C.
При передаче на большие расстояния необходимо использование промежуточных усилительных пунктов (расстояние зависит от используемых частот и типа ЛС).
2. Радиолинии. Радиолинии могут быть: радиорелейные (РРЛ), коротковолновые (КВ), тропосферные, ионосферные, космические и т.д.
3. Внутриаппаратные тракты. Внутриаппаратные тракты – это прежде всего шины информационного обмена в ЭВМ и тракты магнитной записи (локальная – L – bus; памяти – M – bus; периферийная – X – bus; системная – S – bus).
Многоканальные ЛС – обеспечивают несколько каналов, используя различные методы уплотнения и разделения (частотного, временного, кодового).
Помехи – воздействия, искажающие сигнал. Помехи можно классифицировать:
1) Детерминированные (регулярные) – например, фон источника питания и случайные – например, тепловой шум и т.д.
2) Внутренние, возникающие в самой аппаратуре и внешние.
К внешним помехам относятся:
- атмосферные грозовые разряды, космические излучения и т.д.
- индустриальные (электротехнические, связанные с коммутацией, сварка, транспорт и т.д.);
- интерферентные (глушители).
3) Аддитивные – которые суммируются с основным сигналом и мультипликативные – которые перемножаются с полезным сигналом.
Приемник осуществляет прием сигнала и его демодуляцию. Демодуляция – отделение полезного сигнала от несущей. Демодулятор – устройство для отделения модулирующего сигнала от несущей.
На выходе приемника получается последовательность кодовых комбинаций, которая вследствие действия помех и наличия искажений может отличаться от переданных комбинаций.
Декодер (декодирующее устройство) преобразует кодовые комбинации в сообщения, поступающие получателю.
Основные проблемы систем передачи информации:
Обеспечение достоверности передаваемых сообщений (помехоустойчивость).
2. Обеспечение высокой эффективности передачи сообщений.
Помехоустойчивость – способность системы противостоять вредному действию помех и искажений. Повышению помехоустойчивости способствует увеличение соотношения сигнал – помеха, выбором метода кодирования (помехоустойчивое кодирование), вида модуляции (искажения), передающей среды и т.д.
Эффективность определяется способностью системы обеспечить передачу заданного количества информации с наименьшими затратами мощности сигнала, времени и полосы частот (т.е. наиболее экономичным способом).
3. Системы и сети передачи данных
Система передачи данных – совокупность технических средств, обеспечивающих передачу данных [1].
Первые сети передачи данных появились в начале 50‑х годов, когда линии связи соединяли центральные ЭВМ с удаленными терминалами и другими периферийными устройствами. Стремительное увеличение сетей передачи данных было обусловлено созданием вычислительных систем большой производительности с разделением времени. В связи с широким использованием ЭВМ в различных сферах существенно возрастает потребность в передаче данных. Их применение позволяет использовать:
– удаленный доступ к базам данных (БД) и их обновлению (например: информационные и финансовые службы, продажа авиабилетов и т.д.);
– электронную почту;
– использование удаленных мощных ЭВМ;
– управление объектами в реальном времени и т.д.
Схема системы передачи данных (СПД) приведена на рис. 3.
Рис. 3. Схема системы передачи данных
Система передачи данных включает: аппаратуру передачи данных (АПД); модуль управления линией передачи данных (УЛПД); модем – модулятор и демодулятор, объединенные в одном устройстве; интерфейс – унифицированная система сопряжения. В СПД используются различные типы интерфейсов (например, RS‑232c и др.).
Аппаратура передачи данных предназначена для преобразования передаваемой дискретной информации (данных) в сигналы, пригодные для передачи по каналам связи, и принятой информации к виду пригодному для обработки на приемной стороне.
Сообщения представляют длинные последовательности битов, которые обычно разбиваются на более короткие последовательности, называемые пакетами. Передающий модуль УЛПД преобразует пакет, представляющий поле данных, в кадр, помещая в него ряд управляющих бит, определяющих начало и конец кадра, адрес источника и приемника, проверочные последовательности (полином 32-го порядка), позволяющие обнаружить ошибки в принятых кадрах, запрос на повторную передачу, если обнаружены ошибки и др.
Принимающий модуль УЛПД на конечном пункте из пакетов собирает сообщения.
Системы передачи данных можно объединять в сети по иерархическому принципу, т.е. в многоуровневую систему. Существуют глобальные и локальные вычислительные сети. Глобальная сеть – сеть, покрывающая площадь, которая больше площади города. Локальная сеть (ЛС) – вычислительная сеть, в которой компьютеры и терминалы расположены в географически ограниченном пространстве, чаще всего в пределах одной организации, учреждения, учебного заведения и т.д.
Характеристиками локальной сети являются: топология (шинная, кольцевая, звездная и древовидная), метод доступа (случайный или детерминированный), физическая передающая среда (витая пара, коаксиальный или оптоволоконный кабель) и др.
Выбор передающей среды определяется необходимой пропускной способностью. Витая пара используется для ЛС с малой пропускной способностью (менее 1М бит/с или от 50 до 200–300 бод), коаксиальный кабель используется для ЛС со средней пропускной способностью (от 1 до10 М бит/с или от 600 до 4800 – 9600 бод), оптоволоконный кабель используется для ЛС с большой пропускной способностью (свыше 10 М бит/с или свыше 48 000 бод). При наличии кабельных повторителей максимальное расстояние между узлами в этой сети составляет до 2000 м, а без них до 500 м.
Список литературы
1. Блейхут Р. Теория и практика кодов, контролирующих ошибки: Пер. с англ. – М.: Мир, 1986.
2. Бриллюэн Л. Научная неопределенность и информация, М., 1966.
3. Вероятностные методы в вычислительной технике. /Под ред. А.Н. Лебедева, Е.А. Чернявского. – М.: Высш. шк., 1986.
4. Кловский Д.Д. Теория передачи сигналов. – М.: Связь, 1984.
5. Кудряшов Б.Д. Теория информации. Учебник для вузов Изд-во ПИТЕР, 2008. – 320 с.
Тема: «ПРЕДМЕТ И МЕТОДЫ ТЕОРИИ ИНФОРМАЦИИ»
Введение
Теория информации – наука о проблемах сбора, преобразования, передачи, хранения, обработки и отображения информации.
Теория информации базируется на методах теории вероятности, математической статистики, линейной алгебры и других разделах математики. Теория информации и ее методы широко используются для анализа процессов в различных информационных системах, т.е. системах, основой функционирования которых является процесс преобразования информации (системы связи, телевидения, вычислительные системы и т.д.).
В компьютерной технике методы теории информации широко используются для оценки быстродействия, точности и надежности систем, сжатия и защиты информации, согласования сигналов и каналов в компьютерных сетях передачи данных и т.д.
1. Основные понятия и определения
Понятие «информация» (лат. information – разъяснение) принадле-жит к исходным неопределяемым понятиям науки, т. к. оно является многозначным. Не существует единого определения этого понятия, которое охватывало бы все аспекты: количественную, содержательную, прагматическую и др. стороны. Существует целый ряд определений, например: информация – отражение реального мира; информация – устраненная неопределенность и др.
Информация – в общем случае, совокупность сведений о каких-либо событиях, явлениях, предметах, получаемых в результате взаимодействия с внешней средой. Формой представления информации является сообщение.
Сообщение – любые сведения или данные, поступающие от отправителя (источника) сообщений на вход системы связи для передачи получателю. Для представления информации (хранения, обработки, преобразования и т.д.) используют различные символы, позволяющие выразить ее в определенной форме (текст, речь, рисунок, колебания, цифры, числа, символы, жесты и т.д.).
Информация от источника к приемнику передается с помощью сигнала. Сигнал – физический процесс, отображающий сообщение. Носителем информации может быть только такой сигнал, изменение которого во времени точно предсказать нельзя. Априорно известный сигнал не содержит информации. Информация – лишь те сведения в сообщении, которые неизвестны получателю, т.е. не всякое сообщение несет информацию. Информация характеризуется рядом показателей: количеством, скоростью передачи, надежностью передачи, достоверностью и т.д.
2. Системы передачи информации
Система передачи информации – совокупность технических средств для передачи информации от источника к приемнику информации.
Для того чтобы представить содержание курса и его основные проблемы рассмотрим блок-схему системы передачи информации, предложенную Шенноном (см. рис. 1).
Источник помех |
Линия связи |
Передатчик |
Приемник |
Кодирующее устройство |
Декодирующее устройство |
Источник информации |
Приемник информации |
Канал связи |
Рис. Схема системы передачи информации
Любая ЭВМ также представляет собой информационную систему, которую можно рассматривать как канал преобразования информации (см. рис. 2). На схеме введены обозначения: ИИ и ПИ – соответствен-но источник и приемник информации; ЦП – центральный процессор; ОП – оперативная память; Вх. У и Вых. У – соответственно входное и выходное устройства, которые осуществляют функции кодирования и декодирования.
ЦП |
ОП |
ВхУ |
ПИ |
ИИ |
ВыхУ |
Рис. 2. Структура ЭВМ
Задачей системы передачи информации является воспроизведение с заданной точностью наиболее экономичным методом сообщения выработанного источником информации.
Источником сообщений может быть человек или различного рода устройства (датчики, автомат, ЭВМ, и т.д.). Источник информации выдает сообщение или последовательность сообщений. Сообщения могут иметь непрерывный или дискретный характер.
Дискретными называются сообщения, которые представляются последовательностью из конечного числа отдельных, резко различимых элементов, между которыми нет промежуточных значений, т.е. дискретная информация представляется в виде конечной совокупности символов (печатные тексты и документы, состояния цифровых автоматов и т.д.).
Непрерывные сообщения характеризуются тем, что два нетождественных сообщения могут отличаться сколь угодно мало друг от друга (музыка, речь, изображения объемов, телеметрические данные). Непрерывные сообщения можно преобразовать в дискретные.
Для передачи на расстояние сообщение преобразуется в сигнал. Процесс преобразования сообщения в сигнал состоит из трех этапов (операций): преобразование, кодирование, модуляция. В процессе преобразования сообщение, которое может иметь любую физическую природу (изображение, звук и т.д.), преобразуется в первичный сигнал. В телефонии микрофон преобразует звуковые волны (давление) в электрический ток микрофона. В телеметрии датчики преобразуют изменение физических величин (температура, давление и т.д.) в электрические.
Кодирование – преобразование сообщения в сигнал, т.е. отображение сообщений сигналами в виде определенного сочетания элементарных дискретных символов, называемых кодовыми комбинациями (кодовыми словами).
Код – правило, согласно которому каждому сообщению однозначно ставится в соответствие некоторая кодовая комбинация. Кодер – устройство, осуществляющее кодирование.
Кодер источника (КИ) – кодер, использование которого позволяет путем устранения избыточности существенно снизить среднее число символов на букву сообщения (такое кодирование называется оптимальным или эффективным). При отсутствии помех это дает выигрыш во времени передачи или в объеме ЗУ, т.е. повышает эффективность системы передачи данных.
Кодер канала (КК) – позволяет путем внесения избыточности обеспечить достоверность передачи данных при наличии помех (такое кодирование называется помехоустойчивым).
Канал – совокупность средств, предназначенных для передачи сигнала от передатчика к приемнику информации (передатчик, приемник, линия связи и т.д.). Канал связи может быть односторонний (симплексный) и двухсторонний (дуплексный).
Передатчик – служит для преобразования электрического сигнала в сигнал, пригодный для передачи по линии связи.
Модуляцией называется изменение параметров переносчика сигнала в соответствии с функцией, отображающей сообщение. Несущим сигналом может быть ток (телеграфия), гармонические низкочастотные или высокочастотные колебания (телефония и т.д.), высокочастотные импульсы (радиорелейная связь и т.д.). Модулируемые параметры называются информативными и могут быть амплитудой, частотой, фазой и т.д. Модулятор – устройство, осуществляющее модуляцию.
При передаче по каналу связи происходит ослабление и искажение передаваемого сигнала, вносимых каналом и действием помех.
Линейные искажения – определяются частотными и временными характеристиками канала. Нелинейные искажения – определяются нелинейностью звеньев канала и видом модуляции.
Линия связи (ЛС) – это среда, используемая для передачи сигнала от передатчика к приемнику. Существуют различные типы линий связи:
Проводные линии связи. Проводные линии связи могут быть воздушными, кабельными, коаксиальными, оптико-волоконными, линиями электропередачи (ЛЭП). Они используются:
– в телефонии – 300–3400 Гц (тональный диапазон);
– в телеграфии – 0–300 Гц (под тональный диапазон);
– в телевидении – 300–3000 мГц;
– ЛЭП – 500–1000 кГц.
Проводные линии связи характеризуются: помехозащищенностью и волновым сопротивлением r=
При передаче на большие расстояния необходимо использование промежуточных усилительных пунктов (расстояние зависит от используемых частот и типа ЛС).
2. Радиолинии. Радиолинии могут быть: радиорелейные (РРЛ), коротковолновые (КВ), тропосферные, ионосферные, космические и т.д.
3. Внутриаппаратные тракты. Внутриаппаратные тракты – это прежде всего шины информационного обмена в ЭВМ и тракты магнитной записи (локальная – L – bus; памяти – M – bus; периферийная – X – bus; системная – S – bus).
Многоканальные ЛС – обеспечивают несколько каналов, используя различные методы уплотнения и разделения (частотного, временного, кодового).
Помехи – воздействия, искажающие сигнал. Помехи можно классифицировать:
1) Детерминированные (регулярные) – например, фон источника питания и случайные – например, тепловой шум и т.д.
2) Внутренние, возникающие в самой аппаратуре и внешние.
К внешним помехам относятся:
- атмосферные грозовые разряды, космические излучения и т.д.
- индустриальные (электротехнические, связанные с коммутацией, сварка, транспорт и т.д.);
- интерферентные (глушители).
3) Аддитивные – которые суммируются с основным сигналом и мультипликативные – которые перемножаются с полезным сигналом.
Приемник осуществляет прием сигнала и его демодуляцию. Демодуляция – отделение полезного сигнала от несущей. Демодулятор – устройство для отделения модулирующего сигнала от несущей.
На выходе приемника получается последовательность кодовых комбинаций, которая вследствие действия помех и наличия искажений может отличаться от переданных комбинаций.
Декодер (декодирующее устройство) преобразует кодовые комбинации в сообщения, поступающие получателю.
Основные проблемы систем передачи информации:
Обеспечение достоверности передаваемых сообщений (помехоустойчивость).
2. Обеспечение высокой эффективности передачи сообщений.
Помехоустойчивость – способность системы противостоять вредному действию помех и искажений. Повышению помехоустойчивости способствует увеличение соотношения сигнал – помеха, выбором метода кодирования (помехоустойчивое кодирование), вида модуляции (искажения), передающей среды и т.д.
Эффективность определяется способностью системы обеспечить передачу заданного количества информации с наименьшими затратами мощности сигнала, времени и полосы частот (т.е. наиболее экономичным способом).
3. Системы и сети передачи данных
Система передачи данных – совокупность технических средств, обеспечивающих передачу данных [1].
Первые сети передачи данных появились в начале 50‑х годов, когда линии связи соединяли центральные ЭВМ с удаленными терминалами и другими периферийными устройствами. Стремительное увеличение сетей передачи данных было обусловлено созданием вычислительных систем большой производительности с разделением времени. В связи с широким использованием ЭВМ в различных сферах существенно возрастает потребность в передаче данных. Их применение позволяет использовать:
– удаленный доступ к базам данных (БД) и их обновлению (например: информационные и финансовые службы, продажа авиабилетов и т.д.);
– электронную почту;
– использование удаленных мощных ЭВМ;
– управление объектами в реальном времени и т.д.
Схема системы передачи данных (СПД) приведена на рис. 3.
УЛПД |
Интерфейс ( RS-232с) |
Интерфейс ( RS-232с) |
Модем |
Модем |
УЛПД |
Рис. 3. Схема системы передачи данных
Система передачи данных включает: аппаратуру передачи данных (АПД); модуль управления линией передачи данных (УЛПД); модем – модулятор и демодулятор, объединенные в одном устройстве; интерфейс – унифицированная система сопряжения. В СПД используются различные типы интерфейсов (например, RS‑232c и др.).
Аппаратура передачи данных предназначена для преобразования передаваемой дискретной информации (данных) в сигналы, пригодные для передачи по каналам связи, и принятой информации к виду пригодному для обработки на приемной стороне.
Сообщения представляют длинные последовательности битов, которые обычно разбиваются на более короткие последовательности, называемые пакетами. Передающий модуль УЛПД преобразует пакет, представляющий поле данных, в кадр, помещая в него ряд управляющих бит, определяющих начало и конец кадра, адрес источника и приемника, проверочные последовательности (полином 32-го порядка), позволяющие обнаружить ошибки в принятых кадрах, запрос на повторную передачу, если обнаружены ошибки и др.
Принимающий модуль УЛПД на конечном пункте из пакетов собирает сообщения.
Системы передачи данных можно объединять в сети по иерархическому принципу, т.е. в многоуровневую систему. Существуют глобальные и локальные вычислительные сети. Глобальная сеть – сеть, покрывающая площадь, которая больше площади города. Локальная сеть (ЛС) – вычислительная сеть, в которой компьютеры и терминалы расположены в географически ограниченном пространстве, чаще всего в пределах одной организации, учреждения, учебного заведения и т.д.
Характеристиками локальной сети являются: топология (шинная, кольцевая, звездная и древовидная), метод доступа (случайный или детерминированный), физическая передающая среда (витая пара, коаксиальный или оптоволоконный кабель) и др.
Выбор передающей среды определяется необходимой пропускной способностью. Витая пара используется для ЛС с малой пропускной способностью (менее 1М бит/с или от 50 до 200–300 бод), коаксиальный кабель используется для ЛС со средней пропускной способностью (от 1 до
Список литературы
1. Блейхут Р. Теория и практика кодов, контролирующих ошибки: Пер. с англ. – М.: Мир, 1986.
2. Бриллюэн Л. Научная неопределенность и информация, М., 1966.
3. Вероятностные методы в вычислительной технике. /Под ред. А.Н. Лебедева, Е.А. Чернявского. – М.: Высш. шк., 1986.
4. Кловский Д.Д. Теория передачи сигналов. – М.: Связь, 1984.
5. Кудряшов Б.Д. Теория информации. Учебник для вузов Изд-во ПИТЕР, 2008. – 320 с.