Зверева Е.Н., Лебедько Е.Г. Сборник примеров и задач по основам теории информации и кодирования сообщений

СПб.: НИУ ИТМО, 2014. — 76 с.Настоящие методические указания представляют собой руководство для проведения практических занятий по курсу "Основы теории информации, кодирования и модуляции". Методические указания предназначены для студентов очной формы обучения по направлению подготовки 200400 и 200401 "Оптотехника", по профилю 200200.62 "Оптико-электронные приборы и системы".
В методических указаниях содержатся краткие теоретические сведения по разделам курса "Теория информации" и "Кодирование информации". В конце каждого параграфа приводится разбор решений типовых задач, предлагаются задачи для самостоятельной работы, и контрольные вопросы.Основы теории информации.
Элементы теории вероятностей в задачах теории информации.
Задачи для самостоятельного решения.
Контрольные вопросы.
Информационная мера Шеннона.
Задачи для самостоятельного решения.
Контрольные вопросы.
Условная энтропия и взаимная информация.
Задачи для самостоятельного решения.
Контрольные вопросы.
Передача информации по каналу связи.
Задачи для самостоятельного решения.
Контрольные вопросы.
Основы кодирования сообщений.
Метод Шенно-Фано.
Задачи для самостоятельного решения.
Контрольные вопросы.
Метод Хаффмана.
Задачи для самостоятельного решения.
Контрольные вопросы.
Помехоустойчивое кодирование.
Задачи для самостоятельного решения.
Контрольные вопросы.
Приложение 1.
Список литературы.