Мясников В.В. Распознавание образов и машинное обучение. Основные подходы

Учебное пособие. — Самара: Самарский национальный исследовательский университет им. академика С.П. Королева, 2023. — 196 с. — ISBN 978-5-7883-1929-2.Пособие представляет собой краткое изложение материалов по ключевым разделам современной теории искусственного интеллекта: машинному обучению и распознаванию образов (классификации). Пособие включает, в частности, классификацию задач машинного обучения, описание основных методов ранжирования/упорядочивания объектов и методов распознавания образов (классификации): геометрических, статистических и алгебраических, а также кратких основ теории последовательного анализа и классификации, теории обучения с подкреплением и искусственных нейронных сетей.
Предназначено для студентов факультета информатики, обучающихся по направлению подготовки 01.03.02 Прикладная математика и информатика и специальности 10.05.03 Информационная безопасность автоматизированных систем.Методы машинного обучения
Классификация методов машинного обучения
Упорядочивание объектов и теория предпочтений
Введение
Постановка задачи
Критерии качества
Метод парных сравнений (беспризнаковые методы)
Выявление предпочтений (preference elicitation) для объектов, описываемых признаками
Знаковые представления изображений
Метод реконструкции предпочтений по знаковым представлениям
Общее описание метода
Репозиторий базисов
Репозиторий методов классификации
Особенности использования и обучения классификаторов в задаче реконструкции функции полезности и предпочтения
Экспериментальные исследования метода реконструкции предпочтений
Исследование эффективности реконструкции предпочтений на модельных данных
Исследование эффективности реконструкции предпочтений на примере реконструкции цифрового изображения по его разреженному знаковому представлению
Распознавание образов. Методы классификации
Формальная постановка задачи распознавания образов
Математические подходы к построению систем распознавания
Оценка качества классификации на практике. Кросс-валидация
Показатели качества классификаторов
Кросс-валидация и скользящий контроль
Выбор модели классификатора
Обобщающая способность методов распознавания
Результаты второго раздела
Статистические методы классификации
Качество классификатора
Оптимальные стратегии классификации
Классификатор Байеса
Минимаксный классификатор
Классификатор Неймана-Пирсона
Классификаторы, основанные на параметрических и непараметрических оценках плотности вероятности
Параметрические методы оценки плотности вероятности
Непараметрические методы оценки плотности вероятности
Последовательные методы классификации
Основные понятия последовательного анализа
Последовательный критерий отношения вероятностей Вальда
Модифицированный последовательный критерий отношения вероятностей
Постановка задачи модифицированного п.к.о.в.
Важный частный случай
Среднее число наблюдений и вероятности ошибочной классификации в модифицированном п.к.о.в.
Связь п.к.о.в. и модифицированного п.к.о.в.
Выводы для п.к.о.в.
Обобщенные п.к.о.в. для случая более двух классов
Обобщенный п.к.о.в.
Обобщенный модифицированный п.к.о.в.
Байесовская последовательная решающая процедура
Постановка задачи
Обратная процедура конечного последовательного распознавания
Алгебраические методы распознавания
Класс алгоритмов вычисления оценок
Алгебраическая теория алгоритмов распознавания
Постановка задачи и основные определения
Алгебра над множеством распознающих операторов и некорректных алгоритмов
Методы совместной классификации
Совместная классификация и основные стратегии
Параллельная схема совместной классификации с минимальной информацией о решениях экспертов
Формальная постановка задачи
Байесовская процедура совместной классификации
Совместная классификация при независимых экспертах
Двухэтапная последовательная процедура совместной классификации
Структура двухэтапной последовательной процедуры совместной классификации
Параметрическая оптимизация двухэтапной последовательной процедуры совместной классификации
Результаты экспериментальных исследований
Бустинг как метод построения алгоритма совместной классификации
Постановка задачи
Алгоритм AdaBoost
Способы обучения алгоритмов композиции
Результаты шестого раздела
Обучение с подкреплением
Постановка задачи
Метод Q-learning и его модификации
Метод Q-learning
Модификация метода: DQN
Двойное Q-обучение
TD-обучение
Алгоритм REINFORCE
Метод Actor-Critic
Обоснование использования опорного значения
Алгоритм Q-Actor-Critic
Алгоритм Advantage Actor-Critic (A2C)
Алгоритм Asynchronous Advantage Actor-Critic (A3C)
Искусственные нейронные сети. Краткое введение
Стандартный формальный нейрон
Архитектуры ИНС
Обучения ИНС. Алгоритм обратного распространения ошибки