МИНОБРНАУКИ РОССИИ
федеральное государственное бюджетное образовательное учреждение высшего образования
«Алтайский государственный университет»

Машинное обучение

рабочая программа дисциплины
Закреплена за кафедройКафедра информационной безопасности
Направление подготовки09.04.01. Информатика и вычислительная техника
ПрофильНейроинформационные технологии и робототехнические системы
Форма обученияОчная
Общая трудоемкость4 ЗЕТ
Учебный план09_04_01_НТРС-2-2019
Часов по учебному плану 144
в том числе:
аудиторные занятия 54
самостоятельная работа 90
Виды контроля по семестрам
диф. зачеты: 1

Распределение часов по семестрам

Курс (семестр) 1 (1) Итого
Недель 19
Вид занятий УПРПДУПРПД
Лекции 18 18 18 18
Лабораторные 36 36 36 36
Сам. работа 90 90 90 90
Итого 144 144 144 144

Программу составил(и):
к.т.н., доцент, Шайдуров А.А.

Рецензент(ы):
к.ф.-м.н., доцент, Рудер Д.Д.

Рабочая программа дисциплины
Машинное обучение

разработана в соответствии с ФГОС:
Федеральный государственный образовательный стандарт высшего образования по направлению подготовки 09.04.01 ИНФОРМАТИКА И ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА (уровень магистратуры) (приказ Минобрнауки России от 30.10.2014г. №1420)

составлена на основании учебного плана:
09.04.01 Информатика и вычислительная техника
утвержденного учёным советом вуза от 25.06.2019 протокол № 9.

Рабочая программа одобрена на заседании кафедры
Кафедра информационной безопасности

Протокол от 26.06.2019 г. № 69/18-19
Срок действия программы: 2019-2020 уч. г.

Заведующий кафедрой
д.т.н., Седалищев Виктор Николаевич, профессор, заведующий кафедрой вычислительной техники и электроники


Визирование РПД для исполнения в очередном учебном году

Рабочая программа пересмотрена, обсуждена и одобрена для
исполнения в 2019-2020 учебном году на заседании кафедры

Кафедра информационной безопасности

Протокол от 26.06.2019 г. № 69/18-19
Заведующий кафедрой д.т.н., Седалищев Виктор Николаевич, профессор, заведующий кафедрой вычислительной техники и электроники


1. Цели освоения дисциплины

1.1.Целью данного курса является изучение основ теории обучения машин, включая дискриминантный, кластерный и регрессионный анализ, овладение навыками практического решения задач интеллектуального анализа данных.

2. Место дисциплины в структуре ООП

Цикл (раздел) ООП: Б1.В.ДВ.01

3. Компетенции обучающегося, формируемые в результате освоения дисциплины

ПК-2 знанием методов научных исследований и владение навыками их проведения
В результате освоения дисциплины обучающийся должен
3.1.Знать:
3.1.1.- современное состояние исследований в области машинного обучения
- принципы построения систем машинного обучения
- модели представления и описания технологий машинного обучения
3.2.Уметь:
3.2.1.- проводить анализ предметной области
- определять назначение, выбирать методы и средства для построения систем машинного обучения
- строить системы машинного обучения
3.3.Иметь навыки и (или) опыт деятельности (владеть):
3.3.1.- использования аппарата простейшего анализ данных
- применения методов классификации информации
- реализации алгоритмов машинного обучения

4. Структура и содержание дисциплины

Код занятия Наименование разделов и тем Вид занятия Семестр Часов Компетенции Литература
Раздел 1. Лекционный раздел
1.1. Основные понятия. Лекции 1 2 Л2.1
1.2. Объекты и признаки. Типы задач распознавания. Понятие алгоритма распознавания. Методы обучения. Функционал качества алгоритма. Эмпирический риск. Переобучение. Обобщающая способность. Скользящий контроль. Сам. работа 1 6 Л2.1
1.3. Метрические алгоритмы классификации. Лекции 1 2 Л2.1
1.4. Метод ближайшего соседа. Метод k ближайших соседей. Метод k взвешенных ближайших соседей. Метод парзеновского окна. Сам. работа 1 6 Л2.1
1.5. Дискриминантный анализ. Лекции 1 2 Л2.1
1.6. Линейный дискриминант Фишера. Методы снижения размерностей. Метод главных компонент. Сам. работа 1 6 Л2.1
1.7. Байесовская теория решений. Лекции 1 2 Л2.1
1.8. Оценка параметров вероятностной модели. Метод максимального правдоподобия. Максимизация апостериорной вероятности. Сам. работа 1 6 Л2.1
1.9. Регрессия и классификация. Обзор методов оптимизации. Лекции 1 2 Л2.1
1.10. Моделирование распознаваемого параметра. Моделирование наблюдаемой величины. Регрессия. Бинарная классификация. Линейная регрессия. Метод наименьших квадратов. Регуляризация по Тихонову. Байесовская линейная регрессия. Разреженная линейная регрессия. Модели классификации. Логистическая регрессия. Сам. работа 1 6 Л2.1
1.11. Метод опорных векторов. Лекции 1 2 Л2.1
1.12. Линейно разделимая выборка. Линейно неразделимая выборка. Ядра. Алгоритм Платта. Сам. работа 1 6 Л2.1
1.13. Искусственные нейронные сети. Лекции 1 2 Л2.1
1.14. Персептрон. Метод обратного распространения ошибки. Гессиан для функции ошибки. Переобучение нейронных сетей. Сверточные нейронный сети. Сам. работа 1 6 Л2.1
1.15. Решающие деревья и их ансамбли. Лекции 1 2 Л2.1
1.16. Случайные леса. Алгоритм AdaBoost. Алгоритм Gradient boosting. Сам. работа 1 6 Л2.1
1.17. Графические модели. Байесовские сети. Марковские сети. Лекции 1 2 Л2.1
1.18. Максимизация апостериорной вероятности для марковских цепей и деревьев. Минимизация энергии с помощью разрезов графов. Алгоритм а-расширения. Алгоритм распространения доверия. Структурный метод опорных векторов. Сам. работа 1 6 Л2.1
Раздел 2. Лабораторный раздел
2.1. Переобучение. Влияние размера обучающей выборки на качество обучения. Лабораторные 1 4 Л2.1
2.2. Переобучение. Влияние размера обучающей выборки на качество обучения. Сам. работа 1 4 Л2.1
2.3. Байесовская классификация. Оценка параметров математической модели объектов. Лабораторные 1 4 Л2.1
2.4. Байесовская классификация. Оценка параметров математической модели объектов. Сам. работа 1 4 Л2.1
2.5. ЕМ-алгоритм. Обучение с помощью ЕМ-алгоритма для распределения Стьюдента. Лабораторные 1 4 Л2.1
2.6. ЕМ-алгоритм. Обучение с помощью ЕМ-алгоритма для распределения Стьюдента. Сам. работа 1 4 Л2.1
2.7. Метод опорных векторов. Искусственные нейронные сети. Распознавание символов текста с помощью метода опорных векторов и с помощью сверточных сетей. Лабораторные 1 8 Л2.1
2.8. Метод опорных векторов. Искусственные нейронные сети. Распознавание символов текста с помощью метода опорных векторов и с помощью сверточных сетей. Сам. работа 1 8 Л2.1
2.9. Решающие деревья. Построение решающих деревьев. Алгоритм Gradient boosting. Лабораторные 1 8 Л2.1
2.10. Решающие деревья. Построение решающих деревьев. Алгоритм Gradient boosting. Сам. работа 1 8 Л2.1
2.11. Графические модели. Сегментация изображений с помощью графических моделей. Алгоритм Витерби для марковских цепей. Лабораторные 1 8 Л2.1
2.12. Графические модели. Сегментация изображений с помощью графических моделей. Алгоритм Витерби для марковских цепей. Сам. работа 1 8 Л2.1
Раздел 3. аттестация

5. Фонд оценочных средств

5.1. Контрольные вопросы и задания для проведения текущего контроля и промежуточной аттестации по итогам освоения дисциплины
ЗАДАНИЯ ДЛЯ САМОСТОЯТЕЛЬНОЙ РАБОТЫ
Значимые параметры, по которым целесообразно проводить сравнение различных динамических экспертных систем.
Определение логической модели представления знаний.
Определение стратегии управления в экспертных системах и приведите классификацию стратегий.
Формальное определение продукционной системы (по Е.Посту и А.Ньюэллу).
Ведущие тенденции в разработке ИС для естественно-языковых систем.
Главные направления структуризации при проектировании экспертных систем.
Методы, применяемые для тестирования современных экспертных систем.
Основные направления использования проблемно/предметно-ориентированных ИС.
Основные различия между подходом, использующим управляемые образцами правила, и подходом, использующим управляемые образцами модули.
Основные типы проблемных сред и ИС
Примеры применения технологии динамических экспертных систем.
Примеры успешного применения технологии ЭС.
Назначение механизма инспекции в современных экспертных системах.
Основные причины успеха современной технологии ЭС .
Понятия интегрированного приложения, открытого приложения и распределенного при-ложения.
Различия между рабочими пространствами и модулями прикладной системы.
Статические и динамические задачи.
Метод поиска решений в альтернативных пространствах при неполных и неточных дан-ных.
Метод поиска решений в иерархии пространств.
Метод поиска решений в одном пространстве.
Метод поиска решений с использованием нескольких моделей.
Основные режимы работы ЭС.
Базовые типы диаграмм, используемые в методологии разработки экспертных систем.
Главные тенденции в разработке ИС для экспертных систем.
Достоинства и особенности систем, управляемых образцами.
Основные этапы разработки ЭС.
Новые направления ИИ, в которых обозначились существенные практические успехи.
Основные аспекты организации знаний в рабочей памяти и базе знаний ЭС.
Основные компоненты статической ЭС.
Основные параметры, определяющие свойства предметной области.
Отличия архитектуры динамической ЭС от архитектуры стати-ческой ЭС.
Отличия коммерческой системы от промышленной и действующего прототипа от исследовательского
Базовые свойства объектно-ориентированного подхода.
Примеры современных гибридных инструментальных средств для статических экспертных систем.
Примеры статических и динамических экспертных систем.
Результаты сравнения наиболее развитой динамической экспертной Системы G2 с други-ми классами экспертных систем.
Основные задачи механизма вывода экспертной системы.
Основные направления практических успехов искусственного интеллекта.
Основные тенденции в разработке ИС для нейронных сетей.
Особенности каждого этапа жизненного цикла экспертных систем.
Особенности семантических моделей.
Отличия ЭС от традиционных систем обработки данных.
Параметры классификации экспертных систем.
Состав знаний в экспертных системах и от каких факторов он зависит.
Главные характеристики типов задач, решаемых экспертной системой.
Назначение и главные функции четырех этапов работы интерпретатора.
Основные характеристики инструментальных средств для каждого типа ЭВМ.
Основные черты фреймового подхода.
Состав и роли участников разработки ЭС.

ВОПРОСЫ К ЗАЧЕТУ
1. Обзор задач, решаемых алгоритмами машинного обучения
2. Классификация алгоритмов машинного обучения
3. Линейные модели регрессии
4. Базисные функции
5. Регуляризация
6. Целевая функция логистической регрессии
7. Регуляризация логистической регрессии
8. Структура нейрона
9. Структура нейронной сети
10. Перцептрон
11. Обучения нейронной сети с помощью алгоритма обратного распространения ошибки
12. Структура деревьев решений
13. Виды разделяющих функций
14. Обучения дерева решений
15. Алгоритм Random Forest
16. Алгоритм AdaBoost
17. Каскад классификаторов
18. Кластеризация
19. Обучение без учителя
20. Алгоритм k-means
21. Иерархическая кластеризация
5.2. Темы письменных работ для проведения текущего контроля (эссе, рефераты, курсовые работы и др.)
не требуется
5.3. Фонд оценочных средств для проведения промежуточной аттестации
Представлен в приложении

6. Учебно-методическое и информационное обеспечение дисциплины

6.1. Рекомендуемая литература
6.1.2. Дополнительная литература
Авторы Заглавие Издательство, год Эл. адрес
Л2.1 Журавлева В.В. Введение в системный анализ и исследование операций : Учебное пособие Барнаул: Изд-во Алт. ун-та, 2010
6.2. Перечень ресурсов информационно-телекоммуникационной сети "Интернет"
Название Эл. адрес
Э1 www.gpntb.ru/ Государственная публичная научно-техническая библиотека.
Э2 www.nlr.ru/ Российская национальная библиотека.
Э3 www.nns.ru/ Национальная электронная библиотека.
Э4 www.rsl.ru/ Российская государственная библиотека.
Э5 www.intuit.ru/ Образовательный сайт
6.3. Перечень программного обеспечения
Open Office
Условия использования: http://www.openoffice.org/license.html
LibreOffice
Условия использования: https://ru.libreoffice.org/about-us/license/
7-zip
Условия использования: https://www.7-zip.org/license.txt
Visual Studio
Условия использования: https://code.visualstudio.com/license
Acrobat Reader
Условия использования: http://wwwimages.adobe.com/content/dam/Adobe/en/legal/servicetou/Acrobat_com_Additional_TOU-en_US-20140618_1200.pdf
Mozila FireFox
Условия использования: https://www.mozilla.org/en-US/about/legal/eula/
Chrome
Условия использования: http://www.chromium.org/chromium-os/licenses
Microsoft Windows
Microsoft Office
6.4. Перечень информационных справочных систем
не требуется

7. Материально-техническое обеспечение дисциплины

Аудитория Назначение Оборудование
Помещение для самостоятельной работы помещение для самостоятельной работы обучающихся Компьютеры, ноутбуки с подключением к информационно-телекоммуникационной сети «Интернет», доступом в электронную информационно-образовательную среду АлтГУ
Учебная аудитория для проведения занятий лекционного типа, занятий семинарского типа (лабораторных и(или) практических), групповых и индивидуальных консультаций, текущего контроля и промежуточной аттестации, курсового проектирования (выполнения курсовых работ), проведения практик Стандартное оборудование (учебная мебель для обучающихся, рабочее место преподавателя, доска)
001вК склад экспериментальной мастерской - помещение для хранения и профилактического обслуживания учебного оборудования Акустический прибор 01021; виброизмеритель 00032; вольтметр Q1202 Э-500; вольтметр универсальный В7-34А; камера ВФУ -1; компьютер Турбо 86М; масспектрометр МРС -1; осциллограф ЕО -213- 2 ед.; осциллограф С1-91; осциллограф С7-19; программатор С-815; самописец 02060 – 2 ед.; стабилизатор 3218; терц-октавный фильтр 01023; шкаф вытяжной; шумомер 00026; анализатор АС-817; блок 23 Г-51; блок питания "Статрон" – 2 ед.; блок питания Ф 5075; вакуумный агрегат; весы; вольтметр VM -70; вольтметр В7-15; вольтметр В7-16; вольтметр ВУ-15; генератор Г-5-6А; генератор Г4-76А; генератор Г4-79; генератор Г5-48; датчик колебаний КВ -11/01; датчик колебаний КР -45/01; делитель Ф5093; измеритель ИМП -2; измеритель параметров Л2-12; интерферометр ИТ 51-30; источник "Агат" – 3 ед.; источник питания; источник питания 3222; источник питания ЭСВ -4; лабораторная установка для настройки газовых лазеров; лазер ЛГИ -21; М-кальк-р МК-44; М-калькул-р "Электроника"; магазин сопротивления Р4075; магазин сопротивления Р4077; микроскоп МБС -9; модулятор МДЕ; монохроматор СДМС -97; мост переменного тока Р5066; набор цветных стекол; насос вакумный; насос вакуумный ВН-01; осциллограф С1-31; осциллограф С1-67; осциллограф С1-70; осциллограф С1-81; осциллоскоп ЕО -174В – 2 ед.; пентакта L-100; пирометр "Промень"; пистонфон 05001; преобразователь В9-1; прибор УЗДН -2Т; скамья оптическая СО 1м; спектограф ДФС -452; спектограф ИСП -51; стабилизатор 1202; стабилизатор 3217 – 4 ед.; стабилизатор 3218; стабилизатор 3222 – 3 ед.; станок токарный ТВ-4; усилитель мощности ЛВ -103 – 4 ед.; усилитель У5-9; центрифуга ВЛ-15; частотомер Ч3-54А; шкаф металлический; эл.двигатель; электродинамический калибратор 11032

8. Методические указания для обучающихся по освоению дисциплины

Методические указания для студентов

Основной целью при изучении дисциплины является стремление показать области применения и формирование у будущих специалистов теоретических знаний и практических навыков по использованию современных персональных компьютеров и программных средств для решения широкого спектра задач в различных областях, а именно:

ознакомить студентов с основами организации машинного обучения;
привить навыки работы с языками программирования для программных комплексов, реализующих технологии машинного обучения;
изложить основные принципы проектирования машинного обучения.

Основными задачами изучения дисциплины «машинное обучение» являются:

овладение фундаментальными знаниями об основах организации машинного обучения;
целостное представление о науке и ее роли в развитии информационных технологий;
владеть общими вопросами организации искусственных нейронных сетей для современных ЭВМ;
овладение технологиями программирования с использованием нейросетевого подхода;
углубление практических навыков работы на персональном компьютере (основы работы с различными инструментальными средствами для проектирования и искусственных нейронных сетей).

Для эффективного изучения теоретической части дисциплины «машинное обучение» необходимо:

построить работу по освоению дисциплины в порядке, отвечающим изучению основных этапов, согласно приведенным темам лекционного материала;
систематически проверять свои знания по контрольным вопросам и тестам;
усвоить содержание ключевых понятий;
активно работать с основной и дополнительной литературой по соответствующим темам;
регулярно консультироваться с преподавателем, ведущим изучаемую дисциплину.

Для эффективного изучения практической части дисциплины «машинное обучение» настоятельно рекомендуется:

систематически выполнять подготовку к практическим занятиям по предложенным преподавателем темам;
своевременно выполнять практические задания, подготавливать доклады или рефераты.

Методические рекомендации по самостоятельной работе

Самостоятельная работа студента, безусловно - один из важнейших этапов в подготовке магистров. Она приобщает студентов к исследовательской работе, обогащает опытом и знаниями, необходимыми для дальнейшего их становления как специалистов, прививает навыки работы с литературой.

Цель самостоятельной работы - систематизация, закрепление и расширение теоретических и практических знаний с использованием современных информационных технологий и литературных источников. Данная цель может быть достигнута при решении следующего круга задач:

изучение лекционного материала;
изучение дополнительных источников информации;
выполнение лабораторных работ.

Порядок начисления рейтинговых баллов по предмету
Работа с базами данных - 10 баллов
Прохождение тестов - 60 баллов
Выполнение лабораторных работ - 30 баллов

Формула перевода итоговой суммы баллов в традиционную оценку по дисциплине
отлично: 85 - 100 баллов;
хорошо: 70 - 84 балла;
удовлетворительно: 50 - 69 баллов;
не удовлетворительно: 0-49 баллов.

Правила аттестации для студентов, не набравших необходимый минимум баллов по дисциплине
Если студент, в ходе изучения дисциплины набрал 70 и более баллов, то он имеет право на выставление соответствующей оценки по экзамену без его сдачи.
Если студент набрал менее 70 баллов, то он должен сдавать экзамен (экзаменационный тест). Данный тест оценивается в диапазоне от 0 до 30 баллов. Полученные баллы суммируются к уже набранным и студенту выставляется итоговая оценка.