МИНОБРНАУКИ РОССИИ
федеральное государственное бюджетное образовательное учреждение высшего образования
«Алтайский государственный университет»

Нейронные сети и глубинное обучение

рабочая программа дисциплины
Закреплена за кафедройКафедра теоретической кибернетики и прикладной математики
Направление подготовки01.03.02. Прикладная математика и информатика
ПрофильПрикладной анализ данных и компьютерное моделирование
Форма обученияОчная
Общая трудоемкость4 ЗЕТ
Учебный план01_03_02_Прикладная математика и информатика_ПАДиКМ-2022
Часов по учебному плану 144
в том числе:
аудиторные занятия 56
самостоятельная работа 61
контроль 27
Виды контроля по семестрам
экзамены: 7

Распределение часов по семестрам

Курс (семестр) 4 (7) Итого
Недель 15,5
Вид занятий УПРПДУПРПД
Лекции 22 22 22 22
Лабораторные 34 34 34 34
Сам. работа 61 61 61 61
Часы на контроль 27 27 27 27
Итого 144 144 144 144

Программу составил(и):
к.ф.-м.н., доцент, Козлов Д.Ю.

Рецензент(ы):
к.ф.-м.н., доцент, Пономарев И.В.

Рабочая программа дисциплины
Нейронные сети и глубинное обучение

разработана в соответствии с ФГОС:
Федеральный государственный образовательный стандарт высшего образования - бакалавриат по направлению подготовки 01.03.02 Прикладная математика и информатика (приказ Минобрнауки России от 10.01.2018 г. № 9)

составлена на основании учебного плана:
01.03.02 Прикладная математика и информатика
утвержденного учёным советом вуза от 29.10.2021 протокол № 1/1.

Рабочая программа одобрена на заседании кафедры
Кафедра теоретической кибернетики и прикладной математики

Протокол от 29.10.2021 г. № 1/1
Срок действия программы: 2022-2023 уч. г.

Заведующий кафедрой
к.ф.-м.н., доцент Козлов Д.Ю.


Визирование РПД для исполнения в очередном учебном году

Рабочая программа пересмотрена, обсуждена и одобрена для
исполнения в 2023-2024 учебном году на заседании кафедры

Кафедра теоретической кибернетики и прикладной математики

Протокол от 29.10.2021 г. № 1/1
Заведующий кафедрой к.ф.-м.н., доцент Козлов Д.Ю.


1. Цели освоения дисциплины

1.1.Формирование у обучающихся теоретических знаний и практических навыков по использованию современных компьютеров и программного обеспечения для решения широкого спектра задач в различных областях. Ознакомить студентов с основами теории искусственных нейронных сетей (ИНС). Привить навыки работы с различными технологиями создания ИНС. Изложить основные принципы проектирования ИНС.

2. Место дисциплины в структуре ООП

Цикл (раздел) ООП: Б1.В.01

3. Компетенции обучающегося, формируемые в результате освоения дисциплины

ПК-1 Способность осуществлять научно-исследовательскую деятельность с использованием современных информационно-коммуникационных систем и достижений науки и техники
В результате освоения дисциплины обучающийся должен
3.1.Знать:
3.1.1.основные этапы развития информационных технологий;
основы построения и функционирования искусственных нейронных сетей (ИНС);
основные аспекты проблем построения и функционирования искусственных нейронных сетей;
разновидности и функциональные особенности методов искусственного интеллекта;
основы современных технологий проектирования интеллектуального ПО;
принципы построения и функционирования интеллектуального ПО;
3.2.Уметь:
3.2.1.создавать интеллектуальные системы;
проектировать и создавать интеллектуальное ПО;
3.3.Иметь навыки и (или) опыт деятельности (владеть):
3.3.1.владеть фундаментальными знаниями по основам теории ИНС и практическими навыками проектирования ИНС;
владеть технологией обработки, информации с использованием ИНС;
владеть практическими навыками работы с современными системами разработки ИНС для различных аппаратных платформ;

4. Структура и содержание дисциплины

Код занятия Наименование разделов и тем Вид занятия Семестр Часов Компетенции Литература
Раздел 1. Теоретическое обучение
1.1. Введение. Интеллектуальные системы и технологии. Исторический аспект. Лекции 7 4 Л1.1, Л2.1
1.2. История создания интеллектуальных технологий. Нейроны, нейронные сети и нейрокомпьютеры. Сам. работа 7 4 Л1.1, Л2.1
1.3. Основы теории искусственных нейронных сетей. Лекции 7 4 Л1.1, Л2.1
1.4. Биологический нейрон и его математическая модель. Задача обучения ИНС. Однослойные и многослойные ИНС. Персептрон и задача его обучения. Сам. работа 7 4 Л1.1, Л2.1
1.5. Многослойные ИНС и процедура обратного распространения ошибки. Лекции 7 6 Л1.1, Л2.1
1.6. Многослойные сети с прямыми связями. Теорема Арнольда-Колмогорова и результаты Хехт-Нильсена. Процедура обратного распространения ошибки. Сам. работа 7 4 Л1.1, Л2.1
1.7. Обучение без учителя. Лекции 7 4 Л1.1, Л2.1
1.8. Метод обучения Хэбба. Алгоритм обучения Кохонена. Сам. работа 7 4 Л1.1, Л2.1
1.9. ИНС Хопфилда и Хэмминга. Звезды Гроссберга и карты Кохонена. Лекции 7 4 Л1.1, Л2.1
1.10. ИНС Хопфилда и Хемминга. Сети встречного распространения. Сам. работа 7 8 Л1.1, Л2.1
Раздел 2. Лабораторный практикум
2.1. Освоение принципов создания и обучения нейронной сети на примере работы оболочки Neuropro. Лабораторные 7 4 Л2.1
2.2. Освоение принципов создания и обучения нейронной сети на примере работы оболочки Neuropro. Сам. работа 7 2 Л2.1
2.3. Простые нейронные сети. Персептрон. Лабораторные 7 4 Л2.1
2.4. Простые нейронные сети. Персептрон. Сам. работа 7 2 Л2.1
2.5. Нейронные сети: обучение без учителя. Лабораторные 7 6 Л2.1
2.6. Нейронные сети: обучение без учителя. Сам. работа 7 16 Л2.1
2.7. Нейронные сети: алгоритм обратного распространения. Лабораторные 7 10 Л2.1
2.8. Нейронные сети: алгоритм обратного распространения. Сам. работа 7 2 Л2.1
2.9. ИНС Хопфилда и Хэмминга. Звезды Гроссберга и карты Кохонена. Лабораторные 7 10 Л2.1
2.10. ИНС Хопфилда и Хэмминга. Звезды Гроссберга и карты Кохонена. Сам. работа 7 15 Л2.1

5. Фонд оценочных средств

5.1. Контрольные вопросы и задания для проведения текущего контроля и промежуточной аттестации по итогам освоения дисциплины
Изложить принцип работы персептрона.
Что такое персептронный нейрон, и каков принцип его действия?
В чем заключается проблема «ИСКЛЮЧАЮЩЕЕ ИЛИ»?
Изложите принцип линейной разделимости и пути его преодоления.
Какова эффективность запоминания информации персептроном?
Изложите принципы обучения персептрона.
Опишите алгоритм обучения персептрона.
Каким образом можно модифицировать алгоритм обучения персептрона?
Какие классы задач могут быть решены при помощи персептронных систем?
Охарактеризуйте алгоритмы обучения НС с учителем и без учителя.
Изложите сигнальную процедуру Хэбба для обучения НС.
Изложите дифференциальный метод обучения Хэбба.
Каковы недостатки алгоритмов Хэбба и как они преодолеваются?
Изложите алгоритм обучения Кохонена.
Каковы недостатки алгоритма обучения Кохонена?
Изложите основные концепции процедуры обратного распространения.
Изложите математические аспекты процедуры обратного распространения.
Изложите алгоритм процедуры обратного распространения.
Что можно сказать о емкости НС?
Каковы достоинства процедуры обратного распространения?
Каковы недостатки процедуры обратного распространения и как они преодолеваются?
Изложите основные концепции архитектуры сети Хопфилда.
Изложите основные концепции архитектуры сети Хемминга.
Изложите основные концепции архитектуры ДАП.
Что можно сказать о емкости приведенных выше НС?
Каковы достоинства процедуры сетей Хемминга и Хопфилда?
Каковы недостатки сетей Хопфилда, Хемминга, ДАП и как они преодолеваются?
5.2. Темы письменных работ для проведения текущего контроля (эссе, рефераты, курсовые работы и др.)
не требуется
5.3. Фонд оценочных средств для проведения промежуточной аттестации
Фонд оценочных средств представлен в электронном учебно-методическом комплексе по аддресу: http://portal.edu.asu.ru/course/view.php?id=387 (Единый образовательный портал АлтГУ)
Приложения

6. Учебно-методическое и информационное обеспечение дисциплины

6.1. Рекомендуемая литература
6.1.1. Основная литература
Авторы Заглавие Издательство, год Эл. адрес
Л1.1 Н. В. Максимов, Т. Л. Партыка, И. И. Попов Современные информационные технологии: учебник М.: ФОРУМ, 2008
6.1.2. Дополнительная литература
Авторы Заглавие Издательство, год Эл. адрес
Л2.1 Радченко А.Н. Ассоциативная память. Нейронные сети. Оптимизация нейропроцессоров: СПб. : Наука, 1998 3
6.2. Перечень ресурсов информационно-телекоммуникационной сети "Интернет"
Название Эл. адрес
Э1 www.gpntb.ru/ Государственная публичная научно-техническая библиотека.
Э2 www.nlr.ru/ Российская национальная библиотека.
Э3 www.nns.ru/ Национальная электронная библиотека.
Э4 www.rsl.ru/ Российская государственная библиотека.
Э5 www.microinform.ru/ Учебный центр компьютерных технологий «Микроинформ».
Э6 www.tests.specialist.ru/ Центр компьютерного обучения МГТУ им. Н.Э.Баумана.
Э7 www.intuit.ru/ Образовательный сайт
Э8 www.window.edu.ru/ Библиотека учебной и методической литературы
Э9 www.osp.ru/ Журнал «Открытые системы»
Э10 www.ihtika.lib.ru/ Библиотека учебной и методической литературы
Э11 news.rea.ru/portal/Departments.nsf/(Index)/Lib Библиотека Российской экономической академии им. Плеханова.
Э12 Курс в Moodle "Нейронные сети. Глубокое обучение" portal.edu.asu.ru
6.3. Перечень программного обеспечения
В компьютерном классе должны быть установлены:
Visual Studio
Условия использования: https://code.visualstudio.com/license
LibreOffice
Условия использования: https://ru.libreoffice.org/about-us/license/
Microsoft Windows
7-Zip
AcrobatReaderMicrosoft Office 2010 (Office 2010 Professional, № 4065231 от 08.12.2010), (бессрочно);
Microsoft Windows 7 (Windows 7 Professional, № 61834699 от 22.04.2013), (бессрочно);
Chrome (http://www.chromium.org/chromium-os/licenses), (бессрочно); 7-Zip (http://www.7-zip.org/license.txt), (бессрочно);
AcrobatReader (http://wwwimages.adobe.com/content/dam/Adobe/en/legal/servicetou/Acrobat_com_Additional_TOU-en_US-20140618_1200.pdf), (бессрочно);
ASTRA LINUX SPECIAL EDITION (https://astralinux.ru/products/astra-linux-special-edition/), (бессрочно);
LibreOffice (https://ru.libreoffice.org/), (бессрочно);
Веб-браузер Chromium (https://www.chromium.org/Home/), (бессрочно);
Антивирус Касперский (https://www.kaspersky.ru/), (до 23 июня 2024);
Архиватор Ark (https://apps.kde.org/ark/), (бессрочно);
Okular (https://okular.kde.org/ru/download/), (бессрочно);
Редактор изображений Gimp (https://www.gimp.org/), (бессрочно)
6.4. Перечень информационных справочных систем
Электронная библиотечная система Алтайского государственного университета (http://elibrary.asu.ru/);

7. Материально-техническое обеспечение дисциплины

Аудитория Назначение Оборудование
Учебная аудитория для проведения занятий лекционного типа, занятий семинарского типа (лабораторных и(или) практических), групповых и индивидуальных консультаций, текущего контроля и промежуточной аттестации, курсового проектирования (выполнения курсовых работ), проведения практик Стандартное оборудование (учебная мебель для обучающихся, рабочее место преподавателя, доска)
Помещение для самостоятельной работы помещение для самостоятельной работы обучающихся Компьютеры, ноутбуки с подключением к информационно-телекоммуникационной сети «Интернет», доступом в электронную информационно-образовательную среду АлтГУ
107Л лаборатория информационных технологий - компьютерный класс - учебная аудитория для проведения занятий семинарского типа (лабораторных и(или) практических); проведения групповых и индивидуальных консультаций, текущего контроля и промежуточной аттестации Учебная мебель на 18 посадочных мест; компьютеры: марка HP, модель ProOne 400 - 18 единиц; проектор: марка SMART, модель UF70 - 1 единица; интерактивная доска: марка SMART Board модель SMB680 - 1 единица
408Л лаборатория математического моделирования - учебная аудитория для проведения занятий семинарского типа (лабораторных и(или) практических); проведения групповых и индивидуальных консультаций, текущего контроля и промежуточной аттестации Учебная мебель на 15 посадочных мест; рабочее место преподавателя; доска меловая 1 шт.; компьютер Depo - 10 шт., 5 шт. с мониторами LG и 5 шт. с мониторами Philips; мультимедиа-проектор Sony - 1 шт.; МФУ Canon - 1 шт.; стационарный экран: марка Digis Optima C - 1 шт.

8. Методические указания для обучающихся по освоению дисциплины

Методические указания для студентов

Основной целью при изучении дисциплины является стремление показать области применения и формирование у будущих бакалавров теоретических знаний и практических навыков по использованию современных персональных компьютеров и программных средств для решения широкого спектра задач в различных областях, а именно:

ознакомить студентов с основами организации и архитектуры искусственных нейронных сетей;
привить навыки работы с языками программирования для программных комплексов, реализующих искусственные нейронные сети;
изложить основные принципы проектирования искусственных нейронных сетей.

Основными задачами изучения дисциплины являются:

овладение фундаментальными знаниями об основах организации и архитектуре искусственных нейронных сетей;
целостное представление о науке и ее роли в развитии информационных технологий;
владеть общими вопросами организации искусственных нейронных сетей для современных ЭВМ;
овладение технологиями программирования с использованием нейросетевого подхода;
углубление практических навыков работы на персональном компьютере (основы работы с различными инструментальными средствами для проектирования и искусственных нейронных сетей).

Для эффективного изучения теоретической части дисциплины необходимо:

построить работу по освоению дисциплины в порядке, отвечающим изучению основных этапов, согласно приведенным темам лекционного материала;
систематически проверять свои знания по контрольным вопросам и тестам;
усвоить содержание ключевых понятий;
активно работать с основной и дополнительной литературой по соответствующим темам;
регулярно консультироваться с преподавателем, ведущим изучаемую дисциплину.

Для эффективного изучения практической части дисциплины настоятельно рекомендуется:

систематически выполнять подготовку к практическим занятиям по предложенным преподавателем темам;
своевременно выполнять практические задания, подготавливать доклады или рефераты.

Методические рекомендации по самостоятельной работе

Самостоятельная работа студента, безусловно - один из важнейших этапов в подготовке бакалавров. Она приобщает студентов к исследовательской работе, обогащает опытом и знаниями, необходимыми для дальнейшего их становления как специалистов, прививает навыки работы с литературой.

Цель самостоятельной работы - систематизация, закрепление и расширение теоретических и практических знаний с использованием современных информационных технологий и литературных источников. Данная цель может быть достигнута при решении следующего круга задач:

изучение лекционного материала;
изучение дополнительных источников информации;
выполнение лабораторных работ.