МИНОБРНАУКИ РОССИИ
федеральное государственное бюджетное образовательное учреждение высшего образования
«Алтайский государственный университет»

Нейронные сети. Глубокое обучение

рабочая программа дисциплины
Закреплена за кафедройКафедра теоретической кибернетики и прикладной математики
Направление подготовки01.04.02. Прикладная математика и информатика
ПрофильПрикладная математика и информатика в социально-экономической сфере и образовании
Форма обученияОчная
Общая трудоемкость5 ЗЕТ
Учебный план01_04_02_Прикладная математика и информатика_ПМИвСЭСиО-2022
Часов по учебному плану 180
в том числе:
аудиторные занятия 54
самостоятельная работа 99
контроль 27
Виды контроля по семестрам
экзамены: 3

Распределение часов по семестрам

Курс (семестр) 2 (3) Итого
Недель 16
Вид занятий УПРПДУПРПД
Лекции 18 18 18 18
Лабораторные 36 36 36 36
Сам. работа 99 99 99 99
Часы на контроль 27 27 27 27
Итого 180 180 180 180

Программу составил(и):
к.ф.-м.н., доцент, Журавлева В.В.;к.т.н., Доцент, Маничева А.С.

Рецензент(ы):
к.ф.-м.н., доцент, Пономарев И.В.

Рабочая программа дисциплины
Нейронные сети. Глубокое обучение

разработана в соответствии с ФГОС:
Федеральный государственный образовательный стандарт высшего образования - магистратура по направлению подготовки 01.04.02 Прикладная математика и информатика (приказ Минобрнауки России от 10.01.2018 г. № 13)

составлена на основании учебного плана:
01.04.02 Прикладная математика и информатика
утвержденного учёным советом вуза от 29.10.2021 протокол № 1/1.

Рабочая программа одобрена на заседании кафедры
Кафедра теоретической кибернетики и прикладной математики

Протокол от 29.06.2022 г. № 11
Срок действия программы: 2022-2024 уч. г.

Заведующий кафедрой
к.т.н., доцент Понькина Е.В.


Визирование РПД для исполнения в очередном учебном году

Рабочая программа пересмотрена, обсуждена и одобрена для
исполнения в 2023-2024 учебном году на заседании кафедры

Кафедра теоретической кибернетики и прикладной математики

Протокол от 29.06.2022 г. № 11
Заведующий кафедрой к.т.н., доцент Понькина Е.В.


1. Цели освоения дисциплины

1.1.Формирование у обучающихся теоретических знаний и практических навыков по использованию современных компьютеров и программного обеспечения для решения широкого спектра задач в различных областях. Ознакомить студентов с основами теории искусственных нейронных сетей (ИНС). Привить навыки работы с различными технологиями создания ИНС. Изложить основные принципы проектирования ИНС.

2. Место дисциплины в структуре ООП

Цикл (раздел) ООП: Б1.О.03

3. Компетенции обучающегося, формируемые в результате освоения дисциплины

ОПК-3Способен разрабатывать математические модели и проводить их анализ при решении задач в области профессиональной деятельности
ОПК-3.1 Знает основные методы и принципы математического моделирования, методы построения математических моделей профессиональных задач, способы нахождения решений математических моделей и содержательной интерпретации полученных результатов; методы математической обработки результатов решения профессиональных задач.
ОПК-3.2 Умеет составлять математические модели профессиональных задач, находить способы их решения и интерпретировать смысл полученного результата.
ОПК-3.3 Способен формулировать прикладные исследовательские задачи, выбирать методы и технологии для их решения, анализировать и интерпретировать результаты исследов
УК-1Способен осуществлять критический анализ проблемных ситуаций на основе системного подхода, вырабатывать стратегию действий
УК-1.1 Знает методы и основные принципы критического анализа и оценки проблемных ситуаций на основе системного подхода.
УК-1.2 Анализирует проблемную ситуацию как систему, выявляя ее составляющие и связи внутри; осуществляет поиск вариантов решения поставленной проблемной ситуации; определяет стратегию достижения поставленной цели.
УК-1.3 Применяет навыки критического анализа проблемных ситуаций на основе системного подхода и определяет стратегию действий для достижения поставленной цели.
В результате освоения дисциплины обучающийся должен
3.1.Знать:
3.1.1.основные этапы развития информационных технологий;
основы построения и функционирования искусственных нейронных сетей (ИНС);
основные аспекты проблем построения и функционирования искусственных нейронных сетей;
разновидности и функциональные особенности методов искусственного интеллекта;
основы современных технологий проектирования интеллектуального ПО;
принципы построения и функционирования интеллектуального ПО;
3.2.Уметь:
3.2.1.создавать интеллектуальные системы;
проектировать и создавать интеллектуальное ПО;
3.3.Иметь навыки и (или) опыт деятельности (владеть):
3.3.1.владеть фундаментальными знаниями по основам теории ИНС и практическими навыками проектирования ИНС;
владеть технологией обработки, информации с использованием ИНС;
владеть практическими навыками работы с современными системами разработки ИНС для различных аппаратных платформ;

4. Структура и содержание дисциплины

Код занятия Наименование разделов и тем Вид занятия Семестр Часов Компетенции Литература
Раздел 1. Теоретическое обучение
1.1. Введение. Интеллектуальные системы и технологии. Исторический аспект. Лекции 3 2 Л1.1, Л2.1
1.2. История создания интеллектуальных технологий. Нейроны, нейронные сети и нейрокомпьютеры. Сам. работа 3 4 Л1.1, Л2.1
1.3. Основы теории искусственных нейронных сетей. Лекции 3 2 Л1.1, Л2.1
1.4. Биологический нейрон и его математическая модель. Задача обучения ИНС. Однослойные и многослойные ИНС. Персептрон и задача его обучения. Сам. работа 3 4 Л1.1, Л2.1
1.5. Многослойные ИНС и процедура обратного распространения ошибки. Лекции 3 6 Л1.1, Л2.1
1.6. Многослойные сети с прямыми связями. Теорема Арнольда-Колмогорова и результаты Хехт-Нильсена. Процедура обратного распространения ошибки. Сам. работа 3 4 Л1.1, Л2.1
1.7. Обучение без учителя. Лекции 3 4 Л1.1, Л2.1
1.8. Метод обучения Хэбба. Алгоритм обучения Кохонена. Сам. работа 3 4 Л1.1, Л2.1
1.9. ИНС Хопфилда и Хэмминга. Звезды Гроссберга и карты Кохонена. Лекции 3 4 Л1.1, Л2.1
1.10. ИНС Хопфилда и Хемминга. Сети встречного распространения. Сам. работа 3 8 Л1.1, Л2.1
Раздел 2. Лабораторный практикум
2.1. Освоение принципов создания и обучения нейронной сети на примере работы оболочки Neuropro. Лабораторные 3 4 Л2.1
2.2. Освоение принципов создания и обучения нейронной сети на примере работы оболочки Neuropro. Сам. работа 3 8 Л2.1
2.3. Простые нейронные сети. Персептрон. Лабораторные 3 4 Л2.1
2.4. Простые нейронные сети. Персептрон. Сам. работа 3 9 Л2.1
2.5. Нейронные сети: обучение без учителя. Лабораторные 3 8 Л2.1
2.6. Нейронные сети: обучение без учителя. Сам. работа 3 16 Л2.1
2.7. Нейронные сети: алгоритм обратного распространения. Лабораторные 3 10 Л2.1
2.8. Нейронные сети: алгоритм обратного распространения. Сам. работа 3 16 Л2.1
2.9. ИНС Хопфилда и Хэмминга. Звезды Гроссберга и карты Кохонена. Лабораторные 3 10 Л2.1
2.10. ИНС Хопфилда и Хэмминга. Звезды Гроссберга и карты Кохонена. Сам. работа 3 26 Л2.1

5. Фонд оценочных средств

5.1. Контрольные вопросы и задания для проведения текущего контроля и промежуточной аттестации по итогам освоения дисциплины
Изложить принцип работы персептрона.
Что такое персептронный нейрон, и каков принцип его действия?
В чем заключается проблема «ИСКЛЮЧАЮЩЕЕ ИЛИ»?
Изложите принцип линейной разделимости и пути его преодоления.
Какова эффективность запоминания информации персептроном?
Изложите принципы обучения персептрона.
Опишите алгоритм обучения персептрона.
Каким образом можно модифицировать алгоритм обучения персептрона?
Какие классы задач могут быть решены при помощи персептронных систем?
Охарактеризуйте алгоритмы обучения НС с учителем и без учителя.
Изложите сигнальную процедуру Хэбба для обучения НС.
Изложите дифференциальный метод обучения Хэбба.
Каковы недостатки алгоритмов Хэбба и как они преодолеваются?
Изложите алгоритм обучения Кохонена.
Каковы недостатки алгоритма обучения Кохонена?
Изложите основные концепции процедуры обратного распространения.
Изложите математические аспекты процедуры обратного распространения.
Изложите алгоритм процедуры обратного распространения.
Что можно сказать о емкости НС?
Каковы достоинства процедуры обратного распространения?
Каковы недостатки процедуры обратного распространения и как они преодолеваются?
Изложите основные концепции архитектуры сети Хопфилда.
Изложите основные концепции архитектуры сети Хемминга.
Изложите основные концепции архитектуры ДАП.
Что можно сказать о емкости приведенных выше НС?
Каковы достоинства процедуры сетей Хемминга и Хопфилда?
Каковы недостатки сетей Хопфилда, Хемминга, ДАП и как они преодолеваются?
5.2. Темы письменных работ для проведения текущего контроля (эссе, рефераты, курсовые работы и др.)
не требуется
5.3. Фонд оценочных средств для проведения промежуточной аттестации
Фонд оценочных средств представлен в электронном учебно-методическом комплексе по адресу: http://portal.edu.asu.ru/course/view.php?id=387 (Единый образовательный портал АлтГУ)

УК-1: Способен осуществлять критический анализ проблемных ситуаций на основе системного подхода, вырабатывать стратегию действий
С открытым ключом
1) Напишите пропущенное слово или словосочетание. ... - технология подделки с помощью компьютерных алгоритмов контента, например, изменение лиц и голосов в видео- и аудиозаписях.
Ответ: Дипфейк

2) Напишите пропущенное слово или словосочетание. ... - это простая форма искусственного нейрона, разработанная Фрэнком Розенблаттом в 1957 году. Он представляет собой однослойную нейронную сеть, способную решать задачи бинарной классификации. Перцептрон принимает входные данные, применяет им весовые коэффициенты и функцию активации, и выдает бинарный результат. Хотя перцептроны имеют ограниченную способность обучения, они служили основой для развития более сложных нейронных сетей и стали отправной точкой в развитии машинного обучения.
Ответ: Перцептрон

3) Напишите пропущенное слово или словосочетание. ... - это комбинация нескольких функций потерь, используемых для оценки производительности модели. Она объединяет различные аспекты задачи обучения, такие как точность и регуляризация, чтобы обеспечить более полное измерение производительности. Это особенно полезно в задачах, где требуется учитывать несколько аспектов качества модели.
Ответ: Составная функция потерь

4) Напишите пропущенное слово или словосочетание. ... - это относительно новая архитектура нейронных сетей, предназначенная для более эффективного обнаружения и классификации объектов в изображениях. Вместо одного значения, как в традиционных нейронных сетях, капсульные сети представляют объекты как набор параметров, такие как положение, ориентация, размер и цвет. Это позволяет капсульным сетям более точно моделировать иерархические зависимости между объектами в изображениях. Капсульные нейронные сети имеют потенциал улучшить задачи распознавания объектов и сегментации в компьютерном зрении.
Ответ: Капсульные нейронные сети

5) Напишите пропущенное слово или словосочетание. ... - это область машинного обучения, ориентированная на работу с данными, которые имеют временную или последовательную структуру, такие как временные ряды, тексты, аудио и видео. Эта область включает в себя рекуррентные нейронные сети, сверточные нейронные сети для последовательных данных и другие методы, позволяющие моделям учитывать зависимости во времени.
Ответ: Обработка последовательных данных

6) Напишите пропущенное слово или словосочетание. ... - это нейронная сеть, представляющая собой форму несупервизированного обучения. Они используются для визуализации и кластеризации данных. SOM обладает способностью проецировать многомерные данные на двумерное пространство и группировать близкие данные в одинаковые кластеры. Этот метод широко используется в анализе данных и визуализации.
Ответ: Самоорганизующиеся карты Кохонена

7) Напишите пропущенное слово или словосочетание. ... - это классическая архитектура нейронных сетей, в которой информация передается от входного слоя через скрытые слои до выходного слоя без обратных связей. Эта модель подходит для задач классификации и регрессии, где нет зависимостей от предыдущих состояний. В нейронных сетях прямого распространения данные обрабатываются последовательно, и каждый слой выполняет преобразования, позволяя модели изучать сложные функции.
Ответ: Нейронная сеть прямого распространения

8) Напишите пропущенное слово или словосочетание. ... - это задача обработки изображений, при которой каждому пикселю изображения присваивается семантическая метка, указывающая на объект или класс, к которому этот пиксель принадлежит. Этот процесс позволяет понимать структуру изображения и выделять различные объекты на нем. Семантическая сегментация находит применение в автономных автомобилях, медицинской диагностике, анализе снимков со спутников и многих других областях.
Ответ: Семантическая сегментация

9) Напишите пропущенное слово или словосочетание. ... - это архитектура нейронных сетей, состоящая из двух компонентов: генератора и дискриминатора, которые соревнуются друг с другом. Генератор создает данные, а дискриминатор пытается различить настоящие данные от сгенерированных. Этот процесс обучения позволяет генератору создавать реалистичные данные, такие как изображения, звуки или тексты. GAN широко применяются в задачах генерации контента, улучшения изображений и других сферах, где требуется создание новых данных.
Ответ: Генеративная нейронная сеть

10) Напишите пропущенное слово или словосочетание. ... - это метод машинного обучения, который используется для группировки схожих объектов в наборе данных. Задачей кластеризации является нахождение структуры в данных и создание кластеров, состоящих из близких похожих элементов. Этот метод часто применяется в анализе данных и обработке изображений для выявления групп похожих объектов, что помогает понимать структуру данных и выделять важные паттерны.
Ответ: Кластеризация

11) Напишите пропущенное слово или словосочетание. ... в нейронных сетях используется для работы с последовательными данными, такими как временные ряды, тексты или аудиосигналы. Этот слой обладает памятью и способен передавать информацию между итерациями, что позволяет модели учитывать предыдущие состояния входных данных. Рекуррентные слои широко применяются в задачах обработки текста, машинного перевода, анализа временных рядов и других задачах, где важен контекст и зависимости между данными.
Ответ: Рекуррентный слой

12) Напишите пропущенное слово или словосочетание. ... - это нейронная сеть с множеством слоев, которая способна обучать сложные зависимости в данных. В глубоком обучении используются многие слои, которые поочередно обрабатывают данные, извлекая все более высокоуровневые признаки. Этот тип сетей позволяет модели автоматически изучать представления данных и решать сложные задачи, такие как распознавание образов, обработка естественного языка, синтез изображений и многое другое. Глубокое обучение является одной из ключевых технологий в области искусственного интеллекта и машинного обучения.
Ответ: Сеть глубокого обучения

13) Напишите пропущенное слово или словосочетание. ... - это показатель, используемый для измерения производительности модели машинного обучения. Выбор подходящей метрики зависит от типа задачи. Например, в задачах классификации метрикой может быть точность, F1-мера, AUC-ROC, а в задачах регрессии — среднеквадратичная ошибка (MSE), средняя абсолютная ошибка (MAE) и другие. Метрики помогают оценить, насколько хорошо модель выполняет свою задачу и позволяют сравнивать различные модели между собой.
Ответ: Метрика оценки модели

14) Напишите пропущенное слово или словосочетание. ... - это процесс извлечения информации и смысла из текстовых данных с использованием методов искусственного интеллекта. Он включает в себя задачи, такие как обработка естественного языка (NLP), классификация текста, извлечение информации из текста, анализ тональности и многие другие. Текстовый анализ позволяет компьютерам понимать и интерпретировать человеческий язык, что находит применение в автоматизации обработки текста, информационном поиске, создании чат-ботов и анализе текстовых данных на больших корпоративных масштабах.
Ответ: Текстовый анализ

15) Напишите пропущенное слово или словосочетание. ... - это базовые строительные блоки нейронных сетей, которые имитируют работу биологических нейронов. Они принимают входные данные, выполняют вычисления и передают результаты следующему слою нейронной сети. Искусственные нейроны объединяются в слои, создавая структуру нейронной сети, способной обучаться и выполнять разнообразные задачи, включая распознавание образов, генерацию данных и решение задач классификации.
Ответ: Искусственные нейроны

16) Напишите пропущенное слово или словосочетание. ... - это мощный инструмент для уменьшения размерности данных. Он позволяет сжать информацию, удаляя наименее важные признаки и оставляя только те, которые содержат наибольшую долю дисперсии данных. PCA особенно полезен в анализе данных и снижении их размерности, что помогает в визуализации данных и улучшении производительности моделей.
Ответ: Метод главных компонент

17) Напишите пропущенное слово или словосочетание. ... - это неотъемлемая часть нейронных сетей, добавляющая нелинейность в модель. Она определяет, как нейроны реагируют на входные данные и какой выход они передают следующему слою. Популярные функции активации включают ReLU (Rectified Linear Unit), сигмоиду и гиперболический тангенс. Функции активации позволяют моделям изучать сложные и нелинейные зависимости в данных, что делает их способными решать разнообразные задачи, от классификации до генерации контента.
Ответ: Функция активации

18) Напишите пропущенное слово или словосочетание. ... - это важный гиперпараметр в процессе обучения моделей машинного обучения. Он определяет размер шага, с которым модель обновляет свои параметры во время обучения. Высокая скорость обучения может привести к расходимости модели, а слишком низкая — к медленной сходимости или застреванию в локальных минимумах. Оптимальное значение скорости обучения зависит от конкретной задачи и архитектуры модели, и его выбор требует экспериментов.
Ответ: Скорость обучения

19) Напишите пропущенное слово или словосочетание. ... или эмбеддинги, представляют собой способ представления данных в нейронных сетях. Они создают абстрактное и компактное представление признаков, что позволяет модели изучать внутренние зависимости между данными. Эмбеддинги особенно полезны в задачах обработки естественного языка и рекомендательных системах, где они могут выявлять скрытые паттерны и семантику данных.
Ответ: Промежуточные признаки

С закрытым ключом
1) Выберете правильный вариант ответа. Обычная функция активации. S-образная кривая, которая находится в диапазоне от -1 до 1. Нейроны иногда называют «сигмовидными нейронами», что означает, что они являются нейронами, которые используют функцию активации сигмовидной кишки. Тань используется чаще, чем сигмовидная.
а. Тань (ответ)
б. Сигмовидная
в. Тензор
г. Слои

2) Выберете правильный вариант ответа. Обычная функция активации. S-образная кривая, которая находится в диапазоне от 0 до 1. Нейроны иногда называют «сигмовидными нейронами», что означает, что они являются нейронами, которые используют функцию активации сигмовидной кишки.
а. Тань
б. Сигмовидная (ответ)
в. Тензор
г. Слои

3) Выберете правильный вариант ответа. Функция активации, которая равна нулю для отрицательных значений x и прямой линии для положительных значений x. ReLU используется чаще, чем сигмоид и tanh, потому что он более эффективен с точки зрения вычислений.
а. Выпрямленные линейные единицы (ReLU) (ответ)
б. Функция затрат
в. Среднеквадратичная ошибка
г. Градиентный спуск

4) Выберете правильный вариант ответа. Первый уровень сети, содержащий всю входную информацию. Каждый нейрон должен представлять входную функцию. Входной слой не имеет перекоса.
а. Входной уровень (ответ)
б. Скрытый слой
в. Выходной слой
г. Плотный слой (также известный как полностью связанный слой)

5) Выберете правильный вариант ответа. Это слой, который находится между входным и выходным слоями. В нем может быть любое количество нейронов.
а. Входной уровень
б. Скрытый слой (ответ)
в. Выходной слой
г. Плотный слой (также известный как полностью связанный слой)

6) Выберете правильный вариант ответа. Это последний слой нейронной сети. Он использует некоторую функцию активации (например, softmax) для вывода модели. Количество желаемых / требуемых выходов в задаче классификации определяет количество нейронов в этом слое.
а. Входной уровень
б. Скрытый слой
в. Выходной слой (ответ)
г. Плотный слой (также известный как полностью связанный слой)


ОПК-3: Способен разрабатывать математические модели и проводить их анализ при решении задач в области профессиональной деятельности
С открытым ключом
1) Напишите пропущенное слово или словосочетание. ... - это критически важный этап в процессе разработки моделей машинного обучения. Гиперпараметры — это настройки модели, которые не могут быть изучены во время обучения, такие как скорость обучения, количество слоев и нейронов в нейронной сети. Цель оптимизации гиперпараметров заключается в выборе наилучших значений этих параметров, чтобы достичь наивысшей производительности модели на новых данных. Это процесс исследования различных комбинаций параметров и оценки их влияния на модель.
Ответ: Оптимизация гиперпараметров

2) Напишите пропущенное слово или словосочетание. ... - (SVM) представляет собой мощный алгоритм машинного обучения, используемый для классификации и регрессии. Основной принцип SVM заключается в поиске оптимальной разделяющей гиперплоскости, которая максимизирует расстояние (зазор) между различными классами данных. Это обеспечивает высокую обобщающую способность модели. SVM также может использовать ядерные функции для обработки нелинейных данных, что делает его универсальным инструментом в задачах машинного обучения.
Ответ: Машина опорных векторов

3) Напишите пропущенное слово или словосочетание. ... - это техника регуляризации нейронных сетей, при которой случайно выбранные нейроны отключаются (пропускаются) во время обучения. Это помогает предотвратить переобучение, так как модель не может полагаться на определенные нейроны и вынуждена обучаться более устойчивым и обобщающим признакам. Пропуск улучшает обобщающую способность модели и помогает ей лучше справляться с новыми данными.
Ответ: Пропуск

4) Напишите пропущенное слово или словосочетание. ... - это тип машинного обучения, в котором агент обучается взаимодействовать с окружающей средой, принимая последовательность действий, чтобы максимизировать награду. Агент не знает оптимальное решение заранее, и ему приходится исследовать среду, чтобы научиться принимать правильные решения. Этот подход часто используется в задачах управления, играх и робототехнике.
Ответ: Усиленное обучение

5) Напишите пропущенное слово или словосочетание. ... - это операция, часто используемая в сверточных нейронных сетях (CNN), для уменьшения размерности признаковых карт. Она позволяет уменьшить количество параметров модели и улучшить ее вычислительную эффективность. Операция подвыборки обычно включает в себя выбор наибольшего или среднего значения из определенной области признаковой карты. Это помогает извлечь наиболее важные признаки из изображения.
Ответ: Подвыборка

6) Напишите пропущенное слово или словосочетание. ... - это математическая функция, которая применяется к выходу нейрона в нейронной сети. Она вводит нелинейность в модель, позволяя ей учитывать сложные зависимости в данных. Без активационных функций нейронная сеть осталась бы линейной и не способной решать сложные задачи. Примерами активационных функций являются ReLU (Rectified Linear Unit), сигмоида и гиперболический тангенс.
Ответ: Активационная функция

7) Напишите пропущенное слово или словосочетание. ... - это явление, когда модель машинного обучения слишком подстраивается под обучающие данные, запоминая их детали и шум, вместо того чтобы обобщать общие закономерности. В результате модель показывает отличные результаты на обучающем наборе данных, но плохо справляется с новыми данными. Это связано с недостаточной регуляризацией или слишком сложной моделью. Для борьбы с переобучением используют методы регуляризации, увеличение объема данных или упрощение модели.
Ответ: Переобучение

8) Напишите пропущенное слово или словосочетание. ... - это один проход обучения модели через весь набор данных. За одну эпоху все обучающие примеры обрабатываются один раз, и этот процесс повторяется несколько раз для обучения модели.
Ответ: Эпоха

9) Напишите пропущенное слово или словосочетание. ... - это группа данных, которая одновременно подается в модель для обучения или инференса. Использование батчей улучшает эффективность обучения, позволяя модели обрабатывать несколько примеров одновременно.
Ответ: Батч

10) Напишите пропущенное слово или словосочетание. ... - это тип нейронной сети, способной обрабатывать последовательные данные, такие как текст или временные ряды. Она имеет внутреннюю память, что позволяет учить зависимости в последовательных данных.
Ответ: Рекуррентная нейронная сеть

11) Напишите пропущенное слово или словосочетание. ... - это тип нейронной сети, специализированный на анализе изображений. Она использует операцию свертки для извлечения признаков из изображения и обучается распознавать объекты и паттерны в визуальных данных.
Ответ: Сверточная нейронная сеть

12) Напишите пропущенное слово или словосочетание. ... - это метрика, используемая для оценки того, насколько хорошо модель выполняет задачу. Она измеряет разницу между предсказанными значениями и фактическими данными. Задача обучения заключается в минимизации этой функции, чтобы сделать прогнозы модели точнее.
Ответ: Функция потерь

13) Напишите пропущенное слово или словосочетание. ... - это алгоритм оптимизации, используемый для обновления параметров модели с целью минимизации функции потерь. Он определяет направление, в котором следует изменить параметры, чтобы уменьшить ошибку, и оптимизирует модель.
Ответ: Градиентный спуск

14) Напишите пропущенное слово или словосочетание. ... - это метод обучения нейронных сетей, который корректирует веса сети на основе ошибки прогнозирования. Он работает путем распространения ошибки от выхода сети к входу и корректировки весов с целью минимизации ошибки.
Ответ: Обратное распространение

15) Напишите пропущенное слово или словосочетание. ... - это тип машинного обучения, при котором модель обучается на помеченных данных, где известны правильные ответы. Модель стремится научиться прогнозировать правильные ответы на новых данных, основываясь на обучающих примерах.
Ответ: Обучение с учителем

16) Напишите пропущенное слово или словосочетание. ... - это модель машинного обучения, вдохновленная работой человеческого мозга. Она состоит из искусственных нейронов, которые обрабатывают данные и передают информацию через слои. Нейронные сети используются для решения широкого спектра задач, включая классификацию, регрессию и генерацию данных.
Ответ: Нейронная сеть

17) Напишите пропущенное слово или словосочетание. ... - это область информатики, которая стремится создать компьютерные системы, способные выполнять задачи, которые требуют человеческого интеллекта, такие как распознавание образов, анализ текста, принятие решений и многое другое. Это включает в себя машинное обучение, где компьютеры могут обучаться на основе данных и опыта.
Ответ: Искусственный интеллект

18) Напишите пропущенное слово или словосочетание. ... - это блок обработки информации в нейронной сети. Каждый нейрон обрабатывает некоторые входные данные, применяя «функцию активации» (определенную ниже), и выдает результат функции активации в качестве своего выхода.
Ответ: Нейрон

19) Напишите пропущенное слово или словосочетание. ... - это нейрон, который принимает двоичные входные данные и производит единственный двоичный выходной сигнал.
Ответ: Персептрон

Вопросы с закрытым ключом
1) Выберете правильный вариант ответа. Слой в нейронной сети, нейроны которой подключаются к каждому из нейронов в последующем слое нейронной сети.
а. Входной уровень
б. Скрытый слой
в. Выходной слой
г. Плотный слой (также известный как полностью связанный слой) (Ответ)

2) Выберете правильный вариант ответа. Размер обучающего набора, который используется на каждой итерации. На каждой итерации выбирается случайная группа партий.
а. Пакет (Ответ)
б. Вес
в. Предвзятость
г. Инициализация

3) Выберете правильный вариант ответа. Обычно используется в качестве функции активации выходного слоя для классификации. Это показатель вероятности, выходные данные должны быть пропорциональны вероятности принадлежности к определенному классу, а все выходные данные должны быть в сумме равными 1.
а. Softmax (Ответ)
б. Вес
в. Предвзятость
г. Инициализация

4) Выберете правильный вариант ответа. Функция, через которую мы передаем входную информацию в нейрон.
а. Функция активации (Ответ)
б. Функция затрат
в. Среднеквадратичная ошибка
г. Перекрестная энтропия

5) Выберете правильный вариант ответа. Сумма квадратов ошибок каждой функции, деленная на количество обучающих входов в сети.
а. Функция активации
б. Функция затрат
в. Среднеквадратичная ошибка (Ответ)
г. Перекрестная энтропия

6) Выберете правильный вариант ответа. Более эффективная функция затрат, чем среднеквадратичная ошибка.
а. Функция активации
б. Функция затрат
в. Среднеквадратичная ошибка
г. Перекрестная энтропия (Ответ)
Приложения

6. Учебно-методическое и информационное обеспечение дисциплины

6.1. Рекомендуемая литература
6.1.1. Основная литература
Авторы Заглавие Издательство, год Эл. адрес
Л1.1 Н. В. Максимов, Т. Л. Партыка, И. И. Попов Современные информационные технологии: учебник М.: ФОРУМ, 2008
6.1.2. Дополнительная литература
Авторы Заглавие Издательство, год Эл. адрес
Л2.1 Радченко А.Н. Ассоциативная память. Нейронные сети. Оптимизация нейропроцессоров: СПб. : Наука, 1998 3
6.2. Перечень ресурсов информационно-телекоммуникационной сети "Интернет"
Название Эл. адрес
Э1 www.gpntb.ru/ Государственная публичная научно-техническая библиотека.
Э2 www.nlr.ru/ Российская национальная библиотека.
Э3 www.nns.ru/ Национальная электронная библиотека.
Э4 www.rsl.ru/ Российская государственная библиотека.
Э5 www.microinform.ru/ Учебный центр компьютерных технологий «Микроинформ».
Э6 www.tests.specialist.ru/ Центр компьютерного обучения МГТУ им. Н.Э.Баумана.
Э7 www.intuit.ru/ Образовательный сайт
Э8 www.window.edu.ru/ Библиотека учебной и методической литературы
Э9 www.osp.ru/ Журнал «Открытые системы»
Э10 www.ihtika.lib.ru/ Библиотека учебной и методической литературы
Э11 news.rea.ru/portal/Departments.nsf/(Index)/Lib Библиотека Российской экономической академии им. Плеханова.
Э12 Курс в Moodle "Нейронные сети. Глубокое обучение" portal.edu.asu.ru
6.3. Перечень программного обеспечения
В компьютерном классе должны быть установлены:
Visual Studio
Условия использования: https://code.visualstudio.com/license
LibreOffice
Условия использования: https://ru.libreoffice.org/about-us/license/
Microsoft Windows
7-Zip
AcrobatReaderMicrosoft Office 2010 (Office 2010 Professional, № 4065231 от 08.12.2010), (бессрочно);
Microsoft Windows 7 (Windows 7 Professional, № 61834699 от 22.04.2013), (бессрочно);
Chrome (http://www.chromium.org/chromium-os/licenses), (бессрочно); 7-Zip (http://www.7-zip.org/license.txt), (бессрочно);
AcrobatReader (http://wwwimages.adobe.com/content/dam/Adobe/en/legal/servicetou/Acrobat_com_Additional_TOU-en_US-20140618_1200.pdf), (бессрочно);
ASTRA LINUX SPECIAL EDITION (https://astralinux.ru/products/astra-linux-special-edition/), (бессрочно);
LibreOffice (https://ru.libreoffice.org/), (бессрочно);
Веб-браузер Chromium (https://www.chromium.org/Home/), (бессрочно);
Антивирус Касперский (https://www.kaspersky.ru/), (до 23 июня 2024);
Архиватор Ark (https://apps.kde.org/ark/), (бессрочно);
Okular (https://okular.kde.org/ru/download/), (бессрочно);
Редактор изображений Gimp (https://www.gimp.org/), (бессрочно)
6.4. Перечень информационных справочных систем
Электронная библиотечная система Алтайского государственного университета (http://elibrary.asu.ru/);

7. Материально-техническое обеспечение дисциплины

Аудитория Назначение Оборудование
Учебная аудитория для проведения занятий лекционного типа, занятий семинарского типа (лабораторных и(или) практических), групповых и индивидуальных консультаций, текущего контроля и промежуточной аттестации, курсового проектирования (выполнения курсовых работ), проведения практик Стандартное оборудование (учебная мебель для обучающихся, рабочее место преподавателя, доска)
Помещение для самостоятельной работы помещение для самостоятельной работы обучающихся Компьютеры, ноутбуки с подключением к информационно-телекоммуникационной сети «Интернет», доступом в электронную информационно-образовательную среду АлтГУ
107Л лаборатория информационных технологий - компьютерный класс - учебная аудитория для проведения занятий семинарского типа (лабораторных и(или) практических); проведения групповых и индивидуальных консультаций, текущего контроля и промежуточной аттестации Учебная мебель на 18 посадочных мест; компьютеры: марка HP, модель ProOne 400 - 18 единиц; проектор: марка SMART, модель UF70 - 1 единица; интерактивная доска: марка SMART Board модель SMB680 - 1 единица

8. Методические указания для обучающихся по освоению дисциплины

Методические указания для студентов

Основной целью при изучении дисциплины является стремление показать области применения и формирование у будущих бакалавров теоретических знаний и практических навыков по использованию современных персональных компьютеров и программных средств для решения широкого спектра задач в различных областях, а именно:

ознакомить студентов с основами организации и архитектуры искусственных нейронных сетей;
привить навыки работы с языками программирования для программных комплексов, реализующих искусственные нейронные сети;
изложить основные принципы проектирования искусственных нейронных сетей.

Основными задачами изучения дисциплины являются:

овладение фундаментальными знаниями об основах организации и архитектуре искусственных нейронных сетей;
целостное представление о науке и ее роли в развитии информационных технологий;
владеть общими вопросами организации искусственных нейронных сетей для современных ЭВМ;
овладение технологиями программирования с использованием нейросетевого подхода;
углубление практических навыков работы на персональном компьютере (основы работы с различными инструментальными средствами для проектирования и искусственных нейронных сетей).

Для эффективного изучения теоретической части дисциплины необходимо:

построить работу по освоению дисциплины в порядке, отвечающим изучению основных этапов, согласно приведенным темам лекционного материала;
систематически проверять свои знания по контрольным вопросам и тестам;
усвоить содержание ключевых понятий;
активно работать с основной и дополнительной литературой по соответствующим темам;
регулярно консультироваться с преподавателем, ведущим изучаемую дисциплину.

Для эффективного изучения практической части дисциплины настоятельно рекомендуется:

систематически выполнять подготовку к практическим занятиям по предложенным преподавателем темам;
своевременно выполнять практические задания, подготавливать доклады или рефераты.

Методические рекомендации по самостоятельной работе

Самостоятельная работа студента, безусловно - один из важнейших этапов в подготовке бакалавров. Она приобщает студентов к исследовательской работе, обогащает опытом и знаниями, необходимыми для дальнейшего их становления как специалистов, прививает навыки работы с литературой.

Цель самостоятельной работы - систематизация, закрепление и расширение теоретических и практических знаний с использованием современных информационных технологий и литературных источников. Данная цель может быть достигнута при решении следующего круга задач:

изучение лекционного материала;
изучение дополнительных источников информации;
выполнение лабораторных работ.