скачатьФедеральное агентство по образованию РФАМУРСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ( ГОУВПО «АмГУ» ) УТВЕРЖДАЮПроректор по УНР___________Е.С.Астапова«______»_______________ РАБОЧАЯ ПРОГРАММАПо дисциплине «Нейроинформатика»Для специальности 230201 – «Информационные системы и технологии» Курс 3 семестр 5 Лекции 36 (час.) Экзамен – 5 семестр Практические (семинарские) занятия - (час.) Зачет - Лабораторные занятия 18 (час.) Самостоятельная работа 66 (час.) Всего часов 120 час. Составитель: доцент Акилова И.М. Факультет математики и информатики Кафедра Информационных и управляющих систем 2006 Рабочая программа составлена на основании Государственного образовательного стандарта ВПО по специальности 230201 – Информационные системы и технологии Рабочая программа обсуждена на заседании кафедры Информационных и управляющих систем « _____» _______________2005 г., протокол №______ Заведующий кафедрой___________________ А.В.Бушманов Рабочая программа одобрена на заседании УМС 230201 – Информационные системы и технологии «______» _______________2005 г., протокол №______ Председатель__________________ А.В.Бушманов ^ Начальник УМУ Председатель УМС факультета _____________Г.Н.Торопчина _______________Е.Л.Еремин «____»_____________2006 г. «_____»________________2006 г. СОГЛАСОВАНО Заведующий выпускающей кафедрой _____________А.В.Бушманов «____»_____________2006 г.
1.1. Цели и задачи дисциплины Данная дисциплина имеет своей целью: - дать представление о прикладных программных средствах, основанных на нейронных сетях; - дать представления об инструментальном ПО для обучения нейронных сетей и экспериментов с ними; - подготовить студентов к использованию нейросетевых технологий в научно-исследовательской деятельности. ^ - разных моделях нейронных сетей, их особенностях; - особенностях решения задач с помощью нейронных сетей; - существующих прикладных системах, основанных на применении нейронных сетей; - этапах решения задач с помощью нейронных сетей. После изучения дисциплины студент должен знать содержание: - принципов постановки задач для решения с помощью нейронных сетей; - методов представления данных для обучения и использования нейронных сетей; - методов обучения нейронных сетей и оценки качества обучения нейронной сети; - этапов решения задач с помощью нейронных сетей. После изучения дисциплины студент должен приобрести умения и навыки: - ориентироваться в различных типах прикладных систем, основанных на использовании нейронных сетей; - ориентироваться а различных методах представления данных для обучения нейронной сети; - выбирать и ставить задачу для решения ее нейронной сетью; - выбирать модель нейронной сети для решения задачи. ^2.1. Федеральный компонент Программа курса «Нейроинформатика» составлена в соответствие с требованиями государственного образовательного стандарта специализации – Информационные системы и технологии, специализации 230201, блок дисциплины по выбору ЕН.В.01. 2.2. Наименование тем, их содержание, объем в лекционных часах ^
Биологические основы функционирования нейрона. Первые модели нейронной сети. Прикладные возможности нейронных сетей. Определение искусственных нейронных сетей. Свойства биологических и искусственных нейронных сетей. Способы реализации нейросетей. Типы задач, решаемых нейронными сетями. Недостатки и ограничения нейронных сетей.
Перцептрон. Сигмоидальнйы нейрон. Нейрон типа «адалайн». Инстар и оутстар Гроссберга. Нейроны типа WTA. Модель нейрона Хебба. Стахостическая модель нейрона.
Однослойная сеть. Многослойный перцептрон. Структура перцептронной сети. Алгоритм обратного распространения ошибки. Градиентные алгоритмы обучения сети: основные положения, алгоритм наискорейшего спуска, алгоритм переменной метрики, алгоритм Левенберга-Марквардта, алгоритм сопряженных градиентов. Подбор коэффициента обучения. Методы инициализации весов.
Предварительный подбор архитектуры сети. Подбор оптимальной архитектуры сети. Методы наращивания сети. Подбор обучающих выборок. Добавление шума в обучающие выборки. Распознавание и классификация образов. Нейронная сеть для сжатия данных. Идентификация динамических объектов.
Математические основы. Радиальная нейронная сеть. Методы обучения радиальных нейронных сетей. Пример использования радиальной сети. Методы подбора количества базисных функций: эвристические методы, метод ортогонализации Грэма-Шмидта.
Сети с обратными связями. Послойность сети и матричное умножение. Расчет градиента квадратичной формы. Выбор начальной точки и длины шага. Сеть Хопфилда. Сеть Хемминга. Сеть АРТ –1
Перцептронная сеть с обратной связью: структура сети RMLP, алгоритм обучения сети RMLP, подбор коэффициента обучения, коэффициент усиления сигнала. Рекуррентная сеть Элмана: структура сети, алгоритм обучения сети Элмана, обучение с учетом момента.
Нейронные сети встречного распространения. Сети Кохонена. Обучение слоя Кохонена. Примеры обучения сети Кохонена. Применение сети Кохонена для сжатия данных. Слой Гроссбера: обучение слоя Гроссбера, модификации.
Энергетическая функция корреляционных сетей. Нейронные сети PCA: математическое введение, определение первого главного элемента, алгоритм определения множества главных компонентов.
Сети, использующие статистический подход. Метод «модельной закалки». Пример алгоритма минимизации функции. Машина Больцмана. Архитектура нейронной сети PNN. Пример модульной нейронной сети. 2.4. Лабораторные занятия, их наименование и объем в часах. ^
2.4. Самостоятельная работа студентов (66 часов) ^
1.Что такое нейронные сети (НС)? Что дает моделирование НС? Проблемы, возникающие при моделировании. Свойства биологических и искусственных НС. Способы реализации нейросетей. 2.Место НС среди других методов решения задач. Типы задач, решаемых нейронными сетями. Недостатки и ограничения НС. 3.Биологический нейрон. Структура, функции. 4.Формальный нейрон. Виды функций активации. Ограниченность модели формального нейрона. 5.Многослойный перцептрон. Структура, алгоритм работы. Этапы решения задачи с помощью НС. 6.Формализация условий задачи для НС. Примеры. Подготовка входных и выходных данных. Выбор количества слоев. 7.Обучение однослойного перцептрона. Выбор шагов по W,Theta. 8.Проблема "исключающего ИЛИ" и ее решение. 9.Перцептронная представляемость. 10.Метод обратного распространения ошибки. 11.Паралич сети. Выбор шага по параметрам. Локальные минимумы. Временная неустойчивость. 12.Примеры применения перцептронов. 13.Динамическое добавление нейронов. Способность НС к обобщению. 14.Обучение без учителя. Сеть с линейным поощрением. 15.Задача классификации. Сеть Кохонена. 16.Обучение слоя Кохонена. Метод выпуклой комбинации. Примеры обучения. 17.Режимы работы сети Кохонена. Применение для сжатия данных. 18.Сеть встречного распространения. Схема,обучение,свойства. 19.Генетические алгоритмы для обучения НС. Положительные качества и недостатки. 20.Послойность сети и матричное умножение. Расчет градиента квадратичной формы с помощью НС. Выбор начальной точки и длины шага. 21.Сети с обратными связями. Сеть Хопфилда. Вычислительная энергия и ее минимизация. 22.Этапы решения задачи сетью Хопфилда. Устойчивость,сходимость к эталонам. 23.Соотношение стабильности пластичности при запоминании. Сеть АРТ 1. Структура, описание элементов сети. 24.Работа сети АРТ 1. Запоминание и классификация векторов сетью. 25.Метод имитации отжига. 2.7. Виды контроля Для проверки эффективности преподавания дисциплины проводится контроль знаний студентов. При этом используются следующие виды контроля: - текущий контроль за аудиторной и самостоятельной работой обучаемых осуществляется во время проведения аудиторных занятий посредством устного опроса;
2.9. Требования к знаниям студентов, предъявляемые на экзамене Знания студента оцениваются как отличные при полном изложении теоретического материала экзаменационного билета и ответах на дополнительные вопросы со свободной ориентацией в материале и других литературных источниках. Оценка «хорошо» ставится при твердых знаниях студентом всех разделов курса, но в пределах конспекта лекций и обязательных заданий по самостоятельной работе с литературой. Оценку «удовлетворительно» студент получает, если даны неполные ответы на теоретические вопросы билета, показывая поверхностные знания учебного материала, владение основными понятиями и терминологией; при неверном ответе на билет ответы на наводящие вопросы. Оценка «неудовлетворительно» выставляется за незнание студентом одного из разделов курса. Студент не дает полные ответы на теоретические вопросы билета, показывая лишь фрагментарное знание учебного материала, незнание основных понятий и терминологии; наводящие вопросы остаются без ответа. ^ Основная: 1. Оссовский С. Нейронные сети для обработки информации. – М.: Финансы и статистика, 2002. 2. Медведев В.С., Потемкин В.Г. Нейронные сети. Matlab 6. М.: Диалог МИФИ, 2002. 3. Роберт Каллан. Основные концепции нейронных сетей. М.: Издательский дом «Вильямс», 2001. 4. Суровцев И.С., Клюкин В.И., Пивоварова Р.П. Нейронные сети. - Воронеж: ВГУ,1994. 5. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика. М.:Мир,1992. Дополнительная: 1. Горбань А.Н. и др. Нейроинформатика.- Электронная публикация. 2. Мкртчян С.О. Нейроны и нейронные сети. (Введение в теорию формальных нейронов)— М.:Энергия,1971. 3. А.Н. Горбань, Д.А. Россиев. Нейронные сети на персональном компьютере. -Новосибирск, Наука, 1996. 4. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация.М.:Мир,1985. 5.Лоскyтов А.Ю., Михайлов А.С. Введение в синергетику. М.: Наука. Гл. ред. физ. мат. лит., 1990.— 272 с. 6. Куссуль Э.М. Ассоциативные нейроподобные структуры. - Киев, Наукова думка, 1990. 7. Нейрокомпьютеры и интеллектуальные роботы. Под ред. Н.М.Амосова. – Киев, Наукова думка, 1991. 4. Необходимое техническое и программное обеспечение Лекции проводятся в стандартной аудитории, оснащенной в соответствии с требованиями преподавания теоретических дисциплин. Для проведения лабораторных работ необходим компьютерный класс на 12-14 посадочных мест пользователей. В классе должен быть установлен пакет Matlab 6.12. 5. Учебно-методическая (технологическая) карта дисциплины
Условные обозначения: осн. – основная литература злр - защита лабораторной работы сб. - собеседование по результатам самостоятельной работы студентов
|