Наряду с развитием персональных эвм, сетей ЭВМ и высокопроизводительных суперэвм традиционной архитектуры в последние годы существенно повысился интерес к разр icon

Наряду с развитием персональных эвм, сетей ЭВМ и высокопроизводительных суперэвм традиционной архитектуры в последние годы существенно повысился интерес к разр



Смотрите также:
Архитектура персональных компьютеров ibm pc...
Программа дисциплины "информатика" Направление...
Программа дисциплины "Программирование и основы алгоритмизации" Направление...
Архитектура ЭВМ и язык ассемблера. Вопросы для подготовки к экзамену. III поток...
План 1 ЭВМ в управлении производством. 2 Гибкие производственные системы...
Автономность эксплуатации без специальных требований к условиям окружающей среды...
Учебное пособие по курсу «Организация эвм, комплексов и сетей» часть...
1. История развития архитектуры ЭВМ архитектура ЭВМ это то, что представляется пользователю...
План введение основные блоки ibm pc дополнительные устройства логическое устройство компьютера  ...
План введение основные блоки ibm pc > дополнительные устройства логическое устройство компьютера...
Каково понятие архитектуры эвм?...
Программа учебного курса «Архитектура ЭВМ и сетей»...



страницы:   1   2
скачать



Введение


Наряду с развитием персональных ЭВМ, сетей ЭВМ и высокопроизводительных суперЭВМ традиционной архитектуры в последние годы существенно повысился интерес к разработке и созданию компьютеров нетрадиционного типа и, прежде всего, нейрокомпьютеров. Связано это с тем, что, несмотря на высокую производительность современных суперЭВМ, приближающуюся к предельно допустимой, все еще остается много практически важных проблем, для решения которых нужны более мощные и более гибкие вычислительные средства. Они необходимы для глобального моделирования процессов в экосистемах, при решении задач нейрофизиологии, искусственного интеллекта, метеорологии, сейсмологии и т. п. Необходимы они и при создании систем управления адаптивных интеллектуальных роботов.

Бортовые ЭВМ таких роботов должны воспринимать большие объемы информации, поступающей от многих параллельно функционирующих датчиков, эффективно обрабатывать эту информацию и формировать управляющие воздействия на исполнительные системы в реальном масштабе времени. Более того, управляющие компьютеры интеллектуальных роботов должны оперативно решать задачи распознавания образов, самообучения, самооптимизации, самопрограммирования, т. е. те задачи, которые весьма сложны для традиционных ЭВМ и суперЭВМ. Поэтому остается актуальной необходимость в поиске новых подходов к построению высокопроизводительных ЭВМ нетрадиционной архитектуры. Среди таких подходов центральное место занимает нейрокомпьютерный подход.

Его суть состоит в разработке принципов построения новых мозгоподобных архитектур сверхпроизводительных вычислительных систем – нейрокомпьютеров. Подобно мозгу, такие системы должны обладать глобальным параллелизмом, самообучением, самооптимизацией, самопрограммированием и другими свойствами биологических систем. Ожидается, что нейрокомпьютеры в принципе смогут решить многие из тех проблем, которые сдерживают дальнейшее развитие научно-технического прогресса.

По современным представлениям нейрокомпьютер (НК) – это система, предназначенная для организации нейровычислений путем воспроизведения информационных процессов, протекающих в нейронных сетях мозга. Структурной единицей НК служит специфический процессор – нейропроцессор (НП), имитирующий информационное функционирование отдельных нервных клеток – нейронов. Нейропроцессоры связываются друг с другом в нейроподобные структуры, имитирующие нейронные сети мозга. По этой причине, чем точнее НП воспроизводит информационную деятельность нервных клеток, и чем ближе конфигурации искусственных нейронных сетей к конфигурациям сетей естественных, тем больше шансов воспроизвести в НК самообучение, самопрограммирование и другие свойства живых систем.

С точки зрения вычислительной техники, каждый нейропроцессор представляет собой специализированное процессорное устройство, реализуемое программным, аппаратным или программно-аппаратным способом. В то же время это устройство имеет ряд особенностей. Во-первых, НП воспроизводит не произвольно выбранный набор операций, а только те операции, которые биологически обусловлены и необходимы для описания процессов переработки информации в нервных клетках. Во-вторых, при аппаратной реализации нейропроцессоров они, подобно нейронам мозга, связываются друг с другом индивидуальными линиями передач последовательных кодов. При большом числе процессорных элементов такая связь более эффективна, чем связь нейропроцессоров по общей шине или посредством индивидуальных параллельных шин.

Эти и другие особенности НП позволяют выделить их в самостоятельный класс процессорных устройств вычислительной техники.

^ 1. Нервные клетки и их модели

Нервная система (НС) человека и животных является важнейшей консолидирующей системой организма. Ее основная функция заключается в поддержании внутренней гармонии организма и в организации его приспособительной деятельности в изменяющихся условиях внешней среды. НС имеет клеточную структуру и состоит из клеток – нейронов, сгруппированных в нейронные ансамбли и сети. Центральным отделом нервной системы является головной и спинной мозг.

С точки зрения кибернетики мозг представляет собой информационно-управляющую систему, которая при помощи рецепторов воспринимает информацию о внешней среде, обрабатывает эту информацию на основе генетической программы и индивидуального опыта, а также формирует управляющие воздействия на эффекторные (исполнительные) системы организма.

Данной структуре соответствует хорошо известная специализация нервных клеток на сенсорные (рецепторные), вставочные (интернейроны) и эффекторные (мотонейроны) нейроны. Рецепторные нейроны воспринимают энергетические воздействия внешней среды той или иной модальности (световые, акустические, тактильные и т. п.) и преобразуют их в импульсные потоки, передаваемые интернейронам. Взаимодействующие друг с другом интернейроны осуществляют обработку поступившей информации, а мотонейроны передают результаты этой обработки непосредственно на исполнительные системы организма (мышцы, сосуды, железы внутренней секреции и т. п.).

По форме нервные клетки существенно отличаются друг от друга, однако большинство нейронов имеет древовидную структуру, состоящую из компактного тела с рядом отростков (волокон). Короткие ветвящиеся веточки называются дендритами, а длинный, расщепляющийся на терминальные волокна отросток называется аксоном. Тело клетки (сома) имеет микроскопические размеры от 5 до 100 микрометров, а длина ее отростков может достигать десятков сантиметров. Например, у крупных млекопитающих и человека аксоны некоторых клеток при толщине от 10 до 20 мкм имеют длину до метра. Однако и сома и ее отростки представляют собой единое целое, покрытое общей оболочкой (мембраной). Как и любая другая клетка организма, нейрон и его отростки имеют единую внутриклеточную среду, общий генетический аппарат и общую систему поддержания жизнедеятельности.

Специфическая особенность нервных клеток заключается в способности воспринимать, преобразовывать и передавать на другие клетки нервное возбуждение в виде нервных импульсов. Входные импульсы поступают на дендриты или сому и оказывают на клетку либо возбуждающее, либо тормозное воздействие. В те моменты, когда суммарное возбуждение клетки превышает некоторую характерную для нее критическую величину, называемую порогом, в области аксона возникают нервные импульсы – спайки или, как их еще называют, потенциалы действия. Возникнув, спайк бездекрементно (без затухания) распространяется по аксону, поступает на дендриты других клеток и вызывает их возбуждение или торможение. Такая связь называется аксо-дендритной, причем возбуждающий или тормозящий характер воздействия нервного импульса определяется свойствами контакта двух клеток. Этот контакт называется синаптическим, а пространство между мембранами контактирующих клеток называется синаптической щелью.

Количество синаптических входов у отдельного интернейрона достигает 150 тысяч. Поэтому общее число межклеточных контактов очень велико. Например, в мозге человека при 1011 нейронах количество связей между ними оценивается астрономическим числом 1014. Если дополнительно учесть, что синаптические связи имеют электрический и химический характер, что наряду с аксо-дендритными связями возможны синаптические контакты между дендритами, сомами и аксонами различных клеток, что каждая связь может быть возбуждающей или тормозной, а также то, что эффективность синаптических связей в процессе жизнедеятельности меняется, то грандиозная сложность нейронных сетей у высокоразвитых животных и человека становится очевидной.

В настоящее время установлено, что мозг, судя по всему, основан на принципе относительно жестко запаянного блока, состоящего из сложно организованных нейронных сетей, работающих в миллисекундном диапазоне. Более детальное изучение этих сетей осложняется специфическими свойствами нервной ткани, содержащей помимо нервных клеток и другие клетки, которые поддерживают нейрон механически и участвуют в процессах их метаболизма и проведения спайков.

В целом, нервная ткань представляет собой бесцветную студенистую массу, в которой даже под микроскопом трудно различить отдельные нейроны и состоящие из них сети. Поэтому в современной нейроанатомии применяют специальные методы окрашивания нервной ткани. В частности, используются красители, которые избирательно воздействуют лишь на некоторые нейроны и окрашивают их целиком. Окрашенная таким образом ткань замораживается, разрезается на тонкие слои и изучается под микроскопом. В процессе изучения удается выделить отдельные нейроны в сетях плотно упакованных нервных клеток, волокна которых тесно переплетены в густую чащу с промежутками 0,01 мкм. Более того, удается не только различать отдельные клетки, но и находить их связи друг с другом, как в локальных областях нервной ткани, так и в различных, далеко отстоящих друг от друга частях мозга. Однако получаемые при этом сведения не являются полными и не позволяют делать однозначных выводов о конфигурациях и законах функционирования изучаемых нейронных сетей. Эти сведения приходится дополнять данными других исследований, а именно тех, которыми занимается нейрофизиология.

Основным нейрофизиологическим подходом к исследованию мозга в настоящее время служит микроэлектродная методика. Ее суть заключается в том, что в живую ткань мозга вживляются микроэлектроды, с помощью которых регистрируется электрическая активность отдельных клеток. Однако использование этой методики для изучения высокоразвитых животных связано с рядом трудностей. Размеры электродов по сравнению с микроскопически малыми телами клеток велики, а возможности их миниатюризации ограничены. Поэтому микроэлектродные исследования могут искажать нормальную работу изучаемых структур. Вживление электродов осуществляется вслепую и не всегда ясно, работу каких клеток характеризуют снятые с них сигналы. Кроме того, клеток много, а электродов мало. Поэтому получаемая с их помощью информация является фрагментарной.

С целью преодоления отмеченных трудностей в нейробиологии вообще и в нейрофизиологии в частности широко применяют метод биологического моделирования. В соответствии с этим методом для изучения сложных структур мозга высокоразвитых животных используют достаточно простые нервные системы таких беспозвоночных, как черви, моллюски, кальмары, раки и т. п. Нейронные структуры беспозвоночных содержат сравнительно мало нейронов, упакованных в нервные узлы - ганглии. Ганглии, в свою очередь, содержат от 100 до 1000 клеток. Сами клетки у беспозвоночных крупнее, чем у млекопитающих, а их положение в ганглиях и межнейронные связи более определены.

Рассмотренный подход к изучению нервной системы внешне напоминает хорошо известный в технике метод физического моделирования. В соответствии с этим методом сложный для изучения объект заменяется менее сложным, но эквивалентным исходному по сути изучаемых явлений.

Однако в случае нейробиологии о собственно физическом моделировании можно говорить лишь в том случае, когда исследуются такие свойства нервной ткани, как электропроводность внутриклеточной среды, электрическая емкость и сопротивление мембран, механизм генерации спайков и т. п. Эти свойства, судя по всему, являются фундаментальными и не зависят от вида животного. В то же время механический перенос данных о структуре и свойствах нейронных сетей простых животных, например беспозвоночных, на нервную систему высокоразвитых млекопитающих вряд ли является корректным. Поэтому для изучения информационных процессов в сложных нейронных сетях необходимы современные методы математического и кибернетического моделирования. Причем результаты экспериментов на простых организмах могут использоваться в данном случае в качестве исходных гипотез для построения адекватных кибернетических моделей мозга.

Такой подход позволяет уже сейчас создавать искусственные нейронные сети и строить кибернетические модели информационных процессов в мозге более сложных животных вплоть до человека. Учитывая то, что экспериме6нты на мозге людей нельзя проводить по морально-этическим соображениям, путь создания кибернетических моделей с целью получения экспериментальных сведений о структуре и функциях человеческого мозга представляется весьма перспективным. Конечной целью при этом могут служить не только новые сведения о мозге, о механизмах его самооптимизации, самоорганизации, самопрограммирования, но и новые идеи, необходимые для построения нетрадиционных мозгоподобных суперЭВМ – нейрокомпьютеров.

^ 2.Математическая модель информационных процессов в нейроне

С
(1)
огласно мембранной теории возбуждения нервных клеток, закон изменения мембранного потенциала аксона может быть описан следующим дифференциальным уравнением первого порядка:




где P(t) – мембранный потенциал участка аксона; H – локальный сдвиг мембранного потенциала за счет поступления внешнего воздействия; C – удельная емкость мембраны; q[P(t)] – проводимость мембраны участка аксона.

Экспериментально установлено, что если мембранный потенциал P(t) остается ниже некоторой пороговой величины П, то проводимость мембраны практически не меняется. Однако в те моменты времени, когда под влиянием внешних раздражителей H потенциал P(t) достигает величины порога П, электрически управляемые белки открывают свои шлюзы, что приводит к резкому изменению проводимости мембран. Аналитически данное обстоятельство можно выразить следующим образом:



(2)


где qK(t) – переменная проводимость мембраны по отношению к ионам калия; qNa(t) – переменная проводимость мембраны по отношению к ионам натрия.

Однако ввиду того, что аксон является составной частью клетки, а его мембрана является клеточной мембраной, вполне убедительно мнение о возможности распространении этой теории на нейрон в целом, и в частности, на аксонный холмик, где осуществляется запуск потенциала действия.

При таком подходе в качестве правой части уравнения (1) можно использовать не только локальный сдвиг мембранного потенциала H, но и внутриклеточный потенциал V(t), формируемый за счет синаптических процессов в дендритном дереве и соме нейрона. Наиболее распространенная математическая модель данного процесса представляет собой алгебраическую сумму произведений всех входных потенциалов действия на соответствующие синаптические веса:


(3)



где Vвхj(t) – выходной потенциал действия, поступающий на j-й синапс; N – количество синаптических контактов нейрона; j – вес j-го синапса.

Если синапс возбуждающий, то соответствующий ему весовой коэффициент имеет положительный знак, в противном случае - отрицательный. Абсолютная величина этого коэффициента учитывает эффективность синапса (размеры синаптического контакта, место его расположения на дендрите или соме, расстояние от аксонного холмика и т. п.).

Учитывая отмеченные обстоятельства, математическую модель электрической активности нервных клеток, отражающую их информационную деятельность, можно представить в следующем виде:





В принципе модель (4) может быть использована для построения искусственных нейронов и нейронных сетей. Однако ее техническая реализация существенно затруднена нелинейным характером уравнения (1).

С
целью преодоления этой трудности воспользуемся соотношением (2) и представим уравнение (1) в виде совокупности двух выражений, а именно линейного уравнения подпороговых изменений мембранного потенциала P(t)-п  0 и надпорогового процесса формирования потенциала действия в виде функции f(t), аппроксимирующей форму спайка:

где ti – моменты возникновения спайков, т. е. те моменты времени t, при которых выполняется нестрогое равенство P(t)- п  0.

В качестве кривой, форма которой близка к форме нервного импульса, может служить график хорошо известной в теории связи функции вида:




где T – период синусоидальной зависимости, стоящей в числителе.

У

(5)
читывая свойства функции f(t), нервный импульс можно описать следующим образом:

где ti – моменты времени, определяющие начало генерации очередных нервных импульсов (i=0, 1, 2,...); Vи - амплитуда нервного импульса; tи –длительность нервного импульса.

При вычислении моментов ti необходимо воспроизводить в модели абсолютную и относительную рефрактерность нервных клеток. Суть абсолютной рефрактерности заключается в том, что во время tи генерации спайка нейрон абсолютно невозбудим для приходящих в это же время входных воздействий, а в последующий период относительной рефрактерности возбудимость нейрона хотя и затруднена, но принципиально возможна.

С целью моделирования рефрактерности введем такой переменный во времени порог t максимальное значение и которого в моменты ti нарушает условие возбуждения и удерживает нейрон некоторое время в абсолютно невозбудимом состоянии, после чего tпостепенно возвращается к величине п в соответствии с уравнением

г

(6)
де  постоянная времени мембраны нервной клетки; п – порог покоя; м – максимально возможное значение порога.

Условие возбуждения нейрона примет следующий вид:

P(t) - (t)  0 (7)

С
(8)
учетом отмеченных обстоятельств получаем следующую математическую модель информационных процессов в нервной клетке:








Первое уравнение системы (8) воспроизводит процесс пространственной суммации возбуждающих и тормозных входных воздействий Vвх(t), поступающих в момент времени t на все синаптические контакты нейрона. Второе уравнение моделирует процесс входной суммации входных воздействий в области аксонного холмика и отражает кумулятивные свойства нейрона. Третье, четвертое и пятое соотношения описывают процесс генерации спайков с учетом условия возбуждения нейрона (7), его рефрактерности и формы генерируемых импульсов.

Рассмотренная модель (8) довольно точно отражает современные нейрофизиологические представления об информационной деятельности нервных клеток. Кроме того, она проще исходной модели (4), поскольку не содержит нелинейного уравнения (1). Все это позволяет использовать ее в качестве основы для построения искусственных нейронов и нейронных сетей, воспроизводящих подпороговые и надпороговые процессы спайковой активности с учетом формы нервных импульсов. Воспроизведение рефрактерности и формы спайков, в свою очередь, весьма актуально при организации биоуправляемых экспериментов, поскольку организация таких экспериментов предполагает согласование входных и выходных параметров сопрягаемых естественных и искусственных нейронов. Однако в случае моделирования информационных процессов в сетях взаимосвязанных интернейронов, которые не должны взаимодействовать с естественными нейронами, алгоритм (8), а также реализующий его искусственный нейрон могут быть существенно упрощены.

Так, с целью упрощения модели (8) прежде всего, учтем тот экспериментально установленный факт, что ни амплитуда нервных импульсов, ни их форма не участвуют в кодировании информации, передаваемой от клетки к клетке. Следовательно, без ущерба для информационной адекватности модели (8) ее биологическому прототипу спайк Vвых(t) можно аппроксимировать не функцией (5), а более простым прямоугольным импульсом e(t) единичной амплитуды и длительности, равной tи. Очевидно, что при этом как сама модель, так и ее технический аналог заметно упрощается.

Далее учтем и то, что единственным достоверно установленным на сегодняшний день информативным параметром выходных спайков является величина их межимпульсных интервалов, т. е. частота следования нервных импульсов в функции от величины возбуждения нервной клетки.

Таким образом, в качестве выходных величин нервных клеток следует рассматривать не сами спайки и, естественно, не аппроксимирующие их сигналы прямоугольной формы e(t), а частоты их следования, которые в свою очередь отражают степень возбуждения нейрона в каждый момент непрерывного времени t. Более того, выходная функция Z(t) нейрона может быть представлена при этом либо в виде частоты следования сигналов e(t), либо непосредственно в виде аналоговых величин или цифровых кодов, отражающих степень возбуждения нервной клетки. При таком подходе три последних уравнения математической модели (8) можно заменить одним уравнением следующего типа:

Z(t) = max{0, k[P(t) - п]}, (9)

где Z(t) – частота, пропорциональная возбуждению P(t) - п нейрона либо кодирующая ее аналоговая или цифровая величина; k – коэффициент пропорциональности; max{0, k[P(t) - п]} – функция, выделяющая те интервалы изменения P(t), на которых справедливо нестрогое равенство P(t)п.

Очевидно, что если функция (9) является выходной, то для взаимосвязанных и взаимодействующих нейронов значения Z(t) должны служить и в качестве входных. Обозначая входные величины как xj(t), представим алгоритм информационных процессов в нервной клетке в виде более простой, чем (8), но эквивалентной ей математической модели:

(10)



где xj(t) – аналог интенсивности входных воздействий, поступающих на j-й вход нейрона с синаптическим весом j; V(t) – аналог потенциала, характеризующего суммарное входное воздействие, получаемое в результате пространственной суммации; P(t) – аналог мембранного потенциала нейрона; п – аналог постоянного порогового потенциала нервной клетки;  =1/; =ki ; ki – коэффициент пропорциональности при V(t); Zmax - максимально возможное значение Z(t), определяемое абсолютной рефрактерностью моделируемой клетки.

Вводя в систему (10) обозначение возбудимости нейрона в виде функции

y(t) = P(t) – п, (11)

получим идеализированную математическую модель информационных процессов в нервной клетке, которая имеет следующий вид:

г

(12)
де   п; j(t) – синаптический вес, величина которого может изменяться во времени под воздействием внешних факторов, например из-за аксо-аксонных взаимодействий.

Как и в модели (8), первое уравнение системы (12) описывает процесс пространственной суммации входных воздействий, но не в форме единичных спайков, а в более общей форме величин, имеющих смысл мгновенных частот их следования. Второе уравнение описывает закон изменения возбудимости нейрона y(t), а третье – определяет процесс формирования выходных величин, характеризующих текущее возбуждение нервной клетки.

Математическую модель (12) можно использовать для построения нейроподобных элементов и цифровых нейропроцессоров.

^ 3.Модели адаптивных процессов в нейроне

Адаптация, или приспособление к изменяющимся условиям внешней среды, является одним из наиболее важных свойств всего живого. Это свойство проявляется не только на уровне всего организма, но и на уровне отдельных его подсистем, отдельных клеток и внутриклеточных образований. На этом основании были разработаны модели нейронов, описывающие адаптивные реакции нейрона. Суть таких реакций заключается в плавном понижении частоты выходной импульсации в ответ на продолжительное стационарное внешнее воздействие, имеющее вид ступенчатой функции. Переходная характеристика адаптивной модели в этом случае соответствует кривой 1 на рисунке 1. Кривая 2 на том же рисунке обозначает реакцию на то же входное воздействие V(t) неадаптивного нейрона.

Другим типом адаптивных реакций являются так называемые “on”, “off” и “on–off” ответы нервных клеток. Они наиболее характерны для рецепторных нейронов зрительного анализатора и возникают при световом раздражении сетчатки глаза.

По виду переходные характеристики “on”, “off” ответов отличаются от кривой 1 на рисунке 1 тем, что при возрастании времени t они довольно быстро стремятся к нулю, а не к некоторой, отличной от нуля, постоянной величине. Последнее обстоятельство приводит к выводу о возможности воспроизведения адаптивных “on”, “off” ответов путем дифференцирования реакций неадаптивного нейрона, а именно кривых типа 2 на рисунке 1. Действительно, в этом случае выходные импульсные последовательности будут появляться в моменты начала и окончания ступенчатого входного воздействия, что и соответствует “on”, “off” ответам нейрона. Легко показать, что такой простейший механизм адаптивного поведения можно воспроизвести при помощи математической модели (12) практически без ее усложнения.





Рис. 1. Переходные характеристики.

Пусть суммарное входное воздействие V(t), поступающее на синаптические входы нейрона, представляет собой ступенчатый сигнал h, определяемый соотношением:

Т

(13)
огда при = 0 и  = 1 второе уравнение системы (12) примет вид

Р

ешением уравнения (13) является функция

график которой совпадает с переходной характеристикой неадаптивной модели нейрона. Именно по этой причине устройство, реализующее алгоритм (12), может использоваться как искусственный неадаптивный нейрон.

Однако, если в качестве выходной величины неадаптивной модели нервной клетки использовать не функцию Z(t), а абсолютные значения дифференциалов dy(t), то выходная реакция такой модели на входное ступенчатое воздействие будет описываться соотношением

Н

(14)

етрудно видеть, что график функции (14) качественно не отличается от переходной характеристики модели, реализующей “on” и “off” ответы нейронов. Последнее обстоятельство позволяет утверждать, что для моделирования простейших адаптивных реакций нервных клеток рецепторного типа достаточно воспроизводить первые два уравнения модели (12), а выходы организовать в соответствии с получаемым из (12) соотношением

где  – неизменный во времени порог.

В то же время, по мнению нейрофизиологов, более сложные механизмы адаптивного поведения нейронов основаны на изменении их пороговых свойств. В соответствии с другими представлениями изменение порога клетки происходит в зависимости от изменения входной активности нейрона. Модель, воспроизводящую второй механизм, называют адаптивной по входу. Очевидно, что могут иметь место динамические нейроподобные элементы, адаптивные как по входу, так и по выходу одновременно. Строятся такие модели на основе следующих рассуждений.

Для построения на основе алгоритма (10) математической модели адаптивной обработки информации в нейроне будем исходить из того, что, по мнению физиологов, механизм адаптивного поведения нервных клеток связан с изменениями порога . В связи с этим используем уравнение (6), но не для формирования спайков как в модели (8), а для воспроизведения адаптивных реакций нейрона. При этом будем полагать, что при адаптации по выходу мембранный потенциал клетки сравнивается с переменным порогом t, закон изменения которого имеет вид

И

(15)
спользуя уравнение (15) в алгоритме (10), получим нейроподобную модель с адаптацией по выходу:





В случае адаптации по входу в правой части уравнения (15) вместо Z(t) необходимо использовать функцию P(t). Поэтому нейроподобная модель с адаптацией по входу несколько отличается от модели (16) и имеет следующий вид:



(17)


Очевидно, что для модели с адаптацией как по входу, так и по выходу будем иметь:




В системе уравнений (18) порог (t) зависит как от входной величины 2P(t), так и от выходной 1Z(t) активности нервной клетки. Причем полагая 2 = 0, 1  0, получим модель с адаптацией только по входу. Более того, при 1 = 2 = 2 = 0 и (t)– = y(t) получим исходную неадаптивную модель (10).

Иными словами, модель (18) более универсальна, чем неадаптивная модель (10), и по этой причине может быть использована для построения искусственных нейронов, воспроизводящих как адаптивные, так и неадаптивные реакции. Однако структура искусственного нейрона при этом также усложняется. Поэтому прежде чем решить вопрос о целесообразности подобного усложнения, необходимо учесть мнение физиологов о том, что нервная клетка является лишь структурной единицей мозга и в полной мере обладает далеко не всеми свойствами биологических систем.

В частности, многие физиологи полагают, что адаптивные реакции типа привыкания, как и многие другие функции нервной ткани, реализуются не отдельными нейронами, а их совокупностями в процессе совместной корпоративной деятельности. В связи с этим наряду с понятием нейрона, как структурной единицы нервной системы, в современной нейрофизиологии используется понятие о ее функциональной единице, в качестве которой выступает не отдельный нейрон, а некоторая совокупность нервных клеток, называемая нейронным ансамблем. В простейшем случае нейронный ансамбль состоит из двух взаимосвязанных нейронов, один из которых выполняет основные функции, а второй – вспомогательные (усиление, торможение, модификация процессов в основном нейроне и т. д.).

При таком подходе систему уравнений (18) можно рассматривать как модель информационных процессов не в отдельной клетке, а в гипотетическом двухнейронном ансамбле, основной нейрон которого реализует алгоритм (10), а вспомогательный воспроизводит процесс модификации порогового потенциала основного нейрона в функции от его входной и выходной активности. Алгоритм вспомогательного нейрона при этом может быть представлен в следующем виде:



(19)


где x1 = P(t) – пространственный потенциал дендритного дерева основного нейрона, поступающий на вспомогательный нейрон при помощи дендритных связей; x2 = Z(t) – выходная активность основного нейрона, заводимая на вспомогательный нейрон при помощи аксосоматической связи; п – порог покоя вспомогательного нейрона, совпадающий с порогом покоя нейрона основного; W(t) – соматический выход вспомогательного нейрона, поступающий на сому основного нейрона через сомасоматический контакт.

С
учетом алгоритма (19), модель информационных процессов в основном нейроне принимает вид:


Таким образом, с целью воспроизведения адаптивных реакций вместо усложнения структуры отдельного искусственного нейрона можно идти путем создания адаптивных нейроподобных ансамблей, состоящих из устройств, реализующих более простую неадаптивную модель (10), (12). Важная особенность этой модели состоит в том, что на ее основе могут строиться не только искусственные нейроны и нейроподобные ансамбли с адаптивными реакциями типа “on”, “off” ответов и функцией привыкания, но и такие субклеточные информационные процессы, как облегчение синаптической передачи.

Суть облегчения заключается в том, что при увеличении интенсивности входных воздействий на некоторый синапс происходит повышение его интенсивности, т. е. повышается его способность к еще более интенсивной передаче возбуждений на постсинаптическую мембрану. И, наоборот, при уменьшении интенсивности входных воздействий (при уменьшении использования синапса в некоторой нейрональной информационной цепи) его эффективность падает. Модификацию синаптической передачи можно связать с такими изменениями синаптических весов j , при которых все величины j становятся прямо пропорциональными частотам следования соответствующих входных импульсаций xj(t). Тогда интенсивность синаптической передачи будет соответствовать идее облегчения, т. е. при увеличении интенсивности входных воздействий соответствующие коэффициенты j будут увеличиваться, а при ее уменьшении – уменьшаться.

В

(20)
качестве математической модели данного процесса можно использовать уравнение, подобное (15), но записанное относительно переменного во времени синаптического веса j (t):

где с – постоянная времени изменения синаптического веса; п – синаптический вес покоя (при отсутствии x(t)).

Е
сли в уравнении (20) положить x(t) = h, где



(21)
то его решением будет служить функция


И
з выражения (21) следует, что

т. е. для больших x синаптический вес больше, для меньших – меньше.

Иными словами модель (20) действительно может служить моделью такого процесса, как облегчение синаптической передачи.

Резюмируя изложенное приходим к выводу, что модели учитывающие пространственно-временную суммацию, т. е. модели типа (10), (12) являются достаточно универсальными и могут быть положены в основу построения различных нейроподобных элементов, ансамблей и сетей.

^ 4.Формальные нейроны

Наиболее простой физически реализуемой информационной моделью нервной клетки является формальный нейрон (ФН). В основе построения формальных нейронов лежит представление о нервной клетке как о логическом элементе, работающем по принципу «все или ничего». Предполагается, что между клетками возможны аксо-дендритные синаптические взаимодействия. Входные и выходные спайки аппроксимируются при этом единичными импульсами прямоугольной формы e(t) или единичными потенциалами и считается, что выходная функция является логической функцией от входных булевых переменных, а также от синаптических весов j(t)=j и порога п, принимающих целочисленные значения.

Обычно формальный нейрон определяется как пороговый логический элемент со следующими основными свойствами:

  1. Он имеет N синаптических входов, которые могут быть возбуждающими (j>0) или тормозными (j<0) при j=1, N;

  2. Состояние элемента исследуется в равноотстоящие элементы дискретного времени ti = t0 + it (i=1, 2, ... , ti = ti-1 – шаг квантования времени t);

  3. Независимо от количества поступивших в момент времени ti на входы ФН единичных сигналов xj (ti ) элемент осуществляет задержку выходного сигнала на один шаг t дискретного времени ti , т. е. Z(ti+1) = F[xj (ti ), j , п ];

  4. Каждый из входов xj (ti ) и выход Z(ti+1) могут находиться в возбужденном (xj (ti ) = 1, Z(t i+1) = 1) или невозбужденном (xj (ti ) = 0, Z(t i+1) = 0) состоянии;

  5. Формальный нейрон имеет порог возбуждения п. Если алгебраическая сумма поступающих в момент времени ti возбуждающих и тормозящих входных воздействий jxj (ti ) равна или больше п , то Z(t i+1) = 1. В противном случае Z(ti+1) = 0.

Алгоритм формального нейрона получается из модели информационных процессов в нейроне (10) в результате учета того, что при формально-логических представлениях P’(t)=0, j (t)= j – const. По этой причине математическая модель (10) упрощается и принимает вид




Далее, для простоты положим  и запишем систему (22) в виде одного уравнения:


Если теперь дополнительно учесть, что Z(ti+1), xj (ti ){0, 1}, то получим хорошо известный алгоритм формального нейрона:

Z(ti+1)=sign ky(ti), (24)

где y(ti) = j xj (tj) – п;

П


(25)

(26)
усть в алгоритме (24) j0, 1}. Тогда ФН реализует довольно простые логические функции. Например, при п =1, k = 1 будем иметь

а
при п =N, k = 1получим

Иными словами, изменяя величину порога п при j0, 1} и k = 1, будем менять вид логической функции Z(ti+1). Если же k{0, 1}, то функции (25), (26) принимают вид






В тех случаях, когда синаптические веса j{0, 1, –1} или принимают другие целочисленные значения, реализуемые формальным нейроном функции усложняются.

Блок-схема формального нейрона приведена на рисунке 2. Она содержит два блока: блок пространственной суммации (ПС) и блок формирования выходной функции sign ky(ti), который, в свою очередь, может быть построен по импульсному или статическому типу. В первом случае при выполнении условия возбуждения нейрона (ky(ti)0) на выходе появляется единичный сигнал Z(ti+1) = e(t) априори заданной длительности . После окончания этого сигнала ФН переходит в невозбужденное состояние и остается в нем до следующего выполнения условия возбуждения. Во втором случае при выполнении условия ky(ti)0 нейрон переходит в единичное состояние и остается в нем до нарушения условия возбуждения.

В целом формально-логическая модель нейрона далека по своим возможностям от ее естественного прототипа и не отражает всех его свойств, в частности не учитывает процессов, протекающих на мембране нейрона. Данное обстоятельство служит основанием для перехода к более совершенным нейроподобным элементам динамического типа.

^ 5.Динамические нейроны

Наиболее важным отличием нейроподобных элементов динамического типа – динамических нейронов (ДН) от формальных нейронов является не столько учет в них временной суммации (P’(t)0), сколько переход принципа «все или ничего», характерного для отдельных спайков, к градуальному способу кодирования информации. В соответствии с градуальным кодированием полагается, что выходной величиной нейрона служит интенсивность выходных спайков, которая, в свою очередь, зависит от количества и интенсивности входных сигналов, а также от величины порога нервной клетки. То обстоятельство, что в качестве входных и выходных величин при этом используются непрерывные зависимости, позволяет представить информационные процессы в нервной клетке в дифференциальной форме, т. е. в виде модели (10) или (12).

Блок-схема динамического нейрона, работающего в соответствии с алгоритмом (12), приведена на рисунке 3. Наряду с пространственным сумматором ПС1, формирующим сумму V(t) произведений jxj(t), и пространственным сумматором ПС2, вычисляющим производную y’(t), в схеме ДН предусмотрен интегрирующий блок И для определения функции y(t), а также выходной блок ВБ, формирующий выходную зависимость Z(t).

В тех случаях, когда и k = 1, сумматоры ПС1 и ПС2 можно объединить и представить схему на рисунке 3 в более простом виде, а именно так, как это показано на рисунке 4. Если теперь реализовать схему 4 на сопротивлениях, диодах и емкостях, то получим простейшую аналоговую модель динамического нейрона.




Рис. 2. Формальный нейрон.




Рис. 3. Динамический нейрон, работающий в соответствии с алгоритмом 12




Рис.4. Динамический нейрон, упрощенный вариант.

Рассмотренные схемы могут строиться как на дискретных, так и на интегральных элементах, а также в виде больших интегральных схем, содержащих десятки и сотни ДН на кристалле. Эти схемы довольно просты и компактны, но характеризуются неконтролируемым изменением параметров в функции от температуры и других внешних факторов. Данное обстоятельство затрудняет их использование в нейроподобных сетях больших размерностей. Более того, такие элементы не позволяют создавать практически приемлемые схемы с переменными во времени синаптическими весами и переменным порогом, т. к. Управляемое изменение электрических сопротивлений связано с определенными техническими трудностями. Все это стимулирует разработку и создание цифровых схем динамических нейронов, свободных от указанных недостатков.

^ 6.Цифровые модели нейронов

Одно из важных направлений в области построения цифровых нейроподобных элементов связано с программированием универсальных ЭВМ, микроЭВМ, персональных ЭВМ для реализации на них алгоритмов как отдельных нейронов, так и их совокупностей, воспроизводящих информационные процессы в нейронных ансамблях и нейронных сетях. Особых проблем при программировании систем уравнений, основанных на алгоритмах типа (12), как правило, не возникает.

Однако имитация сугубо параллельных нейрофизиологических процессов на последовательных ЭВМ связана с большими временными затратами, что не всегда приемлемо с практической точки зрения. Поэтому применение ЭВМ классической архитектуры для реализации сетей динамических нейронов весьма ограничено, особенно в тех случаях, когда цифровая модель должна работать в реальном масштабе времени, например при организации биоуправляемых экспериментов по замене части нервной ткани ее имитационной моделью. Другая трудность использования ЭВМ для моделирования нейронов и нейронных сетей состоит в том, что любое изменение связей в моделируемой сети ведет к необходимости составления новых программ.

Все это вынуждает искать способы построения таких цифровых устройств, которые, с одной стороны, программно и аппаратно ориентированы на воспроизведение алгоритма обработки информации в отдельной нервной клетке, а с другой – пригодны для организации на их основе параллельных перестраиваемых нейроподобных ансамблей и структур. Подобные устройства могут строиться на базе современных однокристальных и секционированных микропроцессоров (МП). Получающиеся при этом структуры цифровых нейронов (ЦН) приобретают стандартный вид и могут быть представлены в виде схемы, показанной на рисунке 5.





Рис. 5. Структура цифрового нейрона.

Данная структура состоит из микропроцессорного устройства МПУ и подключенных к нему N портов ввода Пввj (j = 1, N) и одного порта вывода Пв. Она соответствует тому случаю, когда параметры j ,, k нейроподобной модели являются постоянными. Предполагается также и то, что программа алгоритма (12) хранится в постоянном запоминающем устройстве ПЗУ, а параметры, которые не меняются в процессе работы конкретной модели цифрового нейрона, но могут быть различными у разных ЦН, хранятся в оперативной памяти МПУ.

Входные величины xj(ti) в дискретные моменты времени ti = ti-1+ti (i = 1, 2, ...) записываются в соответствующие порты ввода Пввj рассматриваемого ЦН. Поступают они с портов вывода других ЦН или из внешних сенсорных устройств в цифровой форме и хранятся в Пввj в течение времени форме ti выполнения алгоритма (12). После завершения работы алгоритма (12) в порт вывода записывается значение функции Z(tj+1), которое в момент времени ti+1 по жестким или перестраиваемым каналам связи передается в порты ввода других цифровых нейронов.

Рассмотренная схема цифрового нейрона является довольно простой и ее проектирование сводится по существу к программированию МП на языке ассемблера. Однако техническая реализация нейроподобных сетей, состоящих из таких ЦН, связана с определенными трудностями.

Во-первых, информация между различными ЦН передается в параллельных кодах, что, в свою очередь, усложняет каналы передачи, особенно в тех случаях, когда связи между нейронами необходимо оперативно менять при помощи устройств электронной коммутации. Упрощение коммутирующих устройств за счет организации передачи информации между ЦН в последовательных кодах ведет к существенной потере производительности как отдельных нейроподобных элементов, так и нейроподобной сети в целом.

Во-вторых, время работы отдельных ЦН существенно зависит от количества синаптических весов. Если у различных ЦН число N различное, то и время их работы будет различным. Следовательно, ЦН с минимальным числом входов будет использоваться неэффективно.

И в-третьих, существенные трудности возникают в том случае, когда синаптические веса модели нейронов являются переменными во времени. Для формирования текущих значений j(ti ) необходимо включить N дополнительных портов ввода, в которые следует записывать не сами синаптические веса, а их приращения.

Отмеченные обстоятельства являются серьезным обстоятельством не пути создания удобных в эксплуатации цифровых нейроподобных элементов на базе микропроцессоров и микроЭВМ универсального типа. По этой причине возникает необходимость в разработке ЦН на основе специализированных устройств, ориентированных на воспроизведение алгоритма (12).

Одним из перспективных подходов при этом может служить использование для синтеза ЦН идей и методов построения цифровых моделей на базе интегрирующих структур ЦИС. Это связано с тем, что в основе моделируемых динамических нейрональных процессов лежат дифференциальные зависимости, а ЦИС, в свою очередь, проблемно-ориентированны на решение систем линейных и нелинейных дифференциальных уравнений.

Кроме того, цифровые интегрирующие структуры состоят из параллельно функционирующих решающих блоков, информация между которыми передается в виде последовательностей дискретных сигналов, имеющих смысл приращения выходных зависимостей. Отдельные решающие блоки реализуют операции суммирования, численного интегрирования, экстраполяции выходных приращений и, как правило, снабжены коммутационными элементами. Благодаря этому на решающих блоках ЦИС могут быть построены цифровые динамические нейроны, реализующие алгоритм (12) с переменными синаптическими весами и соединяемые друг с другом при помощи гибкой электронной коммутации. Следовательно, такие элементы будут свободны от недостатков микропроцессорных ЦН.

^ 7.Операции в цифровых интеграторах

Вышеперечисленные операции могут быть выполнены на элементной базе ЦИС. В состав этой базы входят комбинационные сумматоры, цифровые интеграторы и нелинейные блоки. Цифровой интегратор представляет собой устройство, осуществляющее численное интегрирование подынтегральной функции y(t).

Аргумент t предварительно квантуется с постоянным шагом t=ti–ti-1 (i=1, 2,...), начиная с t0. Поэтому для произвольного значения ti будем иметь ti=t0+it.

Функция y(ti)= yi, определяемая на множестве дискретных значений ti, является решетчатой. Для данной функции вместо дифференциального применяется разностный оператор, в частности построенный на основе первых разностей. Эти разности могут быть нисходящими (интерполяция) и восходящими (экстраполяция). В случае нисходящих разностей имеем

yi=yi+1–yi или yi=yi+1–yi,

а в случае восходящих разностей –

yi=yi–yi-1 или yi=yi-1+yi.

В
теории цифровых интегрирующих структур используются восходящие разности и считается, что цифровой интегратор на каждом временном интервале t=t=ti–ti-1 вычисляет приращение Wi интеграла W Римана:

При использовании простейшей формулы численного интегрирования – формулы
Эйлера для интеграла Римана будем иметь

Wiyi-1t.

П
ри интегрировании в соответствии с более сложным интегралом Стилтьеса, когда интегрирование ведется по некоторой функции yq(t), получим

Таким образом, при использовании формулы Эйлера отдельный цифровой интегратор реализует аппаратным методом следующие уравнения:

yi=yi-1+yi;

Wi+1=yiyq(i+1).

В
связи с тем, что значение приращения yq(i+1) в i-м шаге неизвестно, его либо экстраполируют, например по линейному закону:

либо принимают равным yqi.

В тех случаях, когда yqi =t, цифровой интегратор воспроизводит численное интегрирование по Риману

yi=yi-1+yi;

Wi+1 =yit.

Очевидно, что при постоянном шаге t экстраполяция приращений независимой переменной t не требуется.

^ 8.Структура цифровых интеграторов

Структура ЦИ, инвариантная относительно интегрирования по Риману или по Стилтьесу, может быть представлена в виде схемы, показанной на рисунке 6.




Рис.6. Структурная схема ЦИ

Цифровой интегратор состоит из двухвходового сумматора См, регистра Рг, множителя Мн и квантователя Кв, формирующего квантованные приращения Wi+1.

Суть квантования состоит в том, что при умножении n-разрядных величин yi на m-разрядные величины yq(i+1) получаются n+m разрядные приращения Wi+1. Для того, чтобы эти приращения можно было использовать в качестве m-разрядных значений yi , yq(i+1) на входах того же или другого ЦИ, необходимо из n+m разрядов выделить m старших. Такое выделение называется квантованием. Математически его можно записать так:

Wi+1=П[Wi]m – приращение интеграла;

Oi =O[Wi]n – остаток квантования.

С целью уменьшения погрешности, возникающей при квантовании (округлении) величин Wi, остатки Oi, как правило, при квантовании не отбрасываются, а учитываются в соответствии со следующим алгоритмом:

^ Wi+1=П[Wi + Oi-1]m ;

Oi =O[Wi + Oi-1]n.

Схема квантователя Кв1, реализующего данный алгоритм, приведена на рисунке 7.





Рис.7. Квантователь

Предполагается, что приращения Wi, Wi+1 представлены в последовательных кодах, а длительности сигналов Ио, Ип и временные соотношения между ними выбраны так, чтобы на выходе квантователя появлялись m-разрядные квантованные приращения Wi+1, а в регистре Рг0 формировались n-разрядные остатки.

В дальнейшем процедуру квантования будем обозначать оператором Ф. Тогда в случае квантования с сохранением остатков запишем:

^ Wi+1=Ф[Wi + Oi-1]= Wi + Oi-1– Oi;

а при квантовании с сохранением остатков будем иметь

Wi +1=Ф[Wi]= Wi – Oi.

Схема квантователя без сохранения остатков имеет более простой, чем на рис. 7, вид (рис.8):




Рис.8 Квантователь (без сохранения остатков)

В дальнейшем будем полагать, что в качестве квантователя используется схема Кв1. Условное графическое обозначение ЦИ с таким квантователем приведено на рис. 9.




Рис.9. Цифровой интегратор, условное обозначение

Интегратор без квантователя, отдельный квантователь (Кв), интегратор с квантователями на входах и экстраполятор приращений (Э) будем обозначать так, как это показано на рис. 10 (а, б, в, г) соответственно.




а) Интегратор без квантователя б) Отдельный квантователь




в) Интегратор с квантователями на входах




г) Экстраполятор приращений

Рис. 10. Условные обозначения





оставить комментарий
страница1/2
Дата02.10.2011
Размер0,68 Mb.
ТипДокументы, Образовательные материалы
Добавить документ в свой блог или на сайт

страницы:   1   2
Ваша оценка этого документа будет первой.
Ваша оценка:
Разместите кнопку на своём сайте или блоге:
rudocs.exdat.com

Загрузка...
База данных защищена авторским правом ©exdat 2000-2017
При копировании материала укажите ссылку
обратиться к администрации
Анализ
Справочники
Сценарии
Рефераты
Курсовые работы
Авторефераты
Программы
Методички
Документы
Понятия

опубликовать
Документы

наверх