Интеллектуальные информационные системы как объект защиты информации.

 

Суханов Андрей Вячеславович,

кандидат технических наук,

начальник управления специальных работ ЗАО «ЭВРИКА», г. Санкт-Петербург,

Суханов Вячеслав Андреевич,

студент,

Санкт-Петербургский Государственный Университет Телекоммуникаций им. проф. М.А. Бонч-Бруевича.

 

Комплексный подход к обеспечению безопасности информационных систем использует программно-настраиваемую нейросетевую вычислительную среду (НВС) в качестве базы для построения адаптивных интеллектуальных средств защиты информации (СЗИ) и информационных систем (ИС) в целом. НВС как упорядоченная система взаимосвязанных интерфейсом базовых блоков используется для распределенного хранения и параллельной обработки данных адаптивного избыточного информационного поля нейросетей (НС), а пакетные нейросетевые программы, описанные с привлечением нейросетевых языковых средств, используются для представления в НВС топологии НС.

Важной специфической чертой нейросетевых средств защиты является высокая информационная защищенность элементов нейросетевого базиса. Случайное или преднамеренное изменение входных сигналов или функциональных параметров в диапазоне значений, не выходящих за пределы допустимой входной многомерной окрестности, не влияют на реализуемую функцию формального нейрона (ФН), т. к. значение выходного сигнала не покинет допустимую многомерную окрестность результатов [1].

Объектом защиты в большинстве существующих ИС, использующих парадигму последовательного командного управления, является вычислительный процесс, описываемый программой, как упорядоченной последовательностью команд. Сложность обеспечения безопасности информационных процессов и ресурсов подобных ИС связана с безызбыточностью описания вычислений и доступностью размещенных по определенным адресам памяти кодов программ и данных, случайное или преднамеренное искажение небольшого фрагмента которых делает недостоверными результаты вычислений [2].

Более близким к биологическому представлению функций, выполняемых ИС, является описание объекта защиты в виде структуры, содержащей узлы преобразования данных и связи между ними для передачи данных. Подобное описание вычислительной структуры, свойственное ИС с управлением потоком данных, также характеризуется  безызбыточностью, однако в отличие от ИС с последовательным командным управлением может обеспечить недоступность кодов программ и данных в памяти (в так называемом командном пуле) для несанкционированного искажения в процессе обработки информации. Правда сохраняется возможность нарушения целостности информации в процессе передачи пакетов данных по интерфейсу.

Реализация вычислительной структуры информационной системы в нейросетевом базисе обеспечивает как информационную избыточность, свойственную НС, так и  недоступность кодов в виде пакетных нейросетевых программ (ПНП) и данных в памяти, свойственное ИС с управлением потоком данных, что позволяет обеспечить целостность и конфиденциальность информационных процессов и ресурсов ИС [2, 3].

 

Средства для описания информационной структуры интеллектуальных ИС.

 

Как уже отмечалось, задачи, подлежащие решению с помощью вычислительных средств, принято подразделять на формализуемые и неформализуемые. Первый класс задач как более широкий и исследованный реализуется с помощью программных средств на универсальных машинах. Однако традиционный подход к управлению вычислениями критикуется из-за последовательного характера вычислительного процесса [3, 4].

Заслуживает внимания метод решения формализуемых задач, в котором управление вычислительным процессом осуществляется с помощью потока данных [5, 6]. Управление потоком данных отказывается от какой-либо упорядоченности в выборке команд из памяти и принудительного задания порядка выполнения машинных операций. Однако на сегодняшний день отсутствуют промышленно выпускаемые ИС, базирующиеся на данном подходе, что может быть отчасти объяснено специализацией подобных систем на класс задач с высокой степенью распараллеливания. Остальные формализуемые задачи, а их большинство, более эффективно решаются традиционными вычислительными средствами.

Неформализуемые задачи – область применения нейросетевых методов и ИС, где иное управление вычислениями не приемлемо из-за невозможности алгоритмического описания хода вычислительного процесса.

Программно настраиваемая нейросетевая вычислительная среда (НВС), способная решать оба класса задач, организована в виде многопортовой памяти с произвольным доступом, в которой по аналогии с программами фон-неймановских машин размещены пакетные нейросетевые программы [2,  7]. В качестве механизма управления вычислениями в НВС выбран способ управления потоком данных (УПД) [2, 5, 6], а в качестве средства формализации - язык двумерного графичес­кого описания объектов [8, 9]. Графическое описание на языке УПД наглядно отражает структуру специализированной среды с распределенным механизмом управления, позволяющим максимально распараллелить процесс вычислений формализуемой задачи (рис. 1) [2]. Описание нейронной сети на графическом языке потока данных практически сведется к воспроизведению одной из стандартных топологий, где в качестве исполнительных элементов могут быть использованы либо отдельные компоненты нейросетевого базиса, либо формальный нейрон, либо слой из ФН [10].

Определим основные понятия, которые будут использованы ниже по тексту.

Пул команд – многофункциональная безадресная память для размещения пакетной программы; получает пакеты данных; формирует командные пакеты или пакеты данных; функционально и структурно защищена от несанкционированного доступа.

Пакетная нейросетевая программа – функционально завершенная совокупность взаимосвязанных командных пакетов.

Командный пакет - структурный компонент пакетной нейросетевой программы, образованный совокупностью специализированных полей и задающий, как операцию нейросетевого базиса, так и номера командных пакетов-приемников результата выполнения данной операции.

Пакет данных – средство доставки (контейнер) значений данных от одного командного пакета (источника) к другому командному пакету (приемнику результата).

Командная ячейка – область пула команд, в которой размещается командный пакет.

Программы потоков данных, согласно [8, 9], могут быть представлены в более привычном виде – в форме последовательности операторов, подчиняющихся определенному синтаксису языка, либо в наглядном виде функционально завершенной совокупности командных пакетов (рис. 2) [2], размещаемых в командных ячейках пула команд.

Поле вентильный код, задаваемое для каждого входного порта, управляет приемом данных. Возможны четыре значения этого кода:

N - вентильные функции не выполняются; любой результат, направляемый в данный порт, помещается в поле данных (если оно свободно);

Т - данные, направляемые в этот порт, будут приняты, если вентильный флаг TRUE уже поступил; в противном случае поступающие данные игнорируются;

F - данные, направляемые в этот порт, будут приняты, если вентильный флаг, имеющий значение FALSE, в противном случае поступающие данные игнорируются;

С - содержимое порта является константой; эти данные постоянно возобновляются.

Поле вентильный флаг поступает из управляющей сети и может принимать одно из трех значений:

Off - вентильный флаг не был полу­чен;

Т - получен вентильный флаг TRUE;

F - получен вентильный флаг FALSE.

Поле флага данных устанавливается при занесении данных во входной порт.

Описание машин, управляемых потоком данных, с помощью командных пакетов менее наглядно, т. к. топология вычислительного устройства в явном виде не просматривается, но более удобно для отображения в памяти вычислительной среды.

В следующих параграфах продолжено рассмотрение языковых средств, ориентированных на нейросетевые приложения. При разработке языка учтены свойственные НС особенности, которые не имели место в задачах, на которые ориентировались языки УПД. Прежде всего, в отличие от одно- или двухместных команд, нейросетевые командные пакеты оперируют с большим числом аргументов, требующих соответственного количества входных портов. Далее, с входными портами нейросетевых командных пакетов (КП) ассоциированы наборы функциональных параметров ФН, для размещения которых требуется предусмотреть соответствующее количество полей. Иллюстрация представления нейросетевых операций командными пакетами проведена на типовых элементах регулярного нейросетевого базиса.

 

Представление элементов нейросетевого базиса в НВС.

 

Нейросетевой базис включает в себя следующие основные функции и соответствующие этим функциям компоненты, которые можно рассматривать как особый язык для представления нейронных сетей [11]. Каждому из компонентов нейросетевого базиса можно поставить в соответствие командный пакет, из которых можно формировать функционально полные наборы КП и использовать их в дальнейшем в качестве элементарных программных и структурных единиц [10].

Линейная связь (синапс) выполняет операцию взвешивания входного сигнала, например, умножает значения входного сигнала X и веса W (рис. 3).

Синапсу соответствует КП, состоящий из поля приемника результата (коммуникационное поле) D, поля функциональных параметров W₁ (помечено вентильным кодом С), поля входного порта Х₁ и поля готовности данных R₁ (оба с вентильным кодом N).

Основной элемент нейросетевого логического базиса – адаптивный сумматор
(рис. 4), вычисляющий скалярное произведение векторов Х и W размерностью n. Адаптивность связана с вектором W, который корректируется при обучении. Для реализации линейной неоднородной функции сигналов используют неоднородный адаптивный сумматор (рис. 5), на дополнительный вход которого подается единичный сигнал (смещение ФН).

Адаптивные сумматоры представляются КП, у которых один приемник результата D, поля функциональных параметров W₀,…, W_n, помеченные вентильным кодом С, поля входных портов Х₁,…, Х_n и поля готовности данных R₁,…, R_n, с вентильным кодом N.

Функция активации нейронов (характеристическая функция) j реализуется нелинейным преобразователем сигнала и используется для автоматического масштабирования выходного сигнала адаптивного сумматора. Функция j может быть представлена КП (рис. 6) с полями: коммуникационным D, операндным Х и полем готовности данных R.

Точка ветвления (репликатор) передает скалярный входной сигнал x на свои выходы. КП репликатора (рис. 7) содержит n (по числу приемников результата) коммуникационных полей D_i, (0 £ i £ n) операндное поле Х и поле готовности данных R.

Иногда функцию взвешивания сигнала передают репликатору и получают выходную звезду (рис. 8), КП которой содержит поля весов, например, a₁,…, a_n. Выходная звезда соответствует отдельной нечеткой связи, если нечеткое множество {a₁,…, a_n} соответствует некоторой семантике данных (СД). Если расширить возможности командного пакета, реализующего функцию активации нейрона, функцией репликации (добавить поля приемников результата D₁, D₂,…, D_n можно создать комбинированный командный пакет (рис. 9).

 

Рис. 1.

Пример графического представления программы потоков данных.

 

Рис. 2.

Пример командного пакета.

 

Рис. 3.

Синапс.

 

Рис. 4.

Адаптивный сумматор.

 

Рис. 5.

Неоднородный адаптивный сумматор.

 

Формальный нейрон (рис. 10) получается последовательным соединением адаптивного неоднородного сумматора, нелинейного преобразователя и точки ветвления. КП формального нейрона содержит полный набор полей образующих его компонентов, а функциональная универсальность позволяют рассматривать его в качестве базового элемента, используемого при составлении пакетных нейросетевых программ.

Слой ФН (рис. 11) - следующий уровень абстрагирования. Роль элемента структуры НС играет ранг идентичных по функциональным возможностям ФН. КП слоя ФН в отличие от КП отдельного нейрона содержит матрицу параметров W_ij (0 £ i £ r; 0 £ j£ n; где r - число ФН в слое НС, n - число входов отдельного ФН).

Представление НС в виде взаимосвязанных нейросетевых компонентов можно рассматривать как аналог графического описания сети на языке УПД. Для описания НС с помощью ПНП необходимо, чтобы набор командных пакетов удовлетворял требованиям функциональной полноты. Если в качестве базового элемента выбрать ФН, то ПНП будет представляться ограниченной совокупностью (по числу ФН НС) однотипных КП, различающихся только содержимым коммуникационных (связи) и функциональных (веса) полей. Если в качестве базового элемента выбрать слой ФН, то ПНП будет более компактной, а, следовательно, снизятся затраты времени, связанные с транспортировкой готовых КП из пула команд к процессорному блоку и ПД в обратном направлении.

Для решения неформализуемых задач может быть использован стандартный нейросетевой подход: в зависимости от типа задачи выбирается одна из известных сетевых конфигураций, соответствующая ей парадигма обучения НС, а в качестве базового элемента – ФН, представленный командным пакетом. Информация о межнейронных связях сети записываются в коммуникационные поля командного пакета, а параметры НС, полученные ранее в результате обучения, - в функциональные поля той же совокупности КП.

Формализуемые задачи могут быть описаны на двумерном графическом языке, где в качестве исполнительных элементов, информации и связей будут использоваться, соответственно, блоки нейросетевого базиса, токены данных и управляющие токены (в формализуемых задачах появятся условные вершины), а также сигнальные линии для передачи значений данных и управляющей информации в виде пакетов данных [2]. Представление формализуемых задач в виде ПНП потребует использования специальных КП для описания условных вершин реализуемого алгоритма (рис.12).

В подходе УПД, где отсутствует заранее обусловленный порядок выборки и обработки КП, необходимо управляемо перенаправлять потоки данных. С этой целью можно либо отдельным полям КП придать вентильные свойства и управлять этими полями посредством управляющих токенов [2], либо в состав набора КП ввести управляющий КП (рис. 12).

Управляющий КП будет фиксировать предназначенные ему данные в своих входных портах (Х₁, Х₂, Х₃), устанавливая соответствующие биты готовности в полях (R₁, R_2, R₃).

 

Рис. 6.

Нелинейный преобразователь сигнала.

 

Рис. 7.

Точка ветвления.

 

Рис. 8.

Выходная звезда.

 

Рис. 9.

Нелинейный преобразователь сигнала с репликатором.

 

Рис. 10.

Формальный нейрон.

 

Рис. 11.

Слой формальных нейронов.

 

При поступлении операндов КП обрабатывается таким образом, что часть данных используется для формирования результата отношения Boolean (к примеру, Х₁ – Х₂ < e), а другая часть поступивших данных (Х₃) в качестве значения будет передана либо адресатам DT₁, DT₂,…, DT_n , либо адресатам DF₁, DF₂,…, DF_n в зависимости от результата отношения TRUE или FALSE, соответственно.

При разработке языковых средств для описания НС руководствуются следующими положениями.

Нейросетевая вычислительная среда – это многофункциональная регулярная вычислительная структура, в которой информация, представленная в виде пакетов, преобразуется и перемещается в соответствии с графом обработки информации.

Нейронная сеть представляется в виде размещенной в пуле команд ограниченной функционально завершенной совокупности КП, образующих пакетную нейросетевую программу.

Командный пакет - функционально-структурная единица языка описания НС.

Система командных пакетов, используемая для написания ПНП, должна удовлетворять требованиям функциональной полноты, т. е. набор операций, реализуемых командными пакетами системы, должен составлять нейросетевой логический базис.

КП в зависимости от детализации реализуемой функции может соответствовать:

·  отдельным элементам ФН или комбинации перечисленных элементов;

·  отдельному ФН;

·  части слоя, содержащего формальные нейроны;

·  отдельному слою формальных нейронов НС;

·  нейронной сети.

Командный пакет может содержать следующие поля:

Op

F

Xm ... X1

Gm ... G1

Dn ... D1

ACT

·  командное (Op) - определяют задаваемую командным пакетом функцию;

·  функциональное (F) – содержит значения весов и порогов срабатывания формального нейрона или группы ФН, сформированные в процессе обучения НС;

·  операндные (X_m ... X₁) – предназначены для буферизации входной информации, поступающей в КП–приемник результата из КП-источников операндов, m – число операндных полей пакета;

·  вентильные (G_m ... G₁) – обуславливают условия использования соответствующих операндных полей: С - поле констант, N – безусловное заполнение поля;

·  коммуникационные (D_n ... D₁) – задают топологию НС путем определения связей между формальными нейронами, содержат адреса КП–приемников результата, n – число КП-приемников результата;

·  служебные (ACT) – вспомогательные поля, определяющие, как правило, контекст вычислений.

Командный пакет может быть операционным, т. е. реализующим одну из функций нейросетевого базиса, или управляющим, предназначенным для изменения потока данных в НС.

Нейронная сеть формируется путем заполнения командных, коммуникационных и функциональных полей КП либо на этапе обучения НС, либо, в случае обученной НС, непосредственного занесения готовой к выполнению ПНП в пул команд.

Данные представляют собой оформленный в форме контейнера или пакета квант информации, дополненный коммуникационной и служебной информацией:

X

Di

ACT

·                    поле X содержит значение, сформированное при обработке командного пакета–источника, для передачи командному пакету–приемнику результата;

·                    поле D_i определяет одно из операндных полей i-го командного пакета–приемника результата, 0 £ i £ n;

·                    поле ACT – служебное поле.

Нейронная сеть самоуправляется механизмом готовности данных и передачей результатов обработки командных пакетов-источников в операндные поля (входные порты) командных пакетов-приемников с помощью пакетов данных.

Нейронная сеть начинает функционировать после занесения данных в операндные поля командных пакетов и срабатывания механизма готовности: командный пакет извлекается из пула команд после поступления исходных данных (операндов) во входные порты в количестве, достаточном для корректного выполнения операции.

Для сохранения работоспособности нейронной сети при отказе ряда входящих в ее состав формальных нейронов целесообразно использовать механизм частичной готовности, в соответствии с которым командный пакет извлекается из пула команд в случаях:

·  заполнения всех операндных полей;

·  поступления заранее заданной совокупности операндов;

·  поступления заранее определенного количества операндов;

·  истечения допустимого времени нахождения командного пакета в пуле команд.

Использование механизма частичной готовности данных при реализации нейросетевых приложений в виде ПНП, размещаемых в многофункциональной памяти НВС, позволяет задействовать механизм нейросетевой избыточности и, следовательно, существенно повысить информационную защищенность интеллектуальной системы. В командных пакетах и пакетах данных, играющих роль транспорта для передачи сообщений, в основном содержится коммуникационная информация и значения передаваемых данных, к искажению которых НС в достаточной мере устойчивы.

 

Особенности интеллектуальной системы как объекта защиты.

 

В качестве базы для  построения интеллектуальных ИС, как правило, используют нейронные сети. Нейросетевая вычислительная среда  представляет собой упорядоченную в одном или более измерениях систему взаимосвязанных интерфейсом базовых блоков, используемых для распределенного хранения и параллельной обработки данных в виде избыточного адаптивного нечеткого информационного поля. Нейронные сети в виде пакетных нейросетевых программ, описанные с привлечением нейросетевых языковых средств, размещаются в командных пулах базовых блоков.

Базовые блоки НВС реализуют, как правило, функцию ФН. Формальный нейрон обладает специфической способностью расширения окрестности входного сигнала по сравнению с окрестностью допустимого выходного сигнала, что обеспечивается нелинейными преобразователями в его структуре. Последовательное соединение ФН в нейронной сети усиливает отмеченную тенденцию аналогично последовательному включению каскадов в усилителе сигналов. Кроме того, НС в силу кибернетического закона эмерджентности обладает качеством, отсутствующим у образующих ее формальных нейронов, а именно: информационной избыточностью в силу распределенного хранения и обработки входных векторов. Данное свойство (голографичность НС) позволяет сети сохранять работоспособность не только в случае искажения значений исходных данных (оперативная информация) или функциональных параметров (долговременная системная информация), но и при изменениях топологии сети (долговременная системная информация о межнейронных связях). То есть нейронная сеть устойчива к частичной деструкции собственного информационного поля.

Обработка данных представляет динамичный процесс изменения информационного поля НВС, сопровождаемый передачей результатов обработки через интерфейс в виде пакетов данных. Контейнерная передача данных в вышеприведенных форматах сообщений, реализующая функции межнейронных связей в сети, предоставляет дополнительные возможности несанкционированного воздействия на работу НС, которые необходимо учитывать при разработке адекватных средств защиты информации.

Для исключения возможности несанкционированного изменения долговременной системной информации нейронных сетей, размещенных в НВС, следует использовать аппаратные способы защиты информации. Например, память НВС (командные пулы) можно организовать в виде ассоциативных накопителей, не имеющих внешних шин записи/чтения, в которых доступными для обращения являются только входная и выходная зоны, реализующие алгоритм работы структуры типа очередь. Дополнительные проблемы для несанкционированной записи можно создать использованием хэширования над значениями, содержащимися в коммуникационном и служебном полях командного пакета.

В соответствии с комплексным подходом при создании интеллектуальной ИС в НВС формируют иерархию информационных полей НС, включающую адаптивные информационные поля средств защиты. Согласно биоаналогии адаптивные информационные поля НС соотносят с уровнями иерархии: нижний уровень СЗИ – иммунный, на котором идентифицируются угрозы (задачи анализа и классификации угроз), верхний уровень СЗИ – рецепторный необходим для взаимодействия с внешней средой и накопления опыта нейтрализации угроз жизнедеятельности ИС. Наследование знаний в СЗИ связано с передачей информационных полей НС в последующие версии ИС.

Возможность адаптации рассматривается как одно из наиболее существенных с точки зрения информационной безопасности качеств НС, которое позволяет нейросетевым средствам защиты адаптироваться к изменению входной информации. Обучающим фактором в последнем случае выступают присутствующие в данных скрытые закономерности и избыточность входной информации. Информационная избыточность позволяет более компактно описывать входные данные, т. е. осуществлять сжатие данных. Уменьшение степени избыточности информации в НС за счет выявления скрытых закономерностей позволяет выделять наиболее существенные независимые признаки в данных. Соревновательные методы обучения дают возможность классифицировать поступающую информацию за счет механизма кластеризации: подобные входные данные груп­пируются сетью в соответствии с взаимной корреляцией и представляются конкретным формальным нейроном-прототипом. Нейронная сеть, осуществляя кластеризацию данных, находит такие усредненные по кластеру значения функциональных параметров ФН-прототипов, которые минимизируют ошибку представления сгруппированных в кластер данных.

Сочетание способности НС к обучению с кластеризацией входных данных являются основными предпосылками построения интеллектуальных средств защиты информации. В зависимости от множества известных угроз, образующих обучающую выборку входных векторов, проводится начальная настройка информационных полей НС в составе СЗИ. Нейронная сеть формирует число кластеров, соответствующее реальному распределению входных векторов в обучающей выборке через адаптивный подбор числа нейронов.

При выявлении средствами контроля угрозы информационной безопасности ИС происходит предъявление адаптивным средствам защиты информации соответствующего входного вектора, который будет либо отнесен к одному из известных классов угроз (по критерию близости к функциональным параметрам одного из нейронов-прототипов), либо будет произведено расширение классификации за счет добавления нового нейрона-прототипа с параметрами вновь предъявленного вектора.

Способность НС выделять наиболее значимые признаки во входных данных, обучаясь по достаточно простым алгоритмам, важна для организации адаптивных средств защиты информации в ИС, т. к. позволяет выявлять и классифицировать новые типы угроз информационной безопасности системы (нижний уровень иерархии СЗИ); проводить адаптацию СЗИ к меняющемуся потоку угроз одновременно с работой системы в штатном режиме. 

Возможность накопления опыта нейтрализации атак в виде адаптивного информационного поля НС в составе СЗИ верхнего уровня, представленного специализированной НС, в структуре которой реализована система нечетких предикатных правил, отражающая соответствие «угрозы-МЗ», позволяет тиражировать (наследовать) опыт, накопленный ИС, в последующие реализации информационной системы.

Таким образом, специфика интеллектуальных систем как объекта защиты обусловлена:   

1) возможностью наследования ранее накопленного опыта информационной защиты в виде информационных полей нижнего и верхнего уровней НС в составе СЗИ;

2) возможностью анализа угроз информационным ресурсам и процессам ИС;

3) способностью к классификации угроз;

4) способностью к адаптации и коррекции информационных полей НС, включая информационные поля нижнего и верхнего уровней СЗИ.

 

Литература.

 

1.                  Сенашова М. Ю. Сложные функции многих переменных. Оценки погрешностей вычисления // Нейрокомпьютеры: разработка и применение. 2002, № 4. С. 52 – 56.

2.                  Myers G.J. Advances in Computer Architecture. Second Edition. - JONH WILLEY & SONS. 1982.

3.                  Нестерук Г. Ф., Осовецкий Л. Г., Харченко А. Ф. Информационная безопасность и интеллектуальные средства защиты информационных ресурсов. (Иммунология систем информационных технологий). – СПб.: Изд-во СПбГУЭФ, 2003, 364 с.

4.                  Arvind A. Critique of Multiprocessing von Neumann Style. Proc. of 10th Annual Int. Symp. on Computer Architecture. 1983, p. 426-436.

5.                  Dennis J. B., Misunas D. P. A Preliminary Architecture for Basic Data Flow Processor // Proc. of 2nd Annual Int. Symp. on Computer Architecture. – N.Y., 1975, P. 126-132.

6.                  Dennis J. В., Misunas D. P., Leung С. К. A Highly Parallel Processor using a Data Flow Machine Language, Memo 134, Lab. for Compu­ter Science, MIT, Cambridge, MA, 1977.

7.                  Нестерук Г.Ф., Куприянов М.С., Нестерук Ф.Г. Организация универсальной вычислительной среды в нейросетевом логическом базисе // Сб. докл. V Международной конф SCM’2002, СПб, 2002, т. 2, С.52-55.

8.                  Misunas D. P. A Computer Architecture for Data-Flow Computation, Laboratory for Computer Science, MIT, Cambridge, MA, 1978.

9.                  Ackerman W. В. Data Flow Languages, Proceedings of the NCC, Montvale, NJ, AFIPS, 1979, p. 1087—1095.

10.              Нестерук Г.Ф., Куприянов М.С., Нестерук Ф.Г. О разработке языковых средств для программирования нейросетевых структур // Сб. докл. V Международной конф. SCM’2002, СПб, 2002, т. 2, С.48 - 51.

11.              Нейроинформатика. / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. - Новосибирск: Наука. Сиб. отд-ние, 1998.

 

Поступила в редакцию 07.05.2008 г.