Библиографическое описание:

Романчук В. А. Разработка обобщенной модели архитектуры нейрокомпьютера // Молодой ученый. — 2015. — №15. — С. 61-65.

Рассматриваются вопросы разработки обобщенной модели архитектуры концептуально нового поколения вычислительной техники — нейрокомпьютеров, принцип функционирования которых основан на принципах мышления человека. Показаны особенности структуры вычислителя нейрокомпьютера, благодаря которому достигается высокий уровень распараллеливания вычислительных операций.

Ключевые слова: модель, архитектура, нейрокомпьютер, параллелизм.

 

Введение. В настоящее время становится ясно, что архитектура современных вычислительных систем, основанных на принципах Дж. фон Неймана имеет ряд существенных недостатков [2]. Последовательная организация вычислительного процесса предполагает относительно низкую производительность системы. Другой недостаток обусловливает низкую эффективность использования дорогостоящей памяти при наличии одного процессора-ядра. Это связано с тем, что подавляющее большинство ячеек памяти в процессе работы бездействует и поэтому коэффициент использования аппаратуры будет очень низким [1]. Третий недостаток — разработчик вынужден подстраивать алгоритм решения задачи под «жесткую» структуру вычислительной системы.

С другой стороны, инженерная реализация нейронного компьютера У. МакКаллока и У. Питтса, описанная в «Логическом исчислении идей, имманентных нервной активности» [3–11] в виде комплекса нейропроцессоров позволяет избавиться от перечисленных недостатков. В настоящее время имеется ряд архитектур нейрокомпьютера, разрабатываемых компаниями IBM, НТЦ «Модуль» и др., но трудностью разработки математического, алгоритмического и программного обеспечения для них является отсутствие обобщенной модели нейрокомпьютера.

Целью работы является разработка обобщенной модели архитектуры нейрокомпьютера исходя из особенностей обработки информации и отличий от архитектуры Дж. фон Неймана.

Нейрокомпьютер — устройство переработки информации на основе принципов работы естественных нейронных систем [3–9].

Важным принципиальным преимуществом нейрокомпьютера является высокий уровень параллелизма операций. Проблема эффективного параллелизма решается долгое время для процессоров, работающих в соответствии с принципами фон Неймана, но задача до сих пор не решена в полной мере, что связано с законом Гроша и гипотезой Минского. Закон Гроша определяет, что производительность одного процессора увеличивается пропорционально квадрату его стоимости (на практике закон выполняется до оперделенной экспериментами границы). Гипотеза Минского определяет, что в параллельной системе с  процессорами производительность каждого из которых равно 1, общая производительность растет лишь как . Для различных классов задач строятся максимально параллельные алгоритмы решения, использующие какую-либо абстрактную архитектуру (парадигму) мелкозернистого параллелизма, а для конкретных параллельных компьютеров создаются средства реализации параллельных процессов заданной абстрактной архитектуры. Нейроинформатика предоставляет универсальные мелкозернистые параллельные архитектуры для решения различных классов задач, для которых строится абстрактная нейросетевая реализация алгоритма решения, которая затем реализуется на конкретных параллельных вычислительных устройствах — нейрокомпьютерах.

На рисунке 1 показаны экспериментальные зависимости производительности системы от количества процессоров в системе для различных архитектур компьютеров. Рассмотрены варианты для процессоров архитектуры фон Неймана, нейрокомпьютера при реализации ИНП, нейрокомпьютера при реализации одной из практических задач.

Рис. 1. Экспериментальные зависимости производительности многопроцессорной системы от количества процессоров для различных архитектур

 

Введем понятие «идеальная нейропрограмма» (ИНП), которая предполагает функционирование нейрокомпьютера только в режиме эмуляции элементарных нейронов без вспомогательных функций предварительной обработки и обмена данных. ИНП может быть реализована в связи с однородностью операций. В этом случае производительность  системы с  процессорами, каждый из которых имеет производительность 1 можно оценить следующим образом: .  

На практике не удается избежать вспомогательных функций в нейропрограмме (НП), их процент обычно не превышает 1 %. Тогда, исходя из понятия «нейрокомпьютер», уменьшение производительности системы должно иметь не логарифмический, а линейный характер, то есть: , где  — некоторый коэффициент, показывающий уменьшение производительности при увеличении числа процессорных модулей. При  имеем ИНП.

Рассмотрим архитектурные особенности нейрокомпьютера. На рисунке 2 представлена структурная схема абстрактного нейрокомпьютера. Такую схему можно назвать обобщенной, так как она поясняет принцип работы любого нейрокомпьютера независимо от его конструктивного исполнения [2].

Рис. 2. Структурная схема абстрактного нейрокомпьютера

 

Рассмотрим каждый блок в отдельности.

1.      Аппаратнореализуемая нейронная сеть — основной операционный блок, его процессор. Этот блок не производит вычислений, как это делает арифметико-логическое устройство машин фон Неймана, а трансформирует входной сигнал в выходной в соответствии со своей топологией и значениями коэффициентов межнейронных связей. В запоминающем устройстве хранится не программа решения задачи, как в машинах фон Неймана, а программа изменений коэффициентов связи между нейронами. Устройства ввода и вывода информации выполняют те же функции, что и в машинах фон Неймана. Устройство управления служит для синхронизации работы всех структурных блоков нейрокомпьютера при решении конкретной задачи.

Искусственная нейронная сеть (ИНС) — динамическая система, состоящая из совокупности связанных между собой по типу узлов направленного графа элементарных процессоров, называемых формальными нейронами, и способная генерировать выходную информацию в ответ на входное взаимодействие.

Формальный нейрон — элементарный процессор, используемый в узлах нейронной сети. Математическую модель формального нейрона можно представить функцией:, где  — выходной сигнал нейрона;  — функция выходного блока нейрона;  — постоянный коэффициент — вес -го входа;  — -й входной сигнал;  — начальное состояние (возбуждение) нейрона;  — номер входа нейрона;  — число входов.

На рисунке 3 приведена структурная схема нейронной сети [4].

Рис. 3. Структурная схема нейронной сети

 

Эта схема также представляет собой структурную схему операционного блока нейрокомпьютера. Данные поступают на входной слой ИНС, далее обрабатываются в соответствии с коэффициентами межнейронных перекрестных и обратных связей. Результаты работы нейрокомпьютера поступают на устройство вывода с выходного слоя ИНС.

Таким образом, нейрокомпьютер должен обладать функциональными аппаратными блоками для решения задачи сложения, умножения, функции активации, загрузки и хранения весовых коэффициентов нейронной сети. Некоторые нейрокомпьютеры могут иметь возможности выполнения других операций для эмуляции элементарного нейрона, например, операцию сдвига или маскимрования, но следует отметить, что в этом случае операция не увеличивает длительность выполнения микрокоманды.

2.      Запоминающее устройство

В соответствии с подходом коннекционизма, память для нейрокомпьютера распределена в связях между простыми автоматами (формальными нейронами), то есть, в отличие от архитектуры фон Неймана, память не выделена в отдельный общий для всех команд блок. В случае нейрокомпьютера неявно выражено разделение между потоками команд и данных, так как процессорное устройство и ячейки памяти объединены.

3.      Блок обучения и устройство ввода

В работе абстрактного нейрокомпьютера выделяют два главных режима — обучение и рабочий режим. Для того, чтобы нейрокомпьютер решал требуемую задачу, его искусственная нейронная сеть должна пройти обучение. Суть обучения заключается в настройке коэффициентов межнейронных связей на совокупность входных образов поставленной задачи. Установка коэффициентов осуществляется с использованием примеров, сгруппированных в обучающие множества и поступающих с блока ввода. Рабочий режим нейросети представляет собой прямое распространение сигнала.

На основании архитектуры и общих принципов функционирования нейропроцессоров, можно описать обобщенную модель архитектуры нейропроцессора (рисунок 4). На рисунке выделены элементы, являющиеся отличиями нейрокомпьютеров от классических компьютеров.

Рис.4. Обобщенная модель описания архитектуры нейропроцессора

 

Таким образом, показана обобщенная модель архитектуры нейрокомпьютера, которая может служить основой математического, алгоритмического и программного обеспечения для нейрокомпьютера, независимо от его производителя.

 

Литература:

 

1.                  Бикташев Р. А. Многопроцессорные системы. Архитектура, топология, анализ производительности: Учебное пособие. Пенза: Пенз.гос.университет, 2003. 103 с.

2.                  Галушкин А. И. Нейронные ЭВМ — перспективное направление развития вычислительной техники — М.: Препринт, 1991.-615 с.

3.                  Романчук В. А., Ручкин В. Н., Колмыков М. В. Возможности программного комплекса NM Model для разработки и отладки программ обработки изображений // Вестник РГРТУ. — Рязань: РГРТУ, 2008. — № 2. — Вып. 24. — С.83–85.

4.                  Романчук В. А., Ручкин В. Н., Фулин В. А. Разработка модели сложной нейропроцессорной системы // Цифровая обработка сигналов. — Рязань: Информационные технологии, 2012. — № 4. — С.70–74.

5.                  Романчук В. А., Ручкин В. Н. Разработка алгоритмов определения вида структуры нейропроцессорной системы на основе описания связей ее элементов // Информатика и прикладная математика: межвуз. сб. науч. тр. — Рязань: РГУ имени С. А. Есенина, 2011. — Вып.17. — С.106–109.

6.                  Романчук В. А., Ручкин В. Н. Оценка результатов моделирования вычислительных систем на базе нейропроцессоров // Известия тульского государственного университета. Технические науки. — Тула: Издательство ТулГУ, 2013. — Вып.9–2 — С.194–203.

7.                  Романчук В. А. Моделирование нейропроцессорных систем // Отраслевые аспекты технических наук: научно-практический журнал. — Москва: ИНГН, 2013. — № 10(34). — С.19–24.

8.                  Романчук В. А. Инновационный программный комплекс моделирования вычислительных систем на базе нейропроцессоров «НейроКС» // Современные научные исследования и инновации. — Декабрь, 2012 [Электронный ресурс]. — URL: http://web.snauka.ru/issues/2012/12/19407.

9.                  Романчук В. А. Разработка алгоритмов определения связей элементов вычислительной структуры на базе нейропроцессоров // Информатика и прикладная математика: межвуз. сб. науч. тр. — Рязань: РГУ имени С. А. Есенина, 2011. — Вып.17. — С.102–105.

10.              Ручкин В. Н., Романчук В. А., Фулин В. А. Естественный параллелизм квантовых компьютеров и нейровычислителей // Вестник РГУ имени С. А. Есенина. — Рязань: РГУ имени С. А. Есенина, 2013. — № 2(39). — C. 147- 156.

11.              Шумский С. А. Нейрокомпьютинг — состояние и перспективы [Текст]. — Физический институт РАН им. Лебедева.:- М., 2002.

Обсуждение

Социальные комментарии Cackle