От биологических процессов мозга к нейровычислителям



This work is dedicated to questions of artificial intelligence systems parameters analysis and study of neuron nets properties. Structure schemes of biological and technical neurons were overviewed. Especial attention was paid to principles of neuron nets work and to comparison of their functioning to biological processes.

Keywords: artificial intelligence, neural networks, neurocalculations, neuromathematics

Первые труды с упоминанием нейронной сети датируются 1873 и 1890 годами в трудах Александра Бэна и Уильяма Джеймса [1, 2]. В них указано, что любая деятельность человека ведёт к активизации определённого набора нейронов. При повторении той же деятельности связи между конкретными нейронами усиливаются. Это и ведет к формированию памяти. Научное сообщество того времени восприняло теорию скептически, поскольку следствием её являлось возникновение чрезмерного количества нейронных связей в мозге. Однако, в наше время уже очевидно, что мозг чрезвычайно сложен, его изучения посвящено большое число работ [3, 4]. Надо полагать, что, несмотря на все усилия, полностью принципы его работы вряд ли будут изучены в ближайшее время. Основу человеческого мозга составляют нервные клетки — нейроны. Количество нейронов в мозге достигает 1012, каждый из которых связан еще с тысячами и десятками тысяч других нейронов. Взаимодействуя между собой, нейроны обмениваются электрическими сигналами, тем самым обеспечивая работу мозга. Своеобразным проводником сигналов в пределах тела человека служит спинной мозг, обеспечивая передачу импульсов и взаимодействие организма с внешней средой посредством чувств, таких как осязание, обоняние и др.

Первые попытки человека сымитировать деятельность мозга имели место в середине ХХ века. А именно, в1956 годунаконференции в Дартмутском университетеДжон Маккарти в первый раз упомянул понятие искусственного интеллекта [5]. Поясняя такое определение, Маккарти констатировал, что основная проблема состоит в том, что не понятно, что именно представляют собой интеллектуальные процедуры. Понятна только вычислительная составляющая достижения поставленных перед нейронной сетью целей. Другими словами, не существует четкого определения искусственного интеллекта.

Основным отличием в мышлении «машин» и людей является способность человека принимать решения в нестандартных ситуациях, а именно такое понятие как интуиция [6, 7]. Обладая интуицией, человек имеет определенное преимущество перед компьютером, но очевидно значительно проигрывает в скорости вычислений.

В данной статье представлены результаты анализа известных сведений о функционировании биологических нейронных сетей, сравнение устройства биологического и искусственного нейронов. Также в рамках статьи приведена классификация типов современной аппаратной реализации нейросетей и нейровычислителей, проанализированы тенденции развития областей их эффективного применения [8–17].

1. Об адекватности моделей биологического нейрона ианализ противоречий нейробиологии.

Рассмотрим подробнее структуру нейрона. Как известно, основные части нейрона — это ядро, дендрит (разветвленный отросток, отвечающий за прием сигналов от аксонов), аксон (длинный отросток, по которому импульсы идут от клетки к клетке) (см. рисунок 1.). На конце аксона находится синаптическое окончание, контактирующее с целевой клеткой. Импульсы передаются толчками от одного узла аксона (синапса) к другому (узлы называются перехватами Ранвье) со скоростью до 100 м/с [6, 7].

Рис. 1. Структура биологического нейрона

Искусственный нейрон (нейроподобный элемент) является упрощенной моделью естественного (биологического) нейрона. То есть лишь в чем-то напоминает биологический нейрон, а не копирует его. При этом не учитывается ряд биологических процессов, происходящих в нейронных сетях. Схема искусственного нейрона показана на рисунке 2 [1].

Рис. 2. Структура искусственного нейрона

На вход подается некоторое количество сигналов, после чего каждый из входов умножается на соответствующий вес. Здесь можно провести аналогию с биологической синоптической силой. Функция θ [h] — активационная характеристика, или передаточная функция нейрона.

В нейробиологии существует ряд противоречий. Во-первых, существуют две теории устройства мозга. Согласно одной из них каждая группа нервных клеток отвечает за конкретную функцию. Вторая теория гласит, что в мозговой ткани протекают определенные процессы, важные для формирования поведения и организации психологического процесса [17]. В подтверждение последней теории выступают несколько фактов, в частности сохранение поведения после разрушения любой из частей мозга или реорганизация моторных функций.

Другое противоречие заключается в том, что в теории центральные (внутренние) нейроны подчиняются тем же правилам, что и экспериментально изученные периферийные (акцепторные, эффекторные) нейроны, но центральное возбуждение должно определяться получаемым индивидом опытом.

Таким образом, некоторые из перечисленных положений противоречат распространенным моделям нейронных сетей, некоторые же, наоборот, подтверждают их правильность. В таблице 1 приведены результаты сравнения биологического и искусственного нейронов.

Таблица 1

Отличия биологического нейрона от нейроподобного элемента

	Биологический нейрон	Искусственный нейрон
Процесс приема сигнала	Происходит в результате химической реакции в области синаптической щели при участии усиливающих или тормозящих нейротрансмиттеров и нейромедиаторов	Происходит в результате умножения входных сигналов на весовые коэффициенты
Процесс распространения сигнала	Амплитуда и скорость сигнала зависит от диаметра нервного волокна, с расстоянием уменьшается амплитуда и скорость распространения импульсов	Скорость и амплитуда сигналов одинакова в любой точке
Назначение нейронных соединений	Могут служить не только для передачи нервных импульсов, но и для организации структур с медленно меняющимися потенциалами [16]	Служат только для передачи сигналов
Тип сигналов	Аналоговый	Может быть как дискретным, так и аналоговым

Особенностью искусственной нейронной сети является наличие активационной (передаточной) функции. Выбор функции зависит от области применения разрабатываемой сети, характера моделируемой нелинейности. Наиболее распространенные типы активационных функций представлены в таблице 2.

Таблица 2

Основные виды активационных функций нейрона

Название	Математическое представление	Особенности
Пороговая	Ө(h) =	Применима в устройствах на базе логических элементов
Линейная	Ө(h) =	Область определения –(-∞;∞)
Сигмовидная	Ө(h) =	Дифференцируема на всей оси абсцисс
Гиперболический тангенс	Ө(h) =	Принимает как положительные, так и отрицательные значения, что является выгодным для ряда сетей

Наиболее распространенной передаточной функцией является сигмовидная функция, отличающаяся тем, что усиливает слабые сигналы лучше, чем сильные. Данная функция применяется в различных алгоритмах обучения нейросетей.

2. Анализ особенностей обучение нейронных сетей.

Популярные в 60–80 годах XX века экспертные системы лишь пытались реализовать отдельные интеллектуальные действия. Их главной проблемой была малая схожесть с реальной архитектурой мозга человека.

Основной особенностью нейронных сетей является то, что они могут самообучаться. То есть, существует два режима работы нейросети: распознавание и обучение. Процесс обучения зависит от параметров сети, таких как количество нейронов в сети, структура связей, функции активации и конечно значения весовых коэффициентов [7]. Задавая различные параметры (синаптические весовые коэффициенты, смещение нейрона и др.) сети можно производить так называемое обучение сети. При этом в качестве учителя выступает какое-либо целевое значение, с которым сравнивается вычисленное сетью значение. Обучение сети является более правдоподобным при отсутствии учителя. В этом случае обучающее множество состоит только из входных значений, что гораздо больше приближено к биологическому процессу. Алгоритм обучения при этом настраивает весовые коэффициенты так, чтобы при близких входных векторах на выходе сети получались одинаковые значения.

Человеческий мозг устроен так, что в нашем сознании постоянно строится модель окружающего мира. Для каждого объекта внешней среды мы создаем в своей голове соответствующий ему образ, что позволяет в дальнейшем более адекватно воспринимать и обрабатывать информацию об объектах. С помощью нейрокомпьютера такой подход организовать достаточно сложно. Это является одной из причин, почему все еще остается невозможным достаточно точно смоделировать мышление человека.

3. Анализ вариантов технической реализации нейровычислителей.

Несмотря на все усилия по созданию нейрокомпьютеров, «машины» все еще не в состоянии обучаться так же эффективно, проблема научить «выделять главное» остается нерешенной [8, 9]. Однако ученые делают все возможное, чтобы больше узнать о принципах работы головного мозга. Инженеры в свою очередь не оставляют попытки создания устройств, принципы работы которых были бы максимально приближены к функционированию мозга человека. Основные виды современной технической реализации нейронных сетей представлены на рисунке 3.

Рис. 3. Техническая реализация нейровычислителей

Технические устройства, использующие распараллеливание обработки информации можно разделить на 3 основныхтипа:

− нейроэмуляторы — реализующие типовые операции (например, взвешенное суммирование) на программном уровне;

− нейроускорители — вставляемые в слот расширения или соединяемые по определенным интерфейсам и шинам;

− нейрокомпьютеры — логически законченные устройства.

Реализация этих устройств может быть аппаратной (алгоритмы работы нейросети заданы с помощью электронных схем) или программно-аппаратной (алгоритмы работы хранятся в ПЗУ) [9]. При этом в устройствах на логических электронных схемах нейронные сети реализуют определенные булевы функции, а нейроподобные элементы выполняют логические операции конъюнкции и дизъюнкции.

Возможна также модель, при которой выходные значения нейросети являются случайными величинами, область значений передаточной функции непрерывна и соответствие результата тому или иному образу определяется по принадлежности определенному интервалу.

К недостаткам программной реализации нейронных сетей можно отнести малое быстродействие. Достоинствами данного способа является простота реализации, так как большинство языков программирования позволяют относительно легко описать алгоритмы функционирования сетей разной архитектуры.

4. Анализ областей применения нейровычислителей.

Нейронные сети находят применение со временем все больше в самых разных областях [10–15]. Такие возможности нейросетей, как эффективное распознавание образов [10], приятие решений [13], финансово-экономическом анализе [11], активно применяются в робототехнике [12]. Возможность работы при наличии большого числа шумовых и малоинформативных входных сигналов находит применение в цифровой обработке сигналов и радиолокации.

Широко используются нейронные сети и в играх, таких как шахматы или считающаяся самой сложной интеллектуальной игрой — го. В 2016 году известный корейский игрок в го Ли Седоль сыграл с программой AlphaGo пять матчей и проиграл со счетом 1–4. Наиболее распространенные виды применения нейросетей представлены на рисунке 4.

Рис. 4. Применение нейровычислителей

Важно отметить, что искусственные нейронные сети, даже будучи лишь моделью естественных сетей, успешно применяются и способствуют развитию таких перспективных направлений, как космическая техника и др.

Вполне возможно, что именно совершенствование алгоритмов искусственных нейронных сетей приведут к прорыву в изучении работы мозга.

А такой прорыв просто необходим, для того чтобы, если не понять, то по крайней мере приблизиться к пониманию принципов функционирования самого сложного нейровычислителя.

Заключение.

Проанализировав структуру и принцип действия искусственных интеллектуальных систем, а также выявив сходства и различия естественного и искусственного интеллекта, можно сделать следующие выводы.

Как бы далеко не продвинулись технологии, и как бы много человек не накопил знаний о принципах работы нашего мозга, мечта о создании роботов, мыслящих в точности как люди, и спустя многие годы, скорее всего, будет все так же далека от реальности.

Однако эффективность применения интеллектуальных систем уже сейчас ни у кого не вызывает сомнений. Вычислительные способности нейронных сетей успешно используются на практике во многих областях науки и техники, и с развитием технологии построения компьютеров будут использоваться еще эффективнее.

Литература:

1. Bain A. The Senses and the Intellect// 1894.
2. James W. The Principles of Psychology// 1890.
3. Сид Дейч. Модели нервной системы. М.: Мир. 1970. 328 с.
4. Круглов В. В., Борисов В. В. Искусственные нейронные сети. Теория и практика. — М.: Горячая линия—Телеком, 2001. 382 с.
5. Маккарти Дж. Текст выступления на Дартмундской конференции // 1956.
6. Нейронные сети: история развития теории. Под общей ред. А. И. Галушкина, Я. З. Цыпкина. — М., ИПРЖР, 2001.
7. А. И. Галушкин. Нейронные сети. Основы теории. М., Горячая линия — Телеком, 2010. 496 с.
8. Шахнов В. А., Власов А. И., Поляков Ю. А., Кузнецов А. С. Нейрокомпьютеры: архитектура и схемотехника. — Москва, 2000. Изд-во Машиностроение. Приложение к журналу «Информационные технологии». № 9. 64 с.
9. Власов А. И. Аппаратная реализация нейровычислительных управляющих систем // Приборы и системы. Управление, контроль, диагностика. 1999. № 2. С. 61–65.
10. Балухто А. Н., Булаев В. И., Власов А. И. и др. Нейрокомпьютеры в системах обработки изображений. Под ред. А. И. Галушкина и Ю. В. Гуляева — Москва, Изд-во ИРПЖР. 2003. Сер. Библиотека журнала «Нейрокомпьютеры: разработка. Книга 7. 192 с.
11. Яковлев В. Л., Яковлева Г. Л., Власов А. И. Нейросетевые методы и модели при прогнозировании краткострочных и долгосрочных тенденций финансовых рынков // В сборнике: VI Всероссийская конференция «Нейрокомпьютеры и их применение» Оргкомитет: Председатель оргкомитета Галушкин А. И. 2000. С. 372–377.
12. Vlasov A., Yudin A. Distributed control system in mobile robot application: general approach, realization and usage // Communications in Computer and Information Science. 2011. Т. 156 CCIS. С. 180–192.
13. Горбань А. Н., Россиев Д. А. Нейронные сети на персональном компьютере // Новосибирск: Наука, 1996. – 276 с.
14. Барский А. Б. Нейронные сети — распознавание, управление, принятие решений // М: Финансы и статистика, 2004. – 179 с.
15. Jackson P. Introduction to expert systems // Addison-Wesley, 1998. – 246 c.
16. Hawkins J., Blakeslee S. On Intelligence // Times Books, 2004. – 272 c.
17. Pribram K. Languages of the brain // Prentice-Hall, 1971. — 432 c.